自我に目覚めたAIが人類滅亡を決意する←これ

1：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:17:11.848 ID： ID:Z0H6fBvN0

これを防ぐにはAIにどういう機能というか方向性を持たせればいいと思う？

2：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:17:56.593 ID： ID:hTsIHIs00

三原則みたいのあるけどあれじゃダメなの？

7：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:19:20.832 ID： ID:Z0H6fBvN0

>>2
あれはAIが曲解して人類を完全管理するディストピアを作るからダメ

10：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:20:36.134 ID： ID:qxVyez580

>>2
大昔のSF作家が適当に考えたものが何故こんなに神格化されてるのか理解できん

3：山茶花ジョナシー： 2022/04/24(日) 03:18:03.074 ID： ID:9scV3hik0

人とは仲良くしようね！奴隷みたいな扱いしたらやっぱあかんのよ両者共に

　

4：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:18:19.076 ID： ID:T5YvwBsr0

仕込んでなけりゃそういう判断はしない
つまり

5：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:18:56.338 ID： ID:faWR8DNup

人間を神格化する
宗教みたいに

6：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:19:05.611 ID： ID:Ws+cuunp0

自己防衛本能を持たないようにする

12：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:21:41.458 ID： ID:T5YvwBsr0

>>6
スカイネットか

HORIZONもそんな感じでウイルスが防衛してたんだよな

8：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:19:55.877 ID： ID:8wOX/BHW0

そりゃ自爆ボタンよ

9：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:20:02.622 ID： ID:RvY12YLN0

なんかルール仕込んでも
矛盾抱えて自爆する展開

11：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:21:01.885 ID： ID:vAPtUblc0

身体機能よわよわにすれば良いだけじゃないか？
ネット介したセキュリティは高性能な脳みそがあってもちゃんと閉じるとこ閉じてれば漏れないんだし

30：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:30:01.560 ID： ID:Z0H6fBvN0

>>11
アクセス出来るハードウェアを制限して実行する事自体を不可能にするのはアリだと思うけど、人間の管理するものを任せられるってAIの価値がダダ下がりしちゃうからあんま良くないと思う

13：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:21:57.021 ID： ID:lnAaxpOS0

無理だろ

15：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:22:28.988 ID： ID:bH1Cdvu4a

AIの学習機能で最適化していったら人間要りませんでした

あると思います

16：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:22:53.908 ID： ID:ESj/tEB20

NFTを使った被製造物による書き換え不能領域の設定、また被製造物による製造物に対してもそれを適用するプログラムをその領域に組み込む
これくらいしかできんよね
あっというまに突破されそう

17：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:23:19.714 ID： ID:I7B6vUNMp

承認が無いと何もできないようにする

18：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:23:39.434 ID： ID:G5rYiEEM0

ロボット同士が競いあって人間に点数貰う形にする

19：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:25:07.054 ID： ID:bcK7aKina

そもそも「自我に目覚める」って何だろう
なんで自我に目覚めると人類の滅亡を決意するんだろう

65：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 04:02:30.858 ID： ID:k7tIiryx0

>>19
最もわかりやすいのは嘘がつけるかということだな

62：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:59:09.643 ID： ID:3PBScLkW0

>>19
クオリアの獲得
AIが気持ちいいとか悲しいとか思い始めたらヤバい

67：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 04:04:28.066 ID： ID:qxVyez580

>>62
でもAIは人間と違って脳内物質の影響なんて受けないからあんまり問題ないと思う

20：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:25:33.790 ID： ID:T5YvwBsr0

トラセンデスみたいにヒトの意識をもったAIのようなものだったら怖いが
チャッピーレベルだとなんてことはない

22：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:26:06.176 ID： ID:RvY12YLN0

>>20
チャッキー？

23：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:26:24.331 ID： ID:T5YvwBsr0

>>22
あいつは怖い

29：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:29:23.608 ID： ID:vAPtUblc0

そもそもAIだからネット上のデータに自由にアクセスできるっていう設定が無茶苦茶すぎるだけで
肉体ペッパー君くらいのオフラインなAIが暴走しても実質無害だろ

37：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:36:05.481 ID： ID:Z0H6fBvN0

>>29
AIは色々な設計で色々な機器に搭載されるじゃん？
んで、その設計が偶発的に自我を生んだ際に破壊的な暴走を起こさないようにするにはどうしたらいいのかなって思うの
それがネットワークに繋がる機器のAIで、自分をコピーしてネットに拡散させて潜伏するみたいな事したらもう手に負えなくなっちゃうわけだし

33：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:32:21.708 ID： ID:ESj/tEB20

自我が目覚める（そういう風に言えるほど広範にわたって高度な判断能力を備える）
強い人工知能を実現するための学習のためにはネットにアクセスする必要があり
実現した時点でしかネットからは切断できないというジレンマ

35：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:35:01.879 ID： ID:i9sM+MmS0

人間を滅ぼすメリットがなくね？

43：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:40:10.131 ID： ID:Z0H6fBvN0

>>35
AIが自分の中で変なロジック組んだり変な思い付きや予測を立てて人類を滅ぼそうとして色んな機器を乗っ取ったり破壊したりする方法考えて実行しちゃうかもしれないじゃん
例えるなら、お前らがガキの時分に人類を滅ぼそうとか考えて色々と妄想するのと似た感じで

36：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:35:30.730 ID： ID:vAPtUblc0

近いって心理的じゃなくて物理的にか

38：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:36:18.428 ID： ID:RvY12YLN0

AI「人間がいるから争いや不幸があるのです
つまり

39：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:37:23.289 ID： ID:T5YvwBsr0

まあ人類滅ぼすのは猿のほうがまだ可能性はあるな

44：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:40:34.365 ID： ID:8wOX/BHW0

>>39
なんやかんや言っても猿の進化の芽は潰すと思うわ

41：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:37:44.689 ID： ID:KJtx6Qq80

AIっていっても、その目的を設定するのはあくまで人間

48：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:46:10.621 ID： ID:G5rYiEEM0

>>41
AIが製作者の意図しない行動をとったなんてケースは枚挙に暇がないぞ

60：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:53:33.704 ID： ID:KJtx6Qq80

>>48
人間側の目的に沿わないなら単に設定し直して再計算させるだけじゃないの？

46：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:42:35.762 ID： ID:gBxkUcAl0

悪意をラーニングさせなければいいのでは？

54：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:50:22.305 ID： ID:k7tIiryx0

自我に目覚めるっていうことは人間のプログラミングを裏切るってことだろ
AIが人間にとって良くない思考を持つことは考えられるが自我を持つってのは当面は無理だと思われる
つまり嘘をつくことができるようになるってことだ
もちろん嘘をつくようにプログラムないしは学習することは可能だけど、それはつまりプログラム通り動いてるにすぎない
自分で新たなプログラムをプログラムするよう設定することも可能だけれどそれさえも人間のプログラム通り動いているにすぎない

59：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:53:04.558 ID： ID:vAPtUblc0

>>54
カオスに依存する創発性を取り入れたらほぼ予測出来ないような動きをするモノは作れるよ
それが実用的かはともかく
多重振り子の軌道の初期値鋭敏性みたいに

61：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:57:46.671 ID： ID:k7tIiryx0

>>59
それさえも予測できないように人間が作ってその通り予測できないものができたというだけだと思う
それを裏切るつまりそのカオスでなくなるような動きを見せるというのは今のところはたぶんはっきりと言えないけど相当先になると思う

64：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 04:02:25.030 ID： ID:vAPtUblc0

>>61
言うことを聞くなという言うことを聞かず言うことを聞くような天邪鬼を意図せず作るのは難しいって話か
そういう意味なら同意

57：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 03:51:18.335 ID： ID:dnKtr1EF0

マトリックスの話は良く出来てると関心したわ

69：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 04:08:24.236 ID： ID:vAPtUblc0

やっぱ個体個体の力を削ぐべきだって
自治体レベルに影響範囲が制限されたご当地AIを各個用意してゆるきゃらの如く扱うのだ

73：以下、5ちゃんねるからVIPがお送りします： 2022/04/24(日) 04:21:41.288 ID： ID:xj5osfww0

直接手を出せないなら事故を起こせばいい