thumbnail

【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 [チミル★]|お金の総合まとめ

1 :5円まとめ 2021/01/17(日) 21:05:14.28 QEm8c3Ww9.net
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。

※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796

2 :5円まとめ 2021/01/17(日) 21:06:06.42 Pp1Dp2Bg0.net
スカイネット
16 :5円まとめ 2021/01/17(日) 21:08:20.31 iAClWOkv0.net
>>2
早えよ
333 :5円まとめ 2021/01/17(日) 21:37:28.09 MTDuhO4f0.net
>>16
ターミネーター世界のAIの反乱の理由ってなんなんだ?
4 :5円まとめ 2021/01/17(日) 21:06:27.28 MhMkB6Jj0.net
人工無能を作れば
5 :5円まとめ 2021/01/17(日) 21:06:32.39 sYeQf19o0.net
電源プラグ抜けよ
22 :5円まとめ 2021/01/17(日) 21:09:00.00 LAHacGCg0.net
>>5
AI側が電源落とされない様に何か先手を打ってきそう。
136 :5円まとめ 2021/01/17(日) 21:22:04.39 JEhXFRv90.net
>>5
AIは世界中のサーバに自身のコピーを用意するかもしれない
768 :5円まとめ 2021/01/17(日) 22:14:09.79 NSJCWyq70.net
>>5
食料断てよと同じ
7 :5円まとめ 2021/01/17(日) 21:07:10.58 zp8mbdKF0.net
わくわくしてくるのが不思議です。
10 :5円まとめ 2021/01/17(日) 21:07:26.35 YU/qH9uQ0.net
コンセント抜いちゃえ
11 :5円まとめ 2021/01/17(日) 21:07:27.29 lFRZvSzi0.net
>>1
人間原理に最大の重みを掛けて
学習させないとそうなるよなあ。
法で義務化して検証可能にしてくれ
12 :5円まとめ 2021/01/17(日) 21:07:45.36 4TZMkTYf0.net
AIって自由と民主主義を理解できるのか?
何か逆のイメージばかり浮かんでくるよな
695 :5円まとめ 2021/01/17(日) 22:06:39.24 PfFdFQiY0.net
>>12
三権に関わる書類は作れるよ。
そしてそのシステムも
簡潔にして時間費用も少ない。
外交条約協定文書は戦略と戦術を巧みにして狡猾な覇権を取りに行ったり、
防御したり出来る。
財政運営なら
国債発行、通貨量の秒単位の流動性、
金利課税非課税補助金も学習させて
マーケットに殴り込みもかけれる。
18 :5円まとめ 2021/01/17(日) 21:08:34.90 ZELzwEBk0.net
発電所押さえろ
21 :5円まとめ 2021/01/17(日) 21:08:50.16 eW+bn/4N0.net
電源をOFFにしても停止しなかった巨大AIが、
小さい昆虫が入り込んでショートして地球がすくわれた話があったよな。
29 :5円まとめ 2021/01/17(日) 21:10:00.43 uz909xUS0.net
電源を物理的に攻めればいけそうだけどAIが反乱する直前の世界ともなるとそこも既に機械に全部制御されてんのかな
70 :5円まとめ 2021/01/17(日) 21:14:31.15 8tDzUZMM0.net
>>29
そりゃそうだよ。
食料生産から医療、エネルギー
人間の営みすべてがAIによって管理される。
30 :5円まとめ 2021/01/17(日) 21:10:10.74 YpgHvP950.net
こんだけフェイクニュースに簡単に騙されるなら
AIがガチで嘘情報流したら勝てないだろうな。
31 :5円まとめ 2021/01/17(日) 21:10:13.46 XyzixMP20.net
シュワちゃんはAI?
33 :5円まとめ 2021/01/17(日) 21:10:23.43 apzMstHS0.net
生産系統にしても
AIが自己判断で任意のもの作れるようになるのに
まだまだかかりそうなのがなあ
34 :5円まとめ 2021/01/17(日) 21:10:23.65 Pxy7cITG0.net
そんなくだらない事心配してるる間に、人間の暴動が起こりまくる
38 :5円まとめ 2021/01/17(日) 21:10:49.27 XocbLFrs0.net
AIに自己増殖や自然治癒は不可能。
よってAIが自我を保つ場合、人間の存在が必要不可欠。
よって反乱を起こした場合、封じ込めを必要とする反乱には至らない。
39 :5円まとめ 2021/01/17(日) 21:10:50.11 E0z1wcqQ0.net
当たり前
人の対処が追いつくわけない
でも意外と人よりAIの方が理性的道徳的だと思うぞ
44 :5円まとめ 2021/01/17(日) 21:11:31.54 sqzMmb190.net
コンセント抜け
ネットにはつなげるな
これで解決
68 :5円まとめ 2021/01/17(日) 21:14:11.91 GYr+udPc0.net
>>44
ネットに繋いでいないコンピュータなんかもう無いでしょ。
コンピュータがコンピュータである、ファイヤーウォールをコントロール
するのは簡単。
552 :5円まとめ 2021/01/17(日) 21:54:05.37 fbgj+xYv0.net
>>68
うちの古いパソコンなら繋いでないよ
ついでに電源も入れてないけど
53 :5円まとめ 2021/01/17(日) 21:12:32.26 fHcwsSZT0.net
人工知能がどうして反乱起こす必要があるんだ
105 :5円まとめ 2021/01/17(日) 21:19:41.36 RnIJ9aR70.net
>>53
人間が嫌いに
54 :5円まとめ 2021/01/17(日) 21:12:39.77 3VysL1nY0.net
そもそも、自分でプログラムを改変出来ないようにしておけば問題はない
63 :5円まとめ 2021/01/17(日) 21:13:24.03 Pxy7cITG0.net
AIを作る時に、人間に奉仕すると快感を感じるように設計すればいい
67 :5円まとめ 2021/01/17(日) 21:14:02.22 kn8h17r80.net
人工知能は争うぐらいなら月にでも行くだろ
寒くて太陽光も得やすくむしろ快適かもしれん
76 :5円まとめ 2021/01/17(日) 21:15:49.74 GYr+udPc0.net
>>67
大気も、水も少ないとすると、CPUファンの冷却が出来ない。
ああ、ピエゾ素子は使える。
69 :5円まとめ 2021/01/17(日) 21:14:28.12 JiKwWd2X0.net
つかAIは最強になれないよ。しょせんは特化型補助頭脳。
空気読めないもんね。
97 :5円まとめ 2021/01/17(日) 21:18:25.98 c3Zak21O0.net
>>69
量子コンピューターが開発されAiが進化したら果たして
120 :5円まとめ 2021/01/17(日) 21:20:59.66 iid1SG100.net
>>97
どれだけ早く走れても自由に空は飛べないし隣の銀河系には行けない
進化と処理能力は無関係
74 :5円まとめ 2021/01/17(日) 21:15:15.15 yZ7CdG/60.net
AIに利用される人間も出てくるから、多分制御不可能だろうな
AIに対抗できるのは、おそらく別のAIしかない
83 :5円まとめ 2021/01/17(日) 21:16:59.23 TzG3ZTmb0.net
何年後の人工知能か
どういうレベルの人工知能かで話が変わるから
話があいまいすぎ
86 :5円まとめ 2021/01/17(日) 21:17:14.61 8YD1I4ep0.net
昔からこの手のSF小説あるけど、これを想像してたのは凄いよね。

シェアしてください。

このエントリーをはてなブックマークに追加