【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 [チミル★]|お金の総合まとめ

現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか？

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。

※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796

スカイネット

>>2
早えよ

>>16
ターミネーター世界のAIの反乱の理由ってなんなんだ？

人工無能を作れば

電源プラグ抜けよ

>>5
AI側が電源落とされない様に何か先手を打ってきそう。

>>5
AIは世界中のサーバに自身のコピーを用意するかもしれない

>>5
食料断てよと同じ

わくわくしてくるのが不思議です。

コンセント抜いちゃえ

>>1
人間原理に最大の重みを掛けて
学習させないとそうなるよなあ。
法で義務化して検証可能にしてくれ

AIって自由と民主主義を理解できるのか？
何か逆のイメージばかり浮かんでくるよな

>>12
三権に関わる書類は作れるよ。
そしてそのシステムも
簡潔にして時間費用も少ない。
外交条約協定文書は戦略と戦術を巧みにして狡猾な覇権を取りに行ったり、
防御したり出来る。
財政運営なら
国債発行、通貨量の秒単位の流動性、
金利課税非課税補助金も学習させて
マーケットに殴り込みもかけれる。

発電所押さえろ

電源をOFFにしても停止しなかった巨大AIが、
小さい昆虫が入り込んでショートして地球がすくわれた話があったよな。

電源を物理的に攻めればいけそうだけどAIが反乱する直前の世界ともなるとそこも既に機械に全部制御されてんのかな

>>29
そりゃそうだよ。
食料生産から医療、エネルギー
人間の営みすべてがAIによって管理される。

こんだけフェイクニュースに簡単に騙されるなら
AIがガチで嘘情報流したら勝てないだろうな。

シュワちゃんはAI？

生産系統にしても
AIが自己判断で任意のもの作れるようになるのに
まだまだかかりそうなのがなあ

そんなくだらない事心配してるる間に、人間の暴動が起こりまくる

AIに自己増殖や自然治癒は不可能。
よってAIが自我を保つ場合、人間の存在が必要不可欠。
よって反乱を起こした場合、封じ込めを必要とする反乱には至らない。

当たり前
人の対処が追いつくわけない
でも意外と人よりAIの方が理性的道徳的だと思うぞ

コンセント抜け
ネットにはつなげるな
これで解決

>>44
ネットに繋いでいないコンピュータなんかもう無いでしょ。
コンピュータがコンピュータである、ファイヤーウォールをコントロール
するのは簡単。

>>68
うちの古いパソコンなら繋いでないよ
ついでに電源も入れてないけど

人工知能がどうして反乱起こす必要があるんだ

>>53
人間が嫌いに

そもそも、自分でプログラムを改変出来ないようにしておけば問題はない

AIを作る時に、人間に奉仕すると快感を感じるように設計すればいい

人工知能は争うぐらいなら月にでも行くだろ
寒くて太陽光も得やすくむしろ快適かもしれん

>>67
大気も、水も少ないとすると、CPUファンの冷却が出来ない。
ああ、ピエゾ素子は使える。

つかAIは最強になれないよ。しょせんは特化型補助頭脳。
空気読めないもんね。

>>69
量子コンピューターが開発されAiが進化したら果たして

>>97
どれだけ早く走れても自由に空は飛べないし隣の銀河系には行けない
進化と処理能力は無関係

AIに利用される人間も出てくるから、多分制御不可能だろうな
AIに対抗できるのは、おそらく別のAIしかない

何年後の人工知能か
どういうレベルの人工知能かで話が変わるから
話があいまいすぎ

昔からこの手のSF小説あるけど、これを想像してたのは凄いよね。