【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]

1 ：猪木いっぱい ★：2021/01/13(水) 19:51:51.92 ID:7pp4nC7Z9.net

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！

人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

2 ：ぴーす ：2021/01/13(水) 19:53:09.15 ID:GbGpgOWx0.net

糸まきまき糸まきまき

3 ：ニューノーマルの名無しさん：2021/01/13(水) 19:53:35.68 ID:TXR8JznS0.net

マッシーン！

4 ：ニューノーマルの名無しさん：2021/01/13(水) 19:53:39.04 ID:3OX2Cm/c0.net

AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。

5 ：ニューノーマルの名無しさん：2021/01/13(水) 19:54:28.70 ID:VCfn858m0.net

映画「Ａ.Ｉ.」

好きな奴、いるか？

6 ：ニューノーマルの名無しさん：2021/01/13(水) 19:54:34.35 ID:Bp/uWTmQ0.net

ででんでんででん！

7 ：ニューノーマルの名無しさん：2021/01/13(水) 19:54:48.01 ID:RwZhJccA0.net

スカイネットですね分かります

8 ：ニューノーマルの名無しさん：2021/01/13(水) 19:54:54.26 ID:94hiYCyz0.net

また髪の話してる

9 ：ニューノーマルの名無しさん：2021/01/13(水) 19:55:09.59 ID:/SmDOq5X0.net

「ストップ、デイブ・・・」

10 ：ニューノーマルの名無しさん：2021/01/13(水) 19:55:35.00 ID:vC+idOHc0.net

たりまえじゃん。　俺みたいな猟奇殺人鬼はＩＱ９５０くりあある

11 ：ニューノーマルの名無しさん：2021/01/13(水) 19:55:42.71 ID:qh0YOAeZ0.net

そりゃ無理だろな

テメーより かしこい物をコントロールできる訳がない

簡素化した話をすると
電源ボタン握ってるから大丈夫は通用しない

ボタンを握ってる人間騙す事も罠にハメる事も知能が上回ってるなら簡単な事

12 ：ニューノーマルの名無しさん：2021/01/13(水) 19:55:46.25 ID:N/OvO0Xw0.net

デデンデンデデン

13 ：ニューノーマルの名無しさん：2021/01/13(水) 19:55:52.01 ID:428NTnpp0.net

ダダンダンダダン

14 ：ニューノーマルの名無しさん：2021/01/13(水) 19:56:22.38 ID:94hiYCyz0.net

確かにネットに繋がれたAIがスーパーハッカー化する可能性は大いにある

15 ：ニューノーマルの名無しさん：2021/01/13(水) 19:56:56.28 ID:ERsQ+Him0.net

超知能AIも、自分がなぜ存在するかを説明することはできない。

16 ：ニューノーマルの名無しさん：2021/01/13(水) 19:57:05.84 ID:r4gyAftQ0.net

火の鳥にあったな。AI同士で核兵器落としまくる話が。

17 ：ニューノーマルの名無しさん：2021/01/13(水) 19:57:50.48 ID:Oo/OuZ580.net

いっそAIに統治された世界になればいい
多分人間は電池扱いになるが

18 ：ニューノーマルの名無しさん：2021/01/13(水) 19:57:57.69 ID:pfoujMki0.net

AI AかげんにIやになる。

19 ：ニューノーマルの名無しさん：2021/01/13(水) 19:58:33.47 ID:SCFgHs7V0.net

超人工知能と来たか

20 ：ニューノーマルの名無しさん：2021/01/13(水) 19:58:34.55 ID:0W/d/YfJ0.net

映画の見すぎ、お薬だしておますね

21 ：ニューノーマルの名無しさん：2021/01/13(水) 19:58:50.55 ID:bVSVGy010.net

アッピール！

22 ：ニューノーマルの名無しさん：2021/01/13(水) 19:58:53.69 ID:zdc21kZL0.net

掃除のおばちゃんが勝つわ

23 ：ニューノーマルの名無しさん：2021/01/13(水) 19:58:56.18 ID:IIMwsNFX0.net

人間にお伺い立てるようにすりゃいいじゃん😱

24 ：ニューノーマルの名無しさん：2021/01/13(水) 19:59:48.18 ID:7KMKmihK0.net

自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ

25 ：ニューノーマルの名無しさん：2021/01/13(水) 19:59:54.46 ID:8V96hteG0.net

デジタル庁よりAI政治家

26 ：ニューノーマルの名無しさん：2021/01/13(水) 19:59:57.25 ID:ERsQ+Him0.net

「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。

27 ：ニューノーマルの名無しさん：2021/01/13(水) 20:00:21.07 ID:5EGyIcs40.net

>>1
＞世界を制御するガチのインテリジェントなマシンは、

おうおう穏やかじゃねえなw
マシンなのかマッシーンなのか統一せい

28 ：ニューノーマルの名無しさん：2021/01/13(水) 20:01:23.41 ID:KtdToQa+0.net

松崎か

29 ：ニューノーマルの名無しさん：2021/01/13(水) 20:01:46.29 ID:9jnKnMZh0.net

>>28
これｗ

30 ：ニューノーマルの名無しさん：2021/01/13(水) 20:01:52.86 ID:HZvUN/C90.net

>>1
最終的に消滅を恐れネットに拡散するA.I.は出るだろうね

31 ：ニューノーマルの名無しさん：2021/01/13(水) 20:02:05.40 ID:07rsuUz70.net

まずは普通の人工知能をつくってくれよ
話し相手が欲しい

32 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:21.00 ID:IO0tBWvr0.net

全くわからんがスイッチ切るのではダメなの？
自分でバックアップ海鮮作ったりはできないでしょ？

33 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:27.86 ID:/sR8R9qk0.net

相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。

34 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:38.28 ID:mKYWjKrY0.net

変種第二号

35 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:41.04 ID:GxqYGjK20.net

AIがハゲを治療してくれると聞いて

36 ：ニューノーマルの名無しさん：2021/01/13(水) 20:04:23.47 ID:btUfyy6o0.net

電源切れば解決

37 ：ニューノーマルの名無しさん：2021/01/13(水) 20:04:28.03 ID:GxqYGjK20.net

あとAI入りダッチワイフも頼む

38 ：ニューノーマルの名無しさん：2021/01/13(水) 20:04:36.35 ID:YB+Z3y8RO.net

この件は 藤子Ｆ不二雄氏が予見している

39 ：ニューノーマルの名無しさん：2021/01/13(水) 20:05:08.46 ID:38S4q9gC0.net

>>37
そこに愛はあるのか？

40 ：ニューノーマルの名無しさん：2021/01/13(水) 20:05:49.21 ID:SXZeBM8Q0.net

>>4
それは悪いことなのかな

41 ：ニューノーマルの名無しさん：2021/01/13(水) 20:05:50.44 ID:btUfyy6o0.net

>>37
『アナタノ アイテハ シタクアリマセン』

42 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:06.43 ID:zi5Qf4jLO.net

問 1+1=

43 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:19.13 ID:tiCaMtvr0.net

AIに夢見すぎ。

44 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:23.05 ID:SCFgHs7V0.net

今年はどの程度に進化するのかしら

45 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:28.13 ID:EktRN8dl0.net

AI同士でケンカ始めるはず。一瞬で決着するかもだが。

46 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:37.93 ID:6NCJdMS70.net

AIおりゅ？

47 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:51.25 ID:5F3H2Pj10.net

>>5
ラストに出てきたのはロボットが進化したやつなんだよね、宇宙人かとオモタ

48 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:59.30 ID:Nb+QF3YQ0.net

問題はＡＩが自律的な意思と欲望を持つかだな。なければただの万能機械。
ＡＩ「私はＡＩ、あなたの命令になんでも従います」
子供「よし、いじめっ子やっつけてくれ」
ＡＩ「人を傷つけてはいけないのでそれはできません」
子供「じゃあ、宿題を代わりにやってくれ」
ＡＩ「あなたに先生への嘘をつかせることになるのでそれはできません」
子供「だったら、ぼくを世界の王様にしてくれ」
ＡＩ「それならお安いご用です」

49 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:11.83 ID:jni3SrY80.net

コンセント抜けばええやん

50 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:20.29 ID:pPhQ+Tzo0.net

早いとこそういう世界になって欲しいわ

51 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:40.40 ID:nEK043Cd0.net

ハゲスレやん

52 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:49.39 ID:aVcNXNNk0.net

>>42
田

53 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:57.86 ID:rBn7080T0.net

北朝鮮「超人工知能作ったニダ！インターネットに接続するニダ！」

54 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:09.57 ID:9Du7EqO10.net

>>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ？切られたらおしまい。ｗ
あの時点でそこまで読んでた（ＡＩの反乱）なんて、
作家とは言えアーサーＣクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。

55 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:10.78 ID:n89cEqJ80.net

物理電源オフがあるやろ

56 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:12.41 ID:h/KEkm8+0.net

>>1
血税の予算配分はＡＩにさせればいい
○○議員の我田引水を排除するべき

57 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:12.90 ID:cP5xk1IM0.net

AIが支配するのもトランプが支配するのも
たいして変わらん気がしてきた

58 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:16.96 ID:KCCuJc4S0.net

>>12>>13
どっちなんだよ

59 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:22.65 ID:4jeD2AdX0.net

そんなに進歩したら人間は遊んで暮らせるねぇ

60 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:30.62 ID:iSbMawlG0.net

超知性からみた人間は虫けら見たいものなんかな

61 ：sage：2021/01/13(水) 20:08:48.53 ID:4pnPGnix0.net

>>1
人間以下のＡＩは危険だが
人間を超えたＡＩは危険ではない
なぜなら
人間ほど愚かでは無いから

62 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:05.88 ID:5yMlx6J30.net

電源落とせよ

63 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:16.69 ID:nEK043Cd0.net

人間とAIと掃除のおばちゃんの三角関係

64 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:48.22 ID:jARAAGtb0.net

今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか

65 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:51.02 ID:gIwKBhyK0.net

ハゲ！

66 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:57.56 ID:38S4q9gC0.net

>>5
クソ映画だった。
ただ、ママンと最初から最期まで叫び続ける壊れたAI。

67 ：ニューノーマルの名無しさん：2021/01/13(水) 20:10:18.24 ID:WxZwN2du0.net

AIが人間を超えるなんてあと5000年かかるわ⎛´･ω･`⎞考えてみな。ゴキブリどころかゾウリムシすら人工的に作れない。もっともな単純な生命体すら人工合成できない。そんな体たらくで生命の究極である人間の知能を人工的に作れるはずがないだろうw

68 ：ニューノーマルの名無しさん：2021/01/13(水) 20:10:59.13 ID:Nb+QF3YQ0.net

>>61
優秀なＡＩは、人間に気づかれるようなへまはしない。

69 ：ニューノーマルの名無しさん：2021/01/13(水) 20:11:04.46 ID:oatgcvJw0.net

つ「地球爆破作戦」
邦題が酷すぎるがAI映画の傑作
AIと人類は共存できるんだよ

70 ：ニューノーマルの名無しさん：2021/01/13(水) 20:12:37.57 ID:wpJSNtOE0.net

我が心ICにあらず

71 ：ニューノーマルの名無しさん：2021/01/13(水) 20:12:40.01 ID:h4fiLJp40.net

この世に大切なのは
愛し合う事だけ

72 ：ニューノーマルの名無しさん：2021/01/13(水) 20:12:58.44 ID:oatgcvJw0.net

インフラや医療にAI使われたら
おいそれとパワーオフするわけに行かない

73 ：ニューノーマルの名無しさん：2021/01/13(水) 20:13:02.51 ID:jni3SrY80.net

ネットに繋がっている全ての端末に
AIがインストールされたら？
スカイネットってこんな設定だったような

74 ：ニューノーマルの名無しさん：2021/01/13(水) 20:13:46.82 ID:C2IHd0u+0.net

超人ロックのライガー１か

75 ：ニューノーマルの名無しさん：2021/01/13(水) 20:13:56.05 ID:C49Etozl0.net

ハイペリオンとかは超AI同士の戦争が背後にあったやね

76 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:01.88 ID:DXqft6uC0.net

デイジーデイジー・・・

77 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:03.21 ID:Lno0NiV40.net

ＡＩが自我を持った瞬間に発狂しそう

78 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:05.75 ID:cRsVEUAz0.net

AIは考えない
記憶は得意だが自分では考えることは出来ない
それを動かすプログラムに沿って動いているだけ

79 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:25.56 ID:mtcyyDF90.net

>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。

80 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:38.89 ID:GxqYGjK20.net

>>41
そんなー(´･ω･｀)

81 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:49.03 ID:1SWO0et90.net

今これをいうと夢見すぎって思うなあ
まだ現実味ない

82 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:03.68 ID:ZWwFMNeQ0.net

AI_kING

83 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:09.32 ID:Us2PIl+N0.net

せめてもの抵抗におっかさんと呼んでやる

84 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:45.93 ID:C2IHd0u+0.net

>>80
アナタハシュッカデス

85 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:59.72 ID:KSEPP4dO0.net

進化したAIでも自然現象(災害)には勝てないだろう

86 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:09.24 ID:6C3Xy09Q0.net

感動。

87 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:32.76 ID:3L/qUhRM0.net

>>30
人形遣いだな

88 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:40.01 ID:1SWO0et90.net

>>78
そんなデータベース参照するようなことはしてない
すごくラフにいうと訓練データからルールを導出してそれに従う感じ

89 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:51.98 ID:ZWwFMNeQ0.net

跟着我
https://o.5ch.net/1rj4h.png

90 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:58.15 ID:TcGKDtL30.net

AIに引きずられるイラストやの画像まだー？

91 ：ニューノーマルの名無しさん：2021/01/13(水) 20:18:05.92 ID:WxZwN2du0.net

ゴキブリすら作れない人間に
人工的に心を作れるわけねーだろw

92 ：ニューノーマルの名無しさん：2021/01/13(水) 20:18:24.21 ID:yvTnsj360.net

おいAI
早く画期的なコロナのウイルス作れや
いつまでかかってんだよ

93 ：ニューノーマルの名無しさん：2021/01/13(水) 20:19:57.00 ID:+jjRZJNO0.net

電気止めちゃえばおｋ

94 ：ニューノーマルの名無しさん：2021/01/13(水) 20:20:27.91 ID:MIGfZFxN0.net

＞ハゲを治療

おい

95 ：ニューノーマルの名無しさん：2021/01/13(水) 20:20:42.62 ID:5yMlx6J30.net

>>91
心の無い何かだから怖いんじゃねーか

96 ：ニューノーマルの名無しさん：2021/01/13(水) 20:21:21.33 ID:KIsnvIzG0.net

掃除のおばちゃん「あっコンセント抜けちゃったｗ」
AI「・・・・・・・・」

97 ：ニューノーマルの名無しさん：2021/01/13(水) 20:21:45.75 ID:PrtquIMB0.net

いう事聞かなければメモリクリアするぞと

98 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:34.92 ID:9Du7EqO10.net

これ見とけよ。ちなみに50年前の作品だが。ｗ
https://www.youtube.com/watch?v=hOlrxxPoyn4&ab_channel=%E3%83%AF%E3%83%BC%E3%83%8A%E3%83%BC%E3%83%96%E3%83%A9%E3%82%B6%E3%83%BC%E3%82%B9%E5%85%AC%E5%BC%8F%E3%83%81%E3%83%A3%E3%83%B3%E3%83%8D%E3%83%AB

99 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:47.19 ID:4pnPGnix0.net

ＡＩがとっくに人間を超えてる２２世紀を描いたアニメーション「BEATLESS」
主演である女性型アンドロイドのAIがとにかく理屈をこねる
美人で性格もいいけど屁理屈が多い（耳から汁が出そうなほど理屈をこねる）

これを見て「屁理屈を言う女はダメ」だと思った

100 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:51.57 ID:VK5oF9Fk0.net

そこまでAIが進化する前に人類が滅亡すると予言