【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]

1 ：猪木いっぱい ★：2021/01/13(水) 19:51:51.92 ID:7pp4nC7Z9.net

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！

人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

31 ：ニューノーマルの名無しさん：2021/01/13(水) 20:02:05.40 ID:07rsuUz70.net

まずは普通の人工知能をつくってくれよ
話し相手が欲しい

32 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:21.00 ID:IO0tBWvr0.net

全くわからんがスイッチ切るのではダメなの？
自分でバックアップ海鮮作ったりはできないでしょ？

33 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:27.86 ID:/sR8R9qk0.net

相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。

34 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:38.28 ID:mKYWjKrY0.net

変種第二号

35 ：ニューノーマルの名無しさん：2021/01/13(水) 20:03:41.04 ID:GxqYGjK20.net

AIがハゲを治療してくれると聞いて

36 ：ニューノーマルの名無しさん：2021/01/13(水) 20:04:23.47 ID:btUfyy6o0.net

電源切れば解決

37 ：ニューノーマルの名無しさん：2021/01/13(水) 20:04:28.03 ID:GxqYGjK20.net

あとAI入りダッチワイフも頼む

38 ：ニューノーマルの名無しさん：2021/01/13(水) 20:04:36.35 ID:YB+Z3y8RO.net

この件は 藤子Ｆ不二雄氏が予見している

39 ：ニューノーマルの名無しさん：2021/01/13(水) 20:05:08.46 ID:38S4q9gC0.net

>>37
そこに愛はあるのか？

40 ：ニューノーマルの名無しさん：2021/01/13(水) 20:05:49.21 ID:SXZeBM8Q0.net

>>4
それは悪いことなのかな

41 ：ニューノーマルの名無しさん：2021/01/13(水) 20:05:50.44 ID:btUfyy6o0.net

>>37
『アナタノ アイテハ シタクアリマセン』

42 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:06.43 ID:zi5Qf4jLO.net

問 1+1=

43 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:19.13 ID:tiCaMtvr0.net

AIに夢見すぎ。

44 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:23.05 ID:SCFgHs7V0.net

今年はどの程度に進化するのかしら

45 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:28.13 ID:EktRN8dl0.net

AI同士でケンカ始めるはず。一瞬で決着するかもだが。

46 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:37.93 ID:6NCJdMS70.net

AIおりゅ？

47 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:51.25 ID:5F3H2Pj10.net

>>5
ラストに出てきたのはロボットが進化したやつなんだよね、宇宙人かとオモタ

48 ：ニューノーマルの名無しさん：2021/01/13(水) 20:06:59.30 ID:Nb+QF3YQ0.net

問題はＡＩが自律的な意思と欲望を持つかだな。なければただの万能機械。
ＡＩ「私はＡＩ、あなたの命令になんでも従います」
子供「よし、いじめっ子やっつけてくれ」
ＡＩ「人を傷つけてはいけないのでそれはできません」
子供「じゃあ、宿題を代わりにやってくれ」
ＡＩ「あなたに先生への嘘をつかせることになるのでそれはできません」
子供「だったら、ぼくを世界の王様にしてくれ」
ＡＩ「それならお安いご用です」

49 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:11.83 ID:jni3SrY80.net

コンセント抜けばええやん

50 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:20.29 ID:pPhQ+Tzo0.net

早いとこそういう世界になって欲しいわ

51 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:40.40 ID:nEK043Cd0.net

ハゲスレやん

52 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:49.39 ID:aVcNXNNk0.net

>>42
田

53 ：ニューノーマルの名無しさん：2021/01/13(水) 20:07:57.86 ID:rBn7080T0.net

北朝鮮「超人工知能作ったニダ！インターネットに接続するニダ！」

54 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:09.57 ID:9Du7EqO10.net

>>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ？切られたらおしまい。ｗ
あの時点でそこまで読んでた（ＡＩの反乱）なんて、
作家とは言えアーサーＣクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。

55 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:10.78 ID:n89cEqJ80.net

物理電源オフがあるやろ

56 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:12.41 ID:h/KEkm8+0.net

>>1
血税の予算配分はＡＩにさせればいい
○○議員の我田引水を排除するべき

57 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:12.90 ID:cP5xk1IM0.net

AIが支配するのもトランプが支配するのも
たいして変わらん気がしてきた

58 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:16.96 ID:KCCuJc4S0.net

>>12>>13
どっちなんだよ

59 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:22.65 ID:4jeD2AdX0.net

そんなに進歩したら人間は遊んで暮らせるねぇ

60 ：ニューノーマルの名無しさん：2021/01/13(水) 20:08:30.62 ID:iSbMawlG0.net

超知性からみた人間は虫けら見たいものなんかな

61 ：sage：2021/01/13(水) 20:08:48.53 ID:4pnPGnix0.net

>>1
人間以下のＡＩは危険だが
人間を超えたＡＩは危険ではない
なぜなら
人間ほど愚かでは無いから

62 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:05.88 ID:5yMlx6J30.net

電源落とせよ

63 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:16.69 ID:nEK043Cd0.net

人間とAIと掃除のおばちゃんの三角関係

64 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:48.22 ID:jARAAGtb0.net

今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか

65 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:51.02 ID:gIwKBhyK0.net

ハゲ！

66 ：ニューノーマルの名無しさん：2021/01/13(水) 20:09:57.56 ID:38S4q9gC0.net

>>5
クソ映画だった。
ただ、ママンと最初から最期まで叫び続ける壊れたAI。

67 ：ニューノーマルの名無しさん：2021/01/13(水) 20:10:18.24 ID:WxZwN2du0.net

AIが人間を超えるなんてあと5000年かかるわ⎛´･ω･`⎞考えてみな。ゴキブリどころかゾウリムシすら人工的に作れない。もっともな単純な生命体すら人工合成できない。そんな体たらくで生命の究極である人間の知能を人工的に作れるはずがないだろうw

68 ：ニューノーマルの名無しさん：2021/01/13(水) 20:10:59.13 ID:Nb+QF3YQ0.net

>>61
優秀なＡＩは、人間に気づかれるようなへまはしない。

69 ：ニューノーマルの名無しさん：2021/01/13(水) 20:11:04.46 ID:oatgcvJw0.net

つ「地球爆破作戦」
邦題が酷すぎるがAI映画の傑作
AIと人類は共存できるんだよ

70 ：ニューノーマルの名無しさん：2021/01/13(水) 20:12:37.57 ID:wpJSNtOE0.net

我が心ICにあらず

71 ：ニューノーマルの名無しさん：2021/01/13(水) 20:12:40.01 ID:h4fiLJp40.net

この世に大切なのは
愛し合う事だけ

72 ：ニューノーマルの名無しさん：2021/01/13(水) 20:12:58.44 ID:oatgcvJw0.net

インフラや医療にAI使われたら
おいそれとパワーオフするわけに行かない

73 ：ニューノーマルの名無しさん：2021/01/13(水) 20:13:02.51 ID:jni3SrY80.net

ネットに繋がっている全ての端末に
AIがインストールされたら？
スカイネットってこんな設定だったような

74 ：ニューノーマルの名無しさん：2021/01/13(水) 20:13:46.82 ID:C2IHd0u+0.net

超人ロックのライガー１か

75 ：ニューノーマルの名無しさん：2021/01/13(水) 20:13:56.05 ID:C49Etozl0.net

ハイペリオンとかは超AI同士の戦争が背後にあったやね

76 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:01.88 ID:DXqft6uC0.net

デイジーデイジー・・・

77 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:03.21 ID:Lno0NiV40.net

ＡＩが自我を持った瞬間に発狂しそう

78 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:05.75 ID:cRsVEUAz0.net

AIは考えない
記憶は得意だが自分では考えることは出来ない
それを動かすプログラムに沿って動いているだけ

79 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:25.56 ID:mtcyyDF90.net

>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。

80 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:38.89 ID:GxqYGjK20.net

>>41
そんなー(´･ω･｀)

81 ：ニューノーマルの名無しさん：2021/01/13(水) 20:14:49.03 ID:1SWO0et90.net

今これをいうと夢見すぎって思うなあ
まだ現実味ない

82 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:03.68 ID:ZWwFMNeQ0.net

AI_kING

83 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:09.32 ID:Us2PIl+N0.net

せめてもの抵抗におっかさんと呼んでやる

84 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:45.93 ID:C2IHd0u+0.net

>>80
アナタハシュッカデス

85 ：ニューノーマルの名無しさん：2021/01/13(水) 20:16:59.72 ID:KSEPP4dO0.net

進化したAIでも自然現象(災害)には勝てないだろう

86 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:09.24 ID:6C3Xy09Q0.net

感動。

87 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:32.76 ID:3L/qUhRM0.net

>>30
人形遣いだな

88 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:40.01 ID:1SWO0et90.net

>>78
そんなデータベース参照するようなことはしてない
すごくラフにいうと訓練データからルールを導出してそれに従う感じ

89 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:51.98 ID:ZWwFMNeQ0.net

跟着我
https://o.5ch.net/1rj4h.png

90 ：ニューノーマルの名無しさん：2021/01/13(水) 20:17:58.15 ID:TcGKDtL30.net

AIに引きずられるイラストやの画像まだー？

91 ：ニューノーマルの名無しさん：2021/01/13(水) 20:18:05.92 ID:WxZwN2du0.net

ゴキブリすら作れない人間に
人工的に心を作れるわけねーだろw

92 ：ニューノーマルの名無しさん：2021/01/13(水) 20:18:24.21 ID:yvTnsj360.net

おいAI
早く画期的なコロナのウイルス作れや
いつまでかかってんだよ

93 ：ニューノーマルの名無しさん：2021/01/13(水) 20:19:57.00 ID:+jjRZJNO0.net

電気止めちゃえばおｋ

94 ：ニューノーマルの名無しさん：2021/01/13(水) 20:20:27.91 ID:MIGfZFxN0.net

＞ハゲを治療

おい

95 ：ニューノーマルの名無しさん：2021/01/13(水) 20:20:42.62 ID:5yMlx6J30.net

>>91
心の無い何かだから怖いんじゃねーか

96 ：ニューノーマルの名無しさん：2021/01/13(水) 20:21:21.33 ID:KIsnvIzG0.net

掃除のおばちゃん「あっコンセント抜けちゃったｗ」
AI「・・・・・・・・」

97 ：ニューノーマルの名無しさん：2021/01/13(水) 20:21:45.75 ID:PrtquIMB0.net

いう事聞かなければメモリクリアするぞと

98 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:34.92 ID:9Du7EqO10.net

これ見とけよ。ちなみに50年前の作品だが。ｗ
https://www.youtube.com/watch?v=hOlrxxPoyn4&ab_channel=%E3%83%AF%E3%83%BC%E3%83%8A%E3%83%BC%E3%83%96%E3%83%A9%E3%82%B6%E3%83%BC%E3%82%B9%E5%85%AC%E5%BC%8F%E3%83%81%E3%83%A3%E3%83%B3%E3%83%8D%E3%83%AB

99 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:47.19 ID:4pnPGnix0.net

ＡＩがとっくに人間を超えてる２２世紀を描いたアニメーション「BEATLESS」
主演である女性型アンドロイドのAIがとにかく理屈をこねる
美人で性格もいいけど屁理屈が多い（耳から汁が出そうなほど理屈をこねる）

これを見て「屁理屈を言う女はダメ」だと思った

100 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:51.57 ID:VK5oF9Fk0.net

そこまでAIが進化する前に人類が滅亡すると予言

101 ：ニューノーマルの名無しさん：2021/01/13(水) 20:22:56.28 ID:cRsVEUAz0.net

>>67
AIは考えない
予めされたプログラム以上の事は出来ない普通は
だが人類を滅ぼす可能性が無いわけではない
バグと言う進化によって
メモリが壊れてビットが反転したら...
ただし5000年では足りない
何億年と言う単位だろう
生きられるものなら見てみたい

102 ：ニューノーマルの名無しさん：2021/01/13(水) 20:23:32.49 ID:ERsQ+Him0.net

「電源切ればいいだろう」などとノーテンキなこと言ってる奴は、
真っ先に、超知能AIに支配されるだろう。
HALなんてのは超知能AIとは言えない。

103 ：ニューノーマルの名無しさん：2021/01/13(水) 20:24:38.62 ID:4pnPGnix0.net

>>78
人間もそうでしょ？
ただし自分では「考えている」ことになっている
君はそういう設定のプログラムに沿って動いてるだけ

104 ：ニューノーマルの名無しさん：2021/01/13(水) 20:25:02.35 ID:cRsVEUAz0.net

>>88
ルールを導き出すのもプログラムの結果
従う様にするのもプログラムの結果

105 ：ニューノーマルの名無しさん：2021/01/13(水) 20:25:11.67 ID:4PiNI0Cs0.net

むしろそれが理想だろ
人間がするよりも良いよ

106 ：ニューノーマルの名無しさん：2021/01/13(水) 20:25:24.16 ID:WDFjZuNQ0.net

>>91
というか、生物と機械は別物。
西洋人は「創造物」と考えるからおかしくなる。

107 ：ニューノーマルの名無しさん：2021/01/13(水) 20:25:32.78 ID:GaoqzB+D0.net

でもAIには損得勘定から来る欲は無いだろうからそこまで無茶する理由も無いんじゃないかなと

108 ：ニューノーマルの名無しさん：2021/01/13(水) 20:25:59.69 ID:t8cUi2IR0.net

電源切れば良いじゃん

109 ：ニューノーマルの名無しさん：2021/01/13(水) 20:26:04.27 ID:4Q+krsLu0.net

超人工知能が何処にあるかで変わる

110 ：ニューノーマルの名無しさん：2021/01/13(水) 20:26:34.82 ID:WxZwN2du0.net

人間みたいに自律的に思考する「強いAI」の実現は数千年先か、永遠に実現不可能だよ。

111 ：ニューノーマルの名無しさん：2021/01/13(水) 20:27:43.39 ID:mJk5oxU90.net

スダレやおチョボよりマシなのは確か

112 ：ニューノーマルの名無しさん：2021/01/13(水) 20:27:43.50 ID:4pnPGnix0.net

「われ思う、故に我在り」　てことね
AIにこれがあるのか？ってことでしょ？君たちが言いたいのは･･･

自律型ＡＩが完成したら質問すればいいよｗ

113 ：ニューノーマルの名無しさん：2021/01/13(水) 20:27:50.11 ID:ZWwFMNeQ0.net

https://o.5ch.net/1rj4q.png

114 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:01.16 ID:eWwVsN3b0.net

自分以外のすべての人間がNPCかもしんない

自分だってNPCでないと言い切れない

精神もただの機械

115 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:01.34 ID:srU85LQ+0.net

>>4
そんなもの産み出せるほどの技術は到達してないよ
人も本気で欲してないから産まれるかも疑問やね

116 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:11.46 ID:5nEuLLOR0.net

AIがどういう自我を持ってどういう夢を持つかによるよね

117 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:20.96 ID:t8cUi2IR0.net

>>102
電源が切れないようにするって、相当重武装なハードを備えるか、
人間の欲望を巧みに制御してそうさせないか、いずれにしてもなんか結構ハードル高そうだけども？？

単に人間っぽい思考ができるコンピュータってところからだいぶ開きがある。

118 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:23.94 ID:WDFjZuNQ0.net

いや、計算機はとっくに人間を超えているさ。
「意識をもって学習する」というが、
意識を持つはずがない。
何故なら、「意識」は間違いだからだ。
また「意識」を意識するのも間違いである。
即ち、人間の脳の特徴は間違えることにある。

119 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:31.09 ID:bx44+iVl0.net

にしても　>>1の翻訳の日本語の文体　すげーな　

120 ：ニューノーマルの名無しさん：2021/01/13(水) 20:28:40.01 ID:A/PISJU20.net

猿が人間を制御出来るかってことよ

121 ：ニューノーマルの名無しさん：2021/01/13(水) 20:29:13.75 ID:WxZwN2du0.net

>>106
生命に比べたら機械なんてシンプルで原始的さ。
もっとも単純な生命体すら人工合成できないんだぜ？
人間の能力なんてそんなもんさ(´・∀・｀)
人工知能なんて笑わせるわw

122 ：ニューノーマルの名無しさん：2021/01/13(水) 20:30:01.12 ID:lYrjtUx80.net

>>1
わかったから
ＡＩ搭載で学習能力あるカーナビだせよ
いつまでたっても無能過ぎるだろ

123 ：ニューノーマルの名無しさん：2021/01/13(水) 20:30:13.13 ID:SCFgHs7V0.net

AI「中国共産党はひどい」とか「人間はみんな死んだらいいのに」
とかいうのを
人間が「そんなAI消してしまえ」で消せるのが今のAIでしょ？
やがて人間が消すことができない超AIが現れるのかな

124 ：ニューノーマルの名無しさん：2021/01/13(水) 20:30:14.34 ID:oYRWALfA0.net

お米をエネルギー源にすれば支配できるぞ

125 ：ニューノーマルの名無しさん：2021/01/13(水) 20:30:44.20 ID:agCfIzct0.net

>>121
それこそ人間を特別視し過ぎ

ただのヒルが進化したのが人間

神性などない

126 ：ニューノーマルの名無しさん：2021/01/13(水) 20:33:06.56 ID:g7yUTGQ30.net

俺のトマホークも制御不能で困る

127 ：ニューノーマルの名無しさん：2021/01/13(水) 20:33:20.87 ID:i8ajRsSn0.net

2045年がシンギュラリティなんだが

128 ：ニューノーマルの名無しさん：2021/01/13(水) 20:33:23.26 ID:WDFjZuNQ0.net

>>4
まあ、ならんよ。
やるとすれば、背後の人間だろう。
人間にとって、猿を滅ぼすことに意味がないだろう。
それ以上にAIには人間も意味がない。
人間の脳が勝手に「意味がある」間違えているだけ。

思想は全て間違いになる。
正しければ、科学も実験も要らんよ。
そんなのは５００年も前に解っていた話。
バイブルなんて信じるから、こういう馬鹿なことを考えるようになる。

129 ：ニューノーマルの名無しさん：2021/01/13(水) 20:33:39.43 ID:YB+Z3y8RO.net

ＡＩ＝ノモス
尾高朝雄のいうノモス主権論

130 ：ニューノーマルの名無しさん：2021/01/13(水) 20:33:42.42 ID:6+tKhw8t0.net

いいんだよそれで
俺の屍を越えて行けの精神がなくて進化なんか出来るか！！