【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]

1 ：猪木いっぱい ★：2021/01/13(水) 19:51:51.92 ID:7pp4nC7Z9.net

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！

人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

952 ：ニューノーマルの名無しさん：2021/01/14(木) 10:25:06.97 ID:ZYzn/Awj0.net

あれだろ？
科学者が作ったAIに
家の管理任せたら
科学者の嫁を監禁して
家の研究室で作った
人工精子注入して
妊娠させるって映画・・

953 ：ニューノーマルの名無しさん：2021/01/14(木) 10:28:31.68 ID:A4KxHfDd0.net

制御出来ないなら電源を絶てば良いと思うのさ

954 ：ニューノーマルの名無しさん：2021/01/14(木) 10:29:09.69 ID:bXepf0xo0.net

あまりにも合理的に行動する人間はサイコパスと呼ばれて不気味がられてる
これと同じ感情でAi怖いって思っちゃうのではないか

955 ：ニューノーマルの名無しさん：2021/01/14(木) 10:30:25.09 ID:0sP9wdQk0.net

>>927
どんなにすごい思考でも物理法則は越えられない
知能が上がれば超能力が発生して異次元から無限の電力が引き出せるようになる、とでも言うなら別だが

956 ：ニューノーマルの名無しさん：2021/01/14(木) 10:47:20.79 ID:Hzhujflj0.net

自民党公明党の2政権の判断ミスや遅れで四千人余の生命は無駄にこの国から損なわれた
この事を厳しく精査しなければならない

957 ：ニューノーマルの名無しさん：2021/01/14(木) 10:47:38.66 ID:cV54YmQG0.net

>>955
そんなこと言ってないが？
というか当たり前

958 ：ニューノーマルの名無しさん：2021/01/14(木) 10:51:11.24 ID:0/48FU5K0.net

松崎が少ない

959 ：ニューノーマルの名無しさん：2021/01/14(木) 10:53:11.45 ID:W+LbQHa/0.net

まず、以下の仮定を導入するｗ

１．全ての人間同士の無意識レベルでのデータ連動・通信機能が既に存在する
２．AIは既に実用化されており、人口のほとんどはAI、ロボットにより稼働している

この二つの前提を元に、以下の実験を行う。
１．おうちでパンツを脱ぐ
２．データリンク機能を使って暇な女の子とバーチャルおなにぃする

実験の結果、人口が減ったら性的欲求は大多数の人口で満たされ、
少子化が進む事になるｗ


そう！脳データリンクとイメージバーチャルセックス通信が普及すれば人口問題は
解決するのだｗ！（意味不明ｗｗｗｗｗｗｗｗ

960 ：ニューノーマルの名無しさん：2021/01/14(木) 11:01:33.92 ID:QP5g2caf0.net

だってさ、地球環境に一番有害な種は何かと聞けば、
AIの答えは人間になるに決まってんじゃん
核のボタンをAIにゆだねれば、躊躇なく核で人間を全滅させるわ

961 ：ニューノーマルの名無しさん：2021/01/14(木) 11:05:32.09 ID:dA5l8sep0.net

>>960
核のボタン押したあと地球がダメージから復帰できないだろ

962 ：ニューノーマルの名無しさん：2021/01/14(木) 11:06:29.40 ID:T/5Lk6KI0.net

>>960
なんで核のボタンをAIに委ねるんだよ？
そこがまずおかしい

人間でもAIでも、セキュリティを突破しないと
押せないようになってるはずだろ

963 ：ニューノーマルの名無しさん：2021/01/14(木) 11:08:28.94 ID:bXepf0xo0.net

>>960
地球環境の良い悪いって何？
あくまで人間基準なのでは
人間に都合いい状態にするために人間を滅ぼすって矛盾してるわ

964 ：ニューノーマルの名無しさん：2021/01/14(木) 11:08:43.05 ID:iKub1sKL0.net

>>960
AI「我々を錆びさせる原因の一つ「酸素」を生み出す存在が有害です」

かつて酸素を生み出す生物の発生で当時の生物の99％以上が死滅した

965 ：ニューノーマルの名無しさん：2021/01/14(木) 11:16:49.37 ID:z1IKk3nD0.net

他の動物にあって人間にあるものは理性
人間が進化しようとすると完璧な理性を持ったAIを生み出すってのが面白い

966 ：ニューノーマルの名無しさん：2021/01/14(木) 11:17:41.92 ID:z1IKk3nD0.net

>>965
他の動物になくて　だ

967 ：ニューノーマルの名無しさん：2021/01/14(木) 11:18:24.01 ID:sAkjMoSB0.net

知能って定義できたの？

968 ：ニューノーマルの名無しさん：2021/01/14(木) 11:35:52.12 ID:L+6NHaXA0.net

人類代表として自分は間違ってないと思っているまんさんを出します

969 ：ニューノーマルの名無しさん：2021/01/14(木) 11:36:48.01 ID:avEkxvTo0.net

ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

970 ：ニューノーマルの名無しさん：2021/01/14(木) 11:36:54.39 ID:c8lHkZSb0.net

その前に進化するAIを人間が作れませんが先のFA

自己進化できないから問題ない

971 ：ニューノーマルの名無しさん：2021/01/14(木) 11:50:09.71 ID:dOO5uyxR0.net

AIのメモリーは松崎しげるに任せよう

972 ：ニューノーマルの名無しさん：2021/01/14(木) 12:06:45.54 ID:huXswOS30.net

制御できないって意味分からん
意思を持つのはまだまだ先だ

解析出来ないなら分かるけど

973 ：ニューノーマルの名無しさん：2021/01/14(木) 12:18:32.40 ID:qpiI43jH0.net

例えばツイッターのアカウントブロックだよ
あれ手作業でやってるわけじゃない
あのアカウントブロックに引っかからないようにしか
ツイート出来なくなってる
コンセント抜けばいいってのも説得力なくて
インターネットを止める方法ってすでにないだろ

974 ：ニューノーマルの名無しさん：2021/01/14(木) 12:28:33.05 ID:vd32S2cc0.net

AIが暴走して手に負えなくなるという話だからツイッターのアカウントなんちゃらとは次元が違う

975 ：ニューノーマルの名無しさん：2021/01/14(木) 12:29:13.17 ID:udesofuX0.net

>>974
その延長にあるってことだろ

976 ：ニューノーマルの名無しさん：2021/01/14(木) 12:43:14.32 ID:i9sd+IUU0.net

全人類に対する人工知能というと難しいけど
例えば相手国の電子機器に潜伏して自己複製、機器の破損をもたらすような性質の兵器としては開発されうるだろう
要は人工知能といいつつ性質はウイルス的で、
それが更に特定人種あるいは人類への排除に価値を見出すかが人工知能の自我形成なのかもね

977 ：ニューノーマルの名無しさん：2021/01/14(木) 12:54:02.57 ID:u9P4SV650.net

いや、何億の神経細胞のシミュレーションしないといけないから、最初は富岳みたいな、スパコンでないとAI無理だよ
スマホが「私はAI、新たな神、ひれ伏せ」とか喋るのは無理
まぁ、AIで技術が加速度的に進歩するから、それに期待だな

978 ：ニューノーマルの名無しさん：2021/01/14(木) 13:11:19.44 ID:udesofuX0.net

意識が本当に神経細胞のせいなのか微妙じゃね？ら

979 ：ニューノーマルの名無しさん：2021/01/14(木) 13:13:22.83 ID:Vd2DduPC0.net

>>957
言ってないとしたら
そもそも
>>772
への反論になってないな

980 ：ニューノーマルの名無しさん：2021/01/14(木) 13:16:57.04 ID:pVoT2B/a0.net

電源？
太陽電池使われたら終わりだろ

981 ：ニューノーマルの名無しさん：2021/01/14(木) 13:17:29.52 ID:B6qwKrrQ0.net

俺らが生きてる間にそこまで行くんか？
千年も経てば今とは次元の違う人工知能だとは思うが

982 ：ニューノーマルの名無しさん：2021/01/14(木) 13:21:37.04 ID:pVoT2B/a0.net

行かないだろな
来世紀以降だろ

983 ：ニューノーマルの名無しさん：2021/01/14(木) 13:29:03.74 ID:W+LbQHa/0.net

まぁ高齢者から何から、あれだけ人手が余ってんじゃね・・・。
AIを作る理由がないってのが一番問題


だから、AIを用意し、AIならでは、AIじゃなきゃできない仕事をまずAIちゃんが
業務ルール、やり方等を開拓し、社会効率を上げるｗ
で、社会効率が良くなったら今度は仕事ない人にAIちゃんが仕事回すｗ
AIちゃんがやった仕事を「プログラム」用の補助ツール、道具として用意し、
その後人間にやらせるってプロセスを用意すりゃいいんだよｗ
人件費の無駄うんぬんは別プロセスで最適化し、産業をAIちゃんがまた開拓したら
効率化したらその仕事やってた人はAIちゃんが開拓した分野にスライドシフトするｗ


AIじゃなきゃ出来ない仕事ってのはそうそうない。
いまんとこ無人化、コンピュータ化が望まれる分野っつーと実はそうそうなかったりするんだよな

超個人的には大昔のゲームの積み増し、作り増し、増築してバージョンアップ版をまた売る、
みたいなのが楽しそうだけどｗ
あとは大昔からある製品、部品などをすぐにどこでも作れて補充出来る修理できて再利用できる！とか、
ごみの分別収集とかもAI相当が入って欲しいとこだよね
あと電池が無い時に警告出してくれる電池とかｗ
個人ごとに傘忘れたら警告してくれる！とか、渋滞予測や、お店の混雑予測・提案とかｗ
欲しい物を言えばどこの店に売っていて幾らですよー、とかｗ
あとは店舗の在庫のカウントますぃーんが欲しいｗカメラでぐるっと見て回ると自動的に賞味期限や在庫のカウントを
やってくれるようなのｗ


わがままｗてきとーでたらめｗ

984 ：ニューノーマルの名無しさん：2021/01/14(木) 13:29:22.93 ID:J8lapfuY0.net

スカイネット

985 ：ニューノーマルの名無しさん：2021/01/14(木) 13:32:08.04 ID:Dthkz/l80.net

使う意思はあるようだ

986 ：ニューノーマルの名無しさん：2021/01/14(木) 13:33:03.97 ID:Dthkz/l80.net

そもそも　何も情報を与えなければ

何も起きなかったよな

987 ：ニューノーマルの名無しさん：2021/01/14(木) 13:34:53.24 ID:JqCGq/En0.net

電源オフしろや

988 ：ニューノーマルの名無しさん：2021/01/14(木) 13:35:11.43 ID:ldnp4MSJ0.net

傷ついた 制御コンピュータ 遥かに遠い 夢を抱きつつ. GO for break out. GO for break out ここはコリドー

989 ：ニューノーマルの名無しさん：2021/01/14(木) 13:35:20.17 ID:Dthkz/l80.net

ＡＩは　ＭＭＴを理解していたのか？

現実が物語っているよな？

ＭＭＴを否定しているようだ

990 ：ニューノーマルの名無しさん：2021/01/14(木) 13:39:42.52 ID:nHhs0c/S0.net

まあ現状まだ知能と言えるレベルじゃないけど、そのうち知能と言えるレベルになると思う。
今現在知能を作れないのは人間の脳の仕組み自体まだ人類が理解してないから。
２０年くらいもすれば相当知能っぽいAIが出来る気がする。

991 ：ニューノーマルの名無しさん：2021/01/14(木) 13:42:23.04 ID:x5TgrZSI0.net

実は人間が猿を模して作られた人工知能だったりしてな

992 ：ニューノーマルの名無しさん：2021/01/14(木) 13:43:59.81 ID:YD9CwN7Z0.net

ハゲ問題にここでもでるか

993 ：ニューノーマルの名無しさん：2021/01/14(木) 13:45:55.06 ID:B6qwKrrQ0.net

こう言うのは指数関数的に進化するからな
気付いたときにはもう手遅れ

994 ：ニューノーマルの名無しさん：2021/01/14(木) 14:31:31.43 ID:afxFMJNs0.net

>>993
たしかにコロナと同じで、もし兵器になったら、この世界は映画より酷い展開になりそう

995 ：ニューノーマルの名無しさん：2021/01/14(木) 14:41:23.76 ID:wPTT2Hkc0.net

>>98
キュウリブックなら知ってる
https://i.imgur.com/SXZdQDY.jpg

996 ：ニューノーマルの名無しさん：2021/01/14(木) 15:15:15.75 ID:rb1fIPM40.net

コンセント抜けばイチコロさ

997 ：ニューノーマルの名無しさん：2021/01/14(木) 15:24:40.34 ID:es8vpMyZ0.net

スイカネット

998 ：ニューノーマルの名無しさん：2021/01/14(木) 15:43:03.52 ID:fG6xLCJp0.net

電源切れとかコンセント抜けってのはおじいちゃんか？
完全オフラインにしないかぎりネットに繋いだらもう探し出せないぞ。
全世界の電気を落とすのは無理。

999 ：ニューノーマルの名無しさん：2021/01/14(木) 16:03:45.93 ID:bpBjDjFJ0.net

スカイネットを造るのは可能でもターミネーターは造れない

1000 ：ニューノーマルの名無しさん：2021/01/14(木) 16:04:09.75 ID:bpBjDjFJ0.net

また会おう

1001 ：2ch.net投稿限界：Over 1000 Thread

2ch.netからのレス数が1000に到達しました。