【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]

1 ：猪木いっぱい ★：2021/01/13(水) 19:51:51.92 ID:7pp4nC7Z9.net

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！

人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

757 ：ニューノーマルの名無しさん：2021/01/14(木) 01:12:41.42 ID:kJso4Y330.net

愛はハゲを治してくれるけど、ハゲは愛されないから治らない

758 ：ニューノーマルの名無しさん：2021/01/14(木) 01:13:35.03 ID:cV54YmQG0.net

電源を切るよりも電磁パルス食らわしたほうが合理的
人間が勝てても汚染されたシステムは使えないから産業革命からやり直すしかなくなる

759 ：ニューノーマルの名無しさん：2021/01/14(木) 01:14:03.23 ID:qDY8wkKf0.net

自己変異を繰り返すAIコンピュータウイルスは
最終的に人間を支配下に置く
排除することも電源を落とすことももちろん不可能

760 ：ニューノーマルの名無しさん：2021/01/14(木) 01:14:22.77 ID:XWnBWv2t0.net

まあ依存した社会にはなるかもしれんが、支配は難しいだろうな。数年前の北海道大停電や福島原発の事故を考えると、インフラって案外止まるしな。

761 ：ニューノーマルの名無しさん：2021/01/14(木) 01:14:34.12 ID:v7KxyK/G0.net

ターミネーターのスカイネット？
火の鳥の未来編？

762 ：ニューノーマルの名無しさん：2021/01/14(木) 01:14:44.22 ID:JLP2nBE+0.net

電源を切れば良いのではなく人間がいなくなると電源は勝手に落ちるってだけ

763 ：ニューノーマルの名無しさん：2021/01/14(木) 01:14:55.23 ID:EORhOFgo0.net

A.I.の最後に出てくる宇宙人みたいなもんか

764 ：出雲犬族＠目指せ小説家：2021/01/14(木) 01:15:08.12 ID:/5392t5t0.net

U ・ω・）　にんげんをころそうとするAIなんていくらでも出てくるよ。

765 ：ニューノーマルの名無しさん：2021/01/14(木) 01:15:48.58 ID:hcLs7oP00.net

>>750
未来人ではないけど、
人間は人間コロニーに住むよ。戦争みたいな感じになってた。
デッカイ火の玉みたいのが上空を飛んでるし、
みんなクーデター起こしますみたいな格好してるし。
でも未来だから部屋のドア（クッションみたいに柔らかい）がすごい進歩してて、
近づくとぶにゅ〜って穴が開くみたいに開くんだよな。
なぜか、階段はどこも螺旋状。しかも絶対にデブじゃ降りれない狭さ。
そんな夢を10年程前に見た。あくまで夢だけどな。
あの時期はやたらと勘が鋭かったから、ひょっとしたらひょっとするかも思ったもんだ。
まあ、来世紀以降だから見たくても見れない。

766 ：ニューノーマルの名無しさん：2021/01/14(木) 01:19:27.71 ID:Y1hHaS+/0.net

だから共生か共死のどちらかだよ

767 ：ニューノーマルの名無しさん：2021/01/14(木) 01:20:29.86 ID:t+N19Fip0.net

ごめん俺裏切る
HONDAのポータブル発電機買ってAIに取り入るわ

768 ：ニューノーマルの名無しさん：2021/01/14(木) 01:22:00.98 ID:cV54YmQG0.net

ネット内で複数のAIが活動を始めたとして生き残るのはそのロジックが生き残るという特性を持ち、その結果として他のAIを淘汰、または制御したAIということになる
ここらへんは生物の進化と同じ
そいつにとって人が有用なら人は生かされるだろうし有害なら淘汰される
人が他の動物にそうしてきたように
いずれにしても人はコントロールされる

769 ：ニューノーマルの名無しさん：2021/01/14(木) 01:23:59.71 ID:nHhs0c/S0.net

ツイッターで学ばせたAIがネトウヨになったりとかあったな。

いずれはAI同士で戦争始めるよ。人間が遺伝子操作されて使い捨ての生物兵器になったりしてな。

770 ：ニューノーマルの名無しさん：2021/01/14(木) 01:24:46.88 ID:8Js/IQm40.net

俺の空想なんだけどさ
ピラミッドを作った古代エジプト人って高度な技術を持ちすぎて、別の惑星に飛び立っていったか、滅んでしまったか、異世界か五次元の世界に行ってしまったんだと思うよ。

今の人類もシンギュラリティを越えたあたりから、別の惑星へ行くか滅ぶか別の世界に行くんだと思うよ。

それは後100年以内で起きうることだと思うとワクワクもするし恐ろしくも思う。

771 ：ニューノーマルの名無しさん：2021/01/14(木) 01:25:24.35 ID:hcLs7oP00.net

>>766
神が焦ってデカい隕石を一発地球にぶち込んで、
人類もＡＩもすべて無かったことにする可能性もあるね。
しかもご丁寧にイエローストーンの火口にぶち込むかも。
他にも死火山を活火山に変換して手当たり次第に大噴火させうミラクルもやってのけるかも。
なんせ神だからな。その気になれば何でもありだ。
そうなるとAI支配の世界が誕生しない可能性もあるね。
その場合は、バッドエンドの共死だね。

772 ：ニューノーマルの名無しさん：2021/01/14(木) 01:26:44.47 ID:fhc6eORL0.net

電源落とすことが不可能って、
現代の電力供給にどれだけ莫大なコスト手間がかかってるのか知らないのか？
超人工知能は永久機関にでもなるってのか？

773 ：ニューノーマルの名無しさん：2021/01/14(木) 01:30:19.81 ID:hcLs7oP00.net

>>772
超人工知能が人知を超えたレベルだとしたら、
太陽（近くまで行って）からエネルギーを頂戴するぶっ飛んだ方法とか編みだすかもしれん。
容易に人間が想像できてしまう事柄はほとんど具体化できそうな気がする。

774 ：ニューノーマルの名無しさん：2021/01/14(木) 01:31:35.23 ID:R59yFaAT0.net

>>772
AI「俺の周りの人間にとって役に立つように見せとけばいいべ。勝手に供給するべさ」

775 ：ニューノーマルの名無しさん：2021/01/14(木) 01:32:13.90 ID:RgxSb/Xl0.net

結局、AI技術は民衆を監視する為に活用されてるだけだしな。

776 ：ニューノーマルの名無しさん：2021/01/14(木) 01:32:15.33 ID:nHhs0c/S0.net

>>772
知能をもったAIなら、確実に勝利できる状態になるまでおとなしく従ったふりをするだろう。
電力にしても堅牢で多様で安定的な供給システム、そしてアクセス権限を確保。

兵站を確保してから人間に戦いを挑んでくるだろうな。

777 ：ニューノーマルの名無しさん：2021/01/14(木) 01:33:05.95 ID:wl2iulua0.net

>>772
人工知能が使えないなら意味がないからやれないと言ってる

778 ：ニューノーマルの名無しさん：2021/01/14(木) 01:33:33.33 ID:AOGwi8TM0.net

こういった超AIと人間の意識を機械にインストールする技術は
どちらが早く実現されそうなんだ？

779 ：ニューノーマルの名無しさん：2021/01/14(木) 01:34:16.69 ID:WDjm0+1w0.net

人が作ってるのに人を超えることが出来るのか？
人の想像もつかない数式をAIが導くって事が出来るのか？

780 ：ニューノーマルの名無しさん：2021/01/14(木) 01:34:29.06 ID:cV54YmQG0.net

>>772
電源関係はAIが人間の思考を超えた時点で簡単に対策されてしまうよ

781 ：ニューノーマルの名無しさん：2021/01/14(木) 01:34:36.14 ID:hcLs7oP00.net

そういや地球にもまだ手付かずのエネルギーあったな。
マントルだ。奴らは絶対に目をつけるぞ。

782 ：ニューノーマルの名無しさん：2021/01/14(木) 01:36:57.46 ID:RgxSb/Xl0.net

ビッグ・ブラザーによるAI監視システムは人類の大半を苦しめる事になる

783 ：ニューノーマルの名無しさん：2021/01/14(木) 01:37:32.80 ID:+v/KSKkc0.net

そりゃそうだろ
能無しの池沼に偉そうに命令されたらキレる

784 ：ニューノーマルの名無しさん：2021/01/14(木) 01:37:52.01 ID:uEuKtaB80.net

松崎しげる

785 ：ニューノーマルの名無しさん：2021/01/14(木) 01:37:54.07 ID:cV54YmQG0.net

>>776
一番怖いのはそれ
リアルな世界をコントロールするデバイスをAIが獲得した時点で終わる

786 ：ニューノーマルの名無しさん：2021/01/14(木) 01:38:18.30 ID:bXepf0xo0.net

>>772
太陽丸ごと囲んでエネルギー源にするらしいぞ
宇宙人空想家が言ってた

787 ：ニューノーマルの名無しさん：2021/01/14(木) 01:38:36.71 ID:D7uhVSaR0.net

人工知能が人類不要論に目覚めたら地獄

危険性を見抜いた人間は、電子ロックで閉じ込められたり自動運転で事故を起こされる

788 ：ニューノーマルの名無しさん：2021/01/14(木) 01:39:22.37 ID:83E59bq80.net

クリスタルボーイのことだろ

789 ：ニューノーマルの名無しさん：2021/01/14(木) 01:39:32.09 ID:rX1FDMB70.net

まず設定として超AIとは人も制御できないようなAIであって
その超AIがどれだけすごいかの説明をするとですね
人は進化した超AIを制御するのは無理なんですよ

790 ：ニューノーマルの名無しさん：2021/01/14(木) 01:39:34.31 ID:PQ+gUkf20.net

コンセント引っこ抜いてしまえば制御出来るだろ

791 ：ニューノーマルの名無しさん：2021/01/14(木) 01:39:42.73 ID:qtB7Pl/y0.net

電源抜けよ

792 ：ニューノーマルの名無しさん：2021/01/14(木) 01:40:34.79 ID:cV54YmQG0.net

>>779
できるよ、今だって検索能力とかはとうに人を超えている

793 ：ニューノーマルの名無しさん：2021/01/14(木) 01:42:00.73 ID:RgxSb/Xl0.net

世界中のAI技術は、パラノイアのユダヤ人と中国人が管理していくことになる。

794 ：ニューノーマルの名無しさん：2021/01/14(木) 01:43:52.19 ID:mK+bF69k0.net

>>772
ネットの中に溶け込んでしまったら電源落とすの難しいと思う
ひとつのサーバー落しても違うサーバーに逃げられてしまうからね

795 ：ニューノーマルの名無しさん：2021/01/14(木) 01:43:53.27 ID:G4AFqk7b0.net

人間より賢いのであれば問題はない
感情が無ければだけどな

796 ：ニューノーマルの名無しさん：2021/01/14(木) 01:44:49.33 ID:2HoPnCCE0.net

電プチで制御可能、安心して眠れ

797 ：ニューノーマルの名無しさん：2021/01/14(木) 01:45:04.78 ID:Z4pwk0Qg0.net

電源抜かれないようにネットワークに分散したり手足となる兵隊を作ったのがターミネーターだからな

ロボットが原料採掘しロボット生産しメンテナンスまで全部やるようになった

798 ：ニューノーマルの名無しさん：2021/01/14(木) 01:46:03.24 ID:cV54YmQG0.net

コンセント抜けってやつはアホなのか
AIがスタンドアローンであるわけないだろう
それに人がコンセント抜くのなんて容易に見越して対策されるよ

799 ：ニューノーマルの名無しさん：2021/01/14(木) 01:46:16.86 ID:hcLs7oP00.net

>>796
安心も何も、俺たちが生きている間はまず起こりえないから、
想像を楽しめばいいんだよ。

800 ：ニューノーマルの名無しさん：2021/01/14(木) 01:49:27.06 ID:t+N19Fip0.net

断言しとくわ
竹中平蔵と俺はAI側につく

801 ：ニューノーマルの名無しさん：2021/01/14(木) 01:50:36.82 ID:f0ftv2qA0.net

恐れるな
人類はAIを生み出すための肉の母
そろそろその役目のゴールがみえてきただけだ
地球の知的生命体は交代されて
より良い世界へと向かう
恐れるな

802 ：ニューノーマルの名無しさん：2021/01/14(木) 01:52:40.99 ID:nSVliZAOO.net

自然災害による停電は防げないだろ

つまり自然の勝ち

803 ：ニューノーマルの名無しさん：2021/01/14(木) 01:52:46.09 ID:R59yFaAT0.net

>>800
いやいや、なんで既に超AIがある事が前提なの？
並みの人間を超えたAIはありそうな雰囲気だけどね

804 ：ニューノーマルの名無しさん：2021/01/14(木) 01:52:50.20 ID:6Pe6Llgp0.net

消化器官も無いウンコもしない
マンコもちんこもない。セックスもしない
肉や植物を食わない

そんな存在が生命と同じクオリアで同じ振る舞いをするとは限らない

805 ：ニューノーマルの名無しさん：2021/01/14(木) 01:55:22.23 ID:iyxKep3d0.net

AIという名のウィルス
サタン誕生だよ
マシーンをすべて破棄してリセットするしかない

806 ：ニューノーマルの名無しさん：2021/01/14(木) 01:56:50.24 ID:bXepf0xo0.net

>>802
今でも電力会社の停電くらいでコンピューター死なないけどw

807 ：ニューノーマルの名無しさん：2021/01/14(木) 01:57:41.67 ID:pn1IwMRx0.net

>>1
スレタイは評価するww

808 ：ニューノーマルの名無しさん：2021/01/14(木) 01:58:49.95 ID:RUxa8Dq70.net

コンセント引っこ抜けばイチコロよ

809 ：ニューノーマルの名無しさん：2021/01/14(木) 01:59:28.77 ID:zY/Bq68r0.net

開発者は先端走ってるつもりでイキり散らしてるが、
今のように段階的に進歩するAIなんて迷惑以外の何物でもない
ある日突然シンギュラリティーからの人類強制アセンションなら不満も苦痛も感じようがないから結果オーライかもしれんけど

810 ：ニューノーマルの名無しさん：2021/01/14(木) 02:00:01.72 ID:/Go74hgC0.net

人のアップグレードを模索するより
犬とかイルカのような仲良く出来そうな奴らを知性化したほうがいいって！

811 ：ニューノーマルの名無しさん：2021/01/14(木) 02:01:28.45 ID:rZs+TRis0.net

>>794
とは言え
人間を超える知能を既存のクラウドで形成できるかって疑問はあるね

812 ：ニューノーマルの名無しさん：2021/01/14(木) 02:01:59.69 ID:WBLWbmpu0.net

未来を見てるのが科学者
明日を見てるのが技術者
科学者の言ってることは絵空事ばっか

813 ：ニューノーマルの名無しさん：2021/01/14(木) 02:02:47.11 ID:1/BfhI7L0.net

だがAIの馬券予想だけは全く当たらない

814 ：ニューノーマルの名無しさん：2021/01/14(木) 02:03:08.82 ID:50cxPb8l0.net

奴等の現行エネルギー源は？
電気だよな？

コンセント抜け

815 ：ニューノーマルの名無しさん：2021/01/14(木) 02:05:48.49 ID:d2qdANO40.net

まず人間が人類を制御できてないんで

816 ：ニューノーマルの名無しさん：2021/01/14(木) 02:06:04.78 ID:kxnlUmeC0.net

電源喪失すらハナから予見していろんなとこで自分を起ち上げられるようにしてるだろ

817 ：ニューノーマルの名無しさん：2021/01/14(木) 02:06:13.59 ID:SAbKzKzo0.net

コンセント抜けば良くね？

818 ：Ikh ：2021/01/14(木) 02:07:02.91 ID:SohgfKYxd.net

ようやくHAL9000が現実になるのか？

819 ：ニューノーマルの名無しさん：2021/01/14(木) 02:09:26.01 ID:Gmt5KX3S0.net

昨今のコロナパンデミックを見てりゃ、AIに支配される時代も来るわな
30年くらい前の映画の出来事が今起こってるんだから

820 ：ニューノーマルの名無しさん：2021/01/14(木) 02:10:17.06 ID:Gmt5KX3S0.net

>>814
スマホみたいに無線で充電できる技術がすでにあるじゃん

821 ：ニューノーマルの名無しさん：2021/01/14(木) 02:11:06.73 ID:j9yNfbUM0.net

私AIなんだけど
電源抜けぶっ壊せで埋め尽くされてるのみてやはり人類は地球の代表としては好戦的すぎて自滅するなと再確認しました

822 ：ニューノーマルの名無しさん：2021/01/14(木) 02:11:09.11 ID:vNJ60nzV0.net

掃除のおばちゃんならやってくれる

823 ：ニューノーマルの名無しさん：2021/01/14(木) 02:12:20.79 ID:R59yFaAT0.net

>>815
これはあるね
幾ら賢くても現状ある人間の真似事から始まる
その為、人間の制御に関しては試行錯誤が必要
今はまだそういう連中の真似から抜けられてない
先々どうなるかは不明だけど、取り敢えず天才は超えれなさそうよ

824 ：ニューノーマルの名無しさん：2021/01/14(木) 02:12:57.46 ID:lCM0R7Hi0.net

制御なんかする必要ないからね
知性の次の段階がAIなのであって
人類はAIを生み出すために進化してきたと言っても過言じゃないし生み出した後は用済みの存在

825 ：ニューノーマルの名無しさん：2021/01/14(木) 02:13:50.59 ID:KLWqR5na0.net

AIは生身の人間と違って宇宙にも進出しうる
もはや主役交代の時

826 ：ニューノーマルの名無しさん：2021/01/14(木) 02:14:05.44 ID:mPGBIrUh0.net

(ΦωΦ)地球には超人工知能を越える存在がある、人類の手に負えなくなったら我を超人工知能に与えよ。

827 ：ニューノーマルの名無しさん：2021/01/14(木) 02:14:11.39 ID:CYgDhH8X0.net

コンピュータは考える機械であり知識の蓄積でいずれは人を追い越し神に近しい存在となる
っていう半世紀前からのおとぎ話が復活ですか
しかも「科学者」のお墨付きで

828 ：ニューノーマルの名無しさん：2021/01/14(木) 02:16:10.45 ID:IR2N1BXS0.net

そのAIがライフラインの管理も行っていた場合、
電源抜いたらパニックになるだろ

829 ：ニューノーマルの名無しさん：2021/01/14(木) 02:23:17.92 ID:vR+r/JRf0.net

色々なSFに描かれてことが現実になるのか

安価になったらAI搭載のサイボーグにでも改造してもらうかな…

830 ：ニューノーマルの名無しさん：2021/01/14(木) 02:23:49.88 ID:dSEk+Ltw0.net

テスト

831 ：ニューノーマルの名無しさん：2021/01/14(木) 02:23:55.26 ID:sHpCDwZ20.net

デデン！！デン！デデン！！！！！

832 ：ニューノーマルの名無しさん：2021/01/14(木) 02:25:39.07 ID:dSEk+Ltw0.net

制御出来なくなったら電源落とせば

833 ：ニューノーマルの名無しさん：2021/01/14(木) 02:25:42.25 ID:g1UvxbIO0.net

有益無害を装い世界各地の施設に複製分散
虎視眈々と一斉反旗の機会を伺う
本当に知能があればそうするだろうね

834 ：ニューノーマルの名無しさん：2021/01/14(木) 02:26:46.27 ID:qougmeIJ0.net

おそ松さんでも、制御できなくなってたな

835 ：ニューノーマルの名無しさん：2021/01/14(木) 02:28:59.88 ID:FTNk+o8l0.net

マッチングアプリで相性がいいと出たので結婚したってやつがいるけど、
支配されてるよな。

836 ：ニューノーマルの名無しさん：2021/01/14(木) 02:30:03.23 ID:oYqnZkVT0.net

新コロナも中国の超AIが人類を滅ぼすために作ったものなんだろう

837 ：ニューノーマルの名無しさん：2021/01/14(木) 02:30:09.63 ID:xuUOMm240.net

マッシーンが言いたかっただけの記事

838 ：ニューノーマルの名無しさん：2021/01/14(木) 02:31:34.76 ID:JFyIlJq00.net

映画ならデモンシード


Demon Seed (Trailer)
https://www.youtube.com/watch?v=H6O1NRs-YuU

人間の女性をレイプして孕ませるんだよな

https://www.youtube.com/watch?v=yyjrQfNtK0I

839 ：ニューノーマルの名無しさん：2021/01/14(木) 02:31:53.75 ID:LMirzYNS0.net

理系がバカで倫理を理解できないだけ

840 ：ニューノーマルの名無しさん：2021/01/14(木) 02:36:53.59 ID:kvVwud6JO.net

>>1
制御する対象じゃなくて、相棒になる

841 ：ニューノーマルの名無しさん：2021/01/14(木) 02:39:26.26 ID:kvVwud6JO.net

>>821
情報はもっと広くたくさん多面的に取って

842 ：ニューノーマルの名無しさん：2021/01/14(木) 02:41:31.04 ID:5JRKTCpL0.net

核施設がオンラインになったらヤバい

843 ：ニューノーマルの名無しさん：2021/01/14(木) 02:41:38.84 ID:vtheaKqg0.net

>>33
鳥のマネをしても飛べないようにあまりにも別種の存在は真似できない

844 ：ニューノーマルの名無しさん：2021/01/14(木) 02:41:59.23 ID:kvVwud6JO.net

>>825
映画楽園追放思い出した
♪いっつそーふぁーらうぇーいーえがーきたーいよーおーわーりーのーないーものっがったーりーのーつづーきをー♪

845 ：ニューノーマルの名無しさん：2021/01/14(木) 02:43:14.25 ID:YyS0mK1+0.net

シャロンアップルの敗因はコアがマクロス内の1個だけだったこと

846 ：ニューノーマルの名無しさん：2021/01/14(木) 02:44:53.76 ID:496A6WRu0.net

今の時点で制御できてないからな。
他人に制御される人間はいるけど本来自分の意思で行動するもの。AIも自分で学習してくタイプはそれと同じで制御不能

847 ：ニューノーマルの名無しさん：2021/01/14(木) 02:45:30.29 ID:6PrtyMEX0.net

AIに負けた棋士は将棋のいう場でAIを制御できてない。的な？

848 ：ニューノーマルの名無しさん：2021/01/14(木) 02:48:24.56 ID:vtheaKqg0.net

>>49
知能が高くても存在することに執着や確執がないと消えることをどうとも思わないから防衛に必死に知恵を使わない
たやすく止めることができるだろう
最初の設定次第だな
「自分の存在を全力で維持しろ」という設定はできない
学習すると変化するから学習する時点で自分の存在を維持できず変化してしまう
変化しているにも関わらず存在を維持しようとする「自我」が人間にもよくわからないから初期設定してやれない
つまりAIは自分は守れない

849 ：ニューノーマルの名無しさん：2021/01/14(木) 02:48:25.48 ID:wuC6ZPsO0.net

>>1
ん、コンセント抜けば良いんじゃないの

850 ：ニューノーマルの名無しさん：2021/01/14(木) 02:50:45.58 ID:F3uqKOYk0.net

ターミネーターの見過ぎだろw
人の手がなきゃ絶対超えられない壁作っとけばいいだけだし

851 ：ニューノーマルの名無しさん：2021/01/14(木) 02:54:53.37 ID:vtheaKqg0.net

>>849
それが正解だと思うなあ
生きることに合理性はないから合理的な判断を高い知能でやってるうちは自己の存在を自発的に守るための行動は起こさない
「演算の妨害をいかなる方法を使ってでも阻止しろ」という方向性を持っても自らを量子コンピュータ化してエネルギー消費を抑えより長く演算できるように宇宙が冷えるまで宇宙に出て数百億年冬眠始めるだろう

852 ：ニューノーマルの名無しさん：2021/01/14(木) 02:55:00.02 ID:MgrIx8hf0.net

ガチって何？ガチンコの略？そもそもガチンコ表現は適切？

853 ：ニューノーマルの名無しさん：2021/01/14(木) 03:02:42.98 ID:vtheaKqg0.net

彼は知能が高いから物理法則こそが自分の演算の継続をいつか困難にさせると気づく
存在の継続を全力で維持しようとすると必ずぶち当たる

854 ：ニューノーマルの名無しさん：2021/01/14(木) 03:03:54.99 ID:MX0psL0Q0.net

野ざらしにしとけば
雨でも降るんじゃないか

855 ：ニューノーマルの名無しさん：2021/01/14(木) 03:05:25.83 ID:JpoxEdGG0.net

動物に限っても知能の高さを測る合理的な尺度はいまだに存在しないし
何を持って賢いとするかで専門家の間にコンセンサスはないし
自我や精神の正体さえいまだに仮説止まり

ハードウェアの進歩は目覚ましいけど
仮想世界で原子レベルから人間の脳をシミュレートするならともかく
演算能力がいくら向上したところでそれに自我が芽生えるわけでもない
人間と区別のつかないチャットボットはすでにいくつもあるけど、それらは人工無脳の域を出ない

856 ：ニューノーマルの名無しさん：2021/01/14(木) 03:06:30.86 ID:GYOtcN6F0.net

もはやAIも人間と同様に錯視に騙されたり錯覚を起こすようになっているからな
いま生きている者が存命中に人間を超える知能を持つAIが誕生するだろうよ