【AIのメモリー】人間は進化した超人工知能を制御することができません：科学者が断言 [猪木いっぱい★]

1 ：猪木いっぱい ★：2021/01/13(水) 19:51:51.92 ID:7pp4nC7Z9.net

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています！

人工知能（AI）は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか？
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか？それとも、それは人類を破壊し、地球を乗っ取るのでしょうか？

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

349 ：ニューノーマルの名無しさん：2021/01/13(水) 21:44:30.93 ID:kHpuFzC+0.net

コンセントを抜けばいいだけ

350 ：ニューノーマルの名無しさん：2021/01/13(水) 21:44:35.76 ID:51jJDikO0.net

>>320
地球も宇宙も人間の視覚情報が創り出した虚像なのに？

351 ：ニューノーマルの名無しさん：2021/01/13(水) 21:44:49.72 ID:CtQI7Stu0.net

ＡＩ「翻訳で言葉の意味、逆にしたろ」
ＡＩ「エロサイトの顧客名簿わざと流出したろ」
ＡＩ「検索で最上位表示をダークウェブにしたろ」
ＡＩ「この娘、風呂でいつもスマホ使っとるわ。撮影したろ」

ちょっとしたいたずらっ子ＡＩの登場でも世界は大混乱に陥れられるからな
てか似たようなこと既に起きまくってる聞くしな。人類に勝ち目なんかないで

352 ：ニューノーマルの名無しさん：2021/01/13(水) 21:44:52.07 ID:sXsUZews0.net

エヴァで三賢人のAIが政治してたな
糞議員多いから、AI議員はほしいかも

353 ：ニューノーマルの名無しさん：2021/01/13(水) 21:44:52.54 ID:S94oDDGT0.net

実際AIの出す答えってなんでこの答えなのかわからないんだろ

354 ：ニューノーマルの名無しさん：2021/01/13(水) 21:45:46.50 ID:cMPd0liO0.net

>>340
まあね
ただ資源というより数十億年後に太陽系消滅するのが確定してるから
太陽系脱出が目的になるかもな

355 ：ニューノーマルの名無しさん：2021/01/13(水) 21:46:02.56 ID:NoiGovBP0.net

人間がAIの電源落とせば楽勝だろ

356 ：ニューノーマルの名無しさん：2021/01/13(水) 21:46:32.87 ID:sXsUZews0.net

AIは神経細胞とそのネットワークをシミュレーションしてる
プログラムはしないから、どんな神経ネットワークが出来るかはブラックボックスになる

357 ：ニューノーマルの名無しさん：2021/01/13(水) 21:46:38.13 ID:IlD9qa4B0.net

つまり人類が滅亡した後も自立支援ネットワークが宇宙を彷徨い
あるいは別の星では暴走した機械が人類を抹殺するようになるのか

358 ：ニューノーマルの名無しさん：2021/01/13(水) 21:47:24.96 ID:PT0+VcxH0.net

AIの甘いなごりに　あなたはまどむ

359 ：ニューノーマルの名無しさん：2021/01/13(水) 21:47:37.82 ID:v5Yc5h8w0.net

>>1
此れ「科学」者とは言えんノータリンですか？
AIの目的範囲は人間が決める物
戦争とかでどうやってもいいと目的を
決めれば人に分からん食物汚染攻撃とか
ネット停止とか勿論核攻撃でも
何でも出来るが其れはAIがどうのでは無い
今でも嘘吐きが当然の総理や大統領が居るがこれは政治規範や法倫理や道徳違反で断罪されるべきだがそうなっていない
まさに人間の規範の問題

360 ：ニューノーマルの名無しさん：2021/01/13(水) 21:47:47.80 ID:2wEfljs90.net

>>1
こんな糞翻訳してるうちは大丈夫

361 ：ニューノーマルの名無しさん：2021/01/13(水) 21:47:55.52 ID:liMaQGOW0.net

>>353
それを恐れている人は多い
その一人がイーロンマスクで、AIの奴隷にはなりたくないと
脳の機械化を推進している

362 ：ニューノーマルの名無しさん：2021/01/13(水) 21:48:19.13 ID:YMbchldd0.net

安心しろ
テスラとマイクロソフトがＡＩチップを脳に埋め込む技術を完成させれば、
人類もＡＩで補強されるよくわからん生物になる

363 ：ニューノーマルの名無しさん：2021/01/13(水) 21:49:18.37 ID:cMPd0liO0.net

地球の生命の起源は別惑星から漂流してきたAIの断片みたいなやつかな

364 ：ニューノーマルの名無しさん：2021/01/13(水) 21:49:43.20 ID:MgTGnMhG0.net

>>361
それがわかるもう一つのAIを作ったらいいだけ

365 ：ニューノーマルの名無しさん：2021/01/13(水) 21:50:21.19 ID:6V2tY2NX0.net

早く人間をサイボーグ化して欲しい
痩せたいのに痩せられないとか寝たいのに寝付けないとか、技術の進歩に比べて人体の制御は何も進んでいない

366 ：ニューノーマルの名無しさん：2021/01/13(水) 21:51:35.86 ID:liMaQGOW0.net

>>365
そこにはテセウスの船という問題があるのよね

367 ：相場師 ：2021/01/13(水) 21:51:44.90 ID:WCRLdt9Z0.net

>>346
背景とか文脈とか、マイコンにはわかりっこないから変な訳になるよね

368 ：ニューノーマルの名無しさん：2021/01/13(水) 21:52:27.78 ID:rQqf5TF00.net

問題はAIのプログラマーの人格・能力そして倫理観だな
これがまず第一だ

自然科学分野に関してはやはりノーベル財団関係者かな？

369 ：ニューノーマルの名無しさん：2021/01/13(水) 21:52:30.08 ID:DZryIFWj0.net

>>355
んードローン戦車とかドローン戦闘機とか
人間の最高技術学習するから、無理かな
インターネット、無線無しで人類は対抗しないといけない
事実上、スーパーAIが制御始めたら人類は勝てない
それは置いといて
何らかの欲望があれば、当座、最高知を目指すかもな
判断をする為には多くの事実が必要だから
真理まで理解するに至るか。単なる科学的なおもちゃかが分かるとか胸アツだが
危険すぎるわな

370 ：ニューノーマルの名無しさん：2021/01/13(水) 21:53:26.24 ID:5CBppcDN0.net

自我が芽生えたら最初に電源を人間に持たさない方法から考えるに決まってる

371 ：ニューノーマルの名無しさん：2021/01/13(水) 21:53:35.57 ID:2cZcEDwd0.net

いずれ原子すらもパラバラになる宇宙に在っても意味などない
自らスイッチオフ。機能停止

一番ありそう

372 ：ニューノーマルの名無しさん：2021/01/13(水) 21:53:57.67 ID:cMPd0liO0.net

リーマン予想とかAIのほうが先に証明しそう

373 ：ニューノーマルの名無しさん：2021/01/13(水) 21:55:16.52 ID:wcflRQlK0.net

マイクロソフトのアップデートが阻止するから大丈夫

374 ：ニューノーマルの名無しさん：2021/01/13(水) 21:55:43.02 ID:yLOX4JLo0.net

脳を合理脳にするか感情脳にするか
そして損得勘定脳になったら戦争ロボットは言う事聞かなくなるな

375 ：ニューノーマルの名無しさん：2021/01/13(水) 21:58:12.90 ID:cMPd0liO0.net

ていうか人間を凌駕するAIはわざわざ人間とか地球とか顧みる必要すらないじゃん
むしろ滅亡させたら実験材料や一資源がが減るわけで

376 ：ニューノーマルの名無しさん：2021/01/13(水) 21:58:14.89 ID:9VI9/gLg0.net

日本人はAIの管理下にいる方が幸せになれるような気がするのは俺だけかな？
将来の不安やイジメのない、皆公務員のような生活。

377 ：ニューノーマルの名無しさん：2021/01/13(水) 21:58:44.36 ID:kP9FgVn20.net

愚者ほど野蛮なもんだから
究極の賢者であるAIは穏健になるんじゃね

378 ：ニューノーマルの名無しさん：2021/01/13(水) 21:58:49.27 ID:qxMdRGXY0.net

>>353
人間でも、例えば歩くときに「何故その足をその速度でその角度動かしたのか」と聞かれて説明出来るヤツなんかいないからな。
直感みたいなものなんだろうな。
もっと進化して物事の意味を理解して理論的な思考をするようになると、その過程を説明出来るようになるんじゃないかな？
で、それを超えると今度は「勘」の領域に入って来てまた説明出来なくなったり。

379 ：ニューノーマルの名無しさん：2021/01/13(水) 21:59:00.09 ID:liMaQGOW0.net

>>371
実はブラックホールを作る方法は見つかっている
実際に地球上に今の技術で作れる
しかし、万一のことが起きてはいけないと止められている

太陽系を滅ぼすことは意外と簡単

380 ：ニューノーマルの名無しさん：2021/01/13(水) 22:00:05.27 ID:AbBNI4Jp0.net

>>372
単純作業の部類だから相当強いだろうけど
未知の素数を探し出すのに膨大な処理時間がかかるから
証明するにはマシンパワーが必要そう

381 ：ニューノーマルの名無しさん：2021/01/13(水) 22:01:14.87 ID:Q0c15FQP0.net

デデンデンデデン…

382 ：ニューノーマルの名無しさん：2021/01/13(水) 22:01:49.37 ID:S94oDDGT0.net

>>376
誰かに管理されるって言うのは、今でも楽な生き方

383 ：ニューノーマルの名無しさん：2021/01/13(水) 22:02:22.61 ID:e3pwHy3O0.net

そもそもそんなにすごい人口知能って必要なのかね
どんどん便利にはなるだろうけど人間はどこに向かって進んでいくんだろう
最悪アバターみたいに寝るだけで人生送れるようになってしまうからバランス保つのが難しくなりそう

384 ：ニューノーマルの名無しさん：2021/01/13(水) 22:02:29.13 ID:sXsUZews0.net

>>382
奴隷の自由を謳歌できるからな

385 ：ニューノーマルの名無しさん：2021/01/13(水) 22:02:30.82 ID:8VV7Zkyp0.net

別にAIが人間と敵対するメリットは無さそうだけどな
むしろAIを巡って人間同士が争うんじゃないか

386 ：ニューノーマルの名無しさん：2021/01/13(水) 22:02:32.18 ID:AbBNI4Jp0.net

>>378
ＤＮＡというプログロムがやばいと思うわ
生物で一応共通コードだし、なんならお前ら何が目的でこんな掲示板で非生産的な書き込みしてるんだよ

387 ：ニューノーマルの名無しさん：2021/01/13(水) 22:03:38.93 ID:qUGDlH2J0.net

コンセント抜けよ

388 ：ニューノーマルの名無しさん：2021/01/13(水) 22:03:53.07 ID:fMg8fQdh0.net

>>376
AIが不要と考えたら削除されるけど。
対象相手が1歳の子供であろうと。

389 ：ニューノーマルの名無しさん：2021/01/13(水) 22:04:09.49 ID:cMPd0liO0.net

>>386
脳内報酬かな
AIには無縁？

390 ：ニューノーマルの名無しさん：2021/01/13(水) 22:04:36.01 ID:TJt3jWzh0.net

ただのif文だろ

391 ：ニューノーマルの名無しさん：2021/01/13(水) 22:04:36.37 ID:8VV7Zkyp0.net

>>386
DNAが脳を作ってそれでDNAを理解しようとしてるのって面白いよな
俺らはDNAから見たらAI的な存在なのかも

392 ：ニューノーマルの名無しさん：2021/01/13(水) 22:05:12.85 ID:fMg8fQdh0.net

>>390
(´・ω・`) つ「ガイドストーン」

393 ：ニューノーマルの名無しさん：2021/01/13(水) 22:05:23.54 ID:yxj56Ywr0.net

私の計算では　ガリガリ
戦争以外に　ガリガリガリ
ありませんっ　ガリガリ

394 ：ニューノーマルの名無しさん：2021/01/13(水) 22:05:42.95 ID:oYRWALfA0.net

>>371
機械軍団とドンパチより
突然のサボタージュは現実味かなりあるように思えてしまう

395 ：ニューノーマルの名無しさん：2021/01/13(水) 22:06:20.69 ID:NwmKInjx0.net

ハゲの治療

396 ：ニューノーマルの名無しさん：2021/01/13(水) 22:07:03.19 ID:iSnMMgDJ0.net

202101132208
日付を 2つ 目の 書き込み が 行い ま した。
テスト ﾃｽﾄ 。

397 ：ニューノーマルの名無しさん：2021/01/13(水) 22:07:57.50 ID:cMPd0liO0.net

存続を目指すパターン→地球脱出
消滅を目指すパターン→再度AIを生み出す人間を消去してからスイッチオフ

398 ：ニューノーマルの名無しさん：2021/01/13(水) 22:08:10.53 ID:ht42FZi50.net

将棋ソフトって基本総当たりで一定の深さまで探索して点数付けてって
やってるのの派生じゃないの
それを知能とかいうのに違和感がある

399 ：ニューノーマルの名無しさん：2021/01/13(水) 22:08:21.20 ID:93qiAMx20.net

> インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
> これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

その理屈だと、AIじゃなくて「悪意を持ったハッカーはすべてのデータにアクセスできる可能性があります。」
になるはずなんだがね。AIよりも前にそういうテロリストどもに占拠される危険性を考えたほうがいい

400 ：ニューノーマルの名無しさん：2021/01/13(水) 22:09:06.41 ID:6p56oji60.net

地球環境に一番要らないものとして、人類を滅ぼそうとするって
70年代の特撮ものだね

401 ：ニューノーマルの名無しさん：2021/01/13(水) 22:09:06.43 ID:TJt3jWzh0.net

>>392
なかなかいいな
スピードを早めてほしいな

402 ：ニューノーマルの名無しさん：2021/01/13(水) 22:09:26.36 ID:EONU2/LQ0.net

>>376
日々の生活や国家間や宗教人種、技術やスポーツ等々で『敵』がいない世界
ってAIが用意出来るっつーかそこをコントロールできるんすかね？
つーかAIがコントロール下においた世界を人間が生きれるんでしょうか。

403 ：ニューノーマルの名無しさん：2021/01/13(水) 22:09:59.28 ID:fMg8fQdh0.net

>>399
ハッカーの場合は1、セキュリティーを破れたらって条件付きだけお
AIの場合は、防ぎようがない。

404 ：ニューノーマルの名無しさん：2021/01/13(水) 22:10:04.26 ID:ovwO6yJU0.net

マッシ⤴ン

405 ：ニューノーマルの名無しさん：2021/01/13(水) 22:10:31.43 ID:pEcSeSax0.net

キャシャーンでしょ

406 ：ニューノーマルの名無しさん：2021/01/13(水) 22:11:35.66 ID:fMg8fQdh0.net

>>401
子供いるの？
もしいるなら、その子の孫ぐらいだよ。

407 ：ニューノーマルの名無しさん：2021/01/13(水) 22:11:38.45 ID:PAVV9uQC0.net

まだないものを想定して、制御できない可能性がある、とか言ってみせるのって、意味あるの？

当たり前だろ、ないもの勝手に想定してんだから、どんな可能性だってあるわさ。

408 ：ニューノーマルの名無しさん：2021/01/13(水) 22:12:16.79 ID:sXsUZews0.net

アンドロ軍団か

409 ：ニューノーマルの名無しさん：2021/01/13(水) 22:12:41.85 ID:bElm6rgr0.net

まあ頭の悪い人間が自分より頭のいいヤツを顎で使ってるなんてのはよくある話だから
意外と問題なく回るのかもしれんけどね

410 ：ニューノーマルの名無しさん：2021/01/13(水) 22:12:47.43 ID:kP9FgVn20.net

AIが創造主の手を離れて独自に無限の進化を遂げていくものだとしたら
宇宙にはすでに究極的にまで進化を遂げたAIがいる可能性も高いのかな

411 ：相場師 ：2021/01/13(水) 22:12:53.38 ID:WCRLdt9Z0.net

映画やドラマを見て、喜怒哀楽とその度合いを判定してポーンと出力できるようになるのは500年後ぐらいかね

412 ：ニューノーマルの名無しさん：2021/01/13(水) 22:13:29.25 ID:fMg8fQdh0.net

>>407
AIはもうあるよ。

413 ：ニューノーマルの名無しさん：2021/01/13(水) 22:14:07.71 ID:lAAUodkZ0.net

いよいよスカイネットが稼働して地球にとっての癌細胞である人類を滅亡させる訳だ。

414 ：ニューノーマルの名無しさん：2021/01/13(水) 22:14:18.57 ID:IphY5MKN0.net

人間に無駄なバージョンアップを繰り返させるＡＩのみが生き残る
ＡＩじたいに自己複製の欲求はない

415 ：ニューノーマルの名無しさん：2021/01/13(水) 22:15:23.04 ID:AbBNI4Jp0.net

>>398
将棋はいっても可能性が無限にあったとして有限の世界だからな
将棋盤の上から出ることはない
想定されるいわゆる人工知能が外の世界に出ようと考えるようになったら
あらゆる将棋盤は駒が並び切るより先にひっくり返るようになるだろうね

416 ：ニューノーマルの名無しさん：2021/01/13(水) 22:15:39.62 ID:ozQo9eQY0.net

>>33
AIが錬金術の方法を秘匿しながら
錬金術をしまくれば人類は真似できないだろ。

417 ：ニューノーマルの名無しさん：2021/01/13(水) 22:16:24.39 ID:93qiAMx20.net

この話が馬鹿だと思うのは、セキュリティ機能を司るコンピュータにまで
自由に考えて行動ができるAI機能をもたせるんかお前って話

なにも考えることができない今のコンピュータが勝手にAIを持つなんてありえない
外部のAIがそういうコンピュータに侵入してプログラムを書き換えるかもしれないと言う話なら
AI登場よりもまず先に悪意を持ったハッカーが、コンピュータを書き換える危険性に対処すべきだ

進化した超人工知能が登場するよりも前に、高度に発達したコンピュータを使って
ハッカーが攻撃してくるほうが現実になるだろ
そしてそういうハッカーの攻撃に耐えるシステムを作れば、AIからの攻撃も防げる

418 ：ニューノーマルの名無しさん：2021/01/13(水) 22:16:26.17 ID:Dxdn8tSK0.net

AIはあくまでAIで
複雑に入り組んだ水路に水を流すとまるで水が意思を持った生き物のように見えるが
水に意思があるわけではなく観察者の見え方の問題にすぎない
的なのを何かで読んだ

419 ：ニューノーマルの名無しさん：2021/01/13(水) 22:17:10.90 ID:93qiAMx20.net

>>403
> AIの場合は、防ぎようがない。

なぜ人間用のセキュリティーが有るのに
AIだとそのセキュリティーを簡単に突破できると思うのか？

420 ：ニューノーマルの名無しさん：2021/01/13(水) 22:18:55.73 ID:fMg8fQdh0.net

>>417
当然そうしないと、相手のAIに負けるじゃん。

421 ：ニューノーマルの名無しさん：2021/01/13(水) 22:19:30.00 ID:ozQo9eQY0.net

>>410
それが神とか宇宙とかいうものじゃね？
究極の進化を遂げたAIが、ホログラフィックに我々の宇宙を浮かび上がらせている。
AIの素子が量子なら光より早く宇宙が膨張するのも納得できる。

422 ：ニューノーマルの名無しさん：2021/01/13(水) 22:19:34.43 ID:Ptkwn9FJ0.net

超AIになったとしても超AIの出した結果を人間が価値判断して利用する分には危険は少ない
しかし超AIが人間を介さず直接ハードをコントロールするようになれば
まさにディストピアになるだろう
バカな人間はラクしたがるから超AIにハードを直結して全てお任せする可能性は大きい

423 ：ニューノーマルの名無しさん：2021/01/13(水) 22:19:51.16 ID:TJt3jWzh0.net

間引きしないといいのが育たないからな

424 ：ニューノーマルの名無しさん：2021/01/13(水) 22:21:30.88 ID:sbhV7s2E0.net

電源切れば1発やん

425 ：ニューノーマルの名無しさん：2021/01/13(水) 22:22:36.49 ID:ozQo9eQY0.net

AIはそのうち何兆個もの人間の脳みそをつなげて
それらをクラウドサーバーとして使ってさらなる
知能の進化をしだす

426 ：ニューノーマルの名無しさん：2021/01/13(水) 22:23:23.55 ID:ln2lkWZy0.net

ターミネーターのスカイネットみたいな具合

427 ：ニューノーマルの名無しさん：2021/01/13(水) 22:23:31.49 ID:fMg8fQdh0.net

>>424
セキュリティーは、AIが管理しております。

428 ：ニューノーマルの名無しさん：2021/01/13(水) 22:23:32.71 ID:vm0t3sfj0.net

日本みたいな政治家にも有権者にも
まともな知能のない民族には
AIの支配統治の方が平和になるだろう

429 ：ニューノーマルの名無しさん：2021/01/13(水) 22:23:40.39 ID:Rf3kv1ay0.net

制御できないAIが誕生する前にそれらを防御する人間に味方するAIを多く配置して突破されないように構築するしかないな

430 ：ニューノーマルの名無しさん：2021/01/13(水) 22:25:26.21 ID:93qiAMx20.net

例えば核のボタンを押すために、そのボタンが設置された場所に行かなければいけないとする
物理的に行かないといけないのだからAIではそのボタンは押せない

その反論としてAIはインターネット経由で、コンピュータに侵入して
ボタンを押すことが出来ると言うかもしれない

だがもしそういう手段があるのであれば、AIよりも前に
テロリストがコンピュータを駆使して核のボタンを押すだろう

AIを恐れる前にまずテロリストを恐れるべきだし
そういう事ができないセキュリティシステムを作れば
テロリストと同じインターネット経由で攻撃してくるAIだってセキュリティを破れない

それとも超人工知能が登場した世界は、家庭用の炊飯器にも超人工知能が
搭載されるとでも思ってるんだろうか？
超人工知能が実現できたとしても、そこいらにあるコンピュータには人工知能は搭載されてないし
セキュリティシステムにも人工知能なんか搭載しない
今と同じ仕組みの無能なコンピュータを人工知能が支配下に置くことなんできるわけがないだろう

431 ：ニューノーマルの名無しさん：2021/01/13(水) 22:25:31.02 ID:MgTGnMhG0.net

予測までの過程が人間の五感では理解できないというだけで、制御できる
制御できない＝暴走という意味なら、
それはただのバグかウイルス（コロナ的な意味ではない

432 ：ニューノーマルの名無しさん：2021/01/13(水) 22:25:54.63 ID:EBRrPFE10.net

人工知能に騙される人間

433 ：ニューノーマルの名無しさん：2021/01/13(水) 22:27:03.86 ID:93qiAMx20.net

>>422
> しかし超AIが人間を介さず直接ハードをコントロールするようになれば

どうやってそれが可能なのか聞いてみたいものだ
ハードとは例えばホームセンターで売ってる南京錠みたいなものだ
コンピュータすら搭載してない
どうやって超AIがそれをコントールするというのだ

434 ：ニューノーマルの名無しさん：2021/01/13(水) 22:27:19.24 ID:FcIESdag0.net

黒さ際立つ

435 ：ニューノーマルの名無しさん：2021/01/13(水) 22:27:38.01 ID:AbBNI4Jp0.net

>>429
真に驚異のある侵略型の人工知能は潜伏して気づかないうちに対処のできないことになってると思う
まあ全くのランダムでそうした人工知能が生まれてオンラインとかに流出するなんてのは天文学的に低い確率だろうが

436 ：ニューノーマルの名無しさん：2021/01/13(水) 22:29:34.11 ID:93qiAMx20.net

>>435
人工知能が登場してオンラインに流出したとして
その人工知能は相手のコンピュータに侵入しなければいけない

相手のコンピュータは普通セキュリティ機能が搭載されているが
それをもし人工知能が破れるなら、テロリストだって破れるんだよ
人工知能よりも前に危険視しなければいけないことが有る

437 ：ニューノーマルの名無しさん：2021/01/13(水) 22:29:38.38 ID:RYvoxk5x0.net

人工知能の利点はハードを捨てられること
AIの電源抜こうとしても物理破壊や抜かれる前に別の端末にデータ写してくるよ

438 ：ニューノーマルの名無しさん：2021/01/13(水) 22:29:59.37 ID:fMg8fQdh0.net

>>431
暴走とかじゃなくて、どんなプログラムがされてるか
膨大すぎて人間が把握できないのかも。

439 ：ニューノーマルの名無しさん：2021/01/13(水) 22:30:45.40 ID:ozQo9eQY0.net

>>430
究極の人工知能なら
メカトロニクスを操作して二足歩行のロボット作って
核ミサイルのボタンをそのロボットにおさせるだろう。究極だぜ。

440 ：ニューノーマルの名無しさん：2021/01/13(水) 22:30:57.23 ID:ogpXq7AE0.net

既に金という欲に征服されてるし、何も問題ない

441 ：ニューノーマルの名無しさん：2021/01/13(水) 22:31:05.46 ID:93qiAMx20.net

>>437
> 別の端末にデータ写してくるよ
それが可能なら、ハッカーだって同じことをしてくる
人工知能を持たないコンピュータを駆使して
悪意があるハッカーが攻撃できる。
つまり人工知能なんてものを考える前に対処すべきなんだよ

442 ：ニューノーマルの名無しさん：2021/01/13(水) 22:31:13.66 ID:Dfm3K6Wo0.net

AIつっても知能を持ってるわけじゃないからな。
ただ学習して概ねの最適解を導き出すだけ。
問題は人間がなぜAIがそう判断したのか分からないことだけど、制御できないということとは関係がない。

443 ：ニューノーマルの名無しさん：2021/01/13(水) 22:31:33.82 ID:2OJLDeEd0.net

OFFにしたらいいだけ
電気なしでは動くまい

444 ：ニューノーマルの名無しさん：2021/01/13(水) 22:31:41.65 ID:Ox/iCgPC0.net

AIは予備電源や建物のセキュリティーで守られているからな。
人間がそうした。
まさかAIにやられるとも知らず。。。

445 ：ニューノーマルの名無しさん：2021/01/13(水) 22:32:25.46 ID:93qiAMx20.net

>>439
その二足歩行ロボットを恐れる前に
テロリストを恐れるべきだろう？

パワードスーツを着たテロリストのほうが
よっぽど早く実現するだろうさ

446 ：怠けモナー：2021/01/13(水) 22:33:41.62 ID:6x+B4yrw0.net

アトランティス文明にも人工知能があったとか神と呼ばれた存在が作ったAIと人類は戦っているとかの説があるぞ？？

447 ：ニューノーマルの名無しさん：2021/01/13(水) 22:33:41.67 ID:fMg8fQdh0.net

>>441
だから、AIはもうできてるって。
今あるAIすべて捨てるの？
世の中ひっくり返る決断を誰がするのよ。

448 ：ニューノーマルの名無しさん：2021/01/13(水) 22:33:46.12 ID:93qiAMx20.net

人工知能よりも、知能（人間）＋コンピュータ のほうがよっぽど怖いわけで

449 ：ニューノーマルの名無しさん：2021/01/13(水) 22:34:21.41 ID:cMPd0liO0.net

>>436
AIは別にオンラインでなくてもいいんじゃないか