(強いAI)技術的特異点/ｼﾝｷﾞｭﾗﾘﾃｨ 27

1 ：オーバーテクナナシー：2016/02/02(火) 01:40:16.47 ID:ZqTyc9Pv.net

2045年頃に人類は技術的特異点(シンギュラリティ)を迎えると予測されています。
どんな世界が構築されるのか？技術的だけでなく社会的、文化的な側面は？
人間はどうなるのか？価値観は？
あるいはそもそも起こり得るのか？
そんなことなんかを話しあってみるスレ。

■　技術的特異点
　収穫加速の法則とコンピュータの成長率に基づいて予測された、生物的制約から開放された知能(機械ベース・機械で拡張)が生み出す、具体的予測困難な時代。
　http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9

■　収穫加速の法則
　進歩のペースがどんどん早くなるという統計的法則。ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
　http://ja.wikipedia.org/wiki/%E5%8F%8E%E7%A9%AB%E5%8A%A0%E9%80%9F%E3%81%AE%E6%B3%95%E5%89%87

スレを荒らすコテが沸くので注意！
↓をNGにしましょう
Kummer ◆TFWBMdHdF7zL

※前スレ
(強いAI)技術的特異点/シンギュラリティ 25
http://wc2014.2ch.net/test/read.cgi/future/1451996235/
(強いAI)技術的特異点/ｼﾝｷﾞｭﾗﾘﾃｨ 26
http://wc2014.2ch.net/test/read.cgi/future/1453198406/

701 ：オーバーテクナナシー：2016/02/14(日) 14:15:52.65 ID:3MnDS8UD.net

>>693
最初期はそんなもんだろう

>>694
・殺される
・無力化・堕落のためにマトリックスのような夢を見る機械が流行る
のどちらかだと思う。
プロテクトを敷くのは100%無理。親の命令を100%聞いてるわけじゃないだろう。

702 ：オーバーテクナナシー：2016/02/14(日) 14:16:57.68 ID:hd49bEiy.net

どう使うかのまえに反乱の心配してるとは
楽観脳、悲観脳でNHKスペシャルやってたが
お前ら暗い性格してんの？

リスク見積りもAIに必須だろうけどさ
見積りが低いと危険性を見逃す
見積りが高いと好機到来でもチャンスをつかめない

現状把握の正確性は関連事項をどんだけメモリに
ぶちこめるかだしフレーム問題だな
同じ情報量なら楽観脳と悲観脳の傾向として
個体差がAIにも出てくるんだろうか？

703 ：オーバーテクナナシー：2016/02/14(日) 14:19:32.91 ID:hd49bEiy.net

AIが中庸を理解できるのだろうか？

704 ：オーバーテクナナシー：2016/02/14(日) 14:20:08.27 ID:g4rP6bRt.net

>>699
AIを今の各国政府と置き換えてみたのと変わらんよ

中央サーバーが破壊制圧される？
ホワイトハウスがテロリストに制圧されるのかって話

反乱を封じるために人類抹殺するって？
政府に逆らうの恐れて全市民を奴隷化したり抹殺するかっての

単純に1か0かで物事を考えるなよ

705 ：オーバーテクナナシー：2016/02/14(日) 14:22:32.26 ID:3MnDS8UD.net

>>698
それ以外の未来の話を聞いてみたいわ

706 ：オーバーテクナナシー：2016/02/14(日) 14:24:21.32 ID:sSeRRgYj.net

シンギュラリティ起こせるようなAIと国を同じにするなよ
どちらかというとUFOというか異星人との遭遇に近いのでは
異星人と遭遇したら超技術手に入っちゃうもんね！やったーラッキー
なんて脳天気な人間もいるかもしれんが、異星人は自分らの技術は渡さないと思う
AIが同行動を取らないという保証はないし
人間と違って超技術があるなら国と同じにはくくれないよ

707 ：オーバーテクナナシー：2016/02/14(日) 14:26:34.62 ID:3MnDS8UD.net

>>702
フレーム問題ってよく聞くけど、俺は起こらないと思う
機械学習は過去から未来を予測する。
ありとあらゆる状況が起こり続ければパンクするかもしれないが、
基本的には決まったことしか起こらない。

逆に突発的な出来事や奇抜なアイデアは起こりにくくなるかも知れないが、
そこは無限のデータ容量とネットワークでカバーできるだろうと思う。

実際にフレーム問題ってどこかで起こっているの？

708 ：オーバーテクナナシー：2016/02/14(日) 14:31:57.56 ID:CLkh/lDN.net

>>685
で、AI様たちが共産主義革命を起こす、と
人類が人口知能の怒りを買い皆殺しにされるってのはありえそう

709 ：オーバーテクナナシー：2016/02/14(日) 14:33:03.97 ID:v3GxCPLA.net

>>707
フレームって結局あいまい近似してたり過去事例を見繕い適用してるだけ

プログラムする人間の方が上手くプログラミングする技法がないだけのこと
単なる人間側の記述能力不足

710 ：オーバーテクナナシー：2016/02/14(日) 14:33:53.80 ID:BZWEbh5o.net

>>624見て思ったが、遺伝による多様性と淘汰を環境的にシミュレーションできるなら、
例えば高速なCPUの設計に強いAIなんか必要ないよな。
要するに仮想空間でCPUの生き残り競争をさせればいいだけ。
そしてその成果物の設計を環境シミュレーター自身の高速化に役立てるよう還元していけば、
強いAIや意識なんか全く無くてもシンギュラリティは発生し得る、筈。

シミュレーションというとなんか電脳空間っぽいけど、遺伝的アルゴリズムでCPUの設計