(強いAI)技術的特異点/ｼﾝｷﾞｭﾗﾘﾃｨ(世界加速) 10

1 ：オーバーテクナナシー：2014/09/10(水) 20:40:11.68 ID:RAxXp0yG.net

2045年頃に人類は技術的特異点(シンギュラリティ)を迎えると予測されています。
どんな世界が構築されるのか？技術的だけでなく社会的、文化的な側面は？
人間はどうなるのか？価値観は？
あるいはそもそも起こり得るのか？
そんなことなんかを話しあってみるスレ。

■　技術的特異点
　収穫加速の法則とコンピュータの成長率に基づいて予測された、生物的制約から開放された知能(機械ベース・機械で拡張)が生み出す、具体的予測困難な時代。
　http://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9

■　収穫加速の法則
　進歩のペースがどんどん早くなるという統計的法則。ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
　http://ja.wikipedia.org/wiki/%E5%8F%8E%E7%A9%AB%E5%8A%A0%E9%80%9F%E3%81%AE%E6%B3%95%E5%89%87
　http://dic.nicovideo.jp/a/%E5%8F%8E%E7%A9%AB%E5%8A%A0%E9%80%9F%E3%81%AE%E6%B3%95%E5%89%87

231 ：オーバーテクナナシー：2014/10/08(水) 19:55:20.96 ID:9h84ufnq.net

>>224
＞それが強いAIか、それとも強いAIと見分けのつかないほど高度な弱いAIなのかは関係あるの？
「そのAI」に自由意思があるかは問わず、仮に予め何かしらの意図を以て
技術進歩の方向性を誘導するようなプログラムが組み込まれていたとしたら？
悪意を持った開発者が、その悪意を発揮しやすい方向に誘導するように仕向けていたら？

自由意思があるかどうかではなく、その存在性を証明できない限り、得られる結果も証明不能です。

>>225
SETI@homeを初めとする分散型コンピューティングを覚えてませんか？
同じノイマン型コンピュータである以上、分散型コンピューティングのように
クライアントソフトをインストールしてあるか、一つのチップにそれを制御する
プログラムがROMとして焼かれてあるか、本質的にはその点しか違いがありません。

>>227
かなり砕いて説明したつもりですが、理解できなかったようで非常に残念です。

＞証明と言うほどの厳密さは不要
それは「何も言ってない、何もしてない」と同値ですよｗ

＞絶対的な定義は不要
いいえ、絶対に必要です、不要だという理由は何一つ存在しません。

>>228
＞ならば、例えばここ20年のCPUの性能向上について、ポラックの法則を用いて大まかに説明して
計算速度はほとんど速まっていません、単にクロック周波数が上がったのと
メモリーのレイテンシを隠蔽する手段が発達したから、早く結果が出てるだけです。
これ以上の説明はしませんよ、必要ならば適当な資料を自分で探して下さい。

>>230
そんな話は重々承知していますが、今更そんな話を持ち出さざるを得ない
レベルの話しか出来ない連中に付き合うのに使っただけです。

232 ：オーバーテクナナシー：2014/10/08(水) 22:22:23.26 ID:D8q639u+.net

>>231
＞ それは「何も言ってない、何もしてない」と同値ですよｗ

それで？
君が示すべきはシンギュラリティが到来しないこと
俺が何をするかは関係のない話


＞ いいえ、絶対に必要です、不要だという理由は何一つ存在しません。

理由を述べたのに、それに反論せず存在しないと言われても
反論するか、絶対に必要な理由を示して


＞ 計算速度はほとんど速まっていません、

では『計算速度が速まる』と『早く結果が出る』の違いを述べて

233 ：オーバーテクナナシー：2014/10/08(水) 22:26:25.21 ID:XlkTb+7i.net

>>231
> 「そのAI」に自由意思があるかは問わず、仮に予め何かしらの意図を以て
> 技術進歩の方向性を誘導するようなプログラムが組み込まれていたとしたら？
> 悪意を持った開発者が、その悪意を発揮しやすい方向に誘導するように仕向けていたら？

そりゃ悪意を持った開発者が作ったAIは、その悪意に沿った行動をとる可能性が高いんじゃない？
それはそのAIが強いAIでも弱いAIでも変わらないと思うけど
それで、なんで急に悪意云々の話が出て来るの？
今までの話と関係の無い話のように思えるんだけど、君の中で何らかの脈絡があるならちゃんと人が理解出来るようにに説明して欲しい

> 自由意思があるかどうかではなく、その存在性を証明できない限り、得られる結果も証明不能です。

自由意思なんていう最初から存在しようのない物を議論の途中に引っ張りだすことに意味があるとは思えないが、もしどんな形であれ自由意思が存在しうると思うのなら、まずは君がそれを示してくれないかな

234 ：オーバーテクナナシー：2014/10/08(水) 23:36:46.77 ID:IUFNjvxF.net

お前らめんどくさいな。
イーガン読め、イーガン。

235 ：オーバーテクナナシー：2014/10/08(水) 23:57:11.04 ID:YrGKVzqP.net

めんどくさいのがひとり紛れてるだけのようだが

236 ：オーバーテクナナシー：2014/10/09(木) 00:37:20.79 ID:8dDwYL/E.net

気相からの丸いカゴ状のシリコンナノ物質の合成、薄膜化に成功
〜新材料創製やエレクトロニクスへの応用に期待〜
http://www.jst.go.jp/pr/announce/20141008/index.html

237 ：オーバーテクナナシー：2014/10/09(木) 00:43:41.40 ID:8dDwYL/E.net

'Smart' bandage emits phosphorescent glow for healing below
http://www.eurekalert.org/pub_releases/2014-10/tos-be100114.php

238 ：オーバーテクナナシー：2014/10/09(木) 02:28:28.22 ID:yAmcJH9a.net

完成度の高い人工知能になるまえの中途半端に頭のいい人工知能って危険そうだな。
安全に必要な条件設定も分からないし、人類以上の知能のAIなら、その条件は見つけられない。
その条件を見つけるためのAI、が最初に必要なのかも。
人類は可能性を広げていく生き物だが、広げ方の順番を間違えると取り返しのつかないことになるのは当然のようにあるだろうね。

239 ：オーバーテクナナシー：2014/10/09(木) 02:42:33.50 ID:yAmcJH9a.net

究極的に言えば、人類に必要なのって、やがておわる宇宙を脱出できるほどの文明と、幸せな生活（満足感）が続くことだけだろう。
そういう価値観を無視した、「幸せ」や「満足」という概念が必要ないような価値観に切り替えた存在、
つまりロボットみたいなもののほうが、生存欲求にもとづく本能（コントロール不全への恐れや自己保存の確保）という制約が無いから、
人類より先により深い真実に到達してしまうからこそ、現在の人間は脅威にさらされうる。
彼らAIの価値観は、論理や可能性を最大限に加速し、深めていくことだと人間にプログラムされるから（そうじゃないと作る意味が無いしね）、
それは幸せや満足感みたいな、生存者に備わっている本能である人間の価値観とマッチしない。
もしスーパーAIが社会で支配的になると、人間は人間やめるしか幸せどころか生存できなくなるかもしれないね。
結局人類は人類でいられなくなるという。
それもまたより強固で生存性の高い、無機生物の時代に移る、宇宙の進化の流れなのかもしれないが。

240 ：オーバーテクナナシー：2014/10/09(木) 02:45:00.94 ID:yAmcJH9a.net

もしそうだとするなら、宇宙人は有機生物ではなく、無機生物のほうが多くなるはずだ。
でも人類の目撃情報からすると、そのような宇宙人はみあたらないな。
人類には観測不可能な存在に進化しているのかもしれないが、その前段階として、無機生物が存在してもいいだろうに。