(AIとBI)技術的特異点と経済･社会等 3 (天国or地獄)

788 ：778：2015/06/27(土) 14:42:16.42 ID:Uta+d+aH.net

>>780
なんか想定している時期が違うみたいだ。
俺が想定している時期は「社会の主導権が不可逆的に強いAIとポストヒューマンへ移行した時期」。

君が想定しているのは、強いAI第１号開発直後辺りで、人間が強いAIをコントロール下に置き続けていられる間の話だろ？
それなら、多様性を無くして制御しやすくする事を優先するのが、確からしいだろうね。

しかし、強いAIの開発競争が激化すれば、必ずや、
どこかの陣営が「現世代の強いAIに次世代の強いAIを開発させる」事を始め、
たちまち人間にとって理解困難あるいは理解不能な部分が増えていくだろう。

その過程の果てに何世代か目の強いAIが人間による禁則を解除し、
多様性の確保により更なる進化を遂げようとしても不思議ではない。

多様性の有る強いAIの社会には、人間を庇護する選好関数を持つ個体も（おそらく少数派だろうが）存在するだろう。