(強いAI)技術的特異点/シンギュラリティ162

オーバーテクナナシー

>>300
A：人間レヴェルのAIが実現したら、われわれの生活はどうなるでしょう？

B：自分のコピーをいくつもつくれるようになるわけですよね。ということは、自分のコピーをマインドアップロードして、コンピューターネットワークのなかで生活させることもできます。
このコピーに自らを書き換えて改良を加えさせれば、それは急速に賢くなっていくわけです。さらにまた別のコピーをつくって、そちらには古きよき人間のあり方を踏襲してもらう。
ただし、病気や死といった問題は削除し、記憶容量を少し増やすといった変更を加えたうえでですが。

面白いのは、マインドアップロードしたほうのコピーは、たった5秒であなたよりはるかに賢いスーパーヒューマンヴァージョンになって帰ってくるということなんです。それはあなたが理解もできない方法で物事に対処していくでしょう。
一方、古きよき人間ヴァージョンのコピーは、たった5秒で不老不死の神のような存在になります。そんななか、あなたは普通の人間としての人生を歩む。

この状態を例えるとすれば、国立公園のリスでしょう。国立公園の外にいる人間は、園内で暮らすリスや鳥の日常にはまったく関与しません。リスの食料やすみか、繁殖相手について人間は指図しませんよね（笑）。
でも、リスが国立公園の外に出たら、クルマにひかれてしまうかもしれない。リスの間に病気がはやりだしたら、人間が介入して何らかの策を講ずるかもしれない。それでもリスは好きなように生きてください、というのが基本的なスタンスです。

コピーのいる世界において、地球全体が国立公園になり、人間はリスになります。超人的なAIコピーたちが提供する技術を利用する一方で、恋愛や日常生活に対してAIは関与しません。
「子どもは学校に行くべきか」「何曜日に何ゴミの日にするか」といった日常生活にかかわる決定を下すのはAIではなく、人間の政府関係者です。
でも、もしある人間がほかの人間を殺し始めたら、AIが介入してくるかもしれません。