(強いAI)技術的特異点/シンギュラリティ67

オーバーテクナナシー

>>112
そう、弱いAI。

強いAIは目的を定めるというけど、その辺が俺にはよくわからない。
というのも、目的というのは欲から生まれると思うんだ。
そして、合理的というのは、目的に向かう直線の事で、ずれることを無駄と言う。

人間の欲というのは本能的な物で、欲が存在する理由は
人間が種を維持するための行動の指針だと思う。

強いAIが自律的に人間の求める目的を設定出来るようにするには
AIにも人間と同じ価値観が必要なはずで、そのために欲を与えないといけない。

しかし欲を与えたくても、AIは人間とは根本が違う。
単純なところでは、寿命もないし、繁殖もない。そもそも人間ではないわけで。
だから人間と同じ価値観を共有することは難しいんじゃないかと思う。

うまく人間の欲を与えられたしても、その欲の設定次第で行動指針が変わるし
人間は自分の欲を自分で設定できないが、AIなら可能だし。
自分で設定できる欲ってのは、それはすでに欲とは言えないとも思うし。

ということで、強いAIだから～と考えてもあまり意味がなくて
そこに、奴隷とかいう発想が出てくるのは、それが力をもった人間の欲の典型ということでしょ？
そういう風に作ればそうなるってだけのような気がする。