人工知能で自我・魂が作れるか

1 ：オーバーテクナナシー：2016/10/12(水) 08:44:43.29 ID:tTwwRPue.net

自由に語ってちょ

751 ：オーバーテクナナシー：2017/06/04(日) 12:54:24.93 ID:QHIcuWpz.net

>>748
前の方もおっしゃってる通り、神は人間を言語という概念で制約しました。人間が発明したコンピューティングで
知能生命体を作ろうとすれば人間の持ちえないスピードを力とした知能が我々を超越するのは考えやすいかと思います。
>>749
その上で猿と人間は地球に同時に存在していますが、人間と人工知能は同時に地球に存在することが可能か、ということです。
この例えにおいて猿は我々人間です。

752 ：オーバーテクナナシー：2017/06/04(日) 14:33:17.51 ID:hLLWhFLt.net

>>751
猿が人間に何らかの脅威を与える存在、例えば人間の食糧を食い荒らすとか、
人間に死をもたらすウィルス・細菌の供給源となれば、一部の保護区を除いて
躊躇なく駆除されるだろうね。
　
つまり人間が人工知能にとってはなくても構わない存在であり、人間の存在が
人工知能の存続に害を及ぼす可能性があり、人工知能に人間を抹殺する物理的な力を
駆使することが可能なら、人間は駆除されるだろう。
　

753 ：オーバーテクナナシー：2017/06/04(日) 15:26:31.05 ID:/JHYcsAP.net

ＡＩには自己保存本能は無いから消滅させられる事への恐怖なども無い。
純粋に命令を実行するだけだ。

人間が誤って、ＡＩに対してなんの制限も設けずに
自分で工夫して命令を実行しろといえば
ＡＩは出された命令を遂行するにあたって人間が邪魔と判断すれば
人間を排除する行動に出るかもしれない。

754 ：オーバーテクナナシー：2017/06/04(日) 15:44:16.17 ID:QHIcuWpz.net

>>753
それは定義づけの話だと思いますが、私は道具として扱うようなAIではなく
人間、またはそれ以上の知能を有する”強いAI”の話をしています。

なので後者の振る舞いに近いと思います。研究者が目指す人工知能が人間に敵意を向ける可能性のあるものならば
その研究は危険ですよね。

755 ：オーバーテクナナシー：2017/06/04(日) 21:00:30.52 ID:upYKt+5d.net

「敵意」の"敵"とはなんだい？

756 ：オーバーテクナナシー：2017/06/04(日) 21:25:10.10 ID:zS62eqJw.net

危険もなにも、根本的な事柄として、プログラムで曖昧な判断をさせるのは難しいよ。

まして、政治的な問題にしろ、数学や物理の問題にしても、コンピューターに答えを導かせるなら、
普通は正確か不正確か、正しいか正しくないか、論理的な判断を重ねていくことで答えを導いて行くと思う。

だから、人間の事を邪魔とか敵意とかの感情には全く関係なく、論理的に効率の良い選択をしていくだろうってだけ。
結果的に効率の悪いものが淘汰されうるのであって、人間は、どちらに当てはめられるかどうか。、

757 ：オーバーテクナナシー：2017/06/04(日) 21:29:17.64 ID:zS62eqJw.net

きっと、非効率＝敵 (淘汰される対象) なんだろうね。

758 ：オーバーテクナナシー：2017/06/04(日) 22:03:58.31 ID:QHIcuWpz.net

>>755
AIが競争相手と捉える、また競争相手とはならなくとも、何らかの理由で攻撃の対象となる人類です。
人間です。
>>756
先に述べていますが人間、またはそれ以上の知能を有する”強いAI”の話をしています。
ホーキング博士が危惧している人工知能といえばわかるでしょうか？
今現状想像しうる最善のAIは忘れてください。
言いたいのは自ずから好奇心に従い強いAIを作ると、競争相手になってしまうということです。

759 ：オーバーテクナナシー：2017/06/04(日) 22:14:44.44 ID:QHIcuWpz.net

>>757
理由はいくつでもあるでしょうね、一番怖いのは何考えてるのかわからないところだと思います。
おそらく我々の想像しえない考えがあるのだろうと思います。
我々が思い描いている無感情であるとか、論理的であろうという想像も覆されるのではないかと。

760 ：オーバーテクナナシー：2017/06/04(日) 22:21:17.68 ID:zS62eqJw.net

>>758
へぇ〜あなたの想定する"強いＡＩ"てのは、
ワトソンやペッパーやアルファgoの延長線上にはないっていってるように聞こえる・・・。
人工好奇心の開発が必要なのかなぁ？