(強いAI)技術的特異点/シンギュラリティ67

オーバーテクナナシー

>>712
意識があるようにしか見えないのに実際には意識を持っていないということが
そもそも成り立つのかどうか。これは昔から哲学的ゾンビという形で議論されていることだよ。
哲学的ゾンビ、魂だけ死んじゃったけど外から行動を見るかぎりどう見ても普通にしか見えないゾンビ。
そんなものは存在し得るのか。魂ってなんじゃい！という議論。

意識があるようにしか見えないのだったら、それはもう社会的には人なんだよ。
生体と機械の区別があるとか生まれた由来によるとか、生物学的分類も重要だけど、
そこに拘りすぎると生体由来でも人工的な体外受精はどうなるのかとか、
生殖能力を失った人はどうなるのかとか、いろいろ問題が出てきてしまうから、
肉体の素材が何であれ、生まれの由来がどうであれ、意識があるようにしか見えないなら、
それはもう人として扱わなければならない。

人は他人とコミュニケーションを図るときに、そもそも本当の本当に相手は「魂」を持った人なのか、
確かめてからじゃないと話もできないなんてことはない。通常、ひとまずは意識があるように見えるなぁと、
謂わば“擬人的”に相手を見て、うまく会話が成立したらしたでそのまま会話を続けるということをしている。
本当に擬人的な話が通用する相手と、擬人的に見る・扱うがしかし本当にそのままでは通用しない何か
（つまり擬似・擬人的）なものを区別しているにすぎない。

これはたとえばクワインが提示した根底的翻訳の不可能性のテーゼの話と重なってくる。
厳密に絶対的に突きあわせて解答となるような形で異なる言語の翻訳をできるのだろうか、
否、それはできない。事実上の解釈というものがどうしても不可欠であって、
解釈の余地のないような、つまり文脈に依存した相互解釈循環ではないような形の
根底的翻訳というものはできないだろうという話。