【技術】米ＭＩＴ、「サイコパス」アルゴリズムを開発　ＡＩを活用

1 ：みつを ★：2018/06/08(金) 16:15:46.13 ID:CAP_USER9.net

https://www.cnn.co.jp/m/tech/35120545.html

2018.06.08 Fri posted at 15:51 JST
ニューヨーク（ＣＮＮＭｏｎｅｙ） 米マサチューセッツ工科大学（ＭＩＴ）メディアラボは８日までに、人工知能（ＡＩ）を活用した「サイコパス」アルゴリズムを開発したと明らかにした。

アルゴリズムの名前は「ノーマン」。アルフレッド・ヒッチコック監督の映画「サイコ」の主要登場人物にちなみ命名された。ＡＩの背後にあるデータの重要性を示すのが狙いだ。

ＭＩＴの研究者はノーマンの訓練にあたり、死者などに関する生々しい画像や動画の内容を説明する文章を使用した。画像や動画は米掲示板サイト「レディット」の「最もダークな片隅」に投稿されたものだ。

そのうえで、ロールシャッハ心理テストで使われるインクのしみに対してノーマンがどのように反応するかを調査。通常の訓練を受けた別のアルゴリズムの反応と比較した。このアルゴリズムはインクのしみの中に花や結婚式のケーキを見いだしたが、ノーマンは人間が射殺されたり、車でひき殺されたりする様子を見て取ったという。

ＭＩＴの研究チームはＣＮＮＭｏｎｅｙの取材に、「ノーマンは画像に関する恐ろしい文章だけに接していたため、どのようなイメージを見ても死を連想してしまう」と説明した。

機械学習アルゴリズムに偏ったデータが使われ、ＡＩが誤った方向に進んだ場合の危険性を物語っているという。

ＡＩの善良さはデータ次第ということを示す例としては、米マイクロソフトが２０１６年に公開したツイッターのチャットボット「Ｔａｙ（テイ）」がある。マイクロソフトの広報担当は当時、テイについて社会的・文化的・技術的な実験と説明。しかしツイッターのユーザーがテイを挑発し、人種差別的で不適切な発言をするように仕向けた。

偏ったデータを使用し、死や殺人など暗いイメージのみを連想するアルゴリズムを開発
https://www.cnn.co.jp/storage/2018/06/08/985a94ce5215311568573605db8c0dbd/t/320/208/d/norman-ai-mit-media-lab.JPG