【セキュリティー】顔認識のＡＩ別のＡＩ悪用で顔データ再現の恐れ

みつを ★

https://www3.nhk.or.jp/news/html/20180219/k10011335121000.html?utm_int=news-new_contents_list-items_019

2月19日 18時31分
特定の人の顔を認識するという人工知能＝ＡＩの技術は、ロックの解除などさまざまなところで活用が広がっています。ところが、第三者が別のＡＩを悪用すると顔のデータを再現できてしまうおそれがあるとする実験結果を筑波大学の研究グループがまとめ、なりすましなどへのセキュリティーのあり方に一石を投じています。

ＡＩをめぐっては、特定の人の顔を見分ける顔認証の技術が急速に進歩していて、コンピューターのロックなどに導入されているほか、将来的にはさまざまな本人確認などへの応用も検討されています。

これに対し、筑波大学人工知能科学センターの佐久間淳教授の研究グループは、特定の人の顔を学習したＡＩを別のＡＩに攻撃させ、学習した顔を類推させる実験を行いました。

攻撃側のＡＩは、まず適当な画像を作り出して攻撃対象のＡＩに見せます。そして、学習した人の顔とどれくらい似ていると攻撃対象が識別したかを読み取ります。そのうえで、得られた結果をもとに顔を類推し、より似せた画像を作るという作業を高速で繰り返しました。

その結果、攻撃側が作った画像は初めは意味をなさないものでしたが、学習した人の顔に急速に似ていき、２日後には攻撃対象のＡＩも本人と認識するレベルになったということです。

通常はＡＩのプログラムを攻撃側が読み込むことは難しいため、直ちに悪用されるわけではありませんが、研究グループでは、何者かがＡＩをハッキングすれば本人の顔を再現できてしまうほか、将来的には顔認証が突破されるリスクも懸念されるとしています。

佐久間教授は「これまでＡＩの開発では学習データが第三者に見られることは想定していなかった。データの中には企業の非公表の情報や個人の顔などもあり、情報が漏えいするリスクへの対応が必要だ」と話しています。

活用進むＡＩの画像認識

人工知能＝ＡＩによる画像認識の技術は身近なところで活用が始まっています。

アメリカのＩＴ企業、アップルの最新のスマートフォン「ｉＰｈｏｎｅＸ」は、ＡＩを使って顔を見分け、持ち主しかロックを解除できない技術が搭載されています。

アメリカのハンバーガーチェーンでは、ＡＩが顔を認識して購入履歴からおすすめの商品を示したり、自動的に支払いを済ませたりする実験を行っています。

顔認証以外のものも含めると、車の自動運転で危険物を察知したり、病気の診断の支援に応用したりするなど画像認識の技術はさまざまな分野で活用が期待されています。

情報漏えいのリスクとは

人工知能＝ＡＩが学習した人の顔などの画像データが第三者に再現されてしまうとどのようなリスクがあるのでしょうか。

今回の研究を行った佐久間教授によりますと、ＡＩのプログラムが攻撃者の手にわたってしまうと、所有者の顔が知られるなどの個人情報の保護をめぐる問題が起きるおそれがあるということです。

また、第三者が本人になりすまして顔認証を突破してしまうと、その機器を自由に操作されてしまうセキュリティー上の問題も懸念されるということです。

佐久間教授は、今回の実験はさまざまな条件の下で行われているため、直ちに悪用されるリスクは考えにくいとしたうえで、万が一に備えた対策を検討していく必要があるとしています。

東京大学松尾豊特任准教授「問題一つ一つ解決を」

人工知能＝ＡＩの画像認識をめぐっては、今回の実験のほかにもさまざまな課題が指摘されています。

その一つが、物を誤って認識する問題です。

マサチューセッツ工科大学の研究グループは、現状のＡＩが抱える画像認識の課題を突き、特殊な「亀」の模型を作りました。
するとＡＩはこの模型を「銃」と認識したということです。

また、ワシントン大学は、交通標識の模型にあるステッカーを貼ると、「一時停止」の標識をＡＩが「速度規制」と誤って認識することを実験で示しています。

人工知能に詳しい東京大学の松尾豊特任准教授は「これまでＡＩそのもののぜい弱性についてはあまり議論されてこなかった。ＡＩはまだ発展途上であり、セキュリティーの懸念など、さまざまな問題を一つ一つ解決しながら技術を前に進めていく必要がある」と指摘しています。

【セキュリティー】顔認識のＡＩ 別のＡＩ悪用で顔データ再現の恐れ

【セキュリティー】顔認識のＡＩ別のＡＩ悪用で顔データ再現の恐れ