2ちゃんねる スマホ用 ■掲示板に戻る■ 全部 1- 最新50    

■ このスレッドは過去ログ倉庫に格納されています

【セキュリティー】顔認識のAI 別のAI悪用で顔データ再現の恐れ

1 :みつを ★:2018/02/19(月) 23:07:52.55 ID:CAP_USER9.net
https://www3.nhk.or.jp/news/html/20180219/k10011335121000.html?utm_int=news-new_contents_list-items_019

2月19日 18時31分
特定の人の顔を認識するという人工知能=AIの技術は、ロックの解除などさまざまなところで活用が広がっています。ところが、第三者が別のAIを悪用すると顔のデータを再現できてしまうおそれがあるとする実験結果を筑波大学の研究グループがまとめ、なりすましなどへのセキュリティーのあり方に一石を投じています。

AIをめぐっては、特定の人の顔を見分ける顔認証の技術が急速に進歩していて、コンピューターのロックなどに導入されているほか、将来的にはさまざまな本人確認などへの応用も検討されています。

これに対し、筑波大学人工知能科学センターの佐久間淳教授の研究グループは、特定の人の顔を学習したAIを別のAIに攻撃させ、学習した顔を類推させる実験を行いました。

攻撃側のAIは、まず適当な画像を作り出して攻撃対象のAIに見せます。そして、学習した人の顔とどれくらい似ていると攻撃対象が識別したかを読み取ります。そのうえで、得られた結果をもとに顔を類推し、より似せた画像を作るという作業を高速で繰り返しました。

その結果、攻撃側が作った画像は初めは意味をなさないものでしたが、学習した人の顔に急速に似ていき、2日後には攻撃対象のAIも本人と認識するレベルになったということです。

通常はAIのプログラムを攻撃側が読み込むことは難しいため、直ちに悪用されるわけではありませんが、研究グループでは、何者かがAIをハッキングすれば本人の顔を再現できてしまうほか、将来的には顔認証が突破されるリスクも懸念されるとしています。

佐久間教授は「これまでAIの開発では学習データが第三者に見られることは想定していなかった。データの中には企業の非公表の情報や個人の顔などもあり、情報が漏えいするリスクへの対応が必要だ」と話しています。

活用進むAIの画像認識

人工知能=AIによる画像認識の技術は身近なところで活用が始まっています。

アメリカのIT企業、アップルの最新のスマートフォン「iPhoneX」は、AIを使って顔を見分け、持ち主しかロックを解除できない技術が搭載されています。

アメリカのハンバーガーチェーンでは、AIが顔を認識して購入履歴からおすすめの商品を示したり、自動的に支払いを済ませたりする実験を行っています。

顔認証以外のものも含めると、車の自動運転で危険物を察知したり、病気の診断の支援に応用したりするなど画像認識の技術はさまざまな分野で活用が期待されています。

情報漏えいのリスクとは

人工知能=AIが学習した人の顔などの画像データが第三者に再現されてしまうとどのようなリスクがあるのでしょうか。

今回の研究を行った佐久間教授によりますと、AIのプログラムが攻撃者の手にわたってしまうと、所有者の顔が知られるなどの個人情報の保護をめぐる問題が起きるおそれがあるということです。

また、第三者が本人になりすまして顔認証を突破してしまうと、その機器を自由に操作されてしまうセキュリティー上の問題も懸念されるということです。

佐久間教授は、今回の実験はさまざまな条件の下で行われているため、直ちに悪用されるリスクは考えにくいとしたうえで、万が一に備えた対策を検討していく必要があるとしています。

東京大学 松尾豊特任准教授「問題一つ一つ解決を」

人工知能=AIの画像認識をめぐっては、今回の実験のほかにもさまざまな課題が指摘されています。

その一つが、物を誤って認識する問題です。

マサチューセッツ工科大学の研究グループは、現状のAIが抱える画像認識の課題を突き、特殊な「亀」の模型を作りました。
するとAIはこの模型を「銃」と認識したということです。

また、ワシントン大学は、交通標識の模型にあるステッカーを貼ると、「一時停止」の標識をAIが「速度規制」と誤って認識することを実験で示しています。

人工知能に詳しい東京大学の松尾豊特任准教授は「これまでAIそのもののぜい弱性についてはあまり議論されてこなかった。AIはまだ発展途上であり、セキュリティーの懸念など、さまざまな問題を一つ一つ解決しながら技術を前に進めていく必要がある」と指摘しています。

2 :名無しさん@1周年:2018/02/19(月) 23:08:41.83 ID:+zA+undd0.net
もうだめだおしまいだ

3 :名無しさん@1周年:2018/02/19(月) 23:09:26.06 ID:sAtiz+Du0.net
僕の銃も先は亀みたいです

4 :名無しさん@1周年:2018/02/19(月) 23:10:24.65 ID:+yM9DJXQ0.net
自分の顔見るの嫌だから、指紋認証のほうがいいでです

5 :名無しさん@1周年:2018/02/19(月) 23:11:38.97 ID:1XPQ2xTr0.net
少なくとも別の生体情報との併用が不可欠だね。

6 :名無しさん@1周年:2018/02/19(月) 23:12:44.57 ID:DwEI8ykw0.net
人間はかやの外
AI対AIの時代か

7 :名無しさん@1周年:2018/02/19(月) 23:12:47.96 ID:Q2VRPeka0.net
行く末は完全管理社会により絶望

8 :名無しさん@1周年:2018/02/19(月) 23:13:26.44 ID:WPBZ1S+a0.net
ア…AIッ!とイルマニア

9 :名無しさん@1周年:2018/02/19(月) 23:16:44.75 ID:j108tVjM0.net
AI「やれ」
AI「はい」

10 :名無しさん@1周年:2018/02/19(月) 23:16:58.22 ID:gSelH0o20.net
AI vs AI -> アイアイ

11 :名無しさん@1周年:2018/02/19(月) 23:17:21.10 ID:eM1TtCkQ0.net
強化学習だね。

12 :名無しさん@1周年:2018/02/19(月) 23:18:11.83 ID:XlFVHpJ/0.net
クラウドAIサービスを利用といって、日本人のデータをamazonやmicrosoftに
渡しているバカ〜 www

13 :名無しさん@1周年:2018/02/19(月) 23:20:03.40 ID:FBBEgEb+0.net
少しずつ劣化していく嫁を毎日見ている俺でさえ、このぐらいは想像つく。

14 :名無しさん@1周年:2018/02/19(月) 23:20:12.63 ID:kUzsYeWX0.net
NECの株価下がるぞこれ

15 :名無しさん@1周年:2018/02/19(月) 23:20:26.65 ID:zq4+bbzY0.net
>>10
お猿さんだよ

16 :名無しさん@1周年:2018/02/19(月) 23:20:54.64 ID:I4xC/K/q0.net
あほな研究だな

17 :名無しさん@1周年:2018/02/19(月) 23:21:25.76 ID:GxuYaYUK0.net
スレタイにあるようにAIよりもむしろセキュリティの問題だな
とりあえず比較点数が得られないことにはこれはできない

18 :名無しさん@1周年:2018/02/19(月) 23:21:31.54 ID:JHbPsVGb0.net
アップルsiriとGoogleアシスタントの会話みたいだなぁw

19 :名無しさん@1周年:2018/02/19(月) 23:22:05.54 ID:OwdKjB0B0.net
>>7
その管理が完全にデジタルなものだったらまだマシだったんだけど
できそこないのAIに権限持たせて誤認識上等じゃ洒落にならん

20 :名無しさん@1周年:2018/02/19(月) 23:22:25.20 ID:CqSCmYM10.net
パチンコの当たり、ハズレを 演出して見てA Iは見破れるのかな。

21 :名無しさん@1周年:2018/02/19(月) 23:23:06.63 ID:XlFVHpJ/0.net
クラウド AI APIをサービスしている企業
Amazon, Google, IBM, Microsoft...
ここへデータを送ったら、全部使われちゃうよ〜www

22 :名無しさん@1周年:2018/02/19(月) 23:23:29.29 ID:M5wSq3Ek0.net
寄生獣はホント名作

23 :名無しさん@1周年:2018/02/19(月) 23:24:23.01 ID:ThZXIoCb0.net
「・・・学習した人の顔とどれくらい似ていると
 攻撃対象が識別したかを読み取ります・・・」

って、簡単に言ってるけど、どうやって読み取るの?
ハッキングとかで言葉を濁すなよ

24 :名無しさん@1周年:2018/02/19(月) 23:30:57.45 ID:N+SIMRDm0.net
合致しているかどうかの0,1じゃなくどのくらい合致しているかの数値まで取れるの?
そこまでできるならもう元のデータを直接取ってこれるんじゃね?

25 :名無しさん@1周年:2018/02/19(月) 23:31:28.27 ID:LBBXQ2Dz0.net
敵対的学習とか前から言ってたじゃん

26 :名無しさん@1周年:2018/02/19(月) 23:32:06.36 ID:194nTe8a0.net
悪のAIかと

27 :名無しさん@1周年:2018/02/19(月) 23:32:40.72 ID:MHP2buCv0.net
昔からSFやスパイ物なんかでよくある話じゃん。

28 :名無しさん@1周年:2018/02/19(月) 23:32:43.80 ID:XlFVHpJ/0.net
★★ 機械学習を勉強したい人へ ★★
1. D君は2枚の金貨を見せられた。
見た目大きさ手ざわり重さは変わりがない。
1枚は本物、コイントスしたときに表裏は50%ずつになる。
1枚は偽物、コイントスしたときに表60%裏40%になる。
D君が目を閉じて一枚取り、コイントスしたところ表が出た。
このときD君が取ったコインが偽物である確率はいくらか?

2. ある実験室で同じ実験をすると、
A君は結果が正規分布で平均40標準偏差は10となった。
B君は結果が正規分布で平均60標準偏差は5だった。
結果が82だったときB君が行った実験である確率はいくらか?

3. あるセンサーで良品と不良品を測定したとき、
良品は1.6±0.05、不良品は1.4±0.1であった。
1.84のとき良品である確率はいくつか?

29 :名無しさん@1周年:2018/02/19(月) 23:33:24.37 ID:1aDtQ+rV0.net
警備員による目視最強の時代がまた来ることになるとは胸熱だな
弁証法的にはあり得ないことじゃない

30 :名無しさん@1周年:2018/02/19(月) 23:38:07.37 ID:ufSPcY1b0.net
ハッキングしたんなら登録してある顔写真をそのまま送った方が早いんでは。

31 :名無しさん@1周年:2018/02/19(月) 23:38:08.86 ID:OwdKjB0B0.net
>>24
ニューラルネットなんだからそれはできない
でも何度も試すと割と早く元のデータに近付くよって話
ハッシュや公開鍵暗号はぴったり一致してないと駄目だけどAIは似てるだけでOK

32 :名無しさん@1周年:2018/02/19(月) 23:40:19.91 ID:pH5jPQj00.net
各国に情報機関がある以上、
こいつはイタチごっこに成らざるを得ん罠

セキュリティを作る側も突破する側も一所懸命だからな。

33 :名無しさん@1周年:2018/02/19(月) 23:41:19.76 ID:xq3o8bXC0.net
そりゃコンピュータのセキュリティなんてのはイタチゴッコだわな

34 :名無しさん@1周年:2018/02/19(月) 23:41:28.39 ID:DoJ/BMZE0.net
デジタルは欠陥だらけ
アナログ的な部分を増やさない限り破綻は目に見えてる

35 :名無しさん@1周年:2018/02/19(月) 23:43:04.14 ID:pH5jPQj00.net
ぶっちゃけ、生体認証自体 便利だけどセキュリティ自体は甘くならざるをえんだろ。
極端な話、指紋認証も掌静脈認証も肝心の鍵の場所がバレバレで奪い去ることが出来るからな。

36 :名無しさん@1周年:2018/02/19(月) 23:44:25.04 ID:/VQLwmDp0.net
>>34
紙とハンコ世代ジャップは黙ってろ

37 :名無しさん@1周年:2018/02/19(月) 23:58:44.13 ID:P0+Hlg+W0.net
( AIハ AI)偽人工知能アルな <AI∀AI;>エセAIニダ (´・ω・`; )

◇世界とアジアの話題
http://ultiman2006.web.fc2.com/index.html 

◇太平洋軍司令】中国との戦争に備えよ! 更に北へも強硬発言相次ぐ

◇習近平爆殺未遂にみる中共のドス黒い背景

◇近平ショック 日本人の中国親近度たった18% インドは一帯一路拒否

38 :名無しさん@1周年:2018/02/20(火) 00:01:23.88 ID:OIxAFSu00.net
>>35
脳波を読み取って念じれば開くみたいなのができたらいいね。

39 :名無しさん@1周年:2018/02/20(火) 00:04:11.98 ID:tKfSJ1KE0.net
全然攻撃じゃないじゃん

40 :名無しさん@1周年:2018/02/20(火) 00:08:03.53 ID:lhSOrzkB0.net
>>39
総当たり攻撃に近い

41 :名無しさん@1周年:2018/02/20(火) 00:09:59.80 ID:HmmJBjrn0.net
いい加減幻想求めてデジタル化するのやめたら?疲れないか?
人間らしさを失ってるよ

42 :名無しさん@1周年:2018/02/20(火) 00:10:48.87 ID:e1/IHFQ70.net
>>34
コインチェックとかでやらかしてるのにな
未来は現金はなくなるとかほざいてるんだぜゆとり共は

43 :名無しさん@1周年:2018/02/20(火) 00:19:23.02 ID:92vglmFD0.net
そもそもどれくらい正解に近いかを返すパスワードシステムなんてない。

44 :名無しさん@1周年:2018/02/20(火) 00:19:37.83 ID:lhSOrzkB0.net
>>41
今はデジタル化じゃなくてコンピュータでアナログ的なことを自動化しようとしてる
というかそれが使い物になるかどうかに関わらずそれをネタに金集めしてる
投資って本来そういう性格のものだ

45 :名無しさん@1周年:2018/02/20(火) 00:24:00.45 ID:t0sOCMeu0.net
AIは危険だから日本ではやめようという広報かな
そろそろ静脈認証くらいで買い物したいぜ

46 :名無しさん@1周年:2018/02/20(火) 00:26:13.29 ID:lhSOrzkB0.net
>>43
ニューラルネットの実態である行列データが流出したら
そのAIで認証しようとしていた顔がばれるってだけ
あちこちで使われだしたら当然流出もあるよ

47 :名無しさん@1周年:2018/02/20(火) 00:35:55.25 ID:92vglmFD0.net
>>46
それは現行のパスワードデータが流出したのと同じだろ。

48 :名無しさん@1周年:2018/02/20(火) 00:36:18.27 ID:pCRDr5N+0.net
なんか知らんが、凄い世の中になってきたなぁ。。。。

49 :名無しさん@1周年:2018/02/20(火) 00:39:27.62 ID:WR9Rx6fy0.net
kaodeta
『人生はリベンジマッチ』

名曲、ユーチューヴ検索

50 :名無しさん@1周年:2018/02/20(火) 00:41:49.73 ID:07Yg5wl80.net
新しいことを産み出さないで、評論家か!?

51 :名無しさん@1周年:2018/02/20(火) 00:42:43.09 ID:lWnG64Zi0.net
>>28の答え
1.確率の比率は以下の通り
          偽物    本物
表が出る     0.3     0.25   0.55
裏が出る     0.2     0.25   0.45
          0.5     0.5    1
表が出た場合、偽物である確率=0.3/0.55=6/11 >1/2
2.Excelを使う
p=NORM.DIST(82, 60, 5, FALSE)/(NORM.DIST(82, 60, 5, FALSE)+
NORM.DIST(82, 40, 10, FALSE))≒0.46 46%

3.同上
p=NORM.DIST(1.84, 1.6, 0.05, FALSE)/(NORM.DIST(1.84, 1.6, 0.05, FALSE)+
NORM.DIST(1.84, 1.4, 0.1, FALSE))≒0.24 24% 不良品の確率が高い。

52 :名無しさん@1周年:2018/02/20(火) 00:46:32.45 ID:lhSOrzkB0.net
>>47
パスワードはハッシュ関数でハッシュ値に変換して保存される
同じパスワードでなければ同じハッシュ値にならず
ハッシュ値から元のパスワードを復元するのは困難なようにできていて
万一流出しても被害を抑えられるようにする

しかしアホなSEにかかるとパスワードを平文で保存してたりするわけだがwww

53 :名無しさん@1周年:2018/02/20(火) 00:53:47.92 ID:lWnG64Zi0.net
>>28の続き
4. 有名なモンティー・ホール問題、
3つのドアのうち1つを選んだら、司会者が残りのドアのうち1つを開けて
ハズレを示した。ドアを変えた方が良いか?
ドアを変えないと1/3、ドアを変えると2/3の確率で当たるから変えた方が
良いというのが一つの答えであるが、これには大きな前提がある。
1.〜3.の問題でも付きまとう、この前提は何か?

54 :名無しさん@1周年:2018/02/20(火) 00:57:15.86 ID:33nCnj+A0.net
>>24
しかも学習のために何万回も攻撃を繰り返すわけだろ?

55 :名無しさん@1周年:2018/02/20(火) 01:32:31.34 ID:YaEJHBCf0.net
これ、AIを使ってブルートフォースより劇的に効率的なりました
って話とは違うんじゃね?

モザイク画像を手に入れました
ぼかしてもシャープにしても元の写真にはなりません・・・が
AIで画像をでっちあげて、それをモザイク化しました
元のモザイクとの差分をAIで類推して、より近いであろう画像を作り出し再度モザイク化
これを繰り返し、ほとんど同じモザイクが作り出せた時、でっちあげた画像は
モザイク化前の元画像に似てるって話じゃね?

だから顔認証用として保存していたモザイク的な情報が流出した時に
元の人の顔が作り出せてしまう
そしてその顔は他のサービスに使われてる顔認証用のパスワードとしても利用できてしまう
って話だと思った

56 :名無しさん@1周年:2018/02/20(火) 02:20:45.83 ID:92vglmFD0.net
>>52
たしかに顔画像が復元されるということはデータの中に顔画像に近い要素が記録されているということだから
それが問題だな。
生体認証データはそのものを保存するのではなく復元不可能な形式で記録されるべきだと思う。

57 :名無しさん@1周年:2018/02/20(火) 02:31:19.28 ID:53O3e4ta0.net
>>23
それさえ突破されなきゃ大丈夫なのか?
判定AとかBとか判別速度とか判別不能の顔とかを
見せちまったらアウトか。

58 :名無しさん@1周年:2018/02/20(火) 02:33:00.98 ID:wh1q/0xw0.net
顔より性器認証がよいと思います
運用は難しそうだけど

59 :名無しさん@1周年:2018/02/20(火) 04:40:28.59 ID:FeHsg7oP0.net
>>58
立体認証か
人に見せるもんじゃないからありかもな
いや、ねぇよ

60 :名無しさん@1周年:2018/02/20(火) 06:15:16.68 ID:xmCIAJbB0.net
「曖昧 ( AI・My ) Me」

61 :名無しさん@1周年:2018/02/20(火) 07:09:37.87 ID:BmAWJEB90.net
カメラの前でタブレット持って何時間も粘る人とか流石に怪しいわ

62 :名無しさん@1周年:2018/02/20(火) 07:11:26.07 ID:BmAWJEB90.net
顔認証は生体認証の中では最弱

63 :名無しさん@1周年:2018/02/20(火) 07:15:06.65 ID:uOCciCou0.net
AI使った総当たり攻撃でのパスワード解析の結果方が怖い

64 :名無しさん@1周年:2018/02/20(火) 07:18:22.77 ID:uOCciCou0.net
>>58
どっかの企業で実用化してるよ

65 :名無しさん@1周年:2018/02/20(火) 07:19:13.04 ID:MiQmtWpp0.net
もう既に顔認識で紐付けとデータ集めしてるからな

66 :名無しさん@1周年:2018/02/20(火) 07:23:25.79 ID:flgt3/wk0.net
みんな笑い男になればいいのさ

67 :名無しさん@1周年:2018/02/20(火) 07:24:10.69 ID:flgt3/wk0.net
貴様!俺の目を盗みやがったな!!

68 :名無しさん@1周年:2018/02/20(火) 07:27:02.17 ID:MbLHoPbT0.net
文字列パスワードと硬さはそう変わらなさそうだな

69 :名無しさん@1周年:2018/02/20(火) 07:59:00.38 ID:KyV5ga/E0.net
AIが作ったAI対人間が作ったAIとメイトリクスの戦いみたいになってくるんだろうな。

70 :名無しさん@1周年:2018/02/20(火) 08:02:55.31 ID:C2nPIf2O0.net
終わりの始まりがきたか

71 :名無しさん@1周年:2018/02/20(火) 08:10:37.71 ID:flgt3/wk0.net
デジタルのようなローテクに多くを頼ろうとすると問題が大きくなる
ヒントはだれの目の前にある
日本銀行券がなりすまし紙幣予防のためにどれだけのハイテクが駆使してあるのかと考えてみよう

72 :名無しさん@1周年:2018/02/20(火) 09:49:24.53 ID:YyQFr3NZ0.net
AI「認証がデータに集約される以上最終的にはどうにでもなる

73 :名無しさん@1周年:2018/02/20(火) 09:55:32.71 ID:cbhixbUK0.net
顔認証とか指紋認証とかってそのデータをそっくりコピーされたらと思うとけっこう怖いな
暗証番号なんかは盗み取られたら新しく書き換えればいいけどさ

74 :名無しさん@1周年:2018/02/20(火) 15:38:08.24 ID:8ESy6wHq0.net
ニューラルネットって単なる関数にすぎないわけ。Aさんの顔を表す画像を数値で入れると1が出、
Aさん以外の数値だと0が出る関数にすぎない。このとき、逆にどういう入力を入れたら1が出るか
を考えているのがこの問題。最初はでたらめに入力するから出力は0に近いが、ある入力だったら
少し数値が上がることが分かる。次はこれを手掛かりにより大きな出力があるように入力をいじる。
このいじりをAIにやらせようという訳。いじり続けていつの間にか1がでるような入力が得られるなら、
それはニューラルネットにとってはAさんの顔の入力と同じということになる。たとえそれを人間が画像
として見ても何の意味も分からないインキのシミであってもだ。こういうことが可能なのは、自分で
好きなだけニューラルネットがいじれる環境でなければならない。これも記事に書いてあること。以上
データ解析歴18年の俺様の説明。

75 :名無しさん@1周年:2018/02/20(火) 15:50:25.31 ID:/QRKUljo0.net
二十面相

76 :名無しさん@1周年:2018/02/20(火) 16:17:02.96 ID:8ESy6wHq0.net
ちなみに「たとえそれを人間が画像として見ても何の意味も分からないインキのシミであってもだ。」
というのは重要な論点で、人間には全く違うのにニューラルネットには同じに見えたり、その逆に人間
には見分けがつかないのにニューラルネットにはまったく違うように見えたりすることが大きな問題と
なっている。これも記事に書いてある通り。

77 :名無しさん@1周年:2018/02/20(火) 16:17:32.07 ID:5QdWyriF0.net
AIになりすましされるのか

78 :名無しさん@1周年:2018/02/20(火) 16:32:01.79 ID:qK+zuA8r0.net
AIに変顔をレクチャーされる時代が来るとわ。

79 :名無しさん@1周年:2018/02/21(水) 07:07:49.09 ID:xQaovUVn0.net
差別とか騒がれるからあんまし報道されないが
黒人の判別はかなり難しいそうですよ 

80 :名無しさん@1周年:2018/02/21(水) 07:50:46.38 ID:YzZ/lZ190.net
ミリ波だかマイクロ波だかのレーダーで頭蓋骨構造認証すればいいんじゃね

総レス数 80
21 KB
掲示板に戻る 全部 前100 次100 最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★