ディープラーニングによるフェイクメディア
今日、本屋で立ち読みしたら、
特集 だますAI vs 見抜くAI | 日経サイエンス
http://www.nikkei-science.com/201901_037.hml
が目に入った。
内容としては、
まるで本物 「ディープフェイク」動画の危険性 (1/4) - ITmedia ビジネスオンライン
http://www.itmedia.co.jp/business/articles/1805/10/news009.html
より少し新しめ&詳細な情報が載っている。
偽造写真は昔からあったが、今は映像すら偽造できる時代らしい。
「見抜くAI」は一つでもボロを見つければ勝てるため、同レベルの技術量の場合、「だますAI」の方が極めて不利らしい。
しかし、「だますAI」は「見抜くAI」だけ相手にしていればいいが、「見抜くAI」は「だますAI」だけでなく「本物のメディア」も検査しなければならない。
不特定多数が動画をアップロードする現代では、藁の中に針が混ざってないか調べるようなものだ。
実際には、多くの人々に広がった有名なもの、つまり、騙された人が既に沢山いて手遅れのものに検査対象を絞ることとなろう。
さらに面倒なのは、「見抜くAI」が行うのは判定までで、説明はしてくれないことだ。
昔の偽造写真鑑定は、鑑定士も人間だから、他の人間が鑑定士の思考・作業を辿り再検証することができた。
しかしAIは人間とは大きく違う思考・作業をするため、人間がAIの思考・作業を再検証するのは絶望的だ。
ならば、AIはAIによって再検証すればいいかというと、二つのAIに食い違いが生じたとき、どちらのAIを信用すべきかが問題になる。
これが人間であれば、鑑定結果を疑っている人自身が検証作業を行えば良い。
他人と自分、食い違いが生じるなら、どちらを信用すべきかは自明だからだ。
スカイネット誕生の日は近い。
参考
スカイネット
http://ja.wikipedia.org/wiki/%E3%82%B9%E3%82%AB%E3%82%A4%E3%83%8D%E3%83%83%E3%83%88
特集 だますAI vs 見抜くAI | 日経サイエンス
http://www.nikkei-science.com/201901_037.hml
が目に入った。
内容としては、
まるで本物 「ディープフェイク」動画の危険性 (1/4) - ITmedia ビジネスオンライン
http://www.itmedia.co.jp/business/articles/1805/10/news009.html
より少し新しめ&詳細な情報が載っている。
偽造写真は昔からあったが、今は映像すら偽造できる時代らしい。
「見抜くAI」は一つでもボロを見つければ勝てるため、同レベルの技術量の場合、「だますAI」の方が極めて不利らしい。
しかし、「だますAI」は「見抜くAI」だけ相手にしていればいいが、「見抜くAI」は「だますAI」だけでなく「本物のメディア」も検査しなければならない。
不特定多数が動画をアップロードする現代では、藁の中に針が混ざってないか調べるようなものだ。
実際には、多くの人々に広がった有名なもの、つまり、騙された人が既に沢山いて手遅れのものに検査対象を絞ることとなろう。
さらに面倒なのは、「見抜くAI」が行うのは判定までで、説明はしてくれないことだ。
昔の偽造写真鑑定は、鑑定士も人間だから、他の人間が鑑定士の思考・作業を辿り再検証することができた。
しかしAIは人間とは大きく違う思考・作業をするため、人間がAIの思考・作業を再検証するのは絶望的だ。
ならば、AIはAIによって再検証すればいいかというと、二つのAIに食い違いが生じたとき、どちらのAIを信用すべきかが問題になる。
これが人間であれば、鑑定結果を疑っている人自身が検証作業を行えば良い。
他人と自分、食い違いが生じるなら、どちらを信用すべきかは自明だからだ。
スカイネット誕生の日は近い。
参考
スカイネット
http://ja.wikipedia.org/wiki/%E3%82%B9%E3%82%AB%E3%82%A4%E3%83%8D%E3%83%83%E3%83%88
