Xイノベーション本部 オープンイノベーションラボの飯田です。
ISIDでは、有志で論文輪読会を実施しています。 tech.isid.co.jp
最近、Stable Diffusionなどの画像生成系がかなり盛り上がっていますよね。
AI画像生成によって出力された顔画像に対して、我々はどのような印象評定をしているのでしょうか？
今回は、AI（GAN：StyleGAN2）によって生成された顔画像に対する
印象評定を行った社会心理学の論文を紹介したいと思います。
論文サマリ
- AI（StyleGAN2）で生成された顔画像は、不気味の谷を乗り越え、本物の顔と見分けがつかない
- それだけでなく、実物よりも信頼を得る顔を作成できるようになっていた
背景
AI画像生成技術には、詐欺やリベンジポルノで利用されてしまうなどの脅威があると言われています。
どんな画像や動画も偽造できてしまうことにより、
デジタルメディア記録の信憑性が疑われてしまうことも懸念されます。
フェイク画像の検出技術開発も進んでいますが、現状の技術では不十分であり、
コンテンツの消費者自身で本物と偽物を見分けなければなりません。
この研究では、GAN（StyleGAN2）によって生成された顔と本物の顔を区別できるか？
また、その顔がどの程度の信頼を得るか？を研究しました。
実験1
128枚の顔画像を本物か生成画像かを判定する課題を315人に実施。
結果は、平均精度は48.2%であり、チャンスレベルの50%と同等でした（下図、上のグラフ：青）。
→つまり、見分けができていないと示唆された
実験2
試行ごとに正解・不正解のフィードバックを受けながら（＝見分ける学習をしながら）、
128枚の顔画像を本物か生成画像かを判定する課題を219人に実施。
結果は試行ごとのフィードバックを行ったが、時間の経過とともに精度の向上は見られなかった。
フィードバックを与えることで、精度が向上したが、精度はチャンスレベルを少し上回る程度（下図、上のグラフ：赤）。
→つまり、見分ける練習をしても、本物か生成画像かの弁別は難易度が高い
実験3
生成された顔画像から、その人が信頼できるか？を評価してもらう課題を実施。
128人の顔画像の信頼度を7件法で評価 （1：非常に信頼できない←→7：非常に信頼できる）
結果、生成された顔画像の方が本物に比べて7.7%、有意に信頼度が高い。
- 本物（下図、下のグラフ：青）の平均：4.48
- AI生成（下図、下のグラフ：オレンジ）の平均：4.82
→つまり、本物よりもAI生成画像の方がより信頼できる
考察
AI画像生成は、本物と見分けがつかず、不気味の谷を超えたと思われます。
さらに、AI画像生成の方が、より”信頼できる”と感じる人が多い結果となりました。
AI画像生成の信頼性が高かった理由としては、以下のことが考えられます。
ヒトは平均的な顔のほうが、より魅力的・信頼できると言われています。
GANは学習・生成の過程で、教師データの平均的な顔に似ていく傾向があるため、
より魅力的・信頼できると感じられることが多くなったのではないかと思われます。
不気味の谷を超えて、本物・偽物の判別がつかず、
より信頼されるような顔画像が生成可能になりました。
それは、高品質なフェイク画像を作成できることになったことを意味します。
詐欺、情報操作など、個人・社会に影響を与える可能性があります。
今後、AI開発においての倫理が必要となったり、
生成系メディアでのガイドラインが必要となってきたり来る可能性があります。
最後に
今回は、GANで生成された顔画像の印象評価の論文について紹介しました。
Stable Diffusionが話題になっているように、今後生成系のクオリティはどんどん上がっていくかと思います。
現状でも、人間は本物か偽物かを区別できず、信頼性を高く感じるという報告がありました。
技術の進歩だけでなく、AIを使う側、作る側、それぞれでAI倫理が大切になってくるかと思います。
私たちは同じグループで共に働いていただける仲間を募集しています。
現在、以下のような職種を募集しています。
論文輪読会をはじめとした各種勉強会に気軽に参加できるような環境で働くことに興味のある皆様、ぜひご応募お待ちしています！
執筆：@iida.michitaka、レビュー：@higa （Shodoで執筆されました）
