ここ1、2年で急速に発展してきたAI技術。画像や文章を生成したり、翻訳やチャットの形でAIに触れたことがある人は多いだろう。よくできているとはいえ、AIが生成した画像や文章に不自然さを感じる部分が見られるのも事実だ。しかし、既に「AIが生成した存在しない人の顔」と「実在する人の顔写真」の見分けがつかなくなってきてきる、という研究結果が出てきている。
ロンドン大学ロイヤル・ホロウェイ校の心理学者であるManos Tsakiris氏が、ディープフェイク写真の現状と、それらがネット上で引き起こすかもしれない問題について考察した内容が話題になっている。
>>新しい「会話型」AIチャットボットはGoogle検索エンジンを「消滅」させる?Gmailの開発者が懸念を表明<<
海外ではつい最近の事例として、ビジネス特化のSNSであるLinkedInにAIが生成したプロフィール写真を掲載し、偽のアカウントを作成したが、そのアカウントで米国政府高官やネットワーク上で影響力のある人物との接続に成功した例が報道されて問題になった。防諜の専門家によれば、スパイは日常的にこのようなAI生成写真を使った偽のプロフィールを作成し、ソーシャルメディア上で外国のターゲットに狙いを定めているという。
既にこういったディープフェイク技術は日常文化に浸透してきており、マーケティング、広告、ソーシャルメディアにおいてどのように使用されているか認識を深める必要がある、とManos Tsakiris氏は警鐘を鳴らす。特に政治的プロパガンダや情報戦、諜報活動ではすでに活用されている可能性が大いにあるという。
現在、AI画像の生成には脳の学習方法を模倣したコンピューターシステムのディープニューラルネットワークと呼ばれるものが関わっている。これは人間の脳の学習方法を模倣したコンピューターシステムで、実際の顔をどんどん大きなデータセットにさらすことで訓練と学習を重ねていくものだ。
すでに2つのディープニューラルネットワークが互いに競い合うようにしてリアルな画像の生成を行い、学習し合っている。その上で、「GAN画像(Generative Adversarial Networksの略)」と呼ばれる学習画像と統計的に区別がつかないような新たな画像を生成するプロセスも生まれている。
iScience誌に掲載されたTsakiris氏による最新の研究では、こうして生み出された「人工的な顔」は時に本物の人間と区別ができない、むしろ本物の人間の顔より魅力的に感じることがあるという報告がなされている。
例えばあまり魅力的でないと評価された顔の画像が、かえってリアルであると評価されたのだという。そこまで美人や美形とはいえない顔が典型的な、基準となる普通の顔とAIが学習した結果かもしれない。
しかしこのような人工的な顔を本物と見なしてしまうことは、見知らぬ人々の輪に対する一般的な信頼度に影響を及ぼす可能性もあるとTsakiris氏は語る。
我々はしばしば対面した顔から多くのことを読み取るため、第一印象によって社会的相互作用を導く。今回の実験では、AIの生み出した人工的な顔であっても一度本物と判断した顔であれば、情報をより信頼する傾向があることを明らかにしている。本物と思われる顔ほど信頼されるのは当然といえば当然かもしれない。
しかし、偽のプロフィールがあると認識された後は相手の顔が本物かどうかにかかわらず、全体的に相手への信頼度が低下することも分かっている。この結果は、偽ユーザーの存在する環境においては人々の不信感を高めるという意味で、ある意味で有益なものであったと言えるかもしれない。
しかしうがった見方をすれば、我々のコミュニケーションのあり方そのものを徐々にむしばんでいく可能性があるという。
心理学では、現実に知覚したり体験したりした出来事の記憶と、脳内で想像するなど内的に生成した記憶とを区別する認知過程を「リアリティ・モニタリング」と呼ぶ。偽物の顔や画像、ビデオ通話をリアルに再現する技術が発達した今、リアリティ・モニタリングは自身の判断以外の情報に基づいたものである必要があるとTsakiris氏は語る。
AIが進歩した次に必要となってくるものは、AIなどで生成された偽の顔などのデータを検出するアルゴリズムの改善だとTsakiris氏は述べる。この技術をソーシャルメディアのプラットフォームに組み込むことで、新しく知った人の顔を見たときに、本物と偽物を見分けられるかもしれず、初見で疑心暗鬼に陥らずに済むだろうとのこと。
今後はSNS上だけでなく、様々な分野でディープフェイク技術が悪用される可能性が高くなるだろう。そのとき、我々はどのように対応していけばよいのか。これまでとは異なる思考や認識が求められる時代が来ているのかもしれない。
山口敏太郎
作家、ライター。著書に「日本怪忌行」「モンスター・幻獣大百科」、テレビ出演「怪談グランプリ」「ビートたけしの超常現象Xファイル」「緊急検証シリーズ」など。
YouTubeにてオカルト番組「アトラスラジオ」放送中
関連記事
Deepfake AI photos can now seem more real than genuine images(unexplained-mysteries.com)より
https://www.unexplained-mysteries.com/news/363530/deepfake-ai-photos-can-now-seem-more-real-than-genuine-images
ロンドン大学ロイヤル・ホロウェイ校の心理学者であるManos Tsakiris氏が、ディープフェイク写真の現状と、それらがネット上で引き起こすかもしれない問題について考察した内容が話題になっている。
>>新しい「会話型」AIチャットボットはGoogle検索エンジンを「消滅」させる?Gmailの開発者が懸念を表明<<
海外ではつい最近の事例として、ビジネス特化のSNSであるLinkedInにAIが生成したプロフィール写真を掲載し、偽のアカウントを作成したが、そのアカウントで米国政府高官やネットワーク上で影響力のある人物との接続に成功した例が報道されて問題になった。防諜の専門家によれば、スパイは日常的にこのようなAI生成写真を使った偽のプロフィールを作成し、ソーシャルメディア上で外国のターゲットに狙いを定めているという。
既にこういったディープフェイク技術は日常文化に浸透してきており、マーケティング、広告、ソーシャルメディアにおいてどのように使用されているか認識を深める必要がある、とManos Tsakiris氏は警鐘を鳴らす。特に政治的プロパガンダや情報戦、諜報活動ではすでに活用されている可能性が大いにあるという。
現在、AI画像の生成には脳の学習方法を模倣したコンピューターシステムのディープニューラルネットワークと呼ばれるものが関わっている。これは人間の脳の学習方法を模倣したコンピューターシステムで、実際の顔をどんどん大きなデータセットにさらすことで訓練と学習を重ねていくものだ。
すでに2つのディープニューラルネットワークが互いに競い合うようにしてリアルな画像の生成を行い、学習し合っている。その上で、「GAN画像(Generative Adversarial Networksの略)」と呼ばれる学習画像と統計的に区別がつかないような新たな画像を生成するプロセスも生まれている。
iScience誌に掲載されたTsakiris氏による最新の研究では、こうして生み出された「人工的な顔」は時に本物の人間と区別ができない、むしろ本物の人間の顔より魅力的に感じることがあるという報告がなされている。
例えばあまり魅力的でないと評価された顔の画像が、かえってリアルであると評価されたのだという。そこまで美人や美形とはいえない顔が典型的な、基準となる普通の顔とAIが学習した結果かもしれない。
しかしこのような人工的な顔を本物と見なしてしまうことは、見知らぬ人々の輪に対する一般的な信頼度に影響を及ぼす可能性もあるとTsakiris氏は語る。
我々はしばしば対面した顔から多くのことを読み取るため、第一印象によって社会的相互作用を導く。今回の実験では、AIの生み出した人工的な顔であっても一度本物と判断した顔であれば、情報をより信頼する傾向があることを明らかにしている。本物と思われる顔ほど信頼されるのは当然といえば当然かもしれない。
しかし、偽のプロフィールがあると認識された後は相手の顔が本物かどうかにかかわらず、全体的に相手への信頼度が低下することも分かっている。この結果は、偽ユーザーの存在する環境においては人々の不信感を高めるという意味で、ある意味で有益なものであったと言えるかもしれない。
しかしうがった見方をすれば、我々のコミュニケーションのあり方そのものを徐々にむしばんでいく可能性があるという。
心理学では、現実に知覚したり体験したりした出来事の記憶と、脳内で想像するなど内的に生成した記憶とを区別する認知過程を「リアリティ・モニタリング」と呼ぶ。偽物の顔や画像、ビデオ通話をリアルに再現する技術が発達した今、リアリティ・モニタリングは自身の判断以外の情報に基づいたものである必要があるとTsakiris氏は語る。
AIが進歩した次に必要となってくるものは、AIなどで生成された偽の顔などのデータを検出するアルゴリズムの改善だとTsakiris氏は述べる。この技術をソーシャルメディアのプラットフォームに組み込むことで、新しく知った人の顔を見たときに、本物と偽物を見分けられるかもしれず、初見で疑心暗鬼に陥らずに済むだろうとのこと。
今後はSNS上だけでなく、様々な分野でディープフェイク技術が悪用される可能性が高くなるだろう。そのとき、我々はどのように対応していけばよいのか。これまでとは異なる思考や認識が求められる時代が来ているのかもしれない。
山口敏太郎
作家、ライター。著書に「日本怪忌行」「モンスター・幻獣大百科」、テレビ出演「怪談グランプリ」「ビートたけしの超常現象Xファイル」「緊急検証シリーズ」など。
YouTubeにてオカルト番組「アトラスラジオ」放送中
関連記事
Deepfake AI photos can now seem more real than genuine images(unexplained-mysteries.com)より
https://www.unexplained-mysteries.com/news/363530/deepfake-ai-photos-can-now-seem-more-real-than-genuine-images
