タイラー・ダーデン 2024年3月17日

黒人有権者とポーズをとるドナルド・トランプ前米大統領、電話で投票を思いとどまらせるジョー・バイデン大統領、白いジャケットを着たローマ法王： Midjourney、GoogleのGemini、OpenAIのChatGPTのような大規模な言語モデルの技術的進歩に助けられ、動画、写真、音声録音のディープフェイクが様々なインターネットプラットフォームで広まっている。

StatistaのFlorian Zandtが以下で詳しく述べているように、適切なプロンプトの微調整を行えば、誰でも一見本物のような画像を作成したり、著名な政治家や経済人、芸能人の声を好きなように発言させたりすることができる。ディープフェイクを作成すること自体は犯罪行為ではないが、それでも多くの政府は、当事者への危害を防ぐため、人工知能を使用する際の規制を強化する方向に動いている。

ディープフェイクの主な手段である、主に女性有名人が関与する非合意のポルノコンテンツの作成とは別に、この技術は、偽IDを製造したり、電話で他人になりすましたりすることで、ID詐欺を行うためにも使用できる。本人確認プロバイダーSumsubの最新の年次報告書に基づくStatistaのグラフが示すように、ディープフェイクに関連するID詐欺事件は、世界各国で2022年から2023年にかけて急増している。

その他のインフォグラフィックはStatistaでご覧いただけます。
https://www.statista.com/chartoftheday/

例えば、フィリピンにおける詐欺の試行回数は前年比4,500％増加し、ベトナム、米国、ベルギーといった国々がこれに続いた。AIビデオジェネレーターSoraのような製品に見られるように、いわゆる人工知能の能力がさらに高まる可能性があり、ディープフェイク詐欺の試みは他の分野にも波及する可能性がある。

近年、ディープフェイクはますます説得力を増しており、音声ディープフェイクに見られるように、この傾向はさらに続き、新しいタイプの詐欺に発展していくでしょう」と、サムサブの人工知能・機械学習責任者であるパベル・ゴールドマン・カレイディンは前述のレポートの中で述べている。

消費者も企業も、合成詐欺に対して常に警戒を怠らず、ディープフェイク検知だけでなく、多層的な詐欺対策ソリューションに目を向ける必要があります。

このような評価は、多くのサイバーセキュリティ専門家によって共有されている。例えば、世界経済フォーラム年次総会（World Economic Forum Annual Meeting on Cybersecurity in 2023）に出席した199人のサイバーセキュリティ・リーダーを対象とした調査では、回答者の46％が、人工知能が将来サイバーセキュリティにもたらすリスクとして、「フィッシング、マルウェア開発、ディープフェイクといった敵対的能力の進歩」を最も懸念していることが示された。