(ブルームバーグ): 人工知能(AI)は今や非常に高性能になり、バレンシアガの白いフワフワのコートを着たローマ教皇フランシスコの画像を本物だと信じ込ませるほどだが、偽物画像を確実に識別するデジタルツールは、コンテンツの生成ペースに追いつけず苦戦している。
オーストラリアのメルボルン郊外にあるディーキン大学情報技術学部の研究者に現状を尋ねてみたところ、彼らのアルゴリズムは著名人の画像を改変したいわゆる「ディープフェイク」の識別で最も優れた成績を収めたことが米スタンフォード大学のAI指数2023で分かったという。
このアルゴリズムを開発したディーキン大サイバーレジリエンス&トラストセンターのチャン・ツン・リー教授は78%の確率で正しさが証明されたことについて「かなり良いパフォーマンスだ」と述べた上で、「しかし、この技術はまだ発展途上にある」と指摘。この方法が商業利用できるようになるには一段と強化する必要があると話した。
ディープフェイクは何年も前から存在し、懸念を招いていた。2019年にはペロシ米下院議長(当時)が話す様子について、ろれつが回っていないように加工された動画がソーシャルメディアのフェイスブックで拡散された。
ダウンコート姿のローマ教皇の画像は比較的害が少ない加工かもしれないが、選挙の操作など、ディープフェイクが深刻な被害を与える可能性は、技術の進歩とともに大きくなっている。 昨年、ウクライナのゼレンスキー大統領が自国兵士にロシアへの投降を呼び掛けたように見せたフェイク動画は重大な波紋を広げた可能性もある。
大手ハイテク企業や新興企業が生成AIに何百億ドルも投じ、検索エンジンやビデオゲームなどあらゆるものの様相を変えかねない技術で主動的役割を担おうとしている一方で、操作されたコンテンツを根絶する技術の世界市場は比較的小さい。調査会社HSRCによると、ディープフェイク検出の世界市場は20年時点で38億6000万ドル(現行レートで約5170億円)。26年まで年平均42%のペースで拡大すると予想されている。
専門家らはAIの生成に過度な注目が集まり、検知に十分な注意が払われていないとの認識で一致していると、非営利団体ザ・パートナーシップ・オン・AIの幹部クレア・リーボウィッツ氏は言う。
オープンAIの「ChatGPT(チャットGPT」のようなアプリケーションを中心とする技術の話題が沸騰する中、テスラのイーロン・マスク最高経営責任者(CEO)やアルファベットのスンダー・ピチャイCEOらは急速過ぎる展開の危険性について警告を発している。
ローマ教皇の画像を制作したミッドジャーニーなどのような生成AIプログラムによる、リアルに見える改変画像の波に対抗して、検出ツールが使えるようになるには、しばらく時間がかかりそうだ。問題の一部は、正確な検出ツールを開発するために桁違いの費用がかかることで、そうすることの法的・経済的インセンティブはほとんどない。
それでも、オランダのセンシティAIやエストニアのセンティネルといった一握りのスタートアップ企業や大手ハイテク企業がディープフェイク検出技術を開発している。インテルは責任あるAIへの取り組みの一環として昨年11月に「FakeCatcher」技術を発表した。同社によれば、この技術は映像のピクセルに含まれる血流などの人間の特徴を評価することで、実際の映像から本物の手掛かりを探し、96%の精度でフェイクを検出できるという。