サンズラボ、FakeCheck 2.0を公開。生成AIによるディープフェイク画像・動画の検知へ進化

サンズラボ、FakeCheck 2.0を公開。生成AIによるディープフェイク画像・動画の検知へ進化

• 韓国人の顔の特徴を中心に学習したAIモデルで、韓国向けディープフェイク検知サービスへ
• 検証に時間がかかれば被害者保護の効果が失われるため、待たずに本人がすぐ確認可能に
• 数百人を要する対応や検証時間をAIで10分の1に短縮。AIにAIで対抗する技術が必要な分野

写真1. ディープフェイク検知サービス「FakeCheck 2.0」

AIセキュリティ技術専門企業サンズラボ（代表キム・ギホン）は、昨年公開したディープフェイク検知サービス「FakeCheck」の2.0への更新を完了したと発表した。

FakeCheckは、利用者がサイトにアクセスし、ディープフェイクが疑われる画像をアップロードすると、AIがデータを解析して数秒で真偽を判定するオンラインサービスだ。誰もが簡単に利用できるよう、会員登録や認証などの煩雑な手続きなしで、PCやモバイル端末から無料で利用できる。

2.0では、精密な検知に向けてディープフェイクの動向を反映し、機能を改善した。AI検知モデルを増やすとともに、公開データセットと明示的な同意の下で収集した顔画像を学習した特化モデルを開発した。これにより、特定分野や韓国の中高年層を対象にしたディープフェイク画像の検知精度が大きく向上し、幅広い年齢層を均等に解析できるようになった。

さらに、フェイススワップで既存の顔を改変した画像だけでなく、ChatGPTなどの生成AIが作成した架空の人物画像も識別できるよう、それぞれのモデルを高度化して検知率を高めた。サンズラボのAI技術開発チームは、Web上の真正な画像100枚とGPT-4oで生成したディープフェイク画像200枚による社内試験で、**正解率99.33%**、F1スコア99.5%を達成し、優れた性能を示した。

写真2. FakeCheck 2.0の解析結果画面。画像の特徴に合わせて検知モデルを細分化し、検知率を高めた。

ディープフェイク動画の検知機能も、2.0への更新に合わせて導入される予定だ。担当者によると、技術開発は既に完了しているが、国民向け無料公開という趣旨を維持するための最適化を進めているという。有料化せずに提供できる範囲で動画の長さや容量などを調整しており、早ければ今月中に動画検知を導入する予定だ。

韓国人の特徴を学習し、急増する生成AI画像の解析に特化した韓国向けサービスFakeCheck 2.0は、人の目では見分けにくいディープフェイクを即座に検知できる。数百人の対応要員を動員し、二次・三次検証で判定していた作業を10分の1程度に大幅削減できると見込まれる。AIへの対抗には人の対応だけでなくAIが必要であり、それに適したAIセキュリティ技術の開発も求められるためだ。

キム・ギホン代表は「マルウェアによるハッキングやディープフェイクの被害者を守るために真偽確認を進めるうちに、対応の好機を逃して保護の効果も失われてしまうため、AIで迅速に解決する必要がある」と述べた。さらに「検証が終わるのを待つ以外に何もできない被害者の気持ちを誰よりも理解している。FakeCheckを通じて、韓国のデジタル性犯罪に国民自身が対応できる迅速で実用的な手段を提供した。今後も社会におけるAIのさまざまな弊害の解決に必要なAI安全研究と技術開発により貢献していく」と語った。