Fakecheckは、FaceSwapから生成AI画像、検知回避のための敵対的操作まで、種類別の専門AIモデルで分析します。韓国人の顔特性を反映したデータと説明可能なAIを組み合わせ、単純なFake/Real判定を超えて判断根拠まで提供します。
ディープフェイクもひとつの方式で作られるわけではありません。
ディープフェイク技術はFaceSwapを超えて、生成AI画像・映像、検知モデルを回避するための敵対的操作にまで急速に広がっています。操作方式が変われば、画像に残る痕跡や検知すべき特徴も変わります。操作方式が違えば、検知方式も違わなければなりません。
既存の顔を入れ替える操作
実在の人物の顔を別の人物に置き換えたり合成したりします。
存在しない人物を生成
生成AIが新しい顔やシーンを直接作り出します。
検知モデルを欺くための操作
肉眼ではほぼ見えないノイズや歪みを挿入し、一般的な検知モデルの判断を回避します。
ディープフェイク検知は、 モデルよりデータで差がつきます。
ディープフェイク検知モデルは、学習データのドメインや顔特性に大きく影響を受けます。 Fakecheckは実際の目標環境のデータを補強し、韓国人の顔特性と多様な年齢層を反映して検知モデルを高度化してきました。
学習に含まれるDomain
学習に含まれるドメインでは、相対的に高い検出率を示します。
学習されていないDomain
学習に含まれない新しいドメインでは、検出率が低下する可能性があります。
多様なDomainの学習
多様なドメインを幅広く学習するほど、新しいドメインへの対応力が向上します。
韓国人の顔特性を実際の学習データに反映しています。
公開データセットだけでなく、明示的な同意のもとで収集した韓国人の顔画像を活用し、特定年齢層や韓国人の人物に対する検知対応力を高めました。
操作タイプに合わせた専門モデルが個別に分析します。
Fakecheckは、すべてのディープフェイクをひとつのモデルで判断する代わりに、異なる生成・操作方式の特性に合わせて目的別の検知モデルを分離・組み合わせます。
既存の顔を入れ替えた痕跡を検知
顔領域と主要な特徴を分析し、FaceSwapベースの改ざん痕跡を検知します。
生成AIが作った人物を検知
ChatGPT系の画像生成機能を含む、さまざまな生成AIが作った顔画像の特徴を分析します。
韓国人の顔特性に合わせた検知
韓国人の顔とさまざまな年齢層のデータを学習に反映し、実際の運用環境での検知力を高めます。
検知モデルを欺く操作まで分析
一般的な検知モデルがFakeと判断できないよう設計された微細なノイズや敵対的な変形パターンを分析します。
検知器を欺くために作られたディープフェイクまで。
ディープフェイク攻撃は、もはや精巧なコンテンツを作ることだけでは終わりません。検知モデル自体の判断を回避するために、人間にはほぼ気づけないレベルの微細なノイズや歪みを画像に挿入する攻撃も登場しています。
操作された元画像
FaceSwapまたは生成AIで作られたディープフェイク画像です。
検知回避のための微細な歪みの挿入
人間の目でほぼ認識できないレベルのノイズや歪みを画像に追加し、検知モデルの判断を回避するよう設計されます。
一般的な検知モデルは誤判定の可能性
このような操作に対応していない一般的な検知モデルは、Realと誤判定する可能性があります。
敵対的パターンまで分析範囲を拡張
ディープフェイク検知の回避を目的に作られた敵対的画像まで、分析範囲を拡張しています。
「Fake」とだけ言うのではなく、 なぜそう判断したかを示します。
ディープフェイク検知では、判定値と同じくらい判断根拠が重要です。Fakecheckは検知確率とモデルが注目した領域を可視化し、分析結果を人が理解できる自然言語の説明として提供します。
ディープフェイクの可能性
各検知モデルの分析結果とFake Probabilityを提供します。
ピクセル・顔領域の可視化
XAIベースのHeatmapで、モデルが重視した領域を視覚的に示します。
顔パーツベースの分析
目、鼻、口など顔の主要な特徴と異常パターンを結果に結び付けます。
判断根拠の自然言語説明
検知結果と視覚的根拠を総合し、なぜFakeと判断したのかを自然言語で説明します。
1枚の画像から、映像の時間の流れまで。
1枚の画像から判断根拠まで
顔領域を検知してFaceSwapや生成AIかどうかを分析し、ディープフェイクの可能性、モデル別の分析結果、Heatmap、自然言語説明をあわせて提供します。
映像の時間の流れまで分析
映像からフレームを抽出し顔領域を分析して、時間経過に伴うディープフェイク確率、疑わしい区間、代表フレームを確認します。現在の商用サービスの対応フォーマットと分析範囲は、最新の製品ポリシーに応じてご確認が必要です。
アップロードから判断根拠まで、 ひとつの分析フローで。
画像・映像の入力
ユーザーが分析対象の画像または映像をアップロードします。
顔・フレームの前処理
映像はフレームを抽出し、画像から分析可能な顔領域を検出します。
操作タイプ別AI検知
FaceSwap、Generative AI、Evasionなど、目的別のモデルがそれぞれ異なる操作痕跡を分析します。
判断根拠の分析
検知確率、XAIベースの活性化領域、顔特徴を総合します。
結果と根拠の提供
検知結果を可視化し、LLMベースの自然言語説明でユーザーが理解できるよう提供します。
真偽確認が必要な場所に、 Fakecheckをつなげます。
本人確認・KYC
加入・認証過程で提出される顔画像や身分証写真の操作可能性を分析し、本人確認プロセスを補完できます。
メディア・ファクトチェック
ニュースやSNSで流通する人物の画像・映像のディープフェイク可能性を分析し、コンテンツ検証とファクトチェックを支援します。
ブランド・経営陣なりすまし対応
CEO、役職員、著名人の顔を悪用した虚偽コンテンツやなりすまし画像を分析し、ブランドの信頼と被害対応を支援します。
デジタル犯罪・社会の安全
ディープフェイクを利用したなりすまし、偽情報、デジタル性犯罪など、社会的被害の状況で迅速な真偽確認を支援します。
直接確認するか、既存サービスに連携するか。
Webで直接分析
ユーザーが直接画像・映像をアップロードし、分析結果を確認できます。
既存サービスにFakecheckを連携
REST API経由でファイルを送信し、ディープフェイク分析結果をJSON形式で受け取れる構造を提供します。
多様な業務システムとの連携
KYC、コンテンツModeration、Media Verification、Fraud Detection、Internal Investigationなど、多様な業務に連携できます。
検知性能は、データとテスト条件で証明します。
タイプ別の性能確認
FaceSwap、生成AI、敵対的操作など、操作タイプ別に検知性能を分けて確認します。
テスト条件の透明な公開
Dataset構成、サンプル数、測定日などのテスト条件を併せて公開する方向で性能を検証します。
韓国人特化の検証
韓国人の顔データと多様な年齢層を基準とした性能検証を継続的に行います。
継続的な性能改善
新しい生成ツールや操作方式に対応し、検知モデルと性能検証を継続的に高度化します。
Fakecheckについてよくある質問。
なぜ複数のディープフェイク検知モデルを使用するのですか?
FaceSwap、生成AI画像、検知回避型操作は、作られる方式や画像に残る特徴が異なります。Fakecheckは操作方式に合わせた目的別モデルを分離し、それぞれの特性を分析します。
韓国人特化データがなぜ重要なのですか?
ディープフェイク検知モデルは、学習データに含まれる顔特性やドメインの影響を受けます。Fakecheckは韓国人の顔とさまざまな年齢層のデータを学習に補強し、実際の運用環境での検知対応力を高める方向で開発してきました。
生成AIが作った画像も検知できますか?
はい。Fakecheckは既存の顔を入れ替えるFaceSwapだけでなく、生成AIが新たに作った人物画像を別途の専門モデルで分析します。
ディープフェイクかどうかだけを教えてくれますか?
Fakecheckは検知結果とともに、モデルが重視した画像領域をXAIベースで可視化し、結果を人が理解できる自然言語の説明として提供する構造を持っています。
映像も分析できますか?
Fakecheckは、映像からフレームを抽出し顔領域を分析して、時間経過に伴うディープフェイク確率と疑わしい区間を確認する技術を開発してきました。現在の商用サービスの対応フォーマットと分析範囲は、最新の製品ポリシーをご確認ください。
既存サービスにAPIで連携できますか?
既存の技術紹介資料では、REST API経由で分析対象ファイルを送信し、結果をJSON形式で受け取れる連携構造を提供しています。実際の導入時には、現在のAPI提供方式と利用条件をご確認ください。
検知結果を100%信頼できますか?
ディープフェイク検知はAIモデルによる確率的な分析結果であり、画像品質、圧縮、操作方式、新しい生成モデルなど、さまざまな条件の影響を受ける可能性があります。Fakecheckは複数の専門モデルと判断根拠をあわせて提供し、ユーザーがより総合的に結果を判断できるよう支援します。
ディープフェイクか否かを超えて、判断できる根拠まで。
Fakecheckで画像・映像のディープフェイクの可能性を分析し、操作タイプと判断根拠まで確認してみましょう。