誰もが簡単にディープフェイクを検知…サンズラボ

［AI革命］（120）誰もが簡単にディープフェイクを検知…サンズラボ

ディープフェイクやマルウェアなど、生成AIの悪用を検知・対処する技術に特化

ディープフェイクによる性犯罪が社会問題となる中、韓国の中小企業が予防に役立つ無料サービスを提供し、注目を集めている。AIベースのサイバー脅威インテリジェンス（CTI）専門企業、サンズラボだ。

サンズラボのチェ・ミンジュンAI技術開発チーム長は6日、アジア経済の取材で「ディープフェイク犯罪や偽情報を防ぐための社会的な動きに合わせて、技術の研究開発を進めている。当社の検知技術が社会貢献として多くの人の役に立てばうれしい」と述べた。

今回公開したのは、ディープフェイク検知サービスFakeCheckだ。利用者がサイトで疑わしい画像をアップロードすると、数秒で真偽を解析し、結果を知らせる。誰もが簡単に使えるよう、登録や認証などの煩雑な手続きを省き、本来の機能に集中している。

チェ氏は「FakeCheckは複数のAIモデルで人の顔画像の改変を判定する。犯罪予防を目的とするため、動物や物体のディープフェイクは判定しない。ただし、継続的な意見収集と更新により、対象の拡大や検知率の向上に加え、将来は動画の改変判定にも対応する可能性がある」と説明した。

写真1. サンズラボのチェ・ミンジュンAI技術開発チーム長

サービスは無料で誰でも利用できる。サンズラボは社会貢献の一環として、クラウド利用料を含む運用費用をすべて自社で負担する。

迅速に対応できた大きな理由は、生成AIに関する国家研究開発事業（IITP）に取り組んでいたことだ。現在、42Maru、KAIST、Logpresso、LG Uplusと情報保護中核基盤技術開発事業を受注して研究を進めており、サンズラボは生成AIの悪用を検知・対処する技術を担当している。

チェ氏は「ディープフェイク分野はサンズラボとLG Uplusが中心になって研究している。まだ約4か月の段階なので、画期的な技術や製品を出したとは言えないが、当社の技術を活用して着実に事業を進めたい」と述べた。

サンズラボの本来の専門はサイバーセキュリティで、代表ブランドにCTX（Cyber Threat X）がある。AIエンジンでファイルを解析し、特定のハッシュ（MDS、SHA1、SHA256）の照会に対応する。悪性の有無、攻撃グループ、標的国・産業、MITRE ATT&CKの攻撃手法などを知らせるのが特徴だ。

写真2. CTXを紹介するチェ・ミンジュンAI技術開発チーム長

チェ氏は「最終的には人が『悪性ファイルだ』と判断する場面がある。CTXは、いつ、どこで、どの攻撃グループがどの産業・国を狙っているかなどの情報を迅速に提供する。人が納得できる情報を示すことで、脅威の判断を速め、業務効率を高める」と説明した。

同社はCTXを活用したデータセット事業も進めている。データセットとは、特定の作業のために関連するデータを集めたものだ。AIの学習には構造化された高品質なデータが必要となる。同社のデータセットには多様な脅威グループやキャンペーンの情報も含まれ、AIがより現実的で幅広い状況に対応できるよう支援する。

チェ氏は「脅威の検知・対応能力をさらに高めるには、生成AIとデータセットの技術が不可欠だ。韓国の生成AI専門企業などとの多様な協力により、世界に通用する技術開発を一層加速する」と述べた。