サンズラボ、ディープフェイクなど生成AIの悪用に備える国民向けプラットフォームを開発

サンズラボ、ディープフェイクなど生成AIの悪用に備える国民向けプラットフォームを開発

• 生成AIの弊害を抑える技術開発で100億ウォン規模の国家事業を受注
• ディープフェイク、フィッシング、合成などAIを悪用する新たな犯罪に対応する国民向けサービスを公開予定
• デジタル犯罪に対処する将来のサイバーセキュリティ技術と根絶に向けた対策を開発

写真1. 生成AIの悪用を検知・対処する技術開発のイメージ（提供：サンズラボ）

AIベースのサイバー脅威インテリジェンス（CTI）専門企業サンズラボ（KOSDAQ 411080、代表取締役キム・ギホン）は28日、生成AIの弊害を抑えるため、サイバーセキュリティに特化したRAGベースのsLLMと国民向けプラットフォームを開発していると発表した。

生成AIの弊害とは、偽情報やフェイクニュースの生成、著作権侵害、ディープフェイクの作成、サイバー犯罪への悪用など、技術が否定的または想定外の形で利用されることを指す。

政府は、すべての国民が安全にAIを利用できるよう、生成AIを倫理的に活用するための制度整備と中核技術の開発に力を注いでいる。

科学技術情報通信部と情報通信企画評価院（IITP）は、AIの弊害を抑えるサイバーセキュリティ特化型RAGベースのsLLMと国民向けプラットフォームの構築を課題とする、総額100億ウォンの情報保護中核基盤技術開発事業を発注した。

4月に受注したサンズラボは、LG Uplus、42Maru、Logpresso、韓国科学技術院（KAIST）と共同研究開発を開始した。

中心となる目標は、ディープフェイク、音声フィッシング、音声合成などの悪用を防ぐ技術と、オンプレミス型の特化型大規模言語モデル（sLLM）の開発だ。被害を最小化してデジタル環境の安全性・信頼性を高めるとともに、情報検索と解析の迅速化で意思決定支援にかかる時間を短縮し、対話型インターフェースによって利用者中心のセキュリティサービスを提供する。

一般的なセキュリティ企業と異なり、サンズラボはAI開発に不可欠なデータセットをペタバイト規模で自社保有する。特定分野を識別するモデルに必要な収集・前処理済みデータを直ちに学習させ、検知・対応の統合システムとして活用できるという意味だ。分野別データセット、sLLM、対話型インターフェースの開発を通じ、多様なセキュリティ特化型AI応用サービスの研究開発で強みを発揮する。

研究課題の一つである国民向けプラットフォームは、生成AIの悪用を検知・対処する技術を活用する。社会問題となっているフィッシング、偽ニュース・偽情報の生成、マルウェアの大量作成、音声合成、ディープフェイク画像・動画などのデジタル犯罪をなくし、被害拡大を防ぐ対策として開発される。

AI技術開発チームによると、LG Uplusと共同開発する画像・動画の検知技術は、深層学習アルゴリズム、敵対的生成ネットワーク（GAN）に対抗する敵対的学習、マルチモーダルデータ解析により、ディープフェイクを高精度に検知する。ライブ配信やSNSで即座に検知できるよう、モデルを軽量化し、複雑さを抑えながら精度を維持・向上させる最適化も適用する予定だ。

ディープフェイク、フィッシングメール、マルウェア、音声合成、偽ニュースなどを検知するこのプラットフォームには、各種検知技術に加え、結果説明のための検索拡張生成（RAG）や復号など、多様なAI関連技術を集約する。スミッシングや音声フィッシングを検知・遮断するモバイルアプリも開発する。これにより、新たなデジタル犯罪への早期対応と国民の保護に加え、意識向上、セキュリティ文化の普及、韓国の技術への信頼構築にも貢献すると期待される。