Fakecheck는 FaceSwap부터 생성형 AI 이미지, 탐지 회피를 위한 적대적 조작까지 유형별 전문 AI 모델로 분석합니다. 한국인 얼굴 특성을 반영한 데이터와 설명 가능한 AI를 결합해 단순한 Fake/Real 판정을 넘어 판단 근거까지 제공합니다.
딥페이크도 하나의 방식으로 만들어지지 않습니다.
딥페이크 기술은 FaceSwap을 넘어 생성형 AI 이미지와 영상, 탐지 모델을 우회하기 위한 적대적 조작까지 빠르게 확장되고 있습니다. 조작 방식이 달라지면 이미지에 남는 흔적과 탐지해야 할 특징도 달라집니다. 조작 방식이 다르면, 탐지 방식도 달라야 합니다.
기존 얼굴을 바꾸는 조작
실제 인물의 얼굴을 다른 인물로 교체하거나 합성합니다.
존재하지 않는 인물을 생성
생성형 AI가 새로운 얼굴과 장면을 직접 만들어냅니다.
탐지 모델을 속이도록 조작
육안으로는 거의 보이지 않는 노이즈와 변형을 삽입해 일반 탐지 모델의 판단을 회피합니다.
딥페이크 탐지는 모델보다 데이터에서 차이가 납니다.
딥페이크 탐지 모델은 학습한 데이터의 도메인과 얼굴 특성에 큰 영향을 받습니다. Fakecheck는 실제 목표 환경의 데이터를 보강하고 한국인의 얼굴 특성과 다양한 연령대를 반영해 탐지 모델을 고도화해왔습니다.
학습에 포함된 Domain
학습에 포함된 도메인에서는 상대적으로 높은 검출률을 보입니다.
학습되지 않은 Domain
학습에 포함되지 않은 새로운 도메인에서는 검출률이 낮아질 수 있습니다.
다양한 Domain 학습
다양한 도메인을 폭넓게 학습할수록 새로운 도메인에 대한 대응력이 향상됩니다.
한국인 얼굴 특성을 실제 학습 데이터에 반영합니다.
공개 데이터셋뿐 아니라 명시적 동의하에 수집한 한국인 얼굴 이미지를 활용해 특정 연령대와 한국인 인물에 대한 탐지 대응력을 높였습니다.
조작 유형에 맞는 전문 모델이 따로 분석합니다.
Fakecheck는 모든 딥페이크를 하나의 모델로 판단하는 대신, 서로 다른 생성·조작 방식의 특성에 맞춰 목적별 탐지 모델을 분리하고 조합합니다.
기존 얼굴을 바꾼 흔적을 탐지
얼굴 영역과 핵심 특징을 분석해 FaceSwap 기반의 위변조 흔적을 탐지합니다.
생성형 AI가 만든 인물을 탐지
ChatGPT 계열 이미지 생성 기능을 포함한 다양한 생성형 AI가 만든 얼굴 이미지의 특징을 분석합니다.
한국인 얼굴 특성에 맞춘 탐지
한국인 얼굴과 다양한 연령대 데이터를 학습에 반영해 실제 국내 사용 환경에서의 탐지력을 높입니다.
탐지 모델을 속이는 조작까지 분석
일반적인 탐지 모델이 Fake로 판단하지 못하도록 설계된 미세한 노이즈와 적대적 변형 패턴을 분석합니다.
탐지기를 속이도록 만든 딥페이크까지.
딥페이크 공격은 이제 콘텐츠를 정교하게 만드는 데서 끝나지 않습니다. 탐지 모델 자체의 판단을 회피하기 위해 사람이 보기 어려운 수준의 미세한 노이즈와 왜곡을 이미지에 삽입하는 공격도 등장하고 있습니다.
조작된 원본 이미지
FaceSwap 또는 생성형 AI로 만들어진 딥페이크 이미지입니다.
탐지 회피를 위한 미세 왜곡 삽입
사람이 육안으로 거의 인식하기 어려운 수준의 노이즈와 왜곡을 이미지에 추가해 탐지 모델의 판단을 회피하도록 설계됩니다.
일반 탐지 모델은 오판 가능
이러한 조작에 대응하지 않은 일반 탐지 모델은 Real로 오판할 수 있습니다.
적대적 패턴까지 분석 범위를 확장
딥페이크 탐지 회피를 목적으로 제작된 적대적 이미지까지 분석 범위를 확장하고 있습니다.
Fake라고만 말하지 않고, 왜 그렇게 판단했는지 보여줍니다.
딥페이크 탐지는 판정값만큼 판단 근거가 중요합니다. Fakecheck는 탐지 확률과 모델이 집중한 영역을 시각화하고, 분석 결과를 사람이 이해할 수 있는 자연어 설명으로 제공합니다.
딥페이크 가능성
각 탐지 모델의 분석 결과와 Fake Probability를 제공합니다.
픽셀·얼굴 영역 시각화
XAI 기반 Heatmap으로 모델이 중요하게 본 영역을 시각적으로 보여줍니다.
얼굴 부위 기반 분석
눈, 코, 입 등 얼굴의 주요 특징과 이상 패턴을 결과에 연결합니다.
판단 근거 자연어 설명
탐지 결과와 시각적 근거를 종합해 왜 Fake로 판단했는지 자연어로 설명합니다.
이미지 한 장부터 영상의 시간 흐름까지.
이미지 한 장으로 판단 근거까지
얼굴 영역을 감지해 FaceSwap과 생성형 AI 여부를 분석하고, 딥페이크 가능성과 모델별 분석 결과, Heatmap, 자연어 설명을 함께 제공합니다.
영상의 시간 흐름까지 분석
영상에서 프레임을 추출하고 얼굴 영역을 분석해 시간에 따른 딥페이크 확률과 의심 구간, 대표 프레임을 확인합니다. 현재 상용 서비스의 지원 포맷과 분석 범위는 최신 제품 정책에 따라 확인이 필요합니다.
업로드부터 판단 근거까지,하나의 분석 흐름으로.
이미지·영상 입력
사용자가 분석할 이미지 또는 영상을 업로드합니다.
얼굴·프레임 전처리
영상은 프레임을 추출하고 이미지에서 분석 가능한 얼굴 영역을 탐지합니다.
조작 유형별 AI 탐지
FaceSwap, Generative AI, Evasion 등 목적별 모델이 각기 다른 조작 흔적을 분석합니다.
판단 근거 분석
탐지 확률과 XAI 기반 활성 영역, 얼굴 특징을 종합합니다.
결과와 근거 제공
탐지 결과를 시각화하고 LLM 기반 자연어 설명으로 사용자가 이해할 수 있도록 제공합니다.
진위 확인이 필요한 곳에, Fakecheck를 연결합니다.
본인확인·KYC
가입과 인증 과정에서 제출되는 얼굴 이미지와 신분증 사진의 조작 가능성을 분석해 본인확인 절차를 보완할 수 있습니다.
미디어·팩트체크
뉴스와 SNS에 유통되는 인물 이미지·영상의 딥페이크 가능성을 분석해 콘텐츠 검증과 사실 확인을 지원합니다.
브랜드·경영진 사칭 대응
CEO, 임직원, 유명 인물의 얼굴을 도용한 허위 콘텐츠와 사칭 이미지를 분석해 브랜드 신뢰와 피해 대응을 지원합니다.
디지털 범죄·사회 안전
딥페이크를 이용한 사칭, 허위정보, 디지털 성범죄 등 사회적 피해 상황에서 빠른 진위 확인을 지원합니다.
직접 확인하거나, 기존 서비스에 연결하거나.
웹에서 바로 분석
사용자가 직접 이미지·영상을 업로드해 분석 결과를 확인할 수 있습니다.
기존 서비스에 Fakecheck를 연결
REST API를 통해 파일을 전송하고 딥페이크 분석 결과를 JSON 형태로 받을 수 있는 구조를 제공합니다.
다양한 업무 시스템에 연동
KYC, 콘텐츠 Moderation, Media Verification, Fraud Detection, Internal Investigation 등 다양한 업무에 연결할 수 있습니다.
탐지 성능은 데이터와 테스트 조건으로 증명합니다.
유형별 성능 확인
FaceSwap, 생성형 AI, 적대적 조작 등 조작 유형별로 탐지 성능을 나누어 확인합니다.
테스트 조건 투명 공개
Dataset 구성, Sample 수, 측정일 등 테스트 조건을 함께 공개하는 방향으로 성능을 검증합니다.
한국인 특화 검증
한국인 얼굴 데이터와 다양한 연령대를 기준으로 한 성능 검증을 지속적으로 진행합니다.
지속적인 성능 개선
새로운 생성 도구와 조작 방식에 대응해 탐지 모델과 성능 검증을 계속 고도화합니다.
Fakecheck에 대해 자주 묻는 질문.
왜 여러 개의 딥페이크 탐지 모델을 사용하나요?
FaceSwap, 생성형 AI 이미지, 탐지 회피형 조작은 만들어지는 방식과 이미지에 남는 특징이 다릅니다. Fakecheck는 조작 방식에 맞는 목적별 모델을 분리해 각 유형의 특성을 분석합니다.
한국인 특화 데이터가 왜 중요한가요?
딥페이크 탐지 모델은 학습 데이터에 포함된 얼굴 특성과 도메인의 영향을 받습니다. Fakecheck는 한국인 얼굴과 다양한 연령대의 데이터를 학습에 보강해 실제 국내 환경에서의 탐지 대응력을 높이는 방향으로 개발해왔습니다.
생성형 AI가 만든 이미지도 탐지할 수 있나요?
네. Fakecheck는 기존 얼굴을 바꾸는 FaceSwap뿐 아니라 생성형 AI가 새롭게 만든 인물 이미지를 별도의 전문 모델로 분석합니다.
딥페이크인지 아닌지만 알려주나요?
Fakecheck는 탐지 결과와 함께 모델이 중요하게 판단한 이미지 영역을 XAI 기반으로 시각화하고, 결과를 사람이 이해할 수 있는 자연어 설명으로 제공하는 구조를 갖고 있습니다.
영상도 분석할 수 있나요?
Fakecheck는 영상에서 프레임을 추출하고 얼굴 영역을 분석해 시간에 따른 딥페이크 확률과 의심 구간을 확인하는 기술을 개발해왔습니다. 현재 상용 서비스의 지원 포맷과 분석 범위는 최신 제품 정책에 따라 확인이 필요합니다.
기존 서비스에 API로 연동할 수 있나요?
기존 기술 소개자료에서는 REST API를 통해 분석할 파일을 전송하고 결과를 JSON 형태로 받을 수 있는 연동 구조를 제공하고 있습니다. 실제 도입 시 현재 API 제공 방식과 사용 조건을 확인합니다.
탐지 결과를 100% 신뢰할 수 있나요?
딥페이크 탐지는 AI 모델의 확률적 분석 결과이며 이미지 품질, 압축, 조작 방식, 새로운 생성 모델 등 다양한 조건의 영향을 받을 수 있습니다. Fakecheck는 여러 전문 모델과 판단 근거를 함께 제공해 사용자가 결과를 더 종합적으로 판단할 수 있도록 지원합니다.
딥페이크 여부를 넘어, 판단할 수 있는 근거까지.
Fakecheck로 이미지와 영상의 딥페이크 가능성을 분석하고, 조작 유형과 판단 근거까지 확인해 보세요.
이 제품, 우리 환경에서는 어떻게 작동할까?
데모 · 평가 · 도입 어느 단계에 계시든 샌즈랩 솔루션 엔지니어와 직접 연결됩니다. 계약 이전에 모든 궁금증을 먼저 확인해 보세요.