에스피소프트, '딥페이크 탐지기' 출시…실시간 AI 가짜영상 차단

[프라임경제] 에스피소프트(443670)는 최근 앤트로픽의 미토스(Mythos) 등 인공지능(AI) 위협에 신속한 대응이 가능한 마이크로소프트 보안 솔루션 매출이 급증 중인 데 이어 생성형 AI 기반 딥페이크 판별 애플리케이션 '딥페이크 탐지기'를 출시했다고 23일 밝혔다.

이번에 출시한 애플리케이션은 AI가 만든 가짜뉴스 영상이나 이미지 여부를 판별해 선제적으로 피해 예방이 가능한 솔루션이다. 

유튜브 쇼츠, 인스타그램 릴스 등 앱이나 특정 이미지를 선택해 AI 생성 콘텐츠를 탐지할 수 있을 뿐 아니라 항상 핸드폰의 전체 화면을 지정해 딥페이크 여부를 판별할 수도 있다.

기존 딥페이크나 AI로 만든 영상 판별 앱이 존재하지만, 대부분 해당 영상이나 이미지를 다운로드 후 검증해야 하는 구조다. 이 때문에 검증에 긴 시간이 소요될 뿐만 아니라 사후 대처만 가능한 점이 한계로 꼽힌다.

에스피소프트는 자체 이미지 콘텐츠DNA추출 및 필터링 기술을 기반으로 다수의미디어 콘텐츠 유통사에 저작권 콘텐츠의 필터링과 불법 촬영물 차단 서비스를 제공하면서 기술 상용화를 완료했다. 

레퍼런스를 축적하면서 AI 기술을 활용해 전체 콘텐츠 중 얼굴 이미지만을 선별하는 DNA를 추출한 후 이를 필터링할 수 있도록 기술력을 강화했다.

AI 기술 고도화로 콘텐츠 생성 속도 및 품질이 대폭 향상되면서 AI 생성 콘텐츠 검증 기술이 중요해지고 있다. 특히 최근 정부는 전국동시지방선거를 앞두고 AI 악용 가짜뉴스, 딥페이크에 대한 엄중 대응에 나선 바 있어 딥페이크 판별 앱의 공정선거 역할도 기대된다고 회사 측은 설명했다.

에스피소프트 관계자는 "자체 기술은 이미지에 대한 DNA 데이터를 기반으로 검증하기 때문에 다수의 콘텐츠를 2~3초 내로 구분하고 차단할 수 있는 게 특징"이라며 "콘텐츠 크기에 상관없이 AI가 제작했는지를 실시간으로 감지할 수 있어 가짜뉴스 등을 판별할 뿐 아니라 딥페이크 기반 보이스피싱 등 다양한 범죄 예방에 활용될 수 있을 것"이라고 말했다.

한편 에스피소프트는 우선 구글 플레이스토어를 통해 딥페이크 탐지기를 출시했으며, 향후 iOS와 윈도우 기반 애플리케이션도 순차적으로 공개할 예정이다.