[금융경제신문=최원석 기자] 국내 최초 디지털 영상 변조기술 ‘딥페이크(deepfake·인공지능 영상 합성)’를 탐지하는 모바일 앱이 개발돼 서비스를 시작한다.

한국과학기술원(KAIST)은 디지털 사진의 변형 여부를 탐지하는 모바일 어플리케이션(앱) '카이캐치(KaiCatch)‘를 개발 및 서비스한다고 30일 밝혔다. 이 앱은 KAIST 전산학부 이흥규 교수 연구팀과 KAIST 창업기업인 디지탈이노텍이 공동으로 개발한 앱으로 인공신경망을 이용해 사진의 위·변조 여부를 확인할 수 있는 기술이 담겨있다.

 영상의 미세 변형 신호 흔적과 미세 이상 신호 흔적 탐지 기술을 적용한 인공지능 기술. 이를 통해 얼굴 영역의 미세 변형과 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡 발생이 가능한 영역의 이상 신호를 분석해 위변조 여부를 탐지할 수 있게 되는 것이다.

사용자가 avi, mp4 형식의 동영상 한 프레임을 이미지로 만들어 업로드하면, 애플리케이션이 0~100% 값으로 위변조 여부를 가려낸다. 숫자가 높을 수록 딥페이크일 확률이 높다.

사진도 같은 방식으로 위변조 여부를 확인이 가능하다. 사진은 BMP, TIF, TIFF, PNG 등 무압축, 무손실 압축을 포함해 50여 개의 표준 양자화 테이블과 1000여 개가 넘는 비표준화된 양자화 테이블에 기반한 JPEG 이미지 모두 판독할 수 있다. 이 앱을 사용하고자 한다면 딥페이크가 의심되는 동영상이나 사진을 올리고 분석을 의뢰하면 된다. 분석 결과는 3일 내로 제공 받을 수 있다.

주로 사람의 얼굴을 대상으로 하는 딥페이크 기술은 얼굴 교체, 얼굴 재현, 얼굴 속성 변환 3가지 유형으로 나뉜다. 그중 얼굴 교체와 얼굴 재현은 악의적으로 사용할 때 가짜 뉴스 등 사회적 큰 혼란을 일으킬 수 있고 음란물 제작 등에도 악용돼 개인의 인권을 크게 침해할 수 있다. 현재까지는 사진이나 영상의 위조 여부를 확인할 수 있는 분석 도구가 없어 전문가의 주관적 판단에 의존해야 했지만, 일반인들도 카이캐치 앱을 통해 딥페이크를 손쉽게 가려낼 수 있을 전망이다.

이흥규 교수는 "카이캐치는 인공지능과 미세 이상 신호 흔적 분석 기법이라는 첨단 기술을 사용해 다양한 유형의 변형에 대응한 범용성을 가지도록 개발됐다"며 "예측할 수 없거나 알려지지 않은 변형 기법을 사용해도 90% 내외의 높은 정확도로 탐지할 수 있다"고 전했다.

카이캐치 앱은 안드로이드 구글 플레이스토어에서만 내려 받아 사용할 수 있으며, 향후 애플 iOS 기반 앱과 영어, 중국어, 일어 앱 들도 출시될 예정이다.