행정안전부 제공#사회관계망서비스(SNS)에서 확보한 지인의 얼굴 사진을 나체 이미지에 합성한 이미지가 온라인 메신저를 통해 퍼졌다.
국립과학수사연구원(국과수)은 영상 속 합성된 얼굴 경계에서 발생한 왜곡을 탐지해 디지털 성범죄의 핵심 증거로 활용했다.
30일 행정안전부에 따르면 행정안전부가 국과수와 함께 개발한 '인공지능(AI) 딥페이크 분석모델'이 실전 수사에 활용되고 있다.
딥페이크는 인공지능 기술을 활용해 사진이나 영상에 다른 사람의 얼굴이나 음성을 합성해 실제처럼 보이게 만드는 기술로 최근 들어 정치적 조작과 디지털 성범죄 등에 악용되고 있다.
이에 대응해 행안부는 딥페이크 이미지, 영상, 음성의 진위를 판별할 수 있는 분석모델을 개발해 지난 4월 검증을 마치고 수사현장에 투입했다.
.이 분석모델은 의심 파일의 합성 확률과 시간대별 변조율을 자동으로 예측해 딥페이크 여부를 빠르게 판단한다.
또 눈, 코, 입 등 신체 부위별로 정밀하게 탐지할 수 있으며, 일부 손상된 데이터도 분석 가능한 것이 특징이다.
실제로 이 기술은 지난 5~6월 두 달 동안 대통령 선거 범죄 13건, 디지털 성범죄 2건 등 총 15건의 딥페이크 감정에 활용됐다.
선거 기간에는 중앙선거관리위원회와 협력해 유튜브 등에서 퍼진 불법 딥페이크 선거 홍보물 1만여 건을 찾아내 삭제하는 데도 기여했다.
이용석 행안부 디지털정부혁신실장은 "'인공지능 딥페이크 분석모델'은 인공지능 기술을 사회 문제 해결에 적극적으로 활용한 사례"라며 "앞으로도, 행안부는 인공지능과 데이터 분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것"이라고 강조했다.