대검찰청이 생성형 인공지능(AI)으로 조작된 ‘딥보이스’ 음성을 판별하는 차세대 탐지 기술 개발에 착수했다. 실시간 음성변조와 부분 편집까지 가능한 신종 딥페이크 음성이 보이스피싱·로맨스스캠·가짜뉴스 등에 악용되자 과학수사 대응 체계 구축에 나선 것이다.
25일 법조계에 따르면 대검찰청 과학수사부는 생성형 AI 기반 딥보이스를 탐지할 수 있는 통합형 시스템을 2027년 말까지 개발하는 것을 목표로 세웠다. 이를 위해 지난달 ‘새로운 음성합성 기술과 화자 인식에 강인한 페이크보이스 탐지 기술 개발’ 연구용역도 발주했다.
검찰은 기존 탐지 기술만으로는 새롭게 등장하는 딥보이스를 식별하는 데 한계가 있다고 보고 있다. 실제 사람 목소리를 기반으로 말투나 발화 스타일만 바꾸는 ‘음성변환’ 기술은 기존 음성합성보다 인위적 흔적이 적어 탐지가 까다롭다. 최근에는 전체 음성을 새로 합성하지 않고 일부 문장이나 단어만 바꿔치기하는 방식도 가능해졌다.
대검이 추진하는 통합형 시스템은 단순히 음성합성 여부를 판별하는 데 그치지 않고 음성변조와 부분 조작까지 찾아내는 데 초점을 맞췄다. 올해는 음성변조 공격 탐지 기술과 함께 일부 문장·단어만 바꿔치기한 ‘부분 조작 딥보이스’ 탐지 기술을 개발할 예정이다. 원본 음성 중 특정 금액이나 의사 표현 부분만 AI로 수정해 사기 범행에 활용하는 수법을 잡아내기 위한 것이다.
한국어 기반 딥보이스 데이터베이스(DB)도 구축한다. 검찰은 상용 음성변환 서비스와 오픈소스 AI 모델을 활용해 최소 50시간 이상의 음성변조 데이터를 수집하고, 부분 조작된 딥보이스 데이터도 50시간 이상 확보할 계획이다. 최종적으로는 딥보이스 탐지 기술과 화자 인증 기술을 결합한 ‘원스톱 분석 체계’를 구축한다는 구상이다.
딥보이스 범죄는 빠르게 확산하고 있다. 공개된 음성합성 도구만으로도 실제 인물과 구별하기 어려운 합성 음성을 손쉽게 만들 수 있게 되면서 보이스피싱과 투자 사기, 디지털 성범죄 등에 악용되는 사례가 늘고 있다. 지난해 11월 경찰에 검거된 캄보디아 로맨스스캠 조직은 딥보이스 기술 등을 활용해 피해자 136명으로부터 64억 원을 가로챈 것으로 조사됐다.
검찰 관계자는 “최신 페이크보이스 탐지 기술 개발을 통해 가짜뉴스, 보이스피싱, 디지털 성범죄 등 다양한 딥페이크 악용 범죄에 효과적으로 대응하려는 것”이라고 말했다.