최근 디지털 성범죄 피해를 입은 A 씨는 포털 사이트 광고 상단에 노출된 민간 대응 업체 B사를 찾았다. 유포 차단이 시급했던 그는 수백만 원을 송금하고 온라인으로 계약을 맺었지만 곧 불안감에 휩싸였다. 홈페이지에 올라온 이용 후기 영상들의 구성과 발화 방식이 지나치게 비슷해 생성형 인공지능(AI)을 활용한 조작이 의심됐기 때문이다. A 씨는 계약 한 시간 만에 환불을 요구했지만 업체는 “이미 조치에 착수해 취소가 불가능하다”며 거절했다. 이후 추가 조치를 요구하는 A 씨의 연락에도 응하지 않은 채 사실상 잠적했다.
딥페이크 등 디지털 성범죄 피해자의 절박한 심리를 노린 역량 미달 업체들이 난립하고 있다. 일부 영세 업체들은 기술력을 과대 포장한 광고로 피해자를 유인한 뒤 환불을 거부하거나 연락을 끊는 등의 방법으로 피해자를 두 번 울리고 있는 셈이다.
19일 서울경제신문 취재를 종합하면 최근 B사처럼 재무 공시 정보가 전무한 영세 업체에 수백만 원을 선납했다가 연락 두절 피해를 호소하는 사례가 잇따르고 있다. 불확실한 기술력을 과장해 홍보하는 행태도 심각한 수준이다. 또 다른 민간 업체 C사는 홈페이지에서 몸캠 피싱 방어 시스템을 ‘특허 기술’로 홍보하고 있다. 하지만 해당 서류는 특허 등록증이 아니라 단순한 특허 출원 접수증에 가까운 것으로 파악됐다. 특허정보검색서비스(KIPRIS)에서도 해당 기술들은 등록 완료가 아닌 출원 단계로 확인됐다. 업계의 한 관계자는 “심사 중인 기술을 이미 독자적 특허로 확보한 것처럼 표기한다면 소비자가 실제 기술력을 오인할 우려가 있다”고 지적했다.
영세 업체들의 난립은 디지털 성범죄 대응 분야가 새로운 수익 시장으로 떠오른 것과도 무관하지 않다. 오픈소스 기반 AI 모델이 확산되면서 전문 기술이 없는 일반인도 정교한 합성물을 제작하기 쉬워졌고 이에 따라 불법 합성물 차단과 삭제를 내세운 민간 대응 수요도 빠르게 커지고 있다. 실제 성평등가족부에 따르면 지난해 디지털 성범죄 발생 건수는 1만 7629건으로 1년 새 4.7% 증가했다. 이 가운데 딥페이크를 포함한 합성·편집물 관련 피해는 1384건에서 1616건으로 16.8% 급증했다.
해외에 서버를 둔 소셜네트워크서비스(SNS)는 불법 합성물의 핵심 유통 경로로 작용하고 있다. 이날 서울경제신문이 X(옛 트위터)에서 특정 키워드를 검색한 결과 지인이나 연예인을 표적으로 삼은 이른바 ‘능욕방’ 개설 홍보글이 줄을 이었다. 플랫폼 규제를 우회하기 위해 ‘박제’나 ‘상납’ 같은 해시태그를 조합한 사례도 적지 않았다. AI 합성 사진을 제작해준다는 외부 사이트 링크나 대화방 주소 역시 공공연하게 공유되고 있었다. 또 다른 업계 관계자는 “불법 합성물 제작과 유통이 일상화되면서 이를 막아주겠다는 사설 구제 시장이 약 2년 전부터 급격히 커졌다”고 설명했다.
피해자들이 사설 시장으로 내몰리는 배경에는 범죄 진화 속도를 따라잡지 못하는 관계 기관의 현실도 자리하고 있다. 정부는 ‘초국가 범죄 대응 태스크포스(TF)’ 가동과 불법 영상물 추적 시스템 도입 등 대책을 내놓고 있지만 현장에서는 여전히 역부족이라는 평가가 많다. 경찰청에 따르면 연간 사이버 범죄 발생 건수는 2020년 23만 4098건에서 2024년 31만 4519건으로 최근 5년간 34.4% 늘었다. 반면 같은 기간 발생 대비 검거율은 67.5%에서 54.1%로 13.4%포인트 하락했다. 범죄는 빠르게 늘고 있지만 수사와 차단 역량은 이를 충분히 따라가지 못하고 있는 것이다.
전문가들은 부실 업체의 불량 영업에 대한 당국의 단속과 함께 피해자 스스로도 신뢰할 수 있는 창구를 가려내려는 노력이 필요하다고 조언한다. 이은희 인하대 소비자학과 교수는 “검증되지 않은 기술력을 독점적 권리처럼 홍보하는 행위는 표시광고법 위반 소지가 있다”며 “소비자들도 다급한 심리에 쫓겨 계약하기보다 공인된 이력과 보안 체계를 꼼꼼히 확인해야 한다”고 당부했다.