중앙 디지털성범죄피해자지원센터의 인공지능(AI) 기반 아동·청소년 성착취물 탐지 시스템. 자료 제공=성평등가족부
10일 서울 중구 중앙 디지털성범죄피해자지원센터. 인공지능(AI) 기반 아동·청소년 성착취물 탐지 시스템에 접속하자 한 랜덤채팅 어플에 올라온 게시물이 자동으로 추출됐다. AI는 “‘조건만남’을 뜻하는 ‘ㅈㄱㅁㄴ’이 포함돼 있다”며 해당 게시물이 성착취물일 확률을 100%로 판단했다. 성적 거래와 연락을 유도하고 있다는 자세한 분석도 내놨다.
정부가 이 같은 AI 기반 탐지 시스템을 도입한 결과 성착취물 삭제 지원 실적이 10배 가까이 증가한 것으로 나타났다.
성평등가족부에 따르면 중앙 디성센터는 지난 4월부터 6개월간 AI 시스템을 통해 아동·청소년 성착취물 9만 6210건을 삭제 지원했다. 지난해 삭제 지원한 4만 5438건의 2배가 넘는 수치다. 담당자 1인당 일평균 처리 건수는 지난해 20.8건에서 올해 202.1건으로 약 9.7배 늘었다.
기존에는 담당자가 온라인 플랫폼과 사이트를 일일이 모니터링해야 해 빠르게 확산하는 디지털 성착취물을 실시간으로 확인하는 데 한계가 있었다. 특히 아동·청소년을 대상으로 한 디지털 성범죄 피해가 심각해지자 AI 탐지 시스템의 필요성이 커졌다. 지난해 센터가 지원한 피해자 1만 637명 중 10대·20대는 8258명으로 전체의 77.6%를 차지했다.
성평등부가 도입한 AI 시스템은 온라인 성착취물과 유인 정보를 24시간 자동으로 탐지·분석한다. 먼저 AI가 사전에 등록된 220여 개 키워드를 바탕으로 온라인 플랫폼의 게시물을 수집한다. 이후 게시물에 포함된 텍스트와 이미지를 분석해 성착취물 여부를 확률로 나타낸다.
분석 결과 아동·청소년 성착취물일 가능성이 60% 이상이면 해당 게시물은 담당자에게 전달된다. 삭제 요청 신청과 삭제 여부 확인까지 자동으로 이어지는 구조다. 현재 구글과 엑스(X·옛 트위터), 블루스카이, 텔레그램 등 14개 플랫폼과 채팅 어플에 게시물 수집기가 등록돼 있다. 특히 아동·청소년 성착취물은 피해자 요청 없이도 선제적으로 삭제할 수 있어 활용도가 높다.
성평등부는 삭제 지원 시스템에도 자동화 기술을 도입했다. 피해자가 성착취물 피해를 신고하면 온라인상 유포 여부를 24시간 감시하는 방식이다. 유포가 확인되면 해당 플랫폼에 삭제를 요청하고 수사기관과 협력하는 절차까지 자동으로 이뤄진다. 센터가 삭제 요청 대상으로 관리하는 사이트는 약 2만 개다. 자동화 이후 삭제 요청 1건당 처리 시간은 1분 이내로 줄었다.
성평등부는 내년 중 탐지 대상 플랫폼을 139개로 확대할 방침이다. 또 AI가 대화의 흐름과 맥락까지 파악할 수 있도록 시스템을 고도화할 계획이다. 예컨대 ‘예쁘다’라는 댓글이 단순한 칭찬인지, 성적 착취를 목적으로 접근하는 그루밍의 전조인지 구분하는 식이다. 성평등부 관계자는 “삭제 요청에 불응하는 사이트에 대해서는 통합지원단이 출범한 만큼 수익구조를 차단하고 사이트를 폐쇄하는 방식으로 적극 대응하겠다”고 강조했다.