틱톡이 인공지능(AI) 생성 콘텐츠 확산에 발맞춰 AI 리터러시 교육을 확대한다.
틱톡은 이용자들이 AI 생성 콘텐츠(AIGC)를 보다 안전하고 책임감 있게 소비하고 창작할 수 있도록 지원책을 마련했다고 16일 밝혔다.
먼저 틱톡은 AI 리터러시를 강화하기 위해 신규 교육 및 전문가 협력 프로그램을 진행한다. 미디어 리터러시 전문기관인 미국 미디어교육전국연합회(NAMLE) 및 생성형 AI 전문가 헨리 에이더와 협력해 이용자들이 AI 도구와 AIGC를 안전하고 책임감 있게 활용할 수 있도록 안내하는 가이드를 마련했다. 이용자가 AI 관련 용어를 검색할 때 AIGC를 식별하는 방법을 배울 수 있는 인앱 허브도 선보일 예정이다.
AI 리터러시 관련 투자도 이어간다. 틱톡은 디지털 안전 연합체 ‘노필터’, 교육 자선 단체 ‘라즈베리 파이 재단’ 등 전문 기관의 틱톡 콘텐츠 제작을 지원하고 있다. 지금까지 400만 달러 이상을 투자했고 향후에도 관련 지원을 지속 확대해 나갈 계획이다.
이용자들이 AIGC를 인지할 수 있도록 기술 파트너십도 강화한다. 틱톡은 2024년 업계 최초로 AIGC의 출처 정보를 확인하는 글로벌 표준 기술인 C2PA 콘텐츠 인증 기술을 도입한 바 있다. 이번에 C2PA 운영위원회에 공식 합류하면서 글로벌 표준 기술의 업계 확산에도 앞장설 계획이다.
대량으로 생성되는 저품질 AI 생성 스팸 콘텐츠에 대한 대응 시스템도 개선한다. 틱톡은 올해 1분기에만 8600만 개 이상의 허위 계정을 삭제했다. 앞으로는 정치·시사, 금융, 의료 정보 등 민감 분야에서 AI 생성 스팸 콘텐츠를 대량 게시하는 계정을 효과적으로 식별하고 조치할 수 있도록 탐지 시스템을 고도화할 계획이다. 이번 조치는 사람의 실질적인 참여 없이 저품질 AI 콘텐츠를 대량 생산하는 계정에 한정된다.
톰 C. 바르게세 틱톡 공공정책 AI 리드는 “틱톡은 이용자들이 AI를 경험하는 과정에서 충분한 맥락을 파악하고, 안심하며, 자신의 경험을 직접 관리할 수 있어야 한다고 믿는다”며 “앞으로도 이용자들이 AI 생성 콘텐츠를 구분하고 관련 도구를 창의적이고 책임감 있게 사용할 수 있도록 기술, 파트너십, 교육 리소스에 지속적으로 투자할 것”이라고 말했다.