대형언어모델(LLM)·자율 에이전트 등 인공지능(AI) 기술의 발달로 인해 더욱 치명적이고 정교한 ‘가짜뉴스’가 퍼지고 있다. 범국가 차원의 정책 협력과 더불어 우리나라도 소버린 AI 기술을 확보해 이에 대응해야 한다는 목소리가 과학기술계 안팎에서도 커지고 있다.
올해 한인과학기술인대회 기조강연을 맡은 차미영(사진) 독일 막스플랑크연구소 보안·정보보호 연구소단장 역시 같은 입장을 밝혔다.
차 단장은 7일 서울 강남구 한국과학기술회관에서 국내 언론과 만나 “최첨단 AI가 여론을 조작하거나 사회적 의사결정에 악의적 영향을 미치는 것을 막기 위해 정책과 과학이 함께 대응해야 한다”고 말했다.
한국과학기술원(KAIST) 전자학부 교수인 차 단장은 빅데이터 기반 AI를 활용해 코로나19 시기의 가짜뉴스, 빈곤·환경오염 등과 같은 사회 문제를 분석해온 성과를 인정 받아 2024년 ‘노벨상 사관학교’라 불리는 독일 막스플랑크 연구소에서 한국인 최초로 연구단장으로 선임됐다. 현재 ‘인류를 위한 데이터사이언스’ 연구단을 이끌고 있는 그는 이날 행사에서 같은 주제의 기조강연도 맡았다.
차 단장은 최근 빠르게 고도화된 AI가 가짜뉴스 생태계 자체를 바꾸었기에 기술적·정책적 접근도 달라져야 한다고 진단했다. 사람을 가장한 AI가 허위 계정을 수천 개 이상 생성해 조직적으로 활동하는 상황에서 더 이상 인간 ‘팩트체커’가 일일히 허위 여부를 판별하는 사후적 대응 방식은 효력이 없기 때문이다.
차 단장은 “과거에는 SNS처럼 ‘사람’ 간 네트워크를 타고 가짜뉴스가 생성된 반면, 현재는 AI가 직접 개입하기 때문에 예전과 같은 방식으로 확산 방식을 추적·분석하는 것이 어려워졌다”고 말했다. 또한 “각 개인이 AI와 대화하는 과정에서 편향·거짓된 정보가 주입되는 알고리즘 역시 연구자 차원에서 확인하기 어렵다”며 “앞으로 이를 해결하기 위해 AI 내부의 블랙박스를 들여다보는 ‘메커니즘 해석’ 연구가 중요해질 것”이라고 강조했다.
가짜뉴스의 확산 속도와 영향력에 비해 국내 규제 수준이 미흡하다는 평가도 이어졌다. 이날 ‘허위조작정보근절법’이라 불리는 정보통신망법 개정안이 시행된 가운데 차 단장은 “여전히 허위사실 유포·명예훼손 등에 대한 처벌이 솜방망이 수준”이라며 “플랫폼을 비롯해 모든 책임 이해관계자에게 더욱 많은 책임을 지워야 한다”고 말했다. 특히 그는 글로벌 플랫폼과 AI 개발 기업에 대한 정책적 규제를 강화해야 한다고 봤다. 그는 “AI와 개인 간의 정보 교류가 어떻게 이뤄지고 있는지 파악할 수 있도록 최소한의 벤치마크 등을 (공공기관·연구진 등에) 제공하도록 할 필요가 있다”고 말했다.
차 단장은 이 과정에서 소버린 AI의 중요성을 강조했다. 차 단장은 “악의적인 AI 활용에 대응하기 위해서는 연구자들에게 최첨단 AI 모델에 대한 접근 권한을 제공하는 것이 필수적”이라며 “최근 앤트로픽의 ‘미토스 5’·‘페이블 5’ 접근 차단 사태를 교훈 삼아 한국도 국가 차원의 AI 모델 개발에 더욱 속도를 내고 소버린AI 등 핵심 기술을 확보해야 한다”고 말했다.
그러면서 차 단장은 “문화적·행정적으로 혁신이 나오기 어려운 유럽에 비해 공격적이고 속도감 있는 한국의 연구 문화는 소버린 AI를 개발하기에 특히 유리한 구조라고 생각한다”고 말했다. 반면 “장기적이고 안정적인 연구 지원 제도는 한국이 유럽으로부터 배울만한 부분”이라는 지적도 이어졌다. 그는 “막스플랑크 연구소의 가장 큰 장점은 호흡이 긴 연구비다. 매년 예산을 신청하거나 삭감될 걱정이 없기에 연구자들도 십 수년 뒤에도 의미있는 연구 주제가 무엇인지에 대한 고민을 깊이 하게 된다”고 말했다.
끝으로 그는 “현재 수익모델과 단기적 보상에 초점을 맞춰 발전하고 있는 최첨단 AI는 양극화를 심화시키고 있다”며 “이런 상황일수록 AI가 ‘일부’가 아닌 ‘인류 전체’의 행복에 기여할 수 있는 방법이 무엇인지에 대한 근본적 질문을 던져야 한다”고 강조했다. 그러면서 “미래 세대에까지 성과가 나타날 수 있는 장기적인 보상을 염두에 두고 AI에 대한 연구와 정책을 설계해나가야 한다”고 조언했다.