중국 빅테크 텐센트의 인공지능(AI) 개발은 새로운 모델을 공개하는 데서 끝나지 않는다. 오히려 모델 공개 이후부터 진짜 개발이 시작된다는 이야기가 있을 정도다. 올해 1월 말 AI 학습 인프라를 재구축한 텐센트는 4월 ‘Hy3 프리뷰’를 공개한 뒤 이를 위안바오(사용자 맞춤형 AI)와 워크버디(업무용 AI) 등 자사 서비스에 곧바로 투입했다. 실제 업무와 서비스에서 나온 이용자 반응을 다시 모델에 반영해 7월 6일 정식판을 내놓았다. 인프라 재구축부터 제품 적용과 피드백, 모델 개선까지 한 바퀴를 도는 데 6개월도 걸리지 않았다.
모델 자체의 덩치를 무제한으로 키우지도 않는다. Hy3는 전체 매개변수가 2950억 개지만 실제 연산에 활용하는 매개변수는 210억 개다. 필요한 영역만 골라 작동시키는 ‘전문가 혼합(MoE)’ 구조를 활용해 연산량을 줄였다. 텐센트는 Hy3가 매개변수가 2~5배 많은 대형 모델과도 견줄 만한 성능을 낸다고 설명한다.
중국 기업들이 이처럼 연산 효율을 쥐어짜내는 데는 이유가 있다. 미국이 2022년 이후 중국의 첨단 AI 칩 확보를 제한하고 있기 때문이다. 중국은 현재 엔비디아의 H200과 같은 성능 제한 AI 칩만 부분적으로 수입하고 있을 뿐 최첨단 칩은 손에 넣지 못하고 있다.
최첨단 칩을 원하는 만큼 구하기 어려워지자 중국은 투트랙 대응에 착수했다. 우선 AI 모델의 성능을 극한으로 최적화했다. 문샷AI의 ‘키미 K3’가 대표적이다. K3는 2조 8000억 개의 매개변수를 가진 초대형 모델이지만 토큰 하나를 처리할 때는 896개 ‘전문가’ 가운데 16개만 작동한다. K3는 이 같은 방식으로 그래픽처리장치(GPU)를 더 붙이지 않고 처리 속도를 3.14배나 끌어올렸다.
중국이 생산하는 자체 칩도 눈부신 속도로 성능을 끌어올리고 있다. 딥시크가 최근 공개한 AI 모델인 V4는 화웨이 칩인 950PR에서 구동할 수 있도록 최적화 설계가 이뤄졌다. AI 모델을 개발하는 과정에서 학습은 엔비디아 제품을 썼지만 실제 돈을 벌어들이는 추론 단계에서는 자국산 칩으로 제품을 구동시킨 것이다. 백서인 한양대 글로벌문화통상학부 교수는 “중국 AI는 미국이 앞서가도 빠르게 추격해 격차가 크게 벌어지지 않고 자체 칩과 생태계도 한층 성숙한 단계에 진입했다”고 평가했다.
기업들이 효율 경쟁을 벌이는 동안 생태계의 토대는 정부가 깔았다. 현재 중국에서 AI 전공을 개설한 대학은 2018년 35곳에서 2023년 498곳, 지난해에는 600곳 이상으로 늘었다. 모집 인원도 2019년 1232명에서 2024년 4만 3333명으로 35배 넘게 증가했다. 중국 내 AI 인재풀은 70만 명을 넘어선 것으로 분석된다.
이뿐만이 아니다. 충칭은 AI·스마트 제조 산학협력 참여 기업의 교육비 30%를 지원하고 프로젝트당 최대 500만 위안을 댄다. 산시에서는 AI 기업 연구소 설립에 기업당 100만 위안을 지원해 칩 설계 인력을 키운다. 구이저우는 국가 컴퓨팅 프로젝트인 ‘동수서산(컴퓨팅 연산 수요가 많은 동부지역과 전력이 저렴한 서부 데이터센터를 연결함)’ 프로그램으로 대학의 AI 훈련기지를 연결한다. 정부가 인재와 연산 인프라를 공급하고 기업은 그 위에서 기술과 서비스로 경쟁하는 구조다.
반도체 업계의 한 고위 관계자는 “중국이 초강력 AI 모델을 잇달아 출시할 수 있는 이유는 일명 ‘중국 AI 4대 천왕’이라고 불리는 딥시크·문샷AI·즈푸AI·미니맥스의 천재 창업자들 덕분”이라며 “우리나라도 90년대 학번까지는 컴퓨터공학이 강했지만 2000년대 들어서면서 인재의 계보가 많이 약해진 상태”라고 지적했다.
중국 정부는 국산 AI 칩이 실제로 쓰일 시장까지 만들어주고 있다. 화웨이 어센드와 캄브리콘 등 자국산 칩의 성능을 검증할 기준을 마련하고 공공·산업용 AI 시스템에 적용할 수 있도록 지원하는 방식이다. 정부가 인내자본으로 나서 성능이 다소 떨어지더라도 현장에서 먼저 쓰면서 데이터를 쌓고 기술을 개선할 기회를 주는 셈이다.
전문가들은 이에 따라 중국과의 AI 경쟁에서 개별 기업에만 책임을 맡겨서는 격차를 좁히기 어렵다고 지적한다. 정부가 인재와 정보 인프라를 선제적으로 구축하고 민간에서는 성장기업에 자금이 계속 흘러갈 수 있는 투자 생태계를 만들어야 한다는 것이다.
전병서 중국경제금융연구소장은 “중국은 성장한 기업이 자금을 다시 투자하는 선순환 구조가 만들어져 있다”며 “지금 한국은 정부 지원이 파격적으로 있어야 한다”고 강조했다.