산업통상부가 다음 달 산하 공공기관들과 국산 인공지능(AI) 반도체 구매 확대를 위한 업무협약을 맺는다. 최근 2년여간 산업통상자원중소벤처기업위원회 소관 공공기관이 구매한 AI가속기 191장 가운데 국산 제품은 단 1장에 그친 만큼 정부가 공공 부문부터 국산 신경망처리장치(NPU)의 초기 수요를 만들어 나가겠다는 취지다.
김정관 산업통상부 장관은 22일 국회 산자위 종합 국정감사에서 “산업부와 공공기관 간 국산 반도체 업무협약을 11월 중 체결하기로 했다”고 밝혔다.
실제 공공기관의 AI가속기 구매는 엔비디아에 사실상 전량 쏠려 있는 것으로 나타났다. 김종민 무소속 의원이 산업부·중소벤처기업부·지식재산처와 소관 공공기관 등 42개 기관에서 2024년 1월부터 올해 8월까지 AI가속기 구매 이력을 제출받아 분석한 결과 21개 기관이 191장, 102억 8760만 원어치를 구매했다. 이 가운데 엔비디아 제품은 190장, 102억 8510만 원으로 금액 기준 99.98%를 차지했다.
국산 제품은 한국벤처투자가 챗봇 서비스 실증을 위해 구매한 퓨리오사AI NPU 카드 1장, 250만 원어치가 전부였다. 한국벤처투자 역시 별도의 AI 인프라 구축에는 엔비디아 H200 4장을 2억 9700만 원에 도입했다. 기관별 구매액은 한국수력원자력이 39억 6400만 원으로 가장 많았고 한국가스공사 10억 9180만 원, 강원랜드 9억 5500만 원, 한국전력공사 8억 7100만 원, 한국광해광업공단 7억 8100만 원 순이었다.
특히 엔비디아 쏠림은 대규모 AI 학습에 필요한 고성능 GPU에만 국한되지 않았다. 국산 NPU 업체들이 주력 시장으로 겨냥하는 추론 분야에서도 엔비디아 제품이 대거 사용됐다. 생성형 AI 서비스 운영과 챗봇·고객센터, 문서 인식, 개인정보 검출·마스킹, 사이버보안관제, AI 에이전트 등 추론 용도가 명확한 엔비디아 구매는 18건, 48억 5210만 원으로 전체 구매액의 47.2%에 달했다. 추론 용도가 명확한 구매 19건 중 국산 NPU를 선택한 것은 1건뿐이었다.
김 장관은 국산 NPU 도입이 좀처럼 늘지 않는 이유 중 하나로 공공기관의 책임 부담을 꼽았다. 그는 “공공기관들이 NPU를 쓰는 데 부담이 크더라”며 “괜히 이것을 썼다가 나중에 ‘왜 이것을 썼느냐’고 문책당할 수 있다는 우려가 있다”고 말했다. 성능과 운용 경험이 축적된 엔비디아 제품 대신 국산 제품을 선택했다가 문제가 생길 경우 구매 담당자가 책임을 져야 한다는 우려가 있다는 의미다.
산업부가 산하 공공기관과 별도의 협약을 추진하는 것도 이 같은 부담을 낮추기 위해서다. 김 장관은 “단순하게 행정지도를 하기보다는 산업부와 공공기관들이 아예 협약을 하나 맺어 이런 내용들을 정리하고 있다”고 설명했다. 개별 기관에 국산 제품 선택의 책임을 맡기는 대신 산업부가 구매 확대 방침을 함께 세워 초기 수요를 만들겠다는 것이다.
김 의원은 “한국 기관도 안 쓰는데 외국 기업이 쓰겠느냐”며 공공 부문이 국산 AI반도체의 실증 무대가 돼야 한다고 지적했다. 특히 국산 NPU가 경쟁력을 갖출 수 있는 추론 영역부터 구매를 늘리고 GPU와 NPU를 함께 사용하는 방식도 적극 활용해야 한다고 주문했다.