공공기관들이 대국민 서비스에 대한 인공지능(AI) 전환을 추진하는 과정에서 핵심 인프라로 국산 신경망처리장치(NPU) 대신 엔비디아의 그래픽처리장치(GPU)를 선택하는 사례가 잇따르고 있다. 정부가 ‘K-엔비디아’ 프로젝트를 통해 국내 NPU 기업에 수천억 원을 투자하며 AI 반도체 육성에 나선 상황인 것에 반대되는 행보라는 지적이 나온다.
11일 정보기술(IT) 업계에 따르면 한국남동발전은 AI 인프라 확장 사업을 추진하면서 하드웨어 확충 요구사항에 엔비디아의 블랙웰 계열 GPU인 ‘B300’ 8대를 명시했다. 해당 신규 GPU 서버 구축 예산으로 책정한 금액은 12억 2700만 원에 달한다.
한국남동발전이 이번 AI 인프라 확장을 통해 구축하는 시스템은 업무용 AI 에이전트다. 또 사내 데이터를 AI가 체계적으로 활용할 수 있도록 하려는 목적도 있다. 이는 리벨리온이나 퓨리오사AI가 만든 최신 NPU로도 큰 무리 없이 구축할 만한 수준이라는 것이 AI 반도체 업계의 의견이다.
한국남동발전은 하이브리드 AI 플랫폼 ‘남동아이’를 2027년까지 구축할 예정이다. 사업 초기부터 엔비디아 제품 위주로 AI 인프라를 구축하고 있는 만큼, 향후에도 국산 NPU를 도입하기에는 호환성 등의 측면에서 많은 제약이 따를 것으로 보인다.
한국도로공사도 ‘AI 기반 교통량 조사 시스템 개발’을 위한 인프라 구축에 엔비디아 GPU를 활용하려는 것으로 확인됐다. 제안서에는 AI 전용 서버 사양으로 엔비디아 H200 6개 이상아 명시됐고, 엔비디아 AI 엔터프라이즈 라이선스 확보도 포함됐다. 단순 인프라 구매를 넘어 엔비디아 GPU와 소프트웨어 생태계를 함께 도입하려는 모습이다.
한국해양과학기술원도 ‘한반도 주변 고해상도 예측정보 생산’ 사업을 위해 엔비디아 GPU 제품 확보를 추진하고 있다. 제안서에 특정 제조사명이나 모델명을 직접 적지는 않았지만, 요구 사양에는 HBM3E 141GB 이상, 쿠다 툴킷, 엔비디아 솔루션이 명시됐다는 점에서 사실상 엔비디아 H200급 GPU 서버 확보를 염두에 둔 것으로 해석된다.
리벨리온과 퓨리오사AI에 간접 투자한 한국벤처투자마저도 국산 NPU보다는 엔비디아 제품 도입을 추진 중이다. 최근 한국벤처투자는 ‘AI 인프라 기반 구축을 위한 GPU 서버 구매’ 사업 공고를 냈는데, 규격서 요구사항으로 엔비디아 H200 4개 이상을 탑재한 고성능 서버 도입을 명시했다. 한국벤처투자는 최근 리벨리온의 기업가치 3조 원 달성 기념식을 공동 개최하며 국산 AI 반도체 생태계 육성 성과를 강조한 바 있다. 이번 결정으로 인해 대외적인 정책 행보를 무색하게 만들었다는 평가가 나온다.
이는 국산 AI 반도체 육성 정책과 공공 조달 현실 사이의 간극을 보여주는 대표적인 사례다. 공공기관들은 새로운 NPU 도입에 따른 위험을 감수하기보다 성능과 유지보수 측면에서 이미 검증된 엔비디아 GPU를 선택하며 안정성을 중요하게 본 것으로 분석된다. 또 기존 GPU 기반 시스템, 소프트웨어와의 호환성까지 고려하면 국산 NPU 도입을 결정하기는 쉽지 않았을 것으로 보인다.
이성엽 고려대 기술경영전문대학원 교수는 “공공기관 입장에서는 안정성 등의 측면에서 기존 엔비디아의 범용 제품을 사용하는 것은 어쩔 수 없는 선택이었을 것”이라며 “다만 정부 예산을 활용하는 만큼 국산 NPU 기술의 발전과 글로벌 진출을 돕기 위해 시범적으로라도 도입하려는 노력은 필요하다”고 말했다. 이어 “정부 차원에서 공공기관 IT 담당자들이 국산 NPU에 대한 이해를 높이고 쉽게 접근할 수 있도록 교육하는 프로그램이 필요할 것”이라고 덧붙였다.