인공지능(AI) 투자 열풍으로 AI 데이터센터(AIDC)와 그래픽처리장치(GPU) 자원이 품귀를 빚으면서 클라우드 시장의 주도권이 공급자 쪽으로 빠르게 기울고 있다. NHN클라우드는 대규모 GPU 인프라와 수랭식 냉각 운영 경험을 앞세워 이 같은 시장 변화에 대응하고 있다. 차세대 GPU가 초고밀도·고발열 구조로 진화할수록 냉각 기술과 데이터센터 설계 역량이 AI 인프라 사업의 경쟁력을 좌우할 것이라는 판단이다.
이일준 NHN클라우드 기술사업부 이사는 7일 서울경제 인터뷰에서 “현재 국내에서 이용 가능한 데이터센터만으로는 기업들의 AI 인프라 수요를 충족하기 어렵다”며 “일부에서는 클라우드 사업자가 고객을 선택할 수 있을 정도로 공급이 부족하고, 해외에서도 대규모 AI 자원을 사용하고 싶다는 문의가 들어오고 있다”고 밝혔다.
업계에서는 국내 AIDC 공급 부족이 적어도 2027년 말까지 이어질 것으로 보고 있다. 현재 건설 중인 대형 AIDC가 본격 가동되는 시점이 2028년 전후로 예상되는 반면 당장 활용할 수 있는 데이터센터 용량은 수요에 크게 못 미치는 실정이다. AI 인프라 시장에서 공급자 우위 구도가 형성된 배경이다.
NHN클라우드는 지난해 정부 GPU 확보 사업을 통해 양평 데이터센터에 약 7600장 규모의 GPU 인프라를 구축했다. 이 가운데 약 20%는 NHN클라우드가 자체적으로 외부 고객에게 공급할 수 있는 물량이다. 이 이사는 “자체적으로 활용할 수 있는 GPU는 사실상 남는 자원이 없을 정도로 대부분 판매됐다”며 “정부 활용 물량 역시 독자 AI 파운데이션 모델 사업과 국가 연구과제 등에 대부분 배분된 상태”라고 설명했다.
NHN클라우드가 차세대 AI 인프라 시장의 핵심 경쟁력으로 꼽는 것은 수랭식 냉각 기술이다. AI 반도체의 성능과 집적도가 높아지면서 서버에서 발생하는 열을 얼마나 안정적으로 제어하느냐가 서비스 성능과 안정성을 좌우하고 있어서다.
이 이사는 “AI 인프라는 냉각이 제대로 이뤄지지 않으면 성능이 떨어지고 장비 불량 가능성도 커진다”며 “공랭 방식은 공기의 흐름을 완벽하게 예측하기 어려워 특정 공간의 냉각이 제대로 이뤄지지 않을 경우 서비스 장애로 이어질 수 있다”고 말했다.
반면 수랭 방식은 서버별 냉각수 온도 등을 실시간으로 측정해 보다 정밀하게 관리할 수 있다. 그는 “NHN클라우드는 대규모 수랭 인프라를 선제적으로 구축·운영하면서 시행착오와 운영 노하우를 축적했다”며 “이 같은 경험이 차세대 AI 인프라 경쟁에서 강점으로 작용할 수 있다”고 강조했다.
엔비디아의 차세대 AI 반도체 ‘베라 루빈’부터는 막대한 발열량을 잡기 위해 수랭의 중요성이 한층 커질 전망이다. 이 이사는 “현재 국내에 공급되는 B300은 공랭과 수랭을 모두 선택할 수 있지만 베라 루빈부터는 사실상 수랭이 기본이 된다”며 “장비 자체 하중만 ㎡당 약 1.8톤 수준이고 냉각수와 배관 무게까지 더하면 ㎡당 2.3톤 안팎을 견뎌야 할 수 있다”고 말했다.
차세대 GPU 도입을 위해서는 단순히 냉각 설비를 교체하는 것을 넘어 데이터센터의 구조 자체를 바꿔야 한다는 의미다. 그는 “현재 국내 데이터센터 가운데 ㎡당 2톤 이상의 하중을 견디도록 설계된 곳은 많지 않을 것”이라며 “앞으로는 냉각뿐 아니라 바닥 하중과 건축 구조까지 차세대 GPU에 맞춰 설계해야 한다”고 설명했다.
NHN클라우드는 공공 AI 인프라에서 축적한 경험을 국방·금융을 비롯한 민간 시장으로 확대할 계획이다. 특히 국방 AIDC는 외부 인터넷망과 분리된 폐쇄형 환경에서 운영해야 하는 데다 한 시설이 공격받더라도 다른 지역에서 서비스를 이어갈 수 있는 분산형 구조가 요구된다. 이 이사는 “국방 AIDC는 외부 인터넷 연결 없이 내부에서 시스템 구축과 운영이 모두 가능해야 하고 한 시설이 타격을 받더라도 다른 곳에서 서비스를 계속 제공할 수 있어야 한다”며 “여러 지역에 인프라를 분산 배치하고 이를 통합 관리할 수 있는 체계가 필요하다”고 말했다.
민간에서는 게임사 등 개발 전문기업으로 고객 기반을 넓히고 있다. NHN클라우드는 크래프톤의 약 1000억원 규모 GPU 인프라 구축 사업을 수주해 지난 7월부터 서비스를 제공하고 있다. 이 이사는 “게임사를 비롯한 개발 전문기업은 공공기관보다 성능과 퍼포먼스에 대한 요구 수준이 높은 편”이라며 “고객별 요구에 맞춰 GPU 인프라를 구성하고 추가 자원 공급 방안도 지속적으로 협의하고 있다”고 말했다.
그는 “NHN클라우드는 공공 분야를 중심으로 대규모 AI 인프라 구축·운영 경험을 축적해왔다”며 “AI 인프라를 회사의 장기 성장축으로 보고 기술 개발과 자원 확보, 서비스 안정성에 지속적으로 투자할 것”이라고 말했다.