세계 최대 하이퍼스케일러(대규모 컴퓨팅 인프라 운영사) 중 하나인 오라클 데이터센터에 내년부터 구글 자체 개발 인공지능(AI) 칩인 텐서처리장치(TPU)가 탑재된다. 엔비디아 그래픽처리장치(GPU)가 장악한 하이퍼스케일러 AI 서버 시장에서 맞춤형 칩이 엔비디아를 위협하기 시작했다는 평가가 나온다. 앤트로픽에 이어 오픈AI까지 GPU와 TPU 사용을 병행하기로 하면서 앞으로 엔비디아와 반(反)엔비디아 전선 간 경쟁이 치열하게 전개될 것으로 전망된다.
오라클은 27일(현지 시간) 미국 라스베이거스에서 열린 ‘오라클 AI 월드’ 행사에서 내년부터 TPU가 탑재되고 수년에 걸쳐 확대해나갈 계획이라고 밝혔다. TPU가 구글이 아닌 하이퍼스케일러의 데이터센터에 들어가는 첫 사례다.
TPU는 AI 개발과 운영에 특화된 맞춤형 칩이다. 엔비디아나 AMD의 GPU와 비교해 범용적인 사용은 어렵지만 추론 연산 속도가 빠르고 전력 소모나 발열이 적어 비용 효율성 면에서 장점이 있다. 구글, 아마존웹서비스(AWS), 마이크로소프트(MS) 등 하이퍼스케일러들은 자사 AI 모델에 최적화된 칩 성능을 구현하고 데이터센터 임대 사업을 키우기 위해 자체 칩 개발에 몰두하고 있다.
오라클은 TPU 외에도 반도체 스타트업 세레브라스와 삼바노바의 추론 칩, 챗GPT 개발사인 오픈AI가 브로드컴과 함께 개발한 ‘할라페뇨’도 데이터센터에 배치하기로 했다. 오라클 클라우드 인프라 사업(OCI)을 이끄는 마헤시 티아가라잔 사장은 “AI 워크로드(컴퓨팅 작업)마다 필요한 요구 사항이 다르다”면서 “TPU를 도입해 고객은 하나의 클라우드에서 여러 주요 AI 컴퓨팅 아키텍처(구조)를 이용할 수 있고 워크로드 성능에 맞는 최적의 인프라를 유연하게 선택할 수 있다”고 설명했다.
오라클이 이날 엔비디아의 최신 AI 가속기인 ‘베라루빈 NVL72’를 GW(기가와트) 규모로 확대 배치하겠다는 구상도 함께 공개했지만 시장의 관심은 TPU였다. 구글은 AWS·MS와 달리 TPU를 외부 고객에게 판매하고 있을 정도로 엔비디아 GPU의 가장 강력한 대항마로 꼽히고 있기 때문이다. 티아가라잔 사장은 TPU 탑재가 탈엔비디아 전략인지 묻자 “그렇지 않다. 엔비디아 칩이 최고의 칩”이라고 일축했다.
하지만 AI 기업들은 엔비디아 종속에서 벗어나고 비싼 GPU를 대체하기 위해 맞춤형 칩 사용을 확대해나가고 있다. 아마존은 올해 3월 데이터센터에 세레브라스 칩 도입 계획을 공개했다. 디인포메이션은 이날 내부 관계자를 인용해 “오픈AI가 TPU 구매를 추진하고 있다”며 “엔비디아와의 오랜 동맹 관계에 변화 조짐이 나타나고 있다”고 보도했다. 오픈AI 경쟁사인 앤트로픽은 지난 4월 구글·브로드컴과 수 GW 규모의 차세대 TPU 용량을 확보하는 계약을 체결했다.