삼성전자(005930) 가 엔비디아의 맞춤형(커스텀) 고대역폭메모리(HBM) 개발 과정에서 파운드리(반도체 위탁 생산) 경쟁사인 TSMC와 손잡게 된 것은 인공지능(AI) 칩이 성능과 공급 양쪽에서 ‘메모리 병목’에 직면해 있어서다. HBM의 데이터 전송 속도가 그래픽처리장치(GPU)의 연산 속도를 따라가지 못하는 기술적 장벽이 부상한 가운데 TSMC의 첨단 로직(시스템반도체) 공정으로 HBM 성능을 끌어올리고 TSMC의 생산능력까지 더해 공급을 늘리는 구상에 힘을 실어준 것이다.
18일 업계에 따르면 엔비디아는 삼성전자·TSMC와 함께 자체 HBM인 ‘NVHBM’의 핵심 부품 ‘베이스다이’를 맞춤 설계하고 있다. HBM의 맨 아래층에 있는 베이스다이는 로직 회로로 구성돼 있어 데이터 전송 속도를 결정한다. 이를 어떻게 설계하는가에 따라 제품 경쟁력이 달라진다.
NVHBM 맞춤형 베이스다이는 GPU에 있던 메모리 컨트롤러를 구현한 것이 특징이다. GPU가 맡던 부수 기능을 NVHBM의 베이스다이에 넘기고 그만큼 확보된 GPU 공간에 연산 회로를 더 넣어 성능을 끌어올린 것이다. 대신 베이스다이에 컨트롤러를 넣을 공간을 마련하기 위해 외부 칩과 전기신호를 주고받는 회로인 물리 계층(PHY)의 면적을 표준 HBM보다 60% 줄였다. 그 결과 NVHBM은 표준 HBM4E(7세대)보다 메모리 대역폭을 최대 30% 넓히고 전력 소비를 15% 줄일 수 있게 됐다.
엔비디아가 NVHBM용 베이스다이에 TSMC 3㎚(나노미터·10억분의 1m) 로직 공정을 요구한 것은 이 같은 설계 방식과 맞닿아 있다. 베이스다이에 GPU에서 옮겨온 기능까지 넣으려면 한정된 면적에 더 많은 회로를 집적할 수 있는 3나노급 초미세 공정이 필요하다. 여기에 생산 비용을 줄이려면 수율(웨이퍼 한 장당 정상 칩 비율)도 높아야 한다.
업계에서는 TSMC 3나노의 수율을 90% 이상으로, 이에 대응하는 삼성 파운드리 2나노(SF2) 공정은 60% 안팎으로 보고 있다. 엔비디아로서는 TSMC로 베이스다이 공정을 일원화하는 것이 안정적 선택인 셈이다.
기술적 조건 및 환경보다 더 큰 이유는 HBM 공급이 수요를 따라가지 못하는 데 있다. 투자은행 UBS에 따르면 내년 HBM 수요는 비트(저장용량 단위) 기준 약 615억 Gb(기가비트)로 올해보다 91% 늘어날 것으로 전망된다. 반면 메모리 업체들의 신규 출하량은 546억 Gb에 그칠 것으로 예상돼 수요 대비 10%가량 공급 부족이 우려되는 상황이다.
삼성전자는 늘어나는 수요에 맞춰 HBM의 양대 핵심 구성품인 코어다이와 베이스다이 생산량을 함께 늘려야 한다. 메모리반도체 역할을 하는 코어다이는 첨단 D램 공정인 1c(6세대)를 활용해 화성캠퍼스 17라인과 평택캠퍼스 P2·P3·P4에서 만들고 있다. 여기에 내후년 첫 가동을 목표로 짓고 있는 P5-1도 1c 라인을 중심으로 운영될 예정이다.
하지만 베이스다이 생산능력은 상대적으로 제한적이다. 삼성전자의 4나노 베이스다이 생산라인은 화성 17라인과 평택 P3 일부에만 있다. 기존 HBM 수요에 맞춰 짜놓은 현행 생산 체제에서는 NVHBM 같은 커스텀HBM 물량까지 충분히 소화하기 어려운 형편이다.
삼성전자가 감당하기 어려운 베이스다이 부족 물량은 TSMC가 메울 수 있는 여력이 있다. 앞서 TSMC는 3분기 실적 발표에서 대만 타이난의 ‘팹 18’에 신규 3나노 생산라인 2곳을 추가해 각각 내년 상반기, 내후년 상반기부터 양산에 들어가겠다고 밝혔다. 미국 애리조나 2공장과 일본 구마모토 2공장에서도 각각 내년 3분기와 2028년 양산을 목표로 3나노 생산라인을 갖출 계획이다.
그렇다고 베이스다이 생산이 TSMC로 굳어진 것은 아니다. 삼성전자는 엔비디아 요구에 따라 NVHBM에 TSMC 측 베이스다이를 쓰면서도 지속적 수요 증가에 대비해 자사 파운드리로 생산하는 방안도 준비하고 있다.
업계 관계자는 “TSMC의 3나노 생산라인은 베이스다이 외에도 고성능컴퓨팅(HPC), 스마트폰용 칩을 만들고 있어 배정 물량이 한계에 이를 수 있다”면서 “이에 삼성 파운드리는 TSMC 3나노에 준하는 삼성 2나노 공정으로 NVHBM 베이스다이 생산을 검증하고 있다”고 말했다.
업계의 또 다른 전문가는 “엔비디아 NVHBM 공동 개발을 계기로 삼성전자와 TSMC의 협력이 첨단 패키징 공정에서 HBM 핵심 구성품을 만드는 관계로 넓어지게 됐다”며 “4년 전 TSMC의 AI칩 패키징 공정(CoWoS) 관련 협력을 한 바 있는 양 사가 글로벌 ‘메모리 쇼티지’ 국면에서 손을 잡은 것은 업계에 큰 시사점을 준다”고 평가했다.