“삼성이 돌아왔다.”
김경륜 삼성전자(005930) D램개발실 상무가 4일(현지 시간) 미국에서 열린 ‘FMS 2026’에서 ‘z고대역폭메모리(zHBM)’를 소개하며 ‘기술 초격차’에 대한 자신감을 드러냈다.
삼성전자의 신형 메모리 아키텍처(설계 구조)인 zHBM은 주문형반도체(ASIC)를 향해 빠르게 재편되는 인공지능(AI) 가속기 시장을 공략할 핵심 기술이다.
최근 AI 모델은 질문에 답하는 생성형 AI를 넘어 스스로 계획을 세우고 추론하며 행동하는 ‘에이전틱 AI’로 빠르게 진화하고 있다. AI 모델이 고도화할수록 처리해야 하는 데이터 규모도 폭증하는 상황이다. 특히 긴 대화와 복잡한 추론 과정에서 생성되는 데이터뿐 아니라 이전 정보를 저장해 활용하는 ‘KV 캐시’ 규모까지 커지면서 메모리칩의 부담이 커지는 형국이다.
이 때문에 AI의 경쟁력은 연산 성능을 넘어 방대한 데이터를 효율적으로 저장하고 얼마나 빠르게 AI 가속기에 전달하느냐로 이동하고 있다. AI 가속기의 핵심 연산을 담당하는 그래픽처리장치(GPU)와 텐서처리장치(TPU) 등 xPU의 성능이 아무리 높아도 데이터를 제때 공급받지 못하면 전체 AI 서비스 품질은 제한된다.
삼성전자는 이 같은 데이터 병목현상 문제를 △zHBM △z낸드-O △V10 BV-낸드 등 첨단 신기술을 적용한 칩을 통해 해결하면서 AI 메모리 시장의 주도권을 확실히 쥐겠다는 전략이다.
zHBM은 AI 가속기와 메모리 간 거리를 단축하는 혁신적 구조를 적용했다. 기존 HBM이 GPU 옆에 메모리를 배치하는 데 비해 GPU 위에 직접 적층하는 구조를 통해 데이터 이동 거리를 최소화했다. 또 하이브리드구리본딩(HCB) 등을 활용해 칩 간 연결 효율과 열 관리 성능도 강화했다. zHBM을 적용하면 내년에나 나올 HBM5(8세대)보다 성능은 최대 8배 향상되고 전력효율성은 최대 3배가 개선된다.
김 상무는 “기존 패키징 구조로는 가속기 칩과 메모리 간 물리적 거리를 좁히는 데 한계가 있다”며 “HBM 최초로 게이트올어라운드(GAA) 트랜지스터를 구현하고 파운드리 2㎚(나노미터·10억분의 1m) 초미세 공정을 도입해 이 장벽을 넘을 것”이라고 설명했다.
온디바이스 AI 시대를 겨냥한 z낸드-O도 저장장치의 성능을 크게 끌어올릴 기술이다. 스마트폰 등에서 AI를 직접 실행하려면 작은 공간에서도 큰 저장 용량과 빠른 데이터 처리 능력이 필요하다. z낸드-O는 V-낸드 칩을 실리콘관통전극(TSV) 방식으로 수직 적층하는 3D 패키징 기술을 적용해 높은 저장 밀도와 데이터 처리 속도를 구현한다. 클라우드 연결 없이도 기기 내부에서 AI 기능을 수행할 수 있게 지원해 개인정보 보호 측면에서도 장점이 크다.
V10 BV-낸드를 통해 데이터 폭증 시대에 대한 해법도 제시했다. 이 기술은 400단 이상의 적층 구조를 구현해 동일 면적에서 더 많은 데이터를 저장할 수 있다. 이를 통해 이전 세대 칩보다 약 58% 높은 집적도를 구현했다. 데이터센터에서는 더 많은 정보를 저장하면서 공간과 전력효율을 개선할 수 있고 모바일 기기에서는 더 얇고 가벼운 대용량 저장 솔루션 구현이 가능해진다.
3차원 메모리 아키텍처를 앞세워 삼성전자는 다가올 ASIC 시대의 주도권을 잡으며 빅테크의 0순위 파트너 지위를 공고히 할 것으로 전망된다. 최근 구글·아마존·마이크로소프트·메타 등은 엔비디아의 GPU 중심 AI 가속기에서 벗어나 자사 AI 모델에 최적화된 ASIC 적용을 확대하고 있다. 구글은 검색·클라우드·생성형 AI 서비스에 최적화한 TPU를 활용하고 있고 아마존도 자체 AI 칩 트레이니엄과 인퍼렌시아를 확대하고 있다. 메타도 메타 훈련·추론 가속기(MTIA)를 선보이며 데이터센터 운영 효율을 높이고 있다.
삼성전자는 세계에서 유일하게 메모리와 로직(반도체 설계), 파운드리(반도체 위탁 생산), 패키징(후공정)까지 ‘원스톱 솔루션’을 제공할 수 있는 종합반도체(IDM) 기업으로서 차세대 AI 가속기는 물론 고성능 컴퓨팅(HPC) 시장도 선점할 계획이다. 삼성의 한 핵심 관계자는 “제품 설계부터 양산까지 통합 서비스를 제공해 고객사가 개발 기간을 줄이고 성능과 전력효율을 최적화할 수 있도록 맞춤형 AI 반도체 구현을 지원할 것”이라고 말했다.