삼성전자와 SK하이닉스 간 인공지능(AI) 메모리 경쟁이 단순 공급 확대와 기술 고도화를 넘어 계층 구조 혁신으로 확대되고 있다. 단순히 고대역폭메모리(HBM)를 늘리는 것만으로는 폭증하는 AI 데이터를 감당할 수 없게 되면서다. 기업들은 대신 컴퓨트익스프레스링크(CXL)를 중심으로 한 새로운 메모리 장치를 기존 메모리 시스템에 추가해 AI 연산 성능을 효율적으로 높이는 데 주력하고 있다.
20일 업계에 따르면 SK하이닉스(000660) 는 지난달 ‘추론 계층 메모리 확장(IMTE)’ 아키텍처(설계 구조) 기술을 개발해 학계에 공개했다. 현재 AI 메모리 시스템을 이루는 HBM과 더블데이터레이트(DDR), 솔리드스테이트드라이브(SSD)에 더해 ‘CXL 하이브리드 메모리’를 추가해 시스템을 새로 구성하는 기술이다.
SK하이닉스는 기존 ‘HBM→DDR→SSD’의 메모리 계층 구조를 ‘HBM→DDR→CXL 메모리→SSD’로 확장해 AI 추론 효율을 35.7% 높이는 데 성공했다. CXL 메모리가 단순 용량 확대를 넘어 HBM과 DDR에 필요한 핫 데이터를 사전에 예측하고 해당 데이터를 SSD에서 미리 꺼내 HBM과 DDR로 전달함으로써 SSD가 단순한 장기 기억 장치를 넘어 연산 보조 역할을 수행하도록 돕는 ‘메모리 허브’로도 동작하도록 했다.
현재 AI 메모리 시스템에서 HBM과 DDR은 각각 그래픽처리장치(GPU)와 중앙처리장치(CPU)가 당장 연산에 필요로 하는 핫 데이터를 저장한다. SSD는 당장 필요하지 않은 나머지 대량의 콜드 데이터를 보관한다. 용량은 작지만 동작 속도가 빠른 HBM, 용량은 크지만 속도가 느린 SSD, 그 사이 특성을 갖는 DDR이 역할을 분담하는 구조다. CXL은 DDR보다 용량 확장이 쉬우면서도 준수한 속도를 낼 수 있어 DDR과 SSD 사이의 메모리 계층으로 새롭게 편입되고 있다.
CXL은 GPU와 CPU, D램을 고속으로 연결하는 통신 신기술이다. HBM과 DDR은 각각 GPU와 CPU에 직접 연결되기 때문에 칩 구조상 용량 확장에 한계가 있다. GPU와 CPU를 먼저 늘리고 거기에 HBM과 DDR을 연결해 추가해야 한다. 결국 AI 칩 자체를 추가해야 해 용량 확장을 위해 비효율적인 비용을 부담해야 한다.
D램은 GPU·CPU와 직접 연결되지 않으면 데이터 통신 속도가 저하되는 단점이 있다. HBM과 DDR이 고성능 메모리 역할을 도맡는 이유다. 반면 D램이 GPU·CPU와 직접 연결되지 않고도 지연 시간 수백 ㎱(나노초·10억 분의 1초) 수준의 비교적 원활한 속도로 동작할 수 있도록 해주는 기술이 CXL이다. 이에 CXL을 적용한 D램 메모리는 HBM, DDR과 별개로 새로운 메모리 계층 역할을 할 수 있다.
삼성전자(005930) 와 SK하이닉스는 이에 아키텍처는 물론 신제품 개발에도 앞다퉈 나서고 있다. 삼성전자는 최신 버전인 ‘CXL 3.2’를 적용한 ‘CXL 메모리 모듈(CMM-D) 3.0’을 연내 양산한다. 기존 CXL 3.1 기반으로 개발해온 제품을 선제적인 버전 업그레이드를 통해 한층 높여 출시할 방침이다. CXL 3.2는 특히 ‘CXL 핫페이지 모니터링 유닛(CHMU)’ 기능을 처음 도입해 기존 3.1보다 메모리 최적화 성능을 끌어올린 것으로 평가된다. 각각의 데이터가 얼마나 자주 쓰이는지를 모니터링해 여러 메모리 장치 간 데이터 흐름을 최적화하는 핵심 기능이다.
삼성전자는 2022년 CXL 1.1 기반 CMM-D 1.0을 업계 최초로 선보였고 2023년 CXL 2.0 기반 CMM-D 2.0, 이어 CXL 3.2 기반 제품도 업계 최초 양산을 꾀한다. 특히 1세대에 비해 2세대는 대역폭 변화가 없던 반면 신제품인 3세대는 전작 대비 대역폭이 2배 커질 것으로 알려졌다. 이에 CXL 메모리가 본격적으로 AI 수요를 공략할 것으로 전망된다.
SK하이닉스도 동급 제품의 양산을 준비한다. SK하이닉스는 구체적인 일정을 밝히지 않았지만 지난달 국제 전시회 ‘HPED 2026’에서 CXL 3.2를 적용한 ‘2세대 CMM-DDR5’ 샘플을 처음으로 공개하며 세일즈에 들어갔다. SK하이닉스는 2024년 CXL 2.0 기반 1세대 제품을 처음 선보이고 지난해 고객 인증을 받으며 추격에 나섰다. 마이크론도 2023년 CXL 2.0 메모리 공개 후 현재 차세대 제품을 개발 중이다.
CXL과 유사한 맥락에서 고대역폭플래시(HBF)도 새로운 메모리 계층 후보로 활발히 개발되고 있다. D램을 수직으로 쌓은 HBM처럼 HBF는 낸드를 수직으로 쌓아 대용량 메모리와 고대역폭을 동시에 확보하는 기술이다. 특히 SK하이닉스는 2030년께 본격적으로 수요가 늘어날 것으로 보고 샌디스크와 손잡고 기술 표준화를 추진하고 있다.