#올해 인텔의 주가는 불기둥을 뿜었다. 1월 2일(미 동부 시간) 39.4달러였던 주가가 이달 23일 132.2달러로 치솟았다. 반년 새 3배 넘게 뛰었는데 투자 업계는 인텔의 주가 상승 여력이 아직 남아있다고 본다. 뱅크오브아메리카(BOfA)는 이달 11일 인텔에 대한 투자 의견을 매도에서 매수로 2단계 상향 조정했다. BOfA는 인공지능(AI) 에이전트 열풍이 인텔의 중앙처리장치(CPU) 사업 성장을 견인할 것이라고 전망했다.
#이달 1일 엔비디아는 ‘GTC 타이베이 2026’에서 데이터센터 서버용 CPU ‘베라’를 대량 생산하는 중이며 올 가을에 제품을 출하한다고 밝혔다. 그래픽처리장치(GPU) 위주로 꾸려 온 제품 생태계를 한층 확장해 종합(풀스택) AI 기업으로 거듭나겠다는 게 엔비디아의 청사진이다. 젠슨 황 엔비디아 최고경영자(CEO)는 “AI 에이전트를 위한 CPU 시장은 이전보다 훨씬 더 크게 성장할 것”이라고 내다봤다.
CPU가 다시 부상하고 있다. 2022년 챗GPT 모멘트 이후 AI 인프라의 주인공은 단연 GPU였다. 파운데이션모델이든 서비스든 AI를 만들려면 GPU부터 구해야 했다. 구글과 오픈AI 등 AI 모델 개발사는 물론 AI 기술력을 내재화하려는 글로벌 대기업과 스타트업까지 GPU 확보전에 뛰어들었다. GPU 수요는 폭발적으로 늘어났는데 공급량이 부족한 비대칭 현상이 한동안 이어졌다.
AI 시대 초창기 GPU의 가치가 떠올랐던 배경엔 AI 학습과 GPU의 성능 특성 간 상관관계가 있다. AI 개발 과정은 크게 2단계로 나뉜다. 첫 번째는 AI 모델에 대규모 데이터를 입력해 반복적으로 지식을 축적하는 학습 단계. 두 번째는 AI 모델이 기존의 학습 지식을 바탕으로 새로 입력된 데이터에 대한 결론을 도출하는 추론 단계다.
쓸 만한 AI 모델을 만들어야 하는 시기, 다시 말해 AI 학습이 중요한 시기에는 GPU가 각광을 받는다. GPU는 복잡한 연산을 병렬로 실행하며 효율적인 작업을 도모할 목적으로 설계됐다. 많은 양의 동일한 명령을 동시에 수행할 때 GPU가 필수다. AI 모델 학습도 마찬가지다. 대규모 데이터를 빠르게 학습하는 게 중요하기에 병렬 연산이 필요하고 여기에 GPU가 요긴하게 쓰였다. 엔비디아 코리아 대표를 역임했던 유응준 준에이아이 컨설팅 대표는 “AI 학습 단계에서는 수억~수천억 개의 데이터를 동시에 처리하는 병렬 연산이 중요하다”며 “데이터센터용 GPU는 수천 개의 연산 코어를 탑재해 AI 학습에 최적화돼 있다”고 설명했다.
CPU에 연산 기능이 없는 것은 아니다. 연산을 직접 실행하는 부품인 코어의 성능만 비교하면 GPU의 코어보다 CPU 코어 성능이 우수하다. 다만 CPU는 병렬 연산이 아닌 직렬 연산에 특화돼 있다. 애초에 CPU는 컴퓨터 내부에서 떨어지는 여러 명령을 차례대로 처리할 목적으로 설계된 제품이다. 서버의 모든 소프트웨어를 올바르게 실행하는 데 필요한 모든 작업을 직접 처리한다. 이른바 만기친람(萬機親覽) 스타일이다. 다만 이러한 작업 수행 방식은 대규모 데이터 학습을 동시에 수행해야 하는 관점에선 효율이 떨어진다. 자연스레 AI 업계의 관심은 GPU로 쏠렸다.
챗GPT 모멘트로부터 4년이 지났다. 학습에 쏠렸던 시장의 눈길은 점차 추론으로 이동했다. AI 학습 수준이 어느 정도 궤도에 오르자 AI 서비스 실행 단계인 추론의 중요성이 부각된 것이다. 특히 AI 에이전트 열풍은 CPU의 가치를 띄우는 기폭제가 됐다. 과거 AI는 챗봇처럼 하나의 질문에 하나의 답변을 내놓으면 충분했다. 지금은 여러 AI 에이전트가 각자의 명령을 수행하고 이를 종합해 임무를 완성하고 사후 검증까지 스스로 해낸다. 에이전틱 AI의 시대다. 이 과정에서 AI 에이전트는 온·오프라인을 넘나들며 외부 도구까지 활용한다. CPU의 진가가 빛을 발휘하는 대목이다.
모듈형 데이터센터 사업을 하는 엘리스그룹의 박정국 최고기술책임자(CTO)는 “CPU는 데이터를 준비하고, GPU에 작업을 배분하며, 메모리·스토리지·네트워크와 외부 프로그램을 제어한다”며 “일종의 컨트롤타워인 셈인데 AI 서비스가 복잡해지면서 CPU의 중요성이 다시 커지는 중”이라고 분석했다.
문제는 AI 산업의 기대에 컨트롤타워의 성능이 못 미친다는 것이다. 데이터센터에 포진한 GPU 자원들을 최대한 효율적으로 가동해야 하는데 수많은 작업 명령에 비해 CPU의 제어 속도가 이를 따라가지 못하고 있다. AI 병목 현상의 원인으로 CPU가 지목받기 시작했다. AI 인프라 플랫폼 기업 클러쉬의 이용혁 CTO는 “비유하자면 AI 병목은 GPU가 일감을 받지 못해 노는 상황”이라며 “CPU의 데이터 전처리 지연, 비효율적인 GPU 작업 분배, CPU와 GPU 사이 통로(인터커넥트)의 좁은 대역폭이 AI 병목에 해당한다”고 짚었다.
AI 시대에 걸맞은 우수한 성능의 CPU를 원하는 수요는 새로운 산업 동향을 촉발했다. 기존에 CPU를 개발하지 않았던 테크 공룡 기업들이 직접 CPU를 만들겠다며 속속 도전장을 내밀었다. 가장 화제를 모은 소식은 엔비디아의 베라 발표다. 이 CTO는 “엔비디아의 자체 CPU 브랜드인 ‘베라’는 AI 업계가 원하는 CPU 핵심 개선 사항을 모두 갖춘 제품”이라며 “엔비디아의 차세대 GPU인 ‘루빈’과 칩 투 칩 연결로 조합해 AI 병목을 근원적으로 없애겠다는 기술적 야심이 엿보인다”고 평가했다.
엔비디아 외에도 퀄컴과 Arm 등이 CPU 시장에 뛰어들 예정이다. 퀄컴은 기존에 모바일 기기용 및 개인 컴퓨터(PC)용 CPU를 개발했으나 최근 데이터센터 서버 브랜드 ‘드래곤플라이’를 발표하고 데이터센터용 CPU 출하를 준비하고 있다. 반도체 설계 지식재산(IP) 라이선스를 주 사업 모델로 삼았던 Arm도 올해 자체 CPU 제품인 ‘Arm AGI CPU’를 공개했다. 이 제품은 메타의 AI 학습 및 추론 가속기와 연동 목적으로 만들어졌다.
빅테크들의 CPU 경쟁 점화 이면엔 AI 데이터센터 운영 비용에 대한 고민도 서려 있다. AI 병목 현상이 길어질수록 AI 기업은 AI 개발 속도만 뒤처지는 데다 그동안 값비싼 데이터센터 전기요금을 부담해야 한다. 성과는 성과대로 만들지 못하고 비용만 축내는 꼴이다. 이에 따라 한동안 AI 데이터센터에서 인텔·AMD의 범용 CPU와 빅테크 기업들의 자체 CPU가 공존할 것이라는 게 업계의 공통된 시각이다.
유 대표는 “데이터센터 운영비 중 전기요금이 30~40%를 차지한다”며 “엔비디아와 아마존웹서비스(AWS)가 CPU를 개발할 때 Arm 기반 설계를 채택한 점도 압도적인 에너지 효율이듯 CPU 경쟁력은 곧 비용 경쟁력으로 직결된다”고 강조했다. 박 CTO는 “향후 글로벌 빅테크들은 CPU와 GPU·메모리·네트워크를 결합한 전체 시스템의 성능과 전력 효율에 초점을 맞출 것”이라고 말했다.