삼성이 반도체 제조 핵심 공정인 노광(포토리소그래피) 공정을 양자컴퓨터로 시뮬레이션하는 기술을 개발한다. 차세대 정보기술(IT)을 총동원해 반도체 집적도와 수율 혁신을 겨냥한 프로젝트다. 삼성그룹의 시스템통합(SI) 계열사인 삼성SDS(삼성에스디에스)가 연구를 맡았으며 올해 하반기 중 기술실증(POC)에 착수할 예정이다.
1일 IT 업계에 따르면 삼성SDS는 최근 양자컴퓨터를 활용해 노광 공정의 일부를 가상 구현하는 시뮬레이션 연산 기법(알고리즘)을 개발하고 있다. 노광 공정은 빛을 이용해 웨이퍼에 미세 회로를 그려넣는 단계를 말한다. 웨이퍼를 깎아 실제 회로를 새기기 전에 밑그림을 그리는 과정인 만큼 반도체 완성품의 품질을 좌우하는 주요 공정으로 꼽힌다.
이번 연구에는 양자컴퓨터와 고전 컴퓨터가 함께 활용된다. 삼성SDS는 양자컴퓨터로 시뮬레이션 핵심 연산을 수행하고 이 과정에서 생성한 정보를 고전 컴퓨터로 가공한다. 양자컴퓨터는 대규모 연산을 병목 없이 처리하는 중추 역할을 맡는다. 양자컴퓨터 이용 과정에서 발생하는 오류를 조기에 포착하고 바로잡는 데는 인공지능(AI)이 투입된다. 여러 첨단기술을 동원해 더 빠르고 정확한 노광 공정 시뮬레이션 설계 기술을 확보하는 것이 연구의 주된 취지다. 삼성SDS는 일부 알고리즘 확보에 성공했으며 하반기 중 POC를 통해 실효성을 검증할 계획이다.
기술 개발에 성공하면 삼성은 차세대 컴퓨팅 자원을 활용한 공정 효율화 역량을 선제적으로 갖추게 된다. 정교한 시뮬레이션은 반도체 패턴을 그리고 식각하는 데 드는 작업 시간과 비용을 줄여줄 것으로 기대된다.
삼성SDS는 이 기술을 별도 소프트웨어로 상품화하지 않을 방침이다. 이에 따라 향후 삼성전자와 기술을 공유하며 반도체 집적도 개선과 효율성 제고를 도모할 것으로 관측된다. 삼성전자는 반도체연구소를 통해 10년 넘게 공정 시뮬레이션 기술을 개발해왔다. 반도체연구소는 공정개발실에서 반도체 제품별·공정별로 연구 부서를 나눠 각 특성에 맞는 공정 최적화 기술을 연구하고 있다.
이로써 삼성전자는 2㎚(나노미터·10억분의 1m) 공정을 넘어 머리카락 굵기의 10만분의 1 수준인 Å(옹스트롬·10분의 1㎚)급 초미세공정에 도전하는 셈이다. 삼성은 최선단 공정인 2나노와 차세대 1나노(10옹스트롬) 노광 공정의 한계를 극복하기 위해 컴퓨터 시뮬레이션 기술인 ‘광학근접보정(OPC)’에 양자컴퓨팅 알고리즘(연산 기법)을 적용하는 방안을 추진하고 있다. 삼성전자 반도체연구소가 10년 넘게 이 기술을 독자 개발해 왔으나 최근 SI 계열사인 삼성SDS의 선행 연구 조직이 OPC 연구에 합류하면서 역할을 분담하고 있다.
OPC는 반도체 회로 패턴이 노광 공정을 거쳐 웨이퍼에 정확히 구현되도록 빛의 왜곡을 미리 예측하고 보정하는 컴퓨터 시뮬레이션 기술이다. 삼성전자 반도체연구소 공정개발실은 제품별·공정별로 OPC 전담 조직을 운영하며 각 특성에 맞는 최적화 작업을 수행한다. 실제로 D램, 낸드플래시, 로직(연산용 반도체), 파운드리(반도체 위탁 생산) 등 분야별 기술 개발팀을 별도로 두고 연구를 진행하고 있다.
메모리와 파운드리 공정이 갈수록 미세해지면서 OPC의 중요성도 커지고 있다. 특히 파운드리 공정은 현 2나노를 넘어 4년 안에 옹스트롬급인 1.4나노 양산을 목표로 한다. 이런 차세대 공정은 회로 선폭을 원자 수준에 가깝게 구현하는데 선폭이 미세해질수록 시뮬레이션으로 계산해야 할 변수가 기하급수적으로 늘어난다. 기존에는 광원과 렌즈 특성 등 두세 가지 변수만 반영하면 됐지만 옹스트롬급 노광 공정에서는 최소 20개 이상의 조건을 동시에 계산해야 한다. 이 때문에 연산 시간이 크게 늘고 비용도 급증하는 ‘연산 병목’이 불가피하다는 관측이 나온다.
이를 해결하기 위해 OPC에 양자컴퓨터를 적용하려는 시도가 이어지고 있다. 양자컴퓨터는 고전 컴퓨터의 연산 단위인 비트(bit) 대신 큐비트(qubit)로 연산하는 것이 특징이다. 큐비트는 0과 1 중 하나만 처리하는 비트와 달리 두 상태를 동시에 표현하는 ‘양자 중첩’과 여러 큐비트가 하나처럼 연결되는 ‘양자 얽힘’ 특성을 갖는다. 이를 활용하면 노광 공정에서 발생하는 방대한 변수를 순차적으로 처리하지 않고 병렬로 연산할 수 있어 옹스트롬급 공정의 병목을 해소할 수 있다.
삼성은 양자컴퓨터와 그래픽처리장치(GPU) 기반 고전 컴퓨터를 함께 쓰는 하이브리드 알고리즘 연구에 속도를 내고 있다. 수많은 변수를 동시에 계산하는 노광 시뮬레이션은 양자컴퓨터의 큐비트와 양자 게이트가 처리하고 이 과정에서 생성된 방대한 데이터를 후처리하는 반복 연산은 GPU가 맡는 방식이다. 초기 단계인 양자컴퓨터에서 발생하는 연산 오류는 최신 AI 기반 오류 보정 기술로 실시간 보완할 계획이다.
김형종 서울여대 지능정보보호학부 교수(한국시뮬레이션학회 부회장)는 “삼성의 이번 연구는 반도체 선폭이 극한에 가까워지며 노광 공정의 불확실성이 커지는 상황에서 AI와 양자컴퓨팅을 결합한 시뮬레이션 기술을 선제적으로 확보하려는 시도”라며 “양자컴퓨팅 상용화까지 상당한 시간이 필요한 만큼 현 단계에서는 상용 기술 확보보다 핵심 원천 기술과 지식재산권(IP)을 선점하려는 의미가 더 크다”고 설명했다.
이번 연구 방향은 엔비디아와의 협력 확대와도 맞물린다. 엔비디아는 현재 한국에 상주하며 반도체 공정 시뮬레이션 솔루션 영업을 담당할 인력을 채용하고 있다. 이 인력은 국내 반도체 기업과 협력해 제조 과정에서 발생하는 병목 지점을 파악하고 이를 해결할 엔비디아 GPU 기반 소프트웨어 툴을 제안하는 역할을 맡는다. 삼성은 엔비디아 등 외부 솔루션 활용과 자체 알고리즘 확보를 병행하는 ‘투트랙’ 전략을 이어간다는 방침이다.
업계 관계자는 “삼성이 기존에 써온 외부 EDA 툴을 완전히 대체하기는 어렵지만 시뮬레이션 알고리즘 등 원천 기술을 자체 확보하는 것은 필수가 된 시점”이라며 “계열사 역량을 결집한 이번 연구 방향은 설계부터 개발, 제조 전 과정을 아우르는 삼성만의 강점을 극대화해 초격차 경쟁력을 확대하려는 전략적 포석”이라고 말했다.