인공지능(AI)이 사이버 공격에 본격적으로 활용되고 있는 가운데 장기적으로는 방어자가 우위에 설 것이라는 전망이 나왔다. 방어자는 소프트웨어(SW)가 외부에 공개되기 전부터 코드를 분석하고 공격 상황을 시뮬레이션하는 등 AI를 활용해 취약점을 선제적으로 제거할 수 있기 때문이다.
김태수 마이크로소프트(MS) 보안 연구 담당 부사장은 최근 서울 삼성동 코엑스에서 서울경제신문과 만나 “현재는 AI 시대 과도기여서 공격자들이 훨씬 더 우위에 있는 것 같다”며 “하지만 장기적으로는 방어하는 사람들이 훨씬 유리해질 것”이라고 말했다.
김태수 부사장은 ‘권한 차이’를 근거로 들었다. 그는 “취약점을 찾아내는 능력 자체는 공격자와 방어자 모두 필요하다”면서 ”다만 방어자는 공격자보다 시스템을 통제할 수 있는 범위가 훨씬 넓다는 점에서 차이가 발생하게 되는 것“이라고 설명했다.
대표적인 것이 SW 출시 이전 단계다. 기업은 새로운 서비스를 외부에 공개하기 전에 AI를 활용해 소스코드를 분석하고 다양한 공격 상황을 시뮬레이션할 수 있다. 실제 서비스가 시작되기 전에 취약점을 발견해 고칠 수 있다는 의미다. 김 부사장은 “방어하는 입장에서는 컨트롤할 수 있는 것이 많다”며 “릴리즈하기 전에 코드를 분석하거나 시뮬레이션을 하는 등 AI를 활용해 보호할 수 있는 환경을 만들 수 있다”고 말했다.
AI가 기존 보안 도구가 발견하지 못했던 취약점을 찾아낼 수 있다는 점도 방어 측의 경쟁력을 높이는 요인이다. 김 부사장은 “이전 도구들이 보지 못했던 관점에서 AI가 문제를 찾아낸다”며 “과거 사람이 찾아내던 버그 유형을 넘어 상상하지 못했던 버그도 발견하고 있다”고 설명했다.
또 김 부사장은 앞으로 AI 시대에는 보안 인력들의 생산성이 대폭 증가할 것으로 전망했다. 그는 “예전에 100명이 투입됐던 일을 10명으로 비슷한 품질로 할 수 있다고 보면 된다”며 “AI가 사람을 대체한다기보다 사람의 능력을 증강하는 방향”이라고 말했다. 이어 “AI로 만들어지는 코드의 양 자체가 크게 늘고 있어 보안해야 할 대상도 함께 증가한다”며 “AI로 인해 보안 인력들이 해야 할 일이 두 배, 세 배 늘어났다고 볼 수 있다“고 말했다.
그는 앞으로 보안 조직의 경쟁력이 단순히 취약점을 얼마나 많이 찾느냐보다는 발견된 취약점을 얼마나 신속하게 고치느냐에서 갈릴 것으로 전망했다. AI의 탐지 능력이 높아질수록 발견되는 버그 역시 크게 늘어날 가능성이 있기 때문이다.
김 부사장은 “지금은 취약점을 찾는 것보다 찾아낸 취약점을 어떻게 자동으로 고치고, 제대로 수정됐는지 확인하는 것이 중요하다”며 “앞으로는 탐지 이후의 과정을 자동화하는 데 집중해야 한다”고 강조했다.
한편 김 부사장은 미국 조지아공대 컴퓨터과학부 교수로 재직 중인 세계적인 보안 전문가다. 현재 교수직을 유지한 채 휴직하고 MS에서 AI 기반 보안 연구를 주도하고 있다. 김 부사장은 지난 6개월 동안 AI 에이전트를 활용해 소프트웨어 취약점을 찾고 수정하는 도구인 ‘엠대시(MDASH)’ 개발에 주력했다. 엠대시는 여러 AI 에이전트를 활용해 소프트웨어의 취약점을 탐지하고 수정하는 멀티모델 기반 보안 도구다.