인공지능(AI)이 공격 목표를 넘겨받자 대상 환경을 훑기 시작했다. 외부에 열려 있는 포트(Port)와 서비스를 정찰하고 침투 지점을 탐색했다. 수집한 정보를 토대로 침투 계획을 세우고 필요한 도구와 명령어도 직접 골랐다. 잠시 뒤 화면에 ‘FAIL(실패)’이 떴지만 공격은 멈추지 않았다. AI는 실패 원인을 분석해 다른 방법으로 다시 침투를 시도하고 막히면 경로를 바꿨다. 사람이 다음 명령을 내리지 않아도 ‘정찰→계획→실행→분석→재시도’를 반복하며 공격 경로를 스스로 찾아갔다.
지난달 16일 안랩이 공개한 ‘AI 펜테스트(Penetration Test)’ 시연 장면이다. 몇 차례 시도 끝에 AI는 파일 업로드 과정의 취약점을 찾아 외부에서 서버에 임의의 명령을 내릴 수 있는 ‘원격 코드 실행(RCE)’ 가능성까지 확인했다. 기존 자동화 공격과 결정적으로 다른 것은 ‘실패 이후’다. 미리 입력된 공격을 반복하는 데 그치지 않고 결과를 보고 다음 행동을 결정했다.
당시 안랩은 이를 AI 시대에 등장할 새로운 공격 방식으로 제시했다. 하지만 불과 수주 뒤 국내 금융권에서 우려가 현실로 나타났다.
5일 보안업계에 따르면 AI를 활용한 사이버 공격이 금융권을 넘어 국가 핵심 인프라로 확산할 수 있다는 우려가 커지고 있다. 전력·통신·교통 등 핵심 인프라는 금융권보다 견고한 보안 체계를 갖추고 있지만 AI가 정찰과 취약점 탐색부터 공격 방법 선택, 실패 분석과 재시도까지 대신하면서 공격의 문턱 자체가 낮아지고 있기 때문이다. 공격자가 시스템 구조를 일일이 분석하고 취약점을 찾아야 했던 과정을 AI가 빠르게 반복하면 그동안 발견하기 어려웠던 외부 접점이나 ‘쪽문’까지 찾아낼 수 있다. 특히 공격에 필요한 시간·비용·전문성이 낮아지면서 높은 보안 장벽 때문에 접근이 어려웠던 국가 핵심 인프라까지 공격자의 탐색 범위에 들어올 수 있다는 분석이다.
이승경 안랩 인공지능개발실장은 “AI 에이전트로 공격 비용과 기술적 진입장벽이 낮아지면 국가 기반 인프라를 겨냥한 공격 시도도 늘어날 가능성이 크다”며 “AI가 취약한 지점을 빠르게 찾아 대규모로 공격을 시도할 수 있는 만큼 선제적으로 취약점을 찾아 차단하는 대응 체계가 더욱 중요해질 것”이라고 말했다.
이미 해외에서는 AI를 활용해 국가 핵심 인프라를 겨냥한 공격 시도가 실제로 나타나고 있다. 산업제어시스템(ICS) 보안업체 드라고스(Dragos)에 따르면 올해 초 멕시코에서는 운영기술(OT), ICS에 대한 전문성이 없는 공격자가 앤트로픽의 ‘클로드’와 오픈AI의 GPT 모델을 동원해 상수도 사업자를 공격했다.
실제 클로드는 침투 계획과 공격도구 개발·배포 등 기술적 실행에 활용됐고 GPT 모델은 수집한 데이터 처리와 분석 결과 구조화를 맡았다. 특히 클로드는 이번 금융권 해킹 사례처럼 해당 인터페이스를 대상으로 비밀번호를 무차별 대입하는 대규모 자동화 공격을 수행했다. 이러한 시도는 최종적으로 실패했지만 전문성이 부족한 공격자도 AI를 이용해 핵심 인프라의 공격 경로를 찾아갈 수 있다는 점을 보여줬다.
미 국가안보국(NSA)은 올해 8월 사이버안보·인프라보안국(CISA), 미 연방수사국(FBI) 등과 함께 지멘스의 ‘S7 시리즈 프로그래머블 로직 컨트롤러(PLC)’를 겨냥한 사이버 공격을 경고했다. 공격자들이 AI로 생성한 취약점 공격 스크립트를 활용하고 있다는 것이다. PLC는 공장 등 산업시설의 설비를 자동 제어하는 핵심 장비다.
NSA는 보안이 취약한 PLC가 공격받을 경우 핵심 산업 공정이 중단되는 것은 물론 안전사고와 장비 손상, 가동 중단 등 ‘현실 세계의 피해(real-world effects)’로 이어질 수 있다고 경고했다. 실제 공격 대상에는 핵심 제조뿐 아니라 에너지 생산·배전, 상하수도 처리, 화학, 식품·농업 등 국가 운영과 국민 생활에 직결되는 산업이 광범위하게 포함됐다.
금융권을 겨냥한 AI 공격이 정보·금융 시스템에 피해를 준다면 국가 핵심 인프라에서는 사이버 공격이 물리적 피해로 직결될 수 있다. 발전·송배전이나 상하수도 시스템 장애는 공장·데이터센터·병원 운영과 국민 안전에 직접적인 영향을 미치고 철도·항공·항만이 멈추면 물류 차질로 이어진다. 경찰·소방·재난 대응과 군 지휘통제, 군수 시스템의 디지털화가 빨라지면서 치안·국방 분야 역시 공격 대상에서 예외가 될 수 없다는 지적이다. 실제 올해만 해도 폴란드 열병합발전소, 벨기에 브뤼셀 공항, 미국 미네소타 상수도 시스템 등이 해킹 피해를 입은 사실이 공개됐다.
결국 AI가 공격의 속도와 범위를 키우면서 사이버 보안도 공격자와 방어자 중 누가 먼저 취약점을 찾아내느냐의 ‘속도전’으로 바뀌고 있다는 분석이다. 전문가들은 국가 핵심 인프라 역시 공격자가 AI로 취약점을 찾기 전에 방어자가 먼저 이를 찾아 차단하는 선제적 보안 체계가 필요하다고 지적한다.
이상근 고려대 인공지능보안연구소장은 “전력·국방 등 국가 핵심 인프라는 금융권보다 높은 수준의 보안 체계를 갖추고 있지만 미처 파악하지 못한 외부 접점이나 취약점이 존재할 수 있다”며 “미국도 4월 핵심 인프라를 겨냥한 사이버 공격이 현실화하자 정부 차원에서 국가 기반시설 전수조사 조치를 취했다”고 말했다. 이어 “우리도 전체 시스템과 서비스의 자산·접점을 전수조사하고 AI 기반 침투 테스트를 활용해 숨어 있는 ‘쪽문’을 선제적으로 찾아 차단해야 한다”고 강조했다.