금융사의 인공지능 전환(AX)이 실제 업무로 확산하면서 인공지능(AI)의 데이터 이용과 판단·실행 과정까지 관리하는 보안 체계가 필요하다는 지적이 나왔다. 글로벌 기업체의 경우 생성형 AI 관련 데이터 정책 위반이 월평균 200건이 넘어 기존의 외부 침입 차단만으로는 내부 위험을 통제하기 어렵다는 것이다.
이건영 EY한영 금융AI센터장은 29일 서울 중구 웨스틴조선호텔에서 열린 ‘제31회 서경 금융전략포럼’에서 주제강연을 통해 “AI 환경의 보안은 단순한 침해가 문제가 아니다”라며 이같이 강조했다.
이 센터장이 인용한 글로벌 보안 업체 넷스코프의 ‘2026 클라우드·위협 보고서’에 따르면 넷스코프 고객 기업에서 탐지된 생성형 AI 관련 데이터 정책 위반은 조직당 월평균 223건이었다. 전년보다 2배 늘어난 수치다. 위반 데이터는 소스코드(프로그램 원본 코드)가 42%로 가장 많았고 개인정보·금융정보 등 규제 대상 데이터 32%, 지식재산 16% 순이었다.
금융기관의 AI 활용도 이미 실험 단계를 벗어났다. 국제금융협회(IIF)와 EY의 ‘2026년 금융 서비스 AI 활용 연례 조사’에서는 글로벌 금융기관의 98%가 AI를 실제 업무에 적용한 것으로 나타났다. 실제 작업을 수행하는 에이전틱 AI의 적용 비율도 지난해 23%에서 올해 70%로 높아졌다. 이 센터장은 “AI 활용이 늘어나는 속도가 통제 체계 정비 속도보다 더 빠른 상황”이라며 “AI 사용 현황 파악이 어렵고 비인가 AI를 활용할 수 있다는 점에서 통제·가시성에 대한 위험이, 검증되지 않은 AI 응답을 활용한다는 측면에서 의사결정 위험이 잠재적으로 존재한다”고 말했다.
국내 기업의 보안 관리 체계 역시 AI 활용 확대에 따른 새로운 위험에 충분히 대응하지 못하고 있다는 게 이 센터장의 지적이다. 시스코가 지난해 5월 발표한 ‘2025 사이버보안준비지수’에 따르면 국내 기업의 83%는 승인받지 않은 AI 도구를 탐지하는 데 자신이 없다고 답했다. 10개 이상 보안 솔루션을 운용하면서 위협 대응에 어려움을 겪는 기업도 66% 이상이었다.
이 센터장은 이에 대응하기 위해 AI 활용 전 과정을 아우르는 방향으로 사이버 보안 관리 프레임을 재설계해야 한다고 강조했다. AI 사용 목적과 허용 범위, 데이터·모델의 사용 경계와 책임 구조를 명확히 하고 여러 보안 시스템의 탐지·대응을 통합 운영하는 이른바 ‘보안 오케스트레이션’을 구축하자는 것이다.
AI를 안전하게 활용하는 데서 나아가 사업 가치를 창출하고 재투자해야 한다는 주문도 내놓았다. 이 센터장은 싱가포르 DBS은행이 지난해 AI로 10억 싱가포르달러 이상의 경제적 가치를 창출한 사례를 들었다. 그는 “AI 도입의 목적이 효율화에서 그친다면 경쟁력이 없다”며 “효율화돼서 만들어진 잉여 가치를 어떻게 AI로 재투자하고 더 가속화할 수 있을지에 대한 고민이 함께 이뤄져야 한다”고 제언했다.
특히 생산성 향상 효과를 새로운 가치로 연결하기 위해서는 기존 업무 방식부터 바꿔야 한다고도 강조했다. 단순히 기존 업무를 자동화하는 데 그치지 않고 업무를 세부 작업 단위로 재구성해 사람과 AI의 역할을 새롭게 배분해야 한다는 것이다. 이 센터장은 “AI가 시장 정보 분석과 조정안 제안을 맡고 사람은 검증과 최종 판단에 집중하는 방식으로 업무를 재설계할 필요가 있다”며 “업무를 혁신하는 부분들에 집중해야 한다”고 말했다.
새로운 업무 방식에 맞춰 조직과 직원의 역량도 재설계해야 한다고도 제언했다. 기존의 직무를 세부 작업 단위로 나눠 AI와 사람의 역할을 재배분하고 직원은 문제 해결과 AI 결과 검증 등 고부가가치 업무에 집중하도록 해야 한다는 것이다. 이 센터장은 “생산성 평가 기준도 업무 처리량을 따지는 ‘아웃풋(output)’에서 결과의 질과 고객 만족을 중시하는 ‘아웃컴(outcome)’으로 바꿔야 한다”며 “새로운 업무 구조에 맞춰서 역량을 재설계해야 성과가 선순환될 수 있다”고 설명했다.
외부 AI 기업과의 협업·인수를 통해 새로운 사업 영역으로 진출하는 전략적 재투자가 필요하다는 의견도 내놓았다. 미국 사모펀드 운용사 블랙스톤과 AI 기업 앤트로픽 등이 협력해 설립한 AI 서비스 기업 오드(Ode)가 투자 기업의 AX를 지원하는 사례와 같이 금융사도 외부 AI 역량을 적극 활용해 기존 사업의 가치를 높이고 새로운 사업 기회를 발굴해야 한다는 것이다. 이 센터장은 “AI를 통해서 기존에 할 수 없었던 영역으로 진출하기 위한 재투자”를 고민해야 할 시점이라고 강조했다.