신한금융그룹은 개인정보 보호와 관련 이중구조를 구축했다. 통합 애플리케이션 ‘신한 슈퍼SOL’과 카드앱 ‘SOL 페이’의 민감한 고객정보가 필요한 업무는 내부 인공지능(AI)이 처리한다. 상대적으로 예민하지 않은 정보는 자동으로 외부 클라우드의 AI가 담당하는 방식이다. 개인정보 보호를 이처럼 강화해 병원에서 카드 사용 시 실손보험금 청구까지 원스톱으로 AI가 처리할 수 있을 전망이다.
안성희(사진) 신한카드 AX연구소장은 14일 “고령층과 디지털 취약계층이 홈페이지나 챗봇에서 자연어로 실손보험 청구를 요청하면 카드 이용 내역을 바탕으로 청구 접수 절차로 연결하는 서비스가 가능해진다”고 말했다. 실제 개인정보 조회가 필요한 업무는 사내 데이터센터(IDC)에 설치한 소형언어모델(sLLM)이 처리한다. 반면 일반 상담은 아마존웹서비스(AWS) 베드록의 생성형 AI 모델이 활용되고 있다. 안 소장은 “고객이 주말 카드 사용 내역을 알려달라면 내부 AI가 거래 정보를 조회하고 이메일이나 팩스 발송 요청을 처리한다”며 “반면 ‘항공권 할인 카드를 추천해달라’고 요청하면 카드 추천 에이전트로 연결된다”고 설명했다. 그는 이어 “고객 입장에서는 하나의 챗봇이지만 질문의 성격에 따라 서로 다른 AI 모델과 서버가 응대한다”며 “이 중 고객 정보가 필요한 질문은 내부 AI가 처리하도록 분리하는 방식”이라고 덧붙였다.
업무별 AI 처리 경로는 분리했지만 이를 구동하는 자원은 통합했다. 신한카드는 ‘아마존 EKS 하이브리드 노드’를 적용해 사내 데이터센터의 그래픽처리장치(GPU)와 AWS 클라우드 GPU를 통합 운영한다. 금융권에서는 처음으로 이 같은 구조를 대고객 서비스에 적용했다. 안 소장은 “망 분리 규제를 지키면서도 최신 AI 모델을 활용할 수 있는 방식”이라며 “AI 수요가 급증할 때는 처리 용량도 늘릴 수 있다”고 말했다.
챗봇 고도화 후 7월 기준 문의 수와 월간활성이용자(MAU)는 올 3월 이전의 2년 월평균보다 각각 54%, 85% 증가했다. 완결률은 3월 대비 33% 높아졌고 상담원 연결은 전년 평균보다 약 6% 줄었다. 안 소장은 “향후 계열사 데이터를 활용해 고객이 필요한 금융 업무를 끊김 없이 처리하도록 하겠다”고 설명했다.