이제 인공지능(AI)을 둘러싼 기업의 화두는 ‘AI를 얼마나 많이 도입하느냐’가 아니라 ‘AI로 얼마나 안전하게, 측정 가능한 성과를 낼수 있느냐’로 이동했다. 챗GPT·제미나이 같은 거대언어모델(LLM) 활용부터 각자 업무 환경에 맞는 AI 에이전트 제작까지 기업 환경에서 일상적으로 AI를 사용하게 된 데 따른 결과다.
실제로 글로벌 AI 플랫폼 기업 ‘데이터이쿠’가 3월 전세계 최고정보책임자(CIO) 600명을 대상으로 진행한 설문조사에 따르면 응답자의 95%가 이사회에 AI 성과를 보고하고 있다고 밝혔다. 하지만 정작 자사 업무 환경에서 생성된 AI 에이전트를 모두 모니터링 할 수 있다고 응답한 CIO 비중은 25%에 불과했다. AI 도입 속도와 관리 역량 사이에 간극이 벌어지며 ‘AI 거버넌스’의 중요성이 커진 셈이다.
데이터이쿠 아태지역 부사장 “AI 잠재력 발휘하려면 거버넌스 필수”
최근 서울경제신문과 만난 앤드류 보이드 데이터이쿠 아시아태평양·일본(APJ) 지역 수석 부사장의 진단도 마찬가지였다. 보이드 부사장은 “AI 오케스트레이션(기업 데이터-AI 모델 연결)과 인재가 제대로 잠재력을 발휘하려면 거버넌스가 반드시 수반돼야 한다”며 “허용된 데이터에만 접근하도록 해야 하고, 실무에서 사용하는 AI 에이전트가 어떻게 개발됐는지 설명할 수 있어야 하며, 그 성과도 가시적으로 측정이 돼야 한다”고 말했다.
데이터이쿠는 2013년 프랑스에서 설립된 AI·머신러닝 기업이다. 기업이 기존 IT 인프라를 유지하면서 최신 거대언어모델(LLM), AI 에이전트 생성 같은 기술을 안전하게 쓸 수 있도록 지원하고 있다. 데이터이쿠의 AI 플랫폼은 온프레미스 서버·클라우드 등에 흩어져 있는 기업 데이터를 이동시킬 필요 없이 바로 이용할 수 있다는 점이 특징이다. ‘포브스 글로벌 2000’에 등재된 기업 중 상위 500개 기업의 약 25%(125개)가 데이터이쿠의 고객사다. 한국에선 2021년 비즈니스를 시작했으며 LG화학·두산에너빌리티 등을 고객으로 두고 있다.
“韓 CEO, AI 실패 시 직무 위협 느껴…전세계 평균의 2배”
보이드 부사장은 3월 데이터이쿠에 합류하기 전 마이크로소프트(MS), 아마존웹서비스(AWS) 등 굵직한 빅테크에 몸담으며 다양한 한국 기업의 글로벌 진출을 지원했다. 때문에 한국 시장에도 밝은 그는 “한국의 기업 최고경영자(CEO)들은 AI에 대한 수용성이 매우 높으면서도 규제를 잘 준수해야 한다는 요구도 강하다”라며 “우리가 진행한 설문에서 ‘AI 전략과 실행이 잘못되면 직무가 위협받는다’고 답한 한국 CEO 비중은 20% 였는데, 이는 전 세계 평균인 10%와 미국의 4%보다 훨씬 높은 수치”라고 설명했다.
이어 “혁신을 적극 추진하면서 리스크도 잘 관리하자는 것이 한국 경제의 특징”이라며 “데이터이쿠가 거버넌스에 특히 강점이 있다는 점을 감안했을 때 한국은 데이터이쿠에게 매우 중요한 시장”이라고 강조했다.
데이터이쿠, ‘거버넌스 최적’ 플랫폼…에이전트 ROI 측정도
실제로 데이터이쿠가 3월 발표한 신규 브랜드 ‘AI 성공을 위한 플랫폼(Platform for AI Success)’엔 거버넌스를 실현하기 위한 솔루션들이 대거 포함됐다. 대표적으로 ‘에이지먼트 매니지먼트’가 있다. 이 솔루션은 기업 업무 과정에서 직원들이 만드는 AI 에이전트 관리와 투자 수익률(ROI) 측정에 특화된 기능이다.
보이드 부사장은 “현재 아태지역을 포함해 일부 고객에게 미리 보기(프리뷰) 형태로 이 솔루션을 제공하고 있다”며 “한 대기업 고객사는 기존에 직원들이 일주일에 약 500개의 에이전트를 만들었다고 알고 있었는데 에이전트 매니지먼트로 확인해보니 2000개의 에이전트가 생성돼 있었다”고 전했다. 업무 전반에 AI가 널리 활용되고 있지만, 그에 반해 에이전트 관리는 철저하지 않았던 것이다.
보이드 부사장은 “에이전트 매니지먼트를 사용하면 이런 문제를 해결할 수 있다”며 “에이전트가 허용된 데이터에만 접근하는지, 의도대로 작동하는지, ROI를 잘 내고 있는지를 추적하고 관리할 수 있는 것”이라고 설명했다. 데이터이쿠는 곧 에이전트 매니지먼트를 공식 출시할 예정이다.
이외에도 데이터이쿠는 조직의 비즈니스 맥락을 이해해 AI가 의사 결정을 내려주는 ‘리즈닝 시스템즈’를 산업별로 출시할 계획이다. 비개발자도 자연어 기반으로 AI 에이전트를 만들 수 있는 ‘코빌드’도 제공한다.
LG화학·두산에너빌리티서 성과…“한국 혁신 전파 도울 것”
데이터이쿠는 앞으로 한국 시장을 더 적극적으로 공략할 계획이다. 지금까지 고객사와 협업하며 얻은 자신감이 바탕이 됐다. LG화학은 데이터이쿠 플랫폼을 기반으로 제조 품질 관리 시스템을 구축해 제조 공정의 이상 징후를 조기에 탐지하는 성과를 냈다. 그 결과 LG화학의 미국·유럽 거점에서도 이 시스템을 쓰기 시작했다.
두산에너빌리티는 데이터이쿠의 머신러닝 최적화(MLOps) 플랫폼을 활용해 전기로 용강 생산량 예측에 AI를 적용했다. 예측 정확도를 98% 수준으로 끌어올린 성과를 인정받아 2023년 ‘IDC 퓨처 엔터프라이즈 어워드’에서 수상하기도 했다. 보이드 부사장은 “데이터이쿠는 한국에서 두 자릿수의 매출 성장률을 기록하며 꾸준히 사업을 키워가고 있다”며 “앞으로도 서울에서 많은 시간을 보내며 한국의 혁신이 전 세계로 전파되는 데 기여할 것”이라고 강조했다.