LG유플러스(032640) 가 인공지능(AI) 에이전트의 성능을 고도화하면서도 토큰 사용 비용을 최대 90% 낮추는 기술로 기업용 인공지능 전환(AX) 시장을 공략한다. 실증한 AI 모델 운영·최적화 기술을 기업에 제공해 새로운 수익화 모델을 구축하는 방식이다. KT(030200) 가 ‘토큰팩토리’로 포문을 연 데 이어 LG유플러스도 AI 사용량 단위인 토큰을 새로운 수익원으로 보고 참전하는 모습이다.
LG유플러스는 12일 서울 서대문구의 한 빌딩에서 기자간담회를 열고 토큰 최적화 기술 성과와 사업 계획을 공개했다. 이상엽 최고기술책임자(CTO)는 “LG유플러스는 이론적 효율화를 넘어 이미 수많은 실전 서비스에서 토큰 최적화 기술의 검증을 끝냈다”며 “내년부터 가장 합리적인 비용으로 기업 고객들이 최고의 AI 성과를 낼 수 있도록 지원 하겠다”고 밝혔다.
토큰은 AI가 질문을 읽고 답변을 만들 때 처리하는 데이터 기본 단위이자 이용료 산정 기준이다. LG유플러스는 토큰당 단가 인하 경쟁을 넘어 고객이 AI로 하나의 업무를 완결하는 데 드는 총비용을 낮추는 데 집중했다.
강점은 그동안 축적한 데이터를 바탕으로 고객의 이용 패턴에 따라 적합한 AI 모델을 선택하고 배분하는 기술력이다. 내부 테스트에서는 모델 라우팅(중개)을 통해 일반적인 질문 처리 비용을 25% 이상, 코딩 에이전트 비용을 30% 이상 절감하는 효과를 확인했다. 대표적인 사례가 AI 통화 어플리케이션 ‘익시오’로, 자체 AI 모델과 LG AI연구원의 엑사원, 구글 제미나이 등의 활용 비중을 정교하게 조합해 서비스 품질 개선과 비용 절감을 이뤄냈다.고성능 AI가 필요한 작업과 상대적으로 가벼운 작업을 구분해 처리함으로써 불필요한 비용을 줄인 것이다.
특정 반도체에 의존하지 않는 구조로 AI 연산 부담도 덜었다. 권기덕 LG유플러스 AX엔지니어링랩장은 “엔비디아와 AMD의 그래픽처리장치(GPU)와 퓨리오사AI의 신경망처리장치(NPU)를 적합한 연산에 분산 투입하는 AI 인프라 운영(오케스트레이션) 노하우를 앞세워 고객사의 AX 비용을 낮출 수 있다”고 설명했다.
LG유플러스는 내년부터 기업 고객의 AI 운영 비용을 줄여주는 사업을 적극적으로 추진한다. 이를 위해 카카오와 협력 중인 ‘모두의 AI’ 서비스를 상용화하고, 이 과정에서 확보한 운영 데이터와 기술력을 활용할 방침이다. 이상엽 CTO는 “AI 에이전트가 확산될수록 모델 단가가 아무리 저렴해도 불필요한 검색과 분석을 반복하면 전체 비용은 눈덩이처럼 불어날 수밖에 없다”면서 “통화 AI와 사내 AX 등 실제 현장에서 치열하게 부딪히며 완성한 LG유플러스만의 최적화 기술력이야말로 누구도 쉽게 따라올 수 없는 AI 사업의 핵심 해자가 될 것”이라고 강조했다.
