[뉴스토마토 박재연 기자] LG유플러스(032640)가 LG AI연구원, 인공지능(AI) 솔루션 업체 옵트에이아이와 손잡고 거대언어모델(LLM) '엑사원 3.5' 기반 온디바이스 소형언어모델(sLM)을 개발했다고 25일 밝혔습니다. 이 모델은 AI 통화 앱 '익시오'에 적용, 서비스 고도화에 활용될 방침입니다. 

 

이날 LG유플러스에 따르면 이번 온디바이스 sLM 개발은 LG AI연구원이 지난해 12월 선보인 '엑사원 3.5 2.4B' 모델을 기반으로 이뤄졌습니다. 일반적인 LLM은 네트워크와 서버를 거쳐 구동돼야 하는 탓에 보안·속도·접근성 측면에서 한계가 있는데요. 온디바이스 sLM으로 구현될 경우 이용자의 데이터가 외부 네트워크나 서버를 거치지 않아 보안이 강화된다는 특징이 있습니다. 또 스마트폰 내 신경망처리장치(NPU)를 통해 답변을 제공해 빠른 응답이 가능하다는 장점도 있는데요. 

 

LG유플러스는 온디바이스 sLM으로 개발된 엑사원을 ‘익시오’에 적용해 서비스를 고도화할 계획입니다. 기존 익시오에 구현된 온디바이스 AI 기술은 중앙처리장치(CPU)를 사용했지만, NPU 기반의 온디바이스 sLM을 적용하면 동일 성능에 전력 소모량은 기존 대비 78%, 모델 크기는 82%가량 줄어든다고 회사는 전했습니다. 

 

LG유플러스는 엑사원 기반의 온디바이스 sLM을 익시오에 적용해 △한 줄 요약 △상세 요약 △키워드 추출 △AI Task 제안 등 기능 고도화에 나설 방침입니다. 오는 10월 베타 테스트를 통해 안정성 및 품질 검증을 완료하고, 이르면 내년 상반기 상용화에 나설 계획입니다. 

 

송대원 LG유플러스 기술개발그룹장은 "엑사원의 성능을 유지하면서 온디바이스로 구현될 수 있도록 만든 sLM으로 고도화된 AI 서비스를 제공할 수 있게 됐다"며 "온디바이스 AI 기술 고도화를 지속해 초개인화된 온디바이스 에이전트를 선보이며 시장 내 입지를 강화하고 차별화된 사용자 경험을 제공할 것"이라고 강조했습니다. 

 

박재연 기자 damgomi@etomato.com