LG유플러스, AI, 이제 내 폰 안으로…온디바이스 AI로 '초개인화' 승부수

[이코노믹데일리] LG유플러스가 LG AI연구원의 거대언어모델(LLM) ‘엑사원(EXAONE) 3.5’를 스마트폰 안에서 직접 구동할 수 있는 온디바이스 소형언어모델(sLM) 개발에 성공했다. 이는 AI 통화 앱 ‘익시오(ixi-O)’에 탑재돼 개인정보 유출 걱정 없이 더 빠르고 효율적인 AI 서비스를 제공하는 ‘초개인화 AI 에이전트’ 시대를 여는 핵심 기술이 될 전망이다.

LG유플러스는 LG AI연구원, 온디바이스 AI 솔루션 전문기업 옵트에이아이와 6개월간의 공동 연구 끝에 엑사원 기반 온디바이스 sLM을 개발했다고 25일 밝혔다. 

온디바이스 AI는 외부 서버를 거치지 않고 스마트폰 내부의 반도체(NPU)를 통해 AI 연산을 처리하는 기술이다. 이용자 데이터가 외부로 전송되지 않아 보안성이 뛰어나고 네트워크 연결 없이도 빠른 응답이 가능한 것이 최대 장점이다.

이번에 개발된 sLM을 AI 통화 앱 ‘익시오’에 적용하면 기존 CPU 기반 온디바이스 AI 기술 대비 전력 소모량은 78%, 모델 크기는 82%나 줄어든다. 

성능은 동일하게 유지하면서도 효율성을 극대화한 것이다. 특히 한국어 처리 능력이 뛰어난 엑사원 모델을 기반으로 해, 통화 내용을 텍스트로 변환하고 요약하는 익시오의 핵심 기능과 강력한 시너지를 낼 것으로 기대된다.

LG유플러스는 이 기술을 바탕으로 익시오의 통화 요약 및 키워드 추출 기능을 고도화하고 오는 10월 베타 테스트를 거쳐 이르면 내년 상반기 상용화에 나설 계획이다. 우선 퀄컴의 ‘스냅드래곤8’ 칩셋 기반 스마트폰에 적용한 뒤 내년에는 아이폰까지 적용 범위를 넓힐 예정이다.

이번 개발은 일회성에 그치지 않는다. LG유플러스는 파트너사들과의 협력을 지속해 지난 7월 공개된 최신 모델 ‘엑사원 4.0’까지 온디바이스 sLM으로 구현한다는 장기적인 로드맵을 세웠다.

송대원 LG유플러스 기술개발그룹장은 “세계적으로 인정받는 엑사원의 성능을 유지하면서 온디바이스로 구현한 sLM을 통해 더욱 안전하고 고도화된 AI 서비스를 제공할 수 있게 됐다”며 “온디바이스 AI 기술 고도화를 지속하여 초개인화된 온디바이스 에이전트를 선보이며 시장을 선도할 것”이라고 밝혔다.