LGU+, ‘엑사원3.5’ 온디바이스 언어모델 개발

LG유플러스 직원이 개발한 온디바이스 sLM을 확인하는 모습 [LG유플러스 제공]

LG유플러스가 LG AI연구원, 옵트에이아이와 손잡고 대규모 언어 모델(LLM) ‘엑사원(EXAONE) 3.5’ 기반의 온디바이스 소규모 언어 모델(sLM)을 개발했다고 25일 밝혔다. LG유플러스는 이 모델을 인공지능(AI) 통화 앱 ‘익시오(ixi-O)’에 적용해 서비스를 고도화할 방침이다. 이번 온디바이스 sLM 개발은 LG AI연구원이 지난해 12월 선보인 ‘엑사원 3.5 2.4B’ 모델을 기반으로 이뤄졌다. LG유플러스와 LG AI연구원, 온디바이스 AI 솔루션 업체인 옵트에이아이는 약 6개월에 걸친 연구를 통해 개발에 성공했다.

LG유플러스는 AI 모델을 경량화하는 ‘온디바이스’ 기술이 AI 서비스 확산 및 보안성 향상에 기여할 것이라고 강조했다. 일반적인 LLM은 네트워크와 서버를 거쳐 구동돼야 하는 탓에 보안·속도·접근성 측면에서 한계가 있지만, 온디바이스 sLM으로 구현될 경우 이용자의 데이터가 외부 네트워크나 서버를 거치지 않고 자신의 스마트폰 내에서 구동되므로 보안성이 강화된다. 스마트폰 내 NPU(신경망처리장치)를 통해 답변을 제공하는 만큼 빠른 응답이 가능하고, 다양한 단말에서 사용할 수도 있다.

엑사원 기반 온디바이스 sLM은 퀄컴(Qualcomm)사의 ‘스냅드래곤8’ 칩셋을 기반으로 하는 스마트폰에 탑재된다. 내년에는 iOS 운영체제가 적용된 스마트폰까지 적용 범위를 확대할 예정이다. 권제인 기자