[이코노믹데일리] AI 모델 경량화 기술 기업 노타(대표 채명수)가 에듀테크 기업 유탑소프트(대표 김성범)와 손잡고 인터넷 연결이나 고성능 서버 없이도 구동되는 ‘온디바이스 AI 튜터’ 개발에 나선다. 양사는 지난 18일 서울 삼성동에서 업무협약(MOU)을 체결하고 교육 전용 태블릿에 최적화된 생성형 AI 서비스 상용화를 위해 협력하기로 합의했다.
이번 협력의 핵심은 클라우드 서버 의존도를 낮춘 온디바이스 AI 기술의 도입이다. 양사가 구상하는 AI 튜터는 태블릿 기기 자체에서 구동되는 방식을 기본으로 하되 고사양 추론이 필요한 경우에만 외부 서버를 활용하는 하이브리드 방식을 검토하고 있다. 이는 생성형 AI 서비스의 고질적 문제인 막대한 서버 운영 비용을 절감하고 네트워크 지연 속도나 데이터 보안 우려를 해소할 수 있는 대안으로 주목받는다.
유탑소프트는 영어 스피킹과 거대언어모델(LLM) 기반 문제은행에 특화된 AI 튜터 모델의 기획과 개발을 주도한다. 노타는 자사의 AI 모델 최적화 플랫폼 ‘넷츠프레소(NetsPresso)’를 활용해 해당 모델을 태블릿 등 하드웨어 성능에 맞춰 압축하고 파인튜닝하는 기술 지원을 맡는다. 이를 통해 학생 수 증가에 따른 운영 비용 부담을 줄이고 인터넷 환경이 열악한 곳에서도 끊김 없는 학습 서비스를 제공할 수 있을 것으로 기대된다.
김성범 유탑소프트 대표는 "고비용의 LLM 도입으로 인한 교육 업체의 부담을 온디바이스 기술로 해결해 합리적이고 안전한 솔루션을 제공하겠다"고 말했다. 채명수 노타 대표 또한 "하드웨어 제약이 많은 모바일 교육 환경에서 모델 경량화는 필수 기술"이라며 "실제 교육 현장에서 의미 있는 혁신 사례를 만들겠다"고 강조했다.
Copyright © 이코노믹데일리, 무단전재·재배포 금지
