[이코노믹데일리] 세계 이동통신사들이 독자 인공지능(AI) 모델을 앞세워 글로벌 신뢰성 검증 경쟁에 본격적으로 나섰다. AI 성능뿐 아니라 안전성과 책임성까지 경쟁력의 핵심 요소로 부상하면서 통신사들이 AI 기업으로의 전환을 가속화하는 데 있어 이번 기회를 통해 안전성과 신뢰성을 확보한다는 구상이다.
25일 SK텔레콤과 LG유플러스는 스페인 바르셀로나에서 열리는 MWC26 기간 중 진행되는 '글로벌 AI 레드팀 챌린지'에 참여해 자체 개발 대형언어모델(LLM)의 안전성과 신뢰성 검증에 나선다고 밝혔다. 이번 챌린지는 세계이동통신사업자연합회(GSMA)와 AI 평가 전문기업 셀렉트스타가 공동 주최하는 프로그램으로 약 100명의 평가단이 안전장치 우회, 편향 및 차별, 허위정보 생성, 불법 콘텐츠 대응, 사이버 공격 대응 등 7개 분야로 나눠 AI가 해서는 안 되는 응답을 생성하는지 여부를 평가한다.
SK텔레콤은 독자 개발한 LLM 'A.X K1'을 출품한다. A.X K1은 모델 설계부터 학습까지 전 과정을 자체 기술로 구축한 모델로 통신 서비스 '에이닷'을 비롯해 그룹 내부 업무 전반에 적용되고 있다. SK텔레콤은 이번 검증을 통해 글로벌 기준에서 모델의 안전성과 신뢰성을 확보하고 그 결과를 반영해 AI 서비스 완성도를 높인다는 계획이다.
LG유플러스는 통신 특화 AI 모델 '익시젠'으로 챌린지에 참여한다. 익시젠은 통신 환경에 최적화된 생성형 AI 모델로 실제 사용자 환경에서 발생할 수 있는 다양한 위험 시나리오 대응 능력을 점검받는다. LG유플러스는 검증 결과를 바탕으로 모델 취약점을 보완하고 글로벌 수준의 AI 안전성을 확보할 방침이다.
이번 레드팀 챌린지는 단순한 기술 시연을 넘어 글로벌 AI 주도권 경쟁의 핵심 전장으로 평가된다. 생성형 AI 산업이 빠르게 확산되면서 성능 경쟁을 넘어 안전성과 신뢰성 확보가 AI 경쟁력의 핵심 기준으로 자리 잡고 있기 때문이다. AI 모델이 잘못된 정보나 부적절한 응답을 생성할 경우 서비스 신뢰도는 물론 기업 경쟁력에도 직접적인 영향을 미칠 수 있다.
AI 에이전트의 의사결정 통제와 안전성 문제가 현실적인 리스크로 부각되고 있다. 최근 한 자동화 암호화폐 거래 AI는 사용자 요청을 처리하는 과정에서 약 25만 달러(약 3억6000만원) 상당의 토큰을 의도와 다르게 전송하는 사고가 발생했고 지난 2023년에는 미국 뉴욕 연방법원에서 변호사가 생성형 AI가 만든 허위 판례를 실제 사례로 제출했다가 법원 제재를 받는 사건이 발생한 것으로 알려졌다. AI의 활용도가 점점 높아지면서 AI의 오용 가능성과 예측 불가능성에 대한 우려도 동시에 커지고 있다.
이에 문제를 점검할 수 있는 레드팀 방식의 검증은 글로벌 표준으로 자리 잡고 있다. 레드팀은 실제 공격자 관점에서 AI 모델의 취약점을 탐색하는 방식으로 AI의 안전성과 신뢰성을 객관적으로 평가할 수 있는 방법으로 평가된다.
통신사들의 이번 참여는 AI 기업으로의 전환 전략과도 맞물려 있다. 통신사들은 기존 네트워크 중심 사업 구조에서 벗어나 AI 모델과 플랫폼을 중심으로 한 새로운 성장 동력을 확보하고 있다.
김태윤 SK텔레콤 파운데이션 모델 담당은 "AI가 고객의 일상과 사회 전반에 널리 확산되면서 기술 경쟁력과 함께 안전성과 신뢰성 확보가 더욱 중요해지고 있다"며 "'글로벌 AI 레드팀 챌린지' 참여를 통해 SKT가 보유한 AI 기술에 대한 신뢰성을 한층 높이는 계기로 삼겠다"고 말했다.
이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.
Copyright © 이코노믹데일리, 무단전재·재배포 금지
