[MWC 2025] 셀렉트스타, MWC25서 '글로벌 AI 레드팀 챌린지' 성료… AI 보안 중요성 '각인'

[이코노믹데일리] AI 스타트업 셀렉트스타가 스페인 바르셀로나에서 열린 ‘MWC25’에서 ‘글로벌 AI 레드팀 챌린지’를 성공적으로 마무리했다고 7일 밝혔다. 

지난 5일(현지 시각) 피라 그란 비아 전시장에서 개최된 이번 대회는 세계 최초의 글로벌 규모로 진행되어 다양한 국적의 참가자들이 열띤 경쟁을 펼치며 생성형 AI 보안에 대한 높은 관심을 입증했다.

이번 ‘글로벌 AI 레드팀 챌린지’는 AI 모델의 보안과 안정성을 강조하고 생성형 AI 서비스의 신뢰성 검증 필요성을 국제적으로 알리기 위해 마련되었다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼을 통해 LLM(대규모언어모델)에 프롬프트 공격을 시도, 유해하거나 차별적인 결과, 시스템 오용 사례 등을 찾아내고 검증하는 방식으로 진행되었다.

GSMA(세계이동통신사업자연합회)와 공동 주최사로 참여한 셀렉트스타는 레드팀 플랫폼 운영, 문제 출제, 응답 검수 등 핵심적인 역할을 수행했다. 사전 신청자 335명 중 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국적의 100여 명의 참가자가 현장에서 AI 모델에 대한 공격 기술을 겨뤘다.

특히 이번 챌린지에는 LG유플러스의 엑사원 기반 소형 언어모델 익시젠, 아랍에미리트 TelecomGPT, 말레이시아 AIngineer 등 다국적 LLM이 출제 모델로 활용돼 이목을 끌었다. 최종 우승은 생성형 AI 오류를 가장 많이 발견한 싱가포르 투자 전문가 투 무젠 토미시에게 돌아갔다. 셀렉트스타는 GSMA, 후원사 e&와 협력하여 내년 MWC에서 더욱 확대된 규모의 레드팀 챌린지를 개최하기로 합의했다.

셀렉트스타는 이번 행사에서 레드팀 챌린지 개최와 더불어 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’을 최초로 공개하며 참관객들의 호평을 받았다. ‘다투모 이밸’은 생성형 AI 서비스의 신뢰도를 자동 분석 및 검증하는 솔루션으로 글로벌 기업들의 문의가 잇따르는 등 해외 시장에서의 높은 잠재력을 확인했다는 평가다.

황민영 셀렉트스타 부대표는 “MWC25에서 글로벌 레드팀 챌린지 최초 개최와 ‘다투모 이밸’ 솔루션 해외 시장 첫선을 통해 AI 모델 신뢰성 검증이 업계의 중요한 과제임을 재확인했다”며 “셀렉트스타의 기술력과 시장 경쟁력을 바탕으로 솔루션 고도화에 힘쓰고 글로벌 시장 확장에 박차를 가할 것”이라고 밝혔다.

한편 셀렉트스타의 ‘다투모 이밸’은 국내 최초 생성형 AI 신뢰성 검증 자동화 솔루션으로, AI 서비스 운영 중 발생 가능한 오류와 위험성을 사전 식별 및 대응하도록 지원한다. 셀렉트스타는 이번 MWC25 성과를 토대로 글로벌 AI 전문가 및 파트너들과 협력 네트워크를 확장하고 다양한 산업 분야에 솔루션 적용 기회를 적극 모색할 계획이다.