KAIST, 기존 AI가 풀지 못한 '초대형 미로' 100% 해결…AI 추론 패러다임 바꿨다

[이코노믹데일리] 국내 연구진이 세계적인 딥러닝 석학과의 공동 연구를 통해 인공지능(AI)의 추론 속도를 최대 100배까지 끌어올리는 혁신 기술을 개발했다. 특히 기존 AI가 단 한 번도 성공하지 못한 고난도 문제 해결에 100% 성공하며 기술의 우수성을 입증, 향후 지능형 로봇이나 실시간 생성형 AI 개발의 핵심 동력이 될 것으로 기대된다.

KAIST는 전산학부 안성진 교수 연구팀이 딥러닝의 아버지로 불리는 몬트리올대학교 요수아 벤지오 교수팀과 공동으로 AI 확산 모델의 ‘추론-시간 확장성’을 획기적으로 개선한 신기술을 개발했다고 20일 밝혔다. 이번 연구 성과는 세계 최고 권위의 국제기계학습학회(ICML 2025)에서 상위 2.6% 논문에만 주어지는 '스포트라이트' 발표로 선정되며 학계의 큰 주목을 받았다.
 
확산 모델은 현재 이미지 생성 등 다양한 분야에서 탁월한 성능을 보이며 생성형 AI의 주류 기술로 자리 잡았다. 하지만 치명적인 단점이 존재했는데 바로 추론 과정의 비효율성이다. AI가 주어진 계산 자원의 양에 따라 성능을 유연하게 조절하는 ‘추론-시간 확장성’이 부족해 실시간 응답이나 복잡한 문제 해결에 활용하기 어려웠다. 단순히 데이터나 모델 크기를 키우는 것만으로는 풀 수 없는 근본적인 한계였다.

연구팀은 이 한계를 극복하기 위해 바둑 AI 알파고의 핵심 기술로 잘 알려진 ‘몬테카를로 트리 탐색(MCTS)’ 기법을 확산 모델에 접목했다. 몬테카를로 트리 탐색은 수많은 선택지를 트리 구조로 구성한 뒤 시뮬레이션을 통해 최적의 경로를 찾아내는 알고리즘이다. 연구팀은 확산 모델이 결과물을 생성하는 과정에서 발생 가능한 다양한 경로를 트리 구조로 탐색하게 함으로써 제한된 계산 자원 내에서도 가장 효율적으로 고품질의 결과물을 도출하는 새로운 추론 방법을 고안했다.

이 기술의 성능은 ‘초대형 미로 찾기’라는 고난도 과제에서 극명하게 증명됐다. 수천 개의 갈림길로 구성된 복잡한 미로의 출구를 찾는 이 문제에서 기존 확산 모델의 성공률은 0%였다. 하지만 연구팀이 개발한 신기술은 100%의 완벽한 성공률을 기록하며 문제 해결 능력의 차원이 다름을 보여주었다.
 
나아가 연구팀은 후속 연구를 통해 MCTS의 단점으로 지적되던 느린 속도 문제까지 해결했다. 트리 탐색 구조를 효율적으로 병렬화하는 최적화 기법을 개발, 기존 방식보다 최대 100배 빠른 속도를 달성하면서도 결과물의 품질은 동등하거나 더 높게 유지하는 데 성공했다. 이는 기술이 고성능을 요구하는 특정 환경뿐만 아니라 실시간성이 중요한 다양한 상용 서비스에도 적용될 수 있음을 의미한다.

안성진 교수는 "이번 연구는 고비용 계산이 요구되던 기존 확산 모델의 한계를 근본적으로 극복한 기술”이라며 “지능형 로봇, 시뮬레이션 기반 의사결정, 실시간 생성 AI 등 다양한 분야에서 핵심 기술로 활용될 수 있을 것”이라고 밝혔다.