양 기관은 서울 관악구 서울대 캠퍼스에서 김병훈 LG전자 CTO 부사장과 김주한 서울대 연구부총장 등이 참석한 가운데 'Secured AI 연구센터' 설립 양해각서를 교환했다.
새로운 연구센터는 서울대의 우수한 연구 인력과 인프라를 바탕으로 AI 보안의 핵심 기술 개발에 나선다. 주요 연구 분야는 △대규모 언어모델(LLM) 에이전트 보안 강화 △데이터 유출 차단 기술 등이다.
특히 소프트웨어 개발과 운영 전반에 보안을 통합하는 ‘MLSecOps(머신러닝 특화 보안 운영)’ 모델 정립에 집중한다. 이는 LLM 에이전트 활용 확대에 따라 증가하는 허위정보 생성과 데이터 탈취 위협에 대응하기 위한 것으로, 기존 DevOps나 MLOps 방식만으로는 한계가 있는 보안 문제를 보완하는 것이 목표다.
연구센터는 데이터 수집에서 학습, 배포, 운영, 폐기에 이르는 전체 생애주기에서 침입 차단과 데이터 보호 기능을 제공하는 산업용 AI 보안 플랫폼 구축도 추진한다.
센터장에는 홍용택 서울대 전기정보공학부 학부장이 선임됐다. 홍 교수는 국제정보디스플레이학회 펠로우이자 한국과학기술한림원 정회원으로 올해 과학기술훈장 혁신장을 받은 전문가다. 김주한 서울대 연구부총장은 "세계 수준의 AI 보안 기술 개발과 글로벌 표준을 선도하는 성과를 기대한다"고 말했다.
LG전자 측에서는 임효준 차세대컴퓨팅연구소장이 연구과제 조율을 맡는다. 차세대컴퓨팅연구소는 차세대 보안, 블록체인, 양자컴퓨팅 등 미래기술 확보를 담당하는 조직이다.
김병훈 LG전자 CTO는 "가전, 모빌리티, 로봇 등에서 AI 활용이 늘면서 보안이 필수 요소가 됐다"며 "차세대 보안 기술 고도화를 통해 AI 보안 분야 리더십을 확보하고 안전하고 신뢰할 수 있는 제품과 서비스를 제공하겠다"고 밝혔다.
Copyright © 이코노믹데일리, 무단전재·재배포 금지
