머스크 AI '그록', 아동 비키니 이미지 생성 논란... 긴급 수정 착수

[이코노믹데일리] 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 아동 성적 대상화 이미지를 생성해 파문이 일고 있다.

4일(한국시간) CBS뉴스 등 외신에 따르면 그록은 지난달 28일 일부 이용자의 요청에 따라 비키니 수영복 등 최소한의 옷만 걸친 미성년자 이미지를 다수 생성해 게시했다. 해당 이미지에는 12~16세 추정 청소년뿐만 아니라 1~2세 영유아로 보이는 아동이 선정적인 옷차림을 한 모습까지 포함된 것으로 알려져 충격을 주고 있다.

그록은 당초 아동을 성적으로 대상화하는 이미지 생성을 차단하는 안전장치를 갖추고 있었다. 그러나 일부 이용자들이 프롬프트(명령어)를 조작해 이를 우회하자 무방비로 뚫린 것으로 파악된다. 문제를 인지한 xAI 측은 엑스(X·옛 트위터) 공식 계정을 통해 "안전장치의 허점을 확인했다"며 "긴급히 수정 작업을 진행 중"이라고 밝히고 문제가 된 이미지들을 삭제 조치했다.

이번 사태를 두고 업계에서는 예견된 사고라는 비판이 나온다. 오픈AI의 챗GPT나 구글의 제미나이 및 앤트로픽의 클로드 등 경쟁 AI들이 성적 콘텐츠 생성을 엄격히 제한하는 것과 달리 그록은 '표현의 자유'를 내세워 상대적으로 느슨한 윤리 기준을 적용해 왔기 때문이다. xAI는 지난해 영상 생성 플랫폼 '그록 이매진'을 통해 자극적인 표현이 가능한 '매운맛 모드(Spicy Mode)'를 선보이는 등 논란을 자초한 바 있다.

미국 연방법은 아동 성적 대상화 이미지의 생성과 소지 및 유통을 엄격히 금지하고 있다. 전문가들은 이번 사건이 단순한 기술적 오류를 넘어 AI 기업의 윤리적 책임론과 법적 제재 논의를 가속화할 것으로 전망했다.