IT

구글·오픈AI 前직원들...AI 위험 경고 "내부고발자 보호 시급"

선재관 2024-06-05 08:20:07
기업 자체로는 위험 통제 한계
오픈AI 로고. [로이터=연합뉴스]


[이코노믹데일리] 인공지능(AI) 기술의 위험성을 경고하며 내부고발자 보호조치 마련을 촉구하는 목소리가 나왔다. 구글 딥마인드와 오픈AI의 전현직 직원 13명은 4일(현지시간) 공동 성명을 내고 AI의 잠재적 위험을 제기했다.

이들은 "AI 기술이 인류에 전례 없는 혜택을 제공할 수 있는 잠재력이 있지만, 우리는 또한 이런 기술에 의해 야기되는 심각한 위험을 알고 있다"고 밝혔다. 

구체적으로 "기존 불평등 심화, 조작과 잘못된 정보 유포, 잠재적으로 인간 멸종을 초래하는 자율 AI 시스템의 통제 불능" 등의 위험을 지적했다. 전 세계 정부와 AI 전문가, AI 기업 자체도 이런 위험을 인정했다고 덧붙였다.

이들은 AI 기업이 이윤 추구 목적으로 적절한 위험 완화에 실패하고 있으며, 기업 내부 규제만으로는 문제 해결이 불가능하다고 비판했다. 

또한 "AI 기업은 다양한 위험 수준에 대한 상당한 비공개 정보를 보유하고 있지만, 정부 및 시민사회와 이를 공유할 의무가 약하고 자발적 공유도 기대하기 어렵다"고 지적했다.

이어 "정부의 효과적인 감독이 없는 한 전현직 직원들이 대중에게 책임을 느끼는 몇 안되는 이들"이라며 "하지만 회사와 체결한 광범위한 기밀유지 계약으로 우려 표명조차 어렵다"고 강조했다.

이들은 "일반 내부고발자 보호는 불법행위에 초점을 맞추고 있을 뿐"이라며 "우리 중 일부는 과거 사례를 볼 때 다양한 형태의 보복을 두려워한다"고 말했다.

이에 △위험 관련 우려에 대한 비방/비판 계약 체결 금지 △독립기관에 익명으로 우려 제기할 수 있는 절차 마련 △위험정보 공개 시 전현직 직원에 대한 보복 금지 등의 조치를 정부에 촉구했다.

전문가들은 AI가 가져올 수 있는 엄청난 위험성에 주목해야 한다고 입을 모은다. AI 기술 발전 속도를 고려할 때 위험 완화를 위한 제도 마련이 시급하다는 지적이다.