네이버, 대형 참사·인명사고 기사 악플과의 전쟁 선포... 탐지 기술 고도화 및 예방 총력

[이코노믹데일리] 네이버가 대형 참사를 포함한 인명사고 기사에 대한 악성 댓글(악플) 근절을 위해 팔을 걷어붙였다. 악플 탐지 기술을 고도화하고 언론과의 협력을 통해 예방 조치를 강화하는 등 전방위적인 대응에 나선다.

네이버는 24일 악플 증가 기사를 감지하는 '클린봇 옵저버' 베타 서비스에 대형 참사 및 인명사고 보도에 대한 악플 감지 및 알림 기능을 1분기 내에 강화하겠다고 밝혔다. 이는 지난해 연말 발생한 제주 항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 사용하는 등, 인명사고 기사에 대한 악플 문제가 지속적으로 제기된 데 따른 조치다.

네이버는 인명사고와 관련한 2차 피해를 방지하기 위해 인명사고 기사 탐지 기술을 고도화하여 '클린봇 옵저버'의 기능을 개선할 계획이다. 2019년 업계 최초로 도입된 AI 기반 악성 댓글 탐지 기술 '클린봇'은 문장의 맥락을 파악하여 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 차별적 표현까지 자동으로 탐지하고 차단하는 역할을 해왔다. 2023년 7월부터는 댓글 작성 시도 수와 악플 비율을 계산하여 악플 위험도가 높은 기사를 선별하고 언론사에 알리는 '클린봇 옵저버' 베타 서비스를 운영 중이다.

나아가 네이버는 언론 협회 및 단체와의 협의를 통해 인명사고 보도 시 악플 예방 문구를 삽입하는 방안을 추진한다. 현재 자살 관련 기사에 삽입되는 자살 예방 정보 문구와 유사한 형태로 인명사고 기사에도 악플 방지를 위한 안내 문구를 추가할 예정이다. 네이버는 2023년 9월부터 '자살 예방 보도 준칙'에 따라 자살 관련 기사에 자살 예방 배너를 삽입하고 댓글 및 추천 스티커 기능을 제한해 왔다.

또한 첨예한 사회적 갈등이나 의견 대립이 감지되는 기사에 대한 대응도 강화한다. 일정 기준 이상 공감 및 비공감이 빠르게 증가하는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 변경하도록 유도할 계획이다. 더불어 악플 예방 문구가 삽입된 기사를 자동으로 대형 참사 또는 인명사고 기사로 인식하여 해당 기사의 댓글을 자동적으로 닫는 방안도 검토 중인 것으로 알려졌다.

네이버 관계자는 "네이버는 사회적 이슈가 되는 자살 보도에 대해 생명 존중 문화 조성과 자살 예방을 위해 노력해왔다"며 "앞으로도 대형 참사를 포함한 인명 사고 기사에 악플이 근절될 수 있도록 클린봇 고도화는 물론 정책적, 기술적 노력을 지속적으로 기울일 것"이라고 강조했다.