네이버, 'AI 클린봇 3.0' 고도화…혐오·악성 댓글 정밀 차단 강화

자살·사망·사건사고 관련 혐오 표현 집중 관리

기사 맥락까지 분석…문장 단위 넘어 정밀 탐지 구현

AI클린봇[사진=네이버]

네이버가 자살·사망 및 사건·사고 관련 혐오성 댓글 관리 강화에 나섰다. 건전한 댓글 환경 조성을 위한 조치다.

네이버는 29일 악성 댓글 탐지 시스템 ‘AI 클린봇 3.0’ 업그레이드를 완료했다고 밝혔다.

이번 업그레이드를 통해 네이버는 △자살·사망·신체 훼손 등 생명 경시를 조장하는 댓글 △사건·사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중적으로 차단할 방침이다.

또한 ‘AI 클린봇 3.0’은 기사 맥락을 반영해 악성 댓글 탐지 능력을 한층 강화했다. 뉴스 댓글뿐 아니라 기사 제목과 본문을 종합적으로 분석해 맥락에 맞는 악의적 표현을 더욱 정밀하게 식별할 수 있도록 최적화했다.

2019년 업계 최초로 도입된 ‘AI 클린봇’은 기술적·정책적 개선을 거치며 급변하는 신조어와 다양한 혐오 표현에 대응해 왔다. 초기에는 악성 키워드 기반 욕설·비속어 탐지에 초점을 맞췄지만, 2020년부터는 문장 맥락을 기반으로 욕설이 없는 모욕적 표현까지 탐지 범위를 확대했다.

이후에도 성적 불쾌감을 유발하는 표현, 혐오·비하·차별 발언, 기호·문자를 활용한 우회 악성 댓글 등을 차단하기 위해 지속적인 고도화가 이뤄졌다.

아울러 네이버는 2023년 한국인터넷자율정책기구(KISO)의 혐오표현 자율정책 가이드라인을 반영하는 등 관련 기관과 협력하며 건전한 소통 환경 조성에 힘쓰고 있다.

김수향 네이버 리더는 “욕설과 비속어는 물론 새롭게 등장하는 혐오·비하·차별 표현까지 탐지할 수 있도록 클린봇 성능을 지속 강화하고 있다”며 “생명 경시 조장이나 피해자·유족 조롱 등 악성 댓글을 집중 차단하는 동시에 다양한 의견을 반영해 기술을 고도화해 나가겠다”고 밝혔다.
 

아주캐스트