"성착취 영상 6분 내 제거"…서울시, 'AI 자동 삭제신고 시스템' 개발

영상물 검출부터 삭제 신고까지 '전 과정 자동화'

인공지능(AI) 디지털성범죄 피해영상물 자동 삭제지원 과정. [사진=서울시]

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 ‘인공지능(AI) 자동 삭제신고 시스템’을 전국 최초로 개발, 도입한다고 21일 밝혔다.

이 시스템은 AI가 온라인에 유포된 디지털 성범죄 영상을 상시 검출한 뒤 찾아낸 영상물에 대한 삭제 신고까지 자동으로 지원한다.

시는 AI 자동 삭제신고 시스템을 도입하면 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 단 ‘6분’만에 처리할 수 있을 것으로 내다봤다. 기존에는 영상물을 모두 수작업으로 채증하고 보고서를 작성해야 했기 때문에 신고까지 약 2시간 반에서 3시간까지 시간이 걸렸다.

특히 최근 피해 영상물이 미국을 비롯해 중국, 러시아, 베트남 등으로 확산 유포되는 점에 착안해 국가 기반을 넓혀 검색 영역도 확대했다.

앞서 시는 지난 2023년 ‘디지털 성범죄 AI 삭제지원 기술’을 도입한 바 있다. 서울시 여성가족재단에서 운영하는 서울 디지털성범죄 안심지원센터에서 이를 활용해 24시간 불법 영상물 감시와 삭제지원을 하고 있다. 안심지원센터는 전기통신사업법에 따라 불법촬영물 등에 대한 신고·삭제 기관으로 지정고시된 기관이다.

시에 따르면 해당 기술을 도입하면서 피해 영상의 검출 속도가 기술 도입 전보다 97.5%가 단축되고 정확도도 200% 이상 향상됐다. 안심지원센터의 삭제지원 건수도 지난 2022년 2509건에서 AI 도입 후인 지난해 총 1만4256건으로 늘었다.

시는 안심지원센터를 통해 삭제지원과 수사·법률지원, 심리치료·의료 지원 등을 원스톱 지원하고 있다. 도움이 필요한 디지털 섬범죄 피해자 누구나 센터 상담전용 직통번호나 누리집을 통해 문의하면 된다.

김선순 시 여성가족실장은 “우리 사회를 충격에 빠트린 n번방 사건부터 지난해 딥페이크 성범죄 사건까지 디지털 성범죄 기술은 갈수록 고도화되고 범죄 피해도 심각하다”며 “앞으로도 디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다”고 했다.