과기정통부 "AI로 아동 성착취물 24시간 감시"

 

[사진=과학기술정보통신부]

 

과학기술정보통신부는 23일 여성가족부와 함께 인공지능(AI) 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입에 착수했다고 밝혔다.

이날 과기정통부는 여성가족부와 공동 추진하는 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템’ 사업의 착수보고회를 23일 세종청사에서 개최했다.

해당 과제는 인공지능(AI), 빅데이터, 클라우드 등 디지털 신기술을 공공 서비스에 적용해 사회 문제를 해결하려는 '디지털 기반 사회현안 해결 프로젝트'의 일환으로, 최근 딥페이크 등 디지털 성범죄가 심각한 사회 문제로 떠오른 가운데 지정 공모를 통해 선정됐다.

사업 핵심은 AI 기반 자동화 시스템을 통해 온라인상 유통되는 아동·청소년 대상 성착취물을 조기에 탐지하고 실시간으로 대응하는 체계를 구축하는 것이다.

기존에는 한국여성인권진흥원이 키워드 중심의 수작업 검색과 육안 모니터링을 통해 유해 콘텐츠를 탐지하고, 플랫폼에 개별 삭제 요청을 해왔다.

새로 도입되는 시스템은 자가학습형 AI 알고리즘으로 24시간 365일 실시간 모니터링을 수행한다. 성착취 키워드, 이미지, 영상 등을 자동 분석해 의심 콘텐츠를 탐지하고, 위험도에 따라 검토 우선순위를 구성한다. 이를 통해 판단 속도와 정확도를 높이고, 허위 탐지 가능성은 줄일 수 있을 것으로 기대된다.

탐지된 게시물은 신고·삭제 지원 API를 통해 해당 플랫폼에 즉시 삭제 요청이 가능하며, 처리 결과는 자동으로 기록·관리된다. 기존 수작업 대응 방식의 한계를 개선한 것이다.

공동주관기관인 한국여성인권진흥원은 상담 연계 시스템과 피해 대응 체계를 플랫폼 내에 설계하는 역할을 맡는다. 피해자는 접수부터 상담, 삭제 요청, 사후 지원까지 원스톱으로 연계되는 대응 체계를 경험할 수 있다.

과기정통부는 이번 과제를 통해 기존 수작업 중심의 모니터링을 AI 기반 자동 분석 시스템으로 전환하고, 삭제 요청 자동화 및 피해자 지원 체계 통합을 통해 디지털 성범죄 대응의 효율성과 정확도를 높일 계획이다.

이날 보고회에서는 과기정통부, 여성가족부, 한국지능정보사회진흥원(NIA), 한국여성인권진흥원, 시스템 개발을 맡은 기업 관계자들이 향후 협업 방안과 시스템 구축 계획을 논의했다. 참석자들은 기술과 인권 보호가 조화를 이뤄야 한다는 점에 공감하며, 사회적 약자 보호를 위한 디지털 대응 역량 강화에 뜻을 모았다.

과기정통부 관계자는 “디지털 기술은 이제 범죄 대응에도 중요한 도구로 자리잡고 있다”며 “앞으로도 AI와 데이터 기반 기술을 공공 서비스에 적극 도입해 국민이 체감할 수 있는 디지털 안전망을 구축하겠다”고 말했다.

과기정통부 관계자는 “앞으로도 AI 등 디지털 기술을 공공 서비스에 적극 접목해 국민이 체감할 수 있는 디지털 안전망을 강화하고 사회적 약자를 보호하는 데 앞장설 것”이라고 밝혔다.