감사원 "정부 차단에도 딥페이크 음란물 사이트 접속가능…보완 조치 필요"

"심의위, 통신사업자 관리·감독 부족" 지적

서울 감사원의 모습 [사진=연합뉴스]

인공지능(AI)을 활용한 딥페이크 음란물 사이트의 상당수가 정부로부터 접속 차단을 요구받았는데도 여전히 접속 가능하다는 감사 결과가 나왔다.

감사원이 5일 공개한 '인공지능 대비 실태' 감사 결과에 따르면 방송미디어통신심의위원회(심의위)는 피해자 신고나 수사기관 이첩 등에 따라 음란물 게시 사이트의 존재를 확인하면 9개 통신사업자에게 접속차단 조치를 요구하고 있다.

그런데 감사원이 2024년 접속 차단이 요구된 음란물 게시 사이트 2만3107개 가운데 1000개를 무작위로 추출해 3개 통신사업자를 표본으로 점검한 결과, 854개(85.4%)가 1∼3개 통신망으로 접속되고 있었다.

이 가운에 173개(20.3%)는 차단 목록을 담은 이메일이 스팸 처리되거나 메일서버 오류 등으로 제대로 수신되지 않으면서, 목록이 통신사의 접속차단 시스템에 등재조차 돼 있지 않았다. 나머지 681개(79.7%)는 통신사 접속차단 시스템에는 등재됐으나, 국내외의 서버를 활용한 우회접속 서비스(CDN) 기술을 통해 접속이 가능한 것으로 확인됐다.

감사원은 "보안이 강화된 프로토콜로 우회접속 시 차단 효과가 없어 보완 조치가 필요하다"고 지적했다. 또 "심의위는 2024년 6월∼2025년 5월 통신사업자에 대한 사후 점검을 통해 7250개 사이트의 미차단 사실을 확인하고도 차단을 재차 요구하지 않고 방치하는 등 통신사업자 관리·감독이 부족하다"고 짚었다.

이에 감사원은 "차단 목록 누락 방지를 위해 송수신 절차를 개선하고, 우회접속 문제 해결을 위한 식별·차단 기술을 개발하라"고 정부에 통보했다.

또 "거리 위험 징후를 자동 감지하는 '지능형 폐쇄회로(CCTV)'와 도로 손상 부위를 감지하는 '포트홀 감지 시스템'을 비롯한 공공부문의 일부 인공지능 시스템이 학습데이터 불완전 등으로 성능 저하가 일어나고 있다"고 지적했다.

아울러 감사원은 "사업자에 다양한 책무를 부과하는 '고영향 AI'로 AI 서비스를 분류하는 기준이 실제 활용 방식을 반영하지 못하고, AI 제품 검·인증 체계도 미비하다"며 "보완 대책을 마련하라"고 정부에 주문했다.