"워터마크 지우거나 가리면 그만"…AI기본법, 딥페이크에는 여전히 역부족

워터마크 훼손 막아 유통 단계 AI 콘텐츠 식별 강화

정보통신망법 개정으로 플랫폼 관리 책임 명확화

지난해 12월 30일 국회 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법) 일부개정법률안이 가결됐다. [사진=연합뉴스]

인공지능(AI) 기본법 시행으로 생성형 AI로 만든 저작물에 대한 표시가 의무화됐다. 다만 이용자가 이를 훼손하거나 삭제하는 행위는 막을 수 없어 딥페이크 문제를 해결하기에는 역부족이라는 의견이 나온다. AI기본법에 맞춰 콘텐츠 유통 문제까지 포괄하는 정보통신망법 개정이 시급한 상황이다.

1일 과학기술정보통신부와 관련 업계는 정보통신망법 개정 없이는 AI기본법이 제대로 작동하지 않는다고 지적하고 나섰다. 현행 AI기본법은 생성형 AI 서비스 제공 사업자에게 AI 생성물 표시 의무를 부과한다. 이미지·영상·음성 등 AI 생성물에 워터마크나 안내 문구를 표시해 이용자가 이를 인식할 수 있도록 하는 것이 핵심이다. 

다만 이 같은 규제는 콘텐츠 생성 단계에 초점이 맞춰져 있다. 유통 과정에서 발생하는 훼손이나 편집 행위까지 통제하기에는 한계가 있다.

유튜브 등 플랫폼에 올라간 AI 생성물은 이용자가 포토숍이나 영상 편집 도구를 활용해 워터마크를 제거하거나 일부만 편집한다. 조회 수를 끌어 올리기 위해 AI로 만든 상황을 실제 벌어진 상황처럼 포장하는 것이다. 정부가 기업에 표시 의무를 부과하더라도 이용자가 이를 손쉽게 지울 수 있다면 딥페이크나 가짜뉴스 확산을 막겠다는 제도 취지가 무력화될 수 있다.

이를 보완하기 위해 조인철 의원은 정보통신망법 개정안을 발의했다. 개정안은 AI 생성물 표시제를 도입하는 한편 플랫폼 이용자가 AI 생성물 표시를 훼손하거나 삭제하는 행위를 금지하고 이에 대한 처벌 근거를 마련하는 내용을 담고 있다. 기업의 ‘표시 의무’와 이용자의 ‘보존 의무’를 결합해 콘텐츠 유통 단계까지 관리 책임을 확장하겠다는 취지다.

기술적 측면에서도 보완 필요성이 제기된다. 현재 국내 제도는 이미지나 영상 파일의 메타데이터에 AI 생성물임을 표시하는 방식만으로도 요건을 충족할 수 있도록 하고 있다. 

이 경우 파일을 편집하거나 메타데이터를 삭제하면 표시 자체가 사라질 수 있어 콘텐츠 유통 과정에서 유지력을 담보하기 어렵다는 한계가 있다.

유럽연합(EU)은 가시적 표시와 비가시적 표시를 함께 적용하는 ‘강건한 워터마크(Robust Watermark)’ 방식을 기준으로 삼고 있다. 단순히 태그를 붙이는 수준이 아니라 메타데이터 자체를 암호화해 파일 내부에 은닉하고, 노이즈를 입히거나 일부를 잘라내더라도 워터마크 정보를 판독할 수 있도록 설계하는 방식이다. 

사람 눈에는 인식되지 않지만 편집·축소·확대·압축 이후에도 식별이 가능하도록 기술적 내구성을 높인 것이 특징이다. 업계에서는 정보통신망법 개정을 통한 이용자 훼손 행위 규제와 함께 이 같은 기술 기준이 병행돼야 표시제가 실질적으로 작동할 수 있다고 보고 있다.

정부 내부에서도 AI기본법 단독으로는 한계가 있다는 인식이 공유되고 있다. 과기정통부 관계자는 “워터마크를 포토숍으로 지운다든지 하면 지금은 처벌할 방법이 없다”며 “그걸 처벌할 수 있게 하자는 취지로 정치권에서 정보통신망법 개정안을 발의한 것”이라고 설명했다. 

이어 그는 “우리 입장에서도 AI기본법만 가지고는 실효성이 낮다”며 “이용자가 표시를 훼손하지 못하게 해야 비로소 규제가 작동하는 것”이라고 말했다. 그러면서 “그렇게 되면 유튜브 같은 플랫폼 환경도 지금과는 달라질 것”이라고 덧붙였다.