과기정통부, 'AI 워터마크 기술 동향 보고서' 발간

유튜브에서 생성형 AI 사용했다면 사용 여부 밝혀야

[사진='AI 워터마크 기술 동향 보고서' 일부 캡처]

과학기술정보통신부(이하 과기정통부)가 한국정보통신기술협회(TTA)의 인공지능(AI) 생성물의 안전한 생성과 활용을 지원하기 위해 'AI 워터마크 기술 동향 보고서'를 발간했다고 22일 밝혔다.

인공지능 생성물이란 AI 알고리즘으로 크게 변경되거나 생성된 이미지, 동영상, 오디오 클립, 텍스트 등 정보를 일컫는다. 생성형 AI가 고도화됨에 따라 AI가 다양한 분야에서 활용되고 있다. 동시에 딥페이크 성 착취물 등 다양한 오남용 사례도 등장하고 있다. 

이에 과기정통부는 AI 생성물의 오남용을 방지하기 위해 보고서를 발간했다. 과기정통부에 따르면 우리나라는 올 1월 'AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)'을 제정하면서 AI 생성물에 워터마크 표시 의무를 규정한 바 있다. 

보고서에는 △인공지능 생성물 개요 △인공지능 생성물 워터마크 개요 △인공지능 생성물 워터마크 활용 사례 등 내용이 담겼다. 가령 유튜브의 경우 창작자가 동영상을 제작한 경우 생성형 AI 사용 여부를 밝혀야 한다. 

김경만 과기정통부 인공지능기반 정책관은 "이번 보고서가 국내 AI 산업 신뢰성을 높이고 글로벌 경쟁력을 강화하는 중요한 계기가 되길 기대한다"며 "향후 TF 운영과 의견수렴으로 가이드라인을 마련해 안전하고 신뢰할 수 있는 AI 산업 생태계를 조성하겠다"고 전했다.