2026년 AI 콘텐츠 '표시 의무' 강화…워터마크 필수

딥페이크 영상, 처음부터 끝까지 'AI 표기' 해야

과기정통부 "투명성 강화…1년간 계도기간"

배경훈 부총리 겸 과학기술정보통신부 장관이 지난달 23일 경기 성남시 분당구 인공지능안전연구소에서 '딥페이크 탐지, AI에이전트 안전성 평가 시연' 설명을 듣고 있다. [사진=연합뉴스]

내년부터 생성형 인공지능(AI)으로 만든 콘텐츠에는 눈에 보이는 워터마크를 넣어야 한다. 특히 실제 인물·음성을 합성한 딥페이크 영상엔 처음부터 끝까지 AI 생성물 표시를 해야 한다.

12일 과기정통부는 이같은 내용의 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 시행령 제정안을 마련해 다음달 22일까지 40일간 입법 예고한다고 밝혔다. 당초 과학기술정보통신부는 '비가시적 워터마크'도 허용할 방침이었으나, 이용자 보호를 강화해야 한다는 국회 지적에 정책을 바꿨다.

시행령 제22조(인공지능 투명성 확보 의무)는 " ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스(이하 "제품등"이라 한다)를 제공하기 전에 다음 각 호의 어느 하나에 해당하는 방법으로 법 제31조제1항에 따른 고지를 하여야 한다"고 명시했다.

지난 9월 공개한 시행령 초안 대비 생성형 AI의 투명성 조치가 강화된 것으로, AI사업자는 내년 1월부터는 생성형 AI를 이용한 제품·서비스라는 사실을 표시해야 한다. 다만 내부 사용 목적일 경우에는 관련 규정이 전부 혹은 일부 면제될 수 있다.

만일 해당 제품 및 서비스가 인공지능 기반이라는 사실을 사전에 고지하지 않은 경우 1회 500만원, 2회 1000만원, 3회 이상은 1500만원의 과태료가 부과된다.

지난 국정감사에서 "누가 봐도 AI 생성물임을 알 수 있어야 한다"는 비판이 잇따르자 비가시적인 워터마크를 넣는 경우에도 AI 생성물임을 1회 이상 고지하도록 했다.

딥페이크 영상은 처음부터 끝까지 AI 생성물임을 표시해야 한다. 업계에선 워터마크는 쉽게 제거·변조 가능한 데다, 콘텐츠 품질 저하 등을 우려해 반대하고 있어 향후 갈등이 예상된다.

다만 과기정통부는 예술적·창의적 표현물의 경우 전시나 향유 등을 저해하지 아니하는 방식으로 고지·표시할 수 있게 했다. 예를 들어 영화 엔딩 크레딧에 생성형 AI 기술 활용 여부를 명시할 수 있다.

과기정통부는 안전성 확보 의무 대상인 고성능AI 기준을 '누적 연산량이 10의 26승 부동소수점 연산(FLOPs) 이상인 시스템'으로 규정했다. 미국과 동일한 기준으로 EU(유럽연합·10의 25승)보다는 완화한 수준으로, 아직 국내엔 규제 대상이 없다.

고영향AI는 사용영역, 기본권에 대한 위험의 영향, 중대성, 빈도 등을 고려해 고영향AI 여부를 판단하도록 시행령에 세부 기준을 마련했다. 과기정통부에 고영향AI 확인을 요청할 경우 기본 30일이 소요되며, 최장 60일내 결과를 받을 수 있도록 관련 절차도 구체화했다.

또 AI사업자가 사람에 미칠 영향을 자율적으로 평가하고 부작용을 완화할 수 있도록 인공지능 영향평가에 포함 사항도 시행령에 구체화했다.

과기정통부는 AI 기본법의 구체적인 기준과 의무 이행 방법, 모범 사례 등을 반영한 고시와 가이드라인을 마련할 계획이다. 법 시행 초기 혼란을 막고 기업에 준비기간을 제공하기 위해 과태료 계도기간을 최소 1년 이상 운영할 계획이다. 이 기간 AI기본법 지원 플랫폼인 통합안내지원센터(가칭)를 운영하며 기업 등의 문의 사항을 안내할 계획이다. 센터는 제도 개선을 위한 의견수렴 창구 역할도 한다.

과기정통부는 AI기본법 시행 후 기업 지원 예산 확보를 통해 AI검·인증, 영향평가 수행 비용을 지원하고, 가이드라인도 개선해 나갈 예정이다. 투명성 확보 의무, 고영향AI 사업자 책무 등에 대한 전문가 컨설팅도 병행한다.

배경훈 과학기술(부총리 겸)정보통신부 장관은 "AI기본법 시행령 제정안은 AI G3 강국 지위를 확고히 하기 위한 제도적 초석이 될 것"이라며 "입법예고 기간 현장의 다양한 의견을 수렴해 AI산업 발전과 안전·신뢰 기반 조성이라는 입법 취지를 시행령에 잘 반영할 수 있도록 철저히 준비하겠다"고 했다.