[김재영 칼럼] 교실서도 딥페이크 범죄 …이제 누굴 믿어야 하나

[고려대 표준·지식학과 교수]

얼마 전 TV를 보다 박은빈 배우가 나오는 우유광고를 보게 되었다. 마지막 장면에 박은빈 배우와 아역배우들이 등장하는데 너무 닮아 본인도 모르게 아니 어떻게 저렇게 비슷한 애들을 섭외했지? 닮아도 너무 닮았다라는 생각을 했다. 물론 나중에 이들이 모두 AI(인공지능) 기술을 통해 박은빈 배우의 어린 시절 사진을 통해 만들어 낸 가상의 아역배우들이라는 것을 알게 되었을 때, 섭외 담당자를 칭찬했던 일에 쓴 웃음이 났다.
 
최근 어린 학생들이 만든 AI 딥페이크 사진과 영상이 사회적으로 문제가 되었다. 당시의 가해 학생은 호기심 어린 장난이었다는 식의 변명으로 전형적인 사회적 윤리적 문제에서 느끼던 허탈한 감정이 더해졌다. 단순한 장난이었을까? 아니면 다른 의도가 있는 것은 아닐까 하는 의문의 연쇄 속에 처음의 놀라움과 달리, 들었던 생각은 같은 반 친구도 믿지 못한다면 그 아이들은 이제 누굴 믿어야 하나였다.
 
이처럼 기술의 발전은 우리에게 긍정적인 영향도 있지만, 한편으로는 잘못될 수 있다는 죄의식 없는 행동이 기술에 대한 반감을 가져오기도 한다. 과거 컴퓨터 확산에 따른 학생들의 손쉬운 해킹 사건은 사회적 우려를 자아냈었다. 이처럼 기술의 성숙은 과거에는 전문가만이 할 수 있던 일들을 점점 쉽게 해낼 수 있게 되면서 또 다른 기술의 발전을 가져오기도 하지만, 사회적 문제로 발전하기도 한다.
 
인공지능 기술의 급속한 발전은 우리 사회에 많은 변화와 혜택을 가져왔지만, 새로운 위험도 동시에 가져다 주는 양날의 검이 되었다. 딥페이크가 그 대표적인 예이다. 딥페이크(Deepfake)란 '딥 러닝(deep learning)'과 '가짜(fake)'의 합성어로, 인공지능 기술을 이용해 실제로 존재하지 않는 것을 마치 사실인 것처럼 조작한 이미지나 영상을 말한다. 예를 들어 지난 2018년 오바마 딥페이크 영상에서 오바마 전 대통령이 출연한 연설 영상과 딥페이크로 만든 영상으로 우리나라에서는 대선 당시 윤석열 대통령은 물론 김주하 앵커 등에게서 사용되었다.

 
당시에도 딥페이크 생성 서비스는 월 사용료 1만원 정도면 초보라도 딥페이크 영상을 무제한으로 생성할 수 있었다. 물론 정교한 딥페이크 제작을 하려면 전문적 기술이 필요했지만, 당시에도 기술발전은 시간문제였다. 저렴한 비용과 쉬워진 제작기술은 딥페이크 영상과 이미지가 허위정보, 피싱 등 사기, 성범죄에 악용될 때 사회적 문제의 온상으로 변화되었다.
 
미국에서는 조 바이든 미국 대통령의 모습으로 트랜스젠더 혐오발언 영상이 유포되면서 논란이 되었으며, 도널드 트럼프 전 대통령은 경찰에 저항하다 체포되는 사진이 만들어졌다. 최근 카멀라 해리스 대선후보를 악의적으로 묘사한 딥페이크 영상과 이미지 등이 역시 논란이 되고 있다. 최근에는 음성까지 사칭하는 딥보이스까지 범죄에 악용이 되고 있다. 혹시 SNS 등을 통해 음성이 포함된 게시물을 올릴 때 한층 더 주의해야 한다.
 
성범죄에 악용되는 딥페이크는 대부분 허위 여부를 알게 되는 순간 이미 공개된 영상은 영향력을 잃게 되지만, 성범죄에 악용된 딥페이크는 이와 무관하게 피해가 확산되는 문제가 있다. 2023년 미국의 시큐리티히어로의 조사에 따르면 딥페이크 성착취물에 등장하는 인물 중 K-팝 스타가 다수로 나타나면서 스타의 인기에 편승한 범죄에 가장 많은 표적이 되는 나라로 제시되었다. 이제는 연예인뿐만 아닌 우리네 일상과 아이들의 꿈이 있는 학교 곳곳에서 피해 사례가 나타나고 있다는 점에서 문제의 심각성이 드러난다. 우리 주변의 일반인 그것도 보호받아야 하는 어린 학생들이 대상이라는 것은 시급한 문제이다.
 
최근 생성형 AI의 발달로 이를 이용해 한층 더 쉽게 딥페이크 영상 제작이 가능해지면서 이미 미국과 유럽 등에서는 실제와 가상을 구분하지 못해 발생하는 피해와 혼란을 막기 위해 딥페이크 콘텐츠가 인공지능으로 만들어진 것임을 표시하도록 하는 법제를 완성하였다. 우리나라에서도 비슷한 내용의 법안이 22대 국회에서 이미 발의된 상태이다. 지난달 기준 총 11건의 AI 관련 법안이 발의되었고 이 중 6건의 법안이 생성형 AI로 만든 콘텐츠에 해당 사실을 고시토록 규정하고 있다.
 
아직 법으로 제정된 것은 아니기에 갈 길이 멀다. 해외의 입법 사례에서는 딥페이크가 아닌 AI로 생성된 콘텐츠를 표시하도록 해 적용 범위를 보다 명확하게 하고 있다. 다만 과도한 표시 규제는 인공지능 발전에 저해가 될 수도 있으며, 이 과정에서 자칫 차별적 규제로 해외 기업들의 반발이 발생할 수도 있다. 입법 단계에서부터 이러한 잡음을 없애기 위해서는 국제표준과의 조화가 요구된다.
 
사실 AI 기술이 모두 악용되는 것만은 아니다. 물론 호불호가 갈리긴 하지만, 얼마전 KBS에서 방송된 프로그램에서 박영규 배우가 20여 년 전 먼저 하늘나라로 보낸 아들을 만나러 수목장에 방문하는 모습이 그려졌다. 아들에 대한 그리움과 가슴 시린 슬픔이 화면 밖 보는 이의 마음까지 그대로 전달되며 가슴을 울렸다. 제작진이 과거 사진을 통해 딥페이크로 제작한 올해 모습의 아들 사진을 전했고 오열하는 박영규 배우의 모습을 보면서 누군가는 범죄로, 누군가는 소중한 이를 회상하는 따뜻함을 전달할 수 있는 것이 AI 기술이다.

이처럼 딥페이크와 같은 기술이 우리에게 가져다주는 가능성은 무궁무진하다. 하지만 그만큼 그 사용에 대한 신중함이 필요하다는 점을 잊어서는 안 된다. 기술 자체는 중립적이지만, 그것을 어떻게 활용하느냐에 따라 긍정적인 변화와 부정적인 결과가 나뉜다는 것을 기억해야 한다. 특히 딥페이크 기술의 발전은 현실과 가상을 쉽게 구분하기 어렵게 만들어졌기에 이를 통해 창의적인 콘텐츠 제작이나 교육, 엔터테인먼트 분야에서는 새로운 기회가 열리고 있지만, 반대로 잘못된 정보가 퍼지거나 개인의 명예가 훼손되는 등 부정적인 결과도 초래될 수 있다.
 
우리가 기술을 사용할 때 반드시 생각해 봐야 할 것은, 그 기술이 누군가에게 어떤 영향을 미칠 수 있을지, 그리고 그로 인해 발생할 수 있는 위험은 무엇인지에 대한 고려이다. 딥페이크처럼 강력한 기술일수록 법에 의한 규제보다는 책임감 있게 사용되어야 하며, 이를 위해서는 사용자의 윤리적 판단이 중요하다. 단순히 기술이 제공하는 편리함이나 흥미로운 요소에만 주목할 것이 아니라, 그것이 사회적으로 어떤 파급효과를 가질지 고민해야 하며, 기술의 발전은 멈출 수 없지만, 그것이 우리 사회에 미칠 영향은 충분히 통제할 수 있다.
 
아직 법과 규제 없이도 우리는 상대를 믿고 싶고, 그 믿음이 변치 않길 바란다. 이를 위해서는 딥페이크와 같은 기술을 사용할 때 한번 더 생각해보고, 이로 인해 발생할 수 있는 문제점과 책임에 대해 신중하게 판단할 필요가 있다. 기술의 발전은 우리가 생각하는 것보다 빠르게 이루어지고 있지만, 그 속도에 걸맞은 윤리적 기준과 책임의식도 함께 발전해야만, 진정으로 우리에게 이로운 기술이 될 수 있다.


김재영 필자 주요 이력
 
▷고려대 표준·지식학과 교수 ▷고려대 경영학 박사 ▷한국정보시스템학회 이사 ▷4단계 BK21 융합표준전문인력 교육연구단장