[기원상의 6-3 지방선거] 지방선거도 AI 시대…딥페이크와 유튜브가 민주주의의 시장을 바꾸고 있다

— 알고리즘은 왜 정책보다 분노를 더 사랑하는가

2026년 지방선거는 한국 정치가 본격적인 ‘AI 선거’의 문 앞에 들어섰음을 보여준다.
과거 선거는 유세차와 시장 골목, TV 토론과 신문 사설의 시대였다. 후보는 직접 사람을 만나 지지를 호소했고, 유권자는 신문과 방송을 통해 판단했다. 민주주의는 느렸지만 최소한 같은 현실 위에서 움직였다. 누가 무슨 말을 했는지, 어떤 장면이 실제인지, 무엇이 사실인지는 대체로 확인 가능했다.
 
 그러나 지금 선거는 완전히 다른 공간에서 벌어진다.
광장이 아니라 알고리즘 안에서다.
 
이번 지방선거 과정에서 중앙선거관리위원회는 AI 딥페이크 허위영상 유포 사례에 대해 특별 대응에 나섰다. 실제 후보 얼굴과 음성을 합성한 영상이 SNS와 유튜브를 통해 확산됐고, 선관위는 관련 사례를 경찰에 고발했다. 단순한 장난 수준이 아니다. AI 기술이 민주주의의 정보 질서를 흔들기 시작했다는 신호에 가깝다.
 

지난 3월 정부서울청사에서 열린 AI 딥페이크 탐지 분석 모델 시연회에서 국립과학수사연구원이 선거유세 현장 가짜뉴스 탐지기술을 시연하고 있다 [사진=연합뉴스]

하지만 본질은 딥페이크 자체가 아니다.
더 중요한 변화는 민주주의가 ‘주의(attention) 경제’의 시장 안으로 완전히 들어왔다는 점이다.
경제학적으로 플랫폼 기업의 핵심 자산은 공장이 아니다. 사람의 시간이다.
유튜브와 틱톡, 인스타그램 같은 플랫폼은 사용자의 체류시간을 팔아 수익을 만든다. 문제는 인간의 주의를 가장 오래 붙드는 콘텐츠가 언제나 진실이나 균형은 아니라는 데 있다. 분노와 혐오, 공포와 충격은 긴 설명보다 훨씬 빠르게 확산된다.
 
정책은 느리다.
자극은 빠르다.
 
후보의 산업 공약은 읽히지 않지만, 상대 후보를 조롱하는 짧은 영상은 순식간에 수백만 조회수를 만든다. 복잡한 지방재정 정책보다 음모론 한 문장이 더 강력하다. 민주주의가 숙의의 과정이 아니라 감정의 속도 경쟁으로 변하고 있는 것이다.
AI는 이 흐름을 더욱 극단으로 밀어붙인다.
 
 
과거 선전과 조작에는 막대한 비용이 들었다. 방송국과 조직, 자금이 필요했다. 그러나 지금은 생성형 AI와 스마트폰만 있으면 된다. 음성 복제는 몇 초면 가능하고, 영상 합성 역시 일반 사용자 수준까지 내려왔다. 정치 선동의 진입장벽이 사실상 사라진 셈이다.
세계는 이미 그 위험을 경험하고 있다.
 
미국에서는 2024년 대선을 앞두고 조 바이든 대통령의 음성을 흉내 낸 AI 로보콜이 유권자들에게 퍼졌다. “투표하지 말라”는 내용이었다. 미국 연방통신위원회(FCC)는 해당 정치 컨설턴트에게 거액의 벌금을 부과했다. 우크라이나 전쟁 초기에는 Volodymyr Zelenskyy 대통령이 항복을 선언하는 딥페이크 영상이 유포됐다. 인도에서는 정치인의 AI 아바타가 수십 개 언어로 유세를 대신했고, 필리핀에서는 AI 음성 복제를 활용한 정치 메시지가 등장했다.
 
 
한국은 특히 더 위험한 조건을 동시에 갖고 있다.
세계 최고 수준의 디지털 인프라, 빠른 정보 소비 문화, 유튜브 중심 정치 소비 구조, 낮아진 전통언론 신뢰도가 함께 작동한다. 이 네 가지가 결합하면 선거는 점점 ‘플랫폼 정치’로 이동한다.
 
여기서 중요한 질문이 등장한다.
유튜브는 언론인가, 플랫폼인가.
그들은 늘 “우리는 기술 플랫폼일 뿐”이라고 말한다. 그러나 현실에서 유튜브는 이미 세계 최대 정치 미디어다. TV보다 영향력이 크고 신문보다 확산 속도가 빠르다. 그런데도 기존 언론처럼 공적 책임은 거의 지지 않는다.
 
 
이것이 플랫폼 자본주의의 핵심 모순이다.
과거 철도와 전기, 전화망이 산업화 시대의 인프라였다면 오늘날에는 알고리즘이 사회 인프라다. 문제는 이 인프라가 민주주의의 공공성보다 광고 수익 논리 위에서 움직인다는 점이다.
플랫폼은 본질적으로 체류시간 산업이다. 인간이 오래 머물수록 광고 수익이 늘어난다. 따라서 알고리즘은 자연스럽게 강한 감정 콘텐츠를 선호하게 된다. 분노와 혐오는 토론보다 오래 소비되기 때문이다.
 
 
프랑스 철학자 장 보드리야르는 현대 사회를 ‘시뮬라크르(simulacre)’의 시대라고 불렀다. 원본보다 복제 이미지가 더 강력해지는 사회라는 뜻이다. AI 딥페이크 시대는 바로 그 예언의 현실화다. 진짜 후보보다 조작된 후보 이미지가 더 강한 정치적 현실이 될 수 있다.
 
 
더 위험한 것은 사람들이 점점 “무엇이 진짜인지” 자체에 무감각해진다는 점이다.
딥페이크가 늘어날수록 시민은 결국 모든 정보를 의심하게 된다. 문제는 이 순간 민주주의의 기반인 ‘공통 현실(common reality)’ 자체가 무너진다는 데 있다. 사회가 같은 사실 위에서 토론하지 못하면 정치는 팬덤 전쟁으로 변한다.
 
 
이 지점에서 중요한 것은 이 문제를 단순히 “기술의 부작용”으로만 보면 안 된다는 사실이다.
본질은 시장 구조다.
 
플랫폼은 공공기관이 아니라 광고기업이다. 따라서 자율적 윤리만 기대해서는 한계가 있다. 실제 유럽연합(EU)은 디지털서비스법(DSA)을 통해 플랫폼의 알고리즘 책임과 정치광고 투명성 규제를 강화하고 있다. AI 생성 콘텐츠 표시 의무와 추천 알고리즘 감시 역시 확대하는 흐름이다.
 
결국 질문은 기술이 아니라 규칙으로 이동한다.
AI 시대 민주주의는 ‘표현의 자유’와 ‘정보 신뢰’ 사이의 균형을 어떻게 설계할 것인가의 문제이기 때문이다. 완전한 검열은 위험하지만, 완전한 방치는 더 위험할 수 있다. 시장이 모든 문제를 해결한다는 믿음 역시 여기서는 한계를 드러낸다. 플랫폼의 수익 구조 자체가 자극과 확산을 선호하도록 설계돼 있기 때문이다.
 
 
그래서 앞으로 필요한 것은 단순한 도덕적 호소가 아니다.
제도의 설계다.
첫째, 선거 기간 AI 생성 정치 콘텐츠에 대한 워터마크 표시 의무를 강화할 필요가 있다. 둘째, 플랫폼 추천 알고리즘의 최소한의 투명성이 요구된다. 셋째, 정치 딥페이크에 대한 신속 삭제 체계를 제도화해야 한다. 넷째, 학교와 사회 전체의 디지털 문해력 교육이 시급하다.
앞으로 시민의 핵심 능력은 정보를 많이 소비하는 것이 아니라 무엇이 조작됐는지를 구별하는 능력이 될 가능성이 크다.
 
 
기업 경영도 같은 문제를 안게 된다.
AI 시대 기업의 핵심 자산은 결국 신뢰다. 이미 글로벌 기업들은 가짜 CEO 발언과 조작 영상, 허위 광고 리스크에 대응하기 위해 AI 리스크 조직을 만들고 있다. 앞으로 기업의 위기관리 능력은 공장 운영보다 디지털 신뢰 관리에서 갈릴 가능성이 크다.
언론 역시 달라져야 한다.
 
 
AI 시대에 속보 경쟁만으로는 생존하기 어렵다. AI는 속보를 더 빨리 쓸 수 있다. 언론의 진짜 경쟁력은 검증과 해석, 맥락과 신뢰다. 누가 먼저 쓰느냐보다 누가 현실을 정확하게 설명하느냐가 중요해졌다.
 
 
여기서 중요한 점은 기술 자체를 악으로 볼 필요는 없다는 사실이다. AI는 동시에 민주주의를 더 개방적으로 만들 가능성도 있다. 장애인과 고령층의 정치 접근성을 높이고, 다국어 번역을 통해 정책 이해를 넓히며, 지역 주민 참여를 확대할 수도 있다.
 
 
문제는 기술이 아니라 철학이다.
어떤 규칙과 윤리, 어떤 공공성을 그 위에 세울 것인가의 문제다.
이번 지방선거는 단순한 지방 권력 재편 이상의 의미를 갖는다. 한국 민주주의가 숙의 민주주의를 지킬 것인지, 아니면 알고리즘 민주주의로 미끄러질 것인지를 시험하는 선거가 되고 있기 때문이다.
 
 
민주주의는 원래 인간의 이성을 믿는 제도였다.
그러나 AI와 플랫폼 시대는 인간의 감정과 본능을 훨씬 더 빠르게 자극한다.
지금 한국 사회가 던져야 할 질문은 이것이다.
 
 
우리는 AI를 민주주의의 도구로 만들 것인가.
아니면 민주주의가 AI 알고리즘의 상품이 되는 시대를 받아들일 것인가.