中·北, 여론조작·사이버공격에 GPT 적극활용...공격 수준 고도화

현재 제한적 영향, 기술 발전과 함께 잠재적 위협 계속 커져

중국과 북한의 AI악용사례

중국과 북한의 챗GPT 등 인공지능(AI) 기술을 활용한 여론 조작, 사이버 공격 사례가 보고됐다. 더 정교해지고 규모도 커지고 있어 글로벌 AI 기업들이 공동 대응에 나서고 있다.
 
8일 오픈AI가 최근 발표한 ‘AI의 악의적 사용 차단’ 보고서에 따르면 중국은 챗GPT를 이용해 여론조작 및 사회공학 기법을 결합한 총 4건의 사이버 공격을 펼친 것으로 나타났다. 소셜 미디어를 중심으로 국제 사회의 여론을 왜곡하고 특정 인물이나 정책을 공격하는 데 초점이 맞춰져 있다.
 
중국 선전부와 연계된 것으로 의심되는 ‘스니어 리뷰’ 작전은 챗GPT를 활용해 틱톡, X, 레딧, 페이스북 같은 주요 소셜 미디어 플랫폼에서 대량의 댓글을 생성해 중국을 비판하는 콘텐츠나 인물을 공격했다.

대만 전략 시뮬레이션 게임 ‘리버스드 프론트’는 중국 공산당 정권의 붕괴를 소재로 삼았다. 이 게임을 비판하기 위해 챗GPT로 작성된 중국어 악성 댓글과 기사 형태의 비판 글이 소셜 미디어와 여러 온라인 플랫폼에 빠르게 퍼졌다. 이 과정에서 AI는 짧은 시간 안에 대량의 콘텐츠를 생성해 여론 왜곡 시도에 나섰다.
 
파키스탄의 인권 운동가 마흐랑 발로치를 비방하기 위해서도 챗GPT가 사용됐다. 발로치는 중국과 파키스탄 간 경제회랑(CPEC) 사업을 비판해온 인물이다.

챗GPT로 영어와 우르두어로 작성된 대량의 악성 댓글이 틱톡과 페이스북에 게시됐다. 심지어 발로치가 포르노 영화와 관련 있다는 거짓 영상이 제작돼 유포됐다. 영상에 달린 220개 댓글 중 199개가 AI로 생성된 것으로 확인됐다.
 
가짜 단체를 내세운 ‘베이그 포커스’ 작전은 국제 사회 여론을 조작하려는 시도였다. 챗GPT를 이용해 X 플랫폼에서 기자로 위장한 가짜 계정의 게시물과 프로필을 만들고, 신뢰도를 높이기 위해 미국 상원의원에게 보내는 편지를 번역하기도 했다. 미국과의 외교적 갈등을 부각시키는 데 초점을 맞췄다.
 
‘엉클 스팸’은 미국 내 정치 갈등을 증폭시키기 위해 챗GPT를 활용했다. X와 블루스카이 같은 플랫폼에서 관세 정책을 둘러싼 찬반 논쟁을 키우는 콘텐츠를 생성하고, 가짜 미국 재향군인 계정의 프로필 이미지를 만들어 대중의 신뢰를 얻으려 했다.
 
중국 해커 집단 APT5와 APT15 등은 챗GPT를 이용해 파일 전송 프로토콜(FTP) 비밀번호를 무차별 대입하는 스크립트를 작성하고, 네트워크에서 열린 포트를 탐색하는 포트 스캐닝 작업을 수행했다.

AI 기반 침투 테스트를 자동화해 보안 시스템의 취약점을 빠르게 파악하고 소셜 미디어 콘텐츠를 자동으로 게시하는 코드도 개발했다.
 
북한 역시 챗GPT를 사이버 공격에 악용하고 있다. 북한은 IT와 소프트웨어 직군에 지원하기 위한 가짜 이력서를 대량으로 생성해 기업의 채용 시스템을 속이려 했다. 미국 내 개인을 대상으로 회사 노트북을 수령하거나 원격 접속을 허용하도록 유도하기도 했다. 

중국은 여론 조작과 사이버 공격을 결합해 국제 사회에 영향을 미치려 했고, 북한은 사람을 속이는 사회공학 기법에 집중해 특정 목표를 노렸다.
 
오픈AI는 "현재 영향력은 제한적이지만 기술 발전과 함께 잠재적 위협은 계속 커지고 있다"며 "챗GPT를 방어도구로 활용해 위협을 탐지하고 관련 계정을 차단하는 등 조치를 취하고 있다"고 밝혔다.