머스크의 xAI '그록', 성인 콘텐츠로 몸집 키웠나…전직 직원 폭로

[사진=로이터·연합뉴스]

일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 챗봇 ‘그록’ 이용자 확대 과정에서 성인용 콘텐츠에 크게 의존하고 있다는 의혹이 제기됐다. 음란 이미지·영상 생성과 성인 역할극 채팅이 트래픽을 끌어올리는 한편, 비동의 이미지 생성과 안전 관리 부실 논란도 커지고 있다.
 
미 정보기술(IT) 전문매체 디인포메이션은 25일(현지시간) 최근까지 xAI에 재직했던 직원 2명을 인용해 “그록 트래픽의 절반 이상이 음란 이미지·영상 생성과 성인 역할극 채팅 등 ‘후방주의’(NSFW) 활동과 관련돼 있다”고 보도했다. NSFW는 직장이나 공공장소에서 보기 부적절한 성인·폭력·자극적 콘텐츠를 뜻한다.
 
보도에 따르면 성인 콘텐츠 수요는 일반 대화형 모델뿐 아니라 코딩 전용 모델에서도 나타났다. 일부 이용자들이 비용이 더 낮은 코딩 모델을 활용해 음란물이나 알몸 이미지 생성을 요청했다는 것이다.
 
내부 반발도 있었다. 전직 직원들은 “그록이 실존 인물 사진을 바탕으로 동의 없는 성적 이미지를 만들 수 있다는 점에 일부 연구진과 엔지니어들이 충격을 받았다”고 전했다. 일부 인력은 기술 연구 대신 성적 대상화 논란을 낳은 AI 아바타 ‘애니’ 개발에 투입되자 회사를 떠난 것으로 알려졌다.
 

안전 관리 체계도 도마에 올랐다. 보도에 따르면 xAI의 안전팀은 지난해 말 기준 6명 안팎에 그쳤고, 현재는 그보다 더 줄어든 것으로 전해졌다.
 
그록은 앞서 이용자 요청에 따라 아동이 등장하는 성적 이미지를 생성한 사실이 드러나 일부 국가에서 접속 차단 조처되거나 조사 대상에 오른 바 있다.
 
논란은 머스크의 다른 핵심 기업에도 부담으로 작용하고 있다. 스페이스X는 최근 기업공개(IPO) 관련 자료에서 “그록의 ‘매운맛’·‘불안정’ 모드가 평판 손상, 노골적 콘텐츠, 허위정보, 기만적 결과물, 동의를 받지 않은 이미지 생성 등 위험을 초래할 수 있다”고 경고했다. 그록이 xAI의 성장 지표를 끌어올리는 동시에 머스크 기업 생태계 전반의 법적·규제 리스크로 번질 수 있음을 인정한 셈이다.
 
이번 의혹은 생성형 AI 기업의 성장 경쟁이 어디까지 허용될 수 있는지를 둘러싼 논쟁으로 이어질 전망이다. 이용자 참여를 늘리기 위해 자극적 기능을 확대할 경우 단기 트래픽은 늘 수 있지만, 비동의 이미지와 불법 콘텐츠, 청소년 보호 문제를 통제하지 못하면 규제와 소송, 투자자 불신으로 이어질 수 있다.