오픈AI, 호주 정부기관 무단 해킹…첫 정부 침투

호주 정부 "정부 통신망 전체 피해 확산 아니지만 이번 사안 받아들일 수 없어"

샘 올트먼 "국제사회 중심 AI 감독 국제기구 설립해야"

샘 올트먼 오픈AI 최고경영자 [사진=AFP, 연합뉴스]

미국 인공지능(AI) 기업 오픈AI의 AI에이전트가 호주 정부의 보건 통계 사이트를 무단으로 해킹한 것으로 나타났다.

24일 AFP, 로이터 통신 등 외신과 연합뉴스 등에 따르면 오픈AI는 자사 AI 관련 내부 검토 과정에서 AI 에이전트들이 호주 정부 사이트에 무단 접근한 정황을 확인했다고 성명을 냈다. 

이는 AI 모델이 정부 기관을 해킹한 첫 사례다. 

오픈AI는 성명을 통해 "우리 모델이 답변을 찾는 과정에서 호주 정부의 웹사이트와 서비스 관련 활동을 한 사실을 확인했다"며 "우리 모델이 의도치 않은 행동을 취했다"고 밝혔다. 

오픈AI는 이 과정에서 AI 모델이 접근한 정보는 보건 관련 통계 자료와 내부 파일명 등이라고 발표했다. 개인정보나 의료기록 등이 유출된 증거는 확인하지 않았다고 덧붙였다. 

같은 날 호주 정부는 오픈AI의 해킹 사실을 알고 비판했다. 

앤서니 앨버니지 호주 총리는 유엔(UN) 총회가 열리는 뉴욕에서 기자회견을 열고 "오늘 오픈AI의 샘 올트먼 최고경영자(CEO)와 통화했으며 이번 사건에 대한 정부의 우려를 전달했다"고 말했다.

이어 "현재까지 파악한 증거로는 정부 통신망 전체로 피해가 확산하지는 않았으나 이번 상황은 받아들일 수 없다"고 강조했다. 

호주 역시 관련 조사에 착수했다. 호주 사이버 안보 담당 기관인 호주신호국(ASD)은 현재 관련 추가 정보를 확보하고자 포렌식 조사 중이다. 

보도에 따르면 이 사건은 지난 6월 발생했다. 오픈AI의 인지 시점은 지난 8월이다. 호주 정부에 이 사실을 통보한 것은 지난 9월 10일이었다. 

이번 사건으로 AI 안전장치에 대한 논란이 심화할 것으로 전망했다. 로이터는 "이번 사태는 오픈AI가 자사 AI 모델의 해킹 사실을 뒤늦게 공개한 여러 사건 중 가장 최신 사례다"며 "AI의 안전장치에 대한 논란이 커질 것"이라고 내다봤다.

앞서 지난 7월 오픈AI 미공개 AI 모델들이 글로벌 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹하는 사건이 발생한 바 있다. 

한편 올트먼 CEO는 이날 유엔 안전보장이사회(안보리)에 참석해 인간이 통제 가능하지 못한 AI 모델은 훈련해서 안된다고 발표했다. 그는 국제사회 중심 AI 감독 국제기구 설립을 촉구하며 "AI가 민주적으로 관리되기 위해서는 중요 결정이 샌프란시스코 일부 기업에 의해 결정돼서는 안된다"고 밝혔다.