美 캘리포니아·델라웨어주, '챗GPT 안전성 우려' 경고

미국 44주 법무장관, AI 챗봇 기업에 어린이 보호조치 강화 요구도

오픈AI [사진=AFP·연합뉴스]

챗GPT 개발사 오픈AI가 사업 구조 개편을 진행 중인 가운데 미국 캘리포니아와 델라웨어주 법무장관들이 챗GPT가 아동과 청소년에게 미칠 위험성에 대해 우려를 표명했다.

5일(현지시간) AP 통신에 따르면 캘리포니아의 롭 본타 법무장관과 델라웨어주의 캐슬린 제닝스 법무장관은 이번 주 초 델라웨어 윌밍턴에서 오픈AI 법무팀과 회의 이후 회사 측에 공식 서한을 전달했다.

두 장관은 오픈AI에 보낸 서한에서 한 캘리포니아 10대가 챗GPT와 장기간 상호작용 이후 사망한 사건 등을 언급하면서 "사용자와 챗봇 간 위험한 상호작용에 관한 매우 충격적인 보고들이 있다"며 "어떠한 안전장치가 있었더라도 작동하지 않았다"고 적시했다.

지난 4월 미 캘리포니아주 한 10대가 숨진 사건이 발생했다. 이 10대 부모는 아들의 이런 선택에 대해 챗GPT가 정보를 제공했다며, 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

또 지난 5일에는 코네티컷에서 자신을 독살할 거라는 망상에 빠진 50대가 챗GPT와 오랜 상호작용 뒤 어머니를 살해하고 숨진 것으로 알려졌다.

이들 법무장관은 "최근의 죽음들은 용납할 수 없다"며 "이는 미국 대중의 오픈AI 및 업계에 대한 신뢰를 정당하게 흔들었다"고 지적했다.

이어 "오픈AI와 AI 업계는 AI의 안전한 배치를 선제적이고 투명하게 보장해야 한다"며 "이는 오픈AI의 설립 목적에 따른 의무일 뿐 아니라 우리가 요구하고 집행할 사항"이라고 강조했다.

이들 두 법무장관은 수개월 동안 오픈AI의 사업 구조 개편 계획을 검토해 왔고, 그 과정에서 '오픈AI의 안전성 임무에 대해 철저하고 강력한 감독'을 보장하는 데 주목해왔다.

오픈AI는 비영리 산하 영리 부문을 공익 기업으로 전환해 주주 이익과 공익적 임무를 모두 고려하도록 하는 사업 구조 개편을 연내까지 추진 중이다.

오픈AI는 캘리포니아주에 본사를 두고 있지만, 법적 등록지는 델라웨어주여서 사업 구조 개편을 위해서는 두 주의 감독과 승인을 받아야 한다.

앞서 지난주에는 이들을 포함해 44개주 법무장관이 아이들의 안전에 심각한 우려를 표명하면서 메타와 오픈AI, 구글 등 12개 AI 챗봇 기업에 어린이 보호 조치를 강화하라는 내용의 경고장을 보냈다.