앤트로픽 "AI가 AI 만드는 단계 대비해야"…개발 감속론 제기

"개발 속도 통제할 장치 필요"

국제 공조·검증 체계 논의 촉구

 

[AI로 생성한 이미지]

앤트로픽이 세계 주요 인공지능(AI) 개발사들이 AI 모델 개발 속도를 늦추거나 일시 중단할 수 있는 방안을 검토해야 한다고 촉구했다. AI가 후속 AI 개발 과정에 깊이 관여할 경우 위험 관리가 어려워질 수 있는 만큼, 속도 조절 장치가 필요하다는 주장이다.
 
앤트로픽은 4일(현지시간) 자사 블로그에 올린 글에서 “세계가 프론티어(최첨단) AI 개발을 늦추거나 일시 중단할 수 있는 선택지를 가져야 한다”고 밝혔다.
 
앤트로픽이 우려한 핵심은 ‘재귀적 자기개선’이다. AI가 후속 AI 시스템 개발 과정의 상당 부분을 맡고, 더 강한 AI가 다시 다음 세대 AI 개발에 투입되는 구조다. 이 단계가 현실화하면 개발 속도는 빨라지지만, 위험을 파악하고 통제할 시간은 부족해질 수 있다고 앤트로픽은 봤다.
 
앤트로픽은 AI가 이미 개발 현장에서 속도를 끌어올리고 있다고 설명했다. 회사에 따르면 현재 앤트로픽 엔지니어들은 2021~2025년 평균보다 분기당 8배 많은 코드를 반영하고 있다. 지난 5월 기준 앤트로픽 코드베이스에 병합된 코드의 80% 이상은 자사 AI 모델 클로드가 작성했다.
 

앤트로픽은 특정 기업만 개발을 멈추는 방식은 실효성이 작다고 했다. 한 곳만 속도를 늦추면 더 신중하지 않은 기업이나 국가가 앞서갈 수 있고, 전체 안전성은 오히려 낮아질 수 있다는 이유다.
 
앤트로픽은 “의미 있는 감속이나 일시 중단이 되려면 여러 국가의 주요 AI 연구소와 기업이 같은 조건 아래 함께 움직여야 한다”고 밝혔다. 실제로 개발을 늦췄는지 검증할 수 있어야 하고, 어떤 조건에서 중단을 시작하고 해제할지도 정해야 한다고 했다.
 
가장 큰 난제는 검증이다. AI 학습 작업은 숨기기 쉽고, 학습에 쓰이는 장비와 데이터도 범용성이 높다. 누군가 몰래 개발을 계속하면 기술 주도권을 가져갈 유인이 크기 때문이다.
 
앤트로픽은 산하 연구조직인 앤트로픽 인스티튜트를 통해 감속·일시 중단 체계를 뒷받침할 연구를 진행하겠다고 밝혔다. 정책 담당자와 연구자, 시민사회, 다른 AI 기업과 논의해 재귀적 자기개선 위험과 국제 조율 방식을 검토할 계획이다.