MS CEO "AI 행동 항상 통제할 수 있는 시스템 구축해야"

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 지난 8일(현지시간) 미국 워싱턴DC에서 열린 '새로운 황금시대' 정상회의에서 도널드 트럼프 미국 대통령으로부터 국가 기술·혁신 메달을 받고 있다. [사진=로이터·연합뉴스]

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 인공지능(AI)의 행동을 인간이 직접 통제할 수 있도록 비상 정지 기능을 도입해야 한다고 주장했다.

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 11일(현지시간) 소셜미디어(SNS) 엑스(X·옛 트위터)에 '슈퍼지능 시대 내부자 위험으로서의 모델'이라는 제목의 글을 올리고 "새로운 (AI) 시대에 걸맞은 신뢰 체계를 재검토해야 할 때"라고 밝혔다.

그는 "그 행동을 관찰할 수 있고, 한계를 검증할 수 있으며, 행동을 항상 통제할 수 있는 시스템을 구축해야 한다"며 "다시 말해 정보의 제공과 정보에 대한 통제권을 분리해야 한다"고 제안했다.

나델라 CEO는 폐쇄형과 오픈소스 모델을 포함한 첨단 AI를 기업 내부의 보안 위험 요소와 같은 방식으로 관리하는 방안도 제시했다. 기업이 중요 정보에 접근하는 직원의 신원을 확인하고 업무 권한을 제한하거나 활동 내역을 기록하는 것처럼 AI에도 이러한 보안 원칙을 적용하자는 취지다.

그는 "모델이 어떤 정보에 접근할 수 있고 어떤 작업을 수행할 수 있는지 통제하는 제어장치는 모델 외부에 있어야 한다"며 이는 1970년대부터 적용돼 온 정보 보안 원칙이라고 설명했다.

이어 "권한이 있는 사람은 언제든지 작업 도중 모델을 일시 중지하거나 종료할 수 있어야 한다"며 AI의 '비상 브레이크' 기능을 강조했다.

그러면서 "더 정교한 모델일수록 더 발전된 차단 기술이 필요하다"며 "우리는 이를 표준화해야 한다"고 덧붙였다.

이번 발언은 AI 기술의 급속한 발전에 따른 안전성 우려가 커지는 가운데 나왔다. 다리오 아모데이 앤트로픽 CEO를 비롯한 주요 AI 기업 경영진도 AI 발전 속도와 잠재적 위험에 대해 잇달아 경고하고 있다.