인공지능안전연구소, 앤트로픽과 AI 보안 글래스윙' 협력하나

프로젝트 글래스윙, 앤트로픽의 AI 보안 이니셔티브

글로벌 빅테크 참여…해외 공공기관 중 英 AI안전연구소 유일

앤트로픽 [사진=AP, 연합뉴스]

국내 인공지능안전연구소(AISI)가 미국 인공지능(AI) 기업 앤트로픽의 글로벌 AI 안전·보안 협력 파트너로 부상하고 있다. 과학기술정보통신부가 앤트로픽 측에 AISI 중심 보안 협력 체계 구축을 제안하면서 국내 AI 안전 정책과 사이버보안 대응 체계가 글로벌 AI 안전 거버넌스와 연결될 가능성이 커지고 있다는 분석이 나온다.

11일 과기정통부에 따르면 정부는 앤트로픽 측에 AISI를 중심으로 한 AI 안전·사이버보안 협력 체계 구축 방안을 제안했다.

AISI는 지난 2024년 11월 출범한 과기정통부 산하 한국전자통신연구원(ETRI) 부설 조직이다. 같은 해 5월 열린 'AI 서울 정상회의' 이후 한국이 세계 6번째로 설립한 AI 안전 전담 기관이다. AI 위험 평가와 정책 연구, 글로벌 협력 체계 구축 등 역할을 맡고 있으며 현재 ETRI로부터 단계적 독립을 추진 중이다. 

이번 제안은 앤트로픽이 추진 중인 글로벌 보안 파트너십 '프로젝트 글래스윙'과 맞물려 주목받고 있다. 프로젝트 글래스윙은 AI를 활용해 전 세계 소프트웨어 보안 취약점을 탐지·패치하는 산업계 공동 보안 이니셔티브다. 

앤트로픽이 주도하며 아마존웹서비스(AWS), 구글, 마이크로소프트(MS), 애플, 엔비디아 등 글로벌 빅테크가 참여하는 것으로 알려졌다. 해외 공공기관 가운데서는 유일하게 영국 AI안전연구소도 함께 하는 것으로 전해진다. 

여기에 시스코, 크라우드스트라이크, 브로드컴, 팔로알토 네트웍스, 클라우드플레어, JP모건 체이스 등 보안·인프라·금융 기업도 파트너로 이름을 올렸다. 

프로젝트 핵심은 앤트로픽의 비공개 AI 모델 '클로드 미토스’다. 앤트로픽은 해당 모델이 세계 최고 수준 보안 전문가를 제외한 대부분 인간보다 취약점 탐지 성능이 뛰어나다고 설명한 바 있다. 

미토스는 지난 27년간 발견하지 못했던 오픈BSD(OpenBSD) 취약점과 16년간 유지된 영상처리 오픈소스 소프트웨어 에프에프엠페그(FFmpeg)취약점 등을 찾아낸 것으로 알려졌다. 특히 FFmpeg 취약점은 자동 보안 테스트가 500만회 이상 수행됐음에도 발견되지 않았던 사례다. 

전문가들은 한국이 프로젝트 글래스윙에 참여할 경우 글로벌 AI 보안 협력 체계에 편입돼 취약점 대응 속도를 높일 수 있을 것으로 보고 있다. 

엄흥열 순천향대 정보보호학과 교수는 "AI 기반 보안의 핵심은 결국 얼마나 빨리 취약점을 찾고 패치하느냐의 속도 경쟁"이라며 "글래스윙에 참여하면 글로벌 빅테크와 취약점·패치 정보를 사전에 공유 받을 수 있어 국내 대응 체계를 획기적으로 단축할 수 있다"고 설명했다.

이어 "북한 등이 AI 기반 보안·공격 모델 개발에 나설 가능성이 높은 만큼 결국은 취약점을 먼저 발견하고 방어 체계를 구축하는 국가가 우위를 점하게 될 것"이라며 "현재 수개월 단위로 이뤄지는 취약점 공유와 패치 대응 체계를 하루~일주일 수준으로 단축하는 것이 중요하다"고 덧붙였다.