사이버보안, 프론티어 AI 실전 시험대로…한국도 '보안 특화 모델'로 대응

앤트로픽·오픈AI, 보안 역량 강화한 AI 모델 잇달아…취약점 분석·공격·방어까지 활용 확대

KISA "보안을 위한 AI·AI를 위한 보안 함께 가야"…AI 활용과 모델 자체 보호 병행 

북한 등 한국형 위협·HWP·망분리 환경 반영…정부, 보안 특화 파운데이션 모델 확보 추진 

김은성 KISA 위협대응정책팀장이 21일 AI와 사이버보안의 변화와 보안 특화 파운데이션 모델의 필요성에 대해 설명하고 있다 [사진=KISA]

사이버보안이 프론티어 인공지능(AI)의 실전 성능을 검증하는 주요 시험대로 떠오르고 있다. 단순히 질의응답을 하거나 문서를 생성하는 수준을 넘어서 대규모 코드 분석과 취약점 탐색, 공격 경로 추론, 익스플로잇 제작까지 수행해야 하는 보안 영역이 AI의 장기 추론과 자율 에이전트 역량을 확인하는 무대로 자리잡는 모습이다.

22일 한국인터넷진흥원(KISA)에 따르면 정부는 고성능 AI를 악용한 사이버 위협에 대응해 국가 차원의 AI 보안 체계 강화에 나서고 있다. 지난 5월 ‘AI 기반 사이버위협 대응 민간 정보보호 추진계획’을 의결했으며, 2027년부터 국내 정보보호 체계를 독자 AI 기술 기반으로 단계적으로 전환한다는 목표도 제시했다. 

글로벌 AI 기업들도 사이버보안 영역으로 기술 경쟁을 넓히고 있다. 최근 앤트로픽의 미토스와 오픈AI의 ‘GPT-5.5-사이버’ 등 보안 역량을 강화한 AI 모델이 잇달아 등장하면서 대화와 문서 생성 중심이던 AI 활용 범위가 취약점 분석과 공격·방어 수행까지 확대되고 있다. 

사이버보안은 AI의 추론 능력과 자율성을 동시에 확인할 수 있는 분야로 꼽힌다. 실제 보안 업무는 단순한 지식 검색을 넘어 복잡한 코드와 공격 경로를 이해하고, 여러 단계의 판단을 거쳐 결과를 검증해야 하기 때문이다. 

취약점 분석과 익스플로잇 제작에는 높은 수준의 추론 능력이 필요하다. 익스플로잇은 보안상 약점을 실제 공격에 활용하는 코드나 기법으로, 방대한 코드베이스의 문맥을 이해하고 제어 흐름을 추적한 뒤 가설을 세우고 개념증명(PoC)으로 검증하는 과정이 요구된다. 제로데이 취약점 탐지나 CTF(해킹문제 해결과제)형 해킹 과제 해결 능력이 AI 에이전트의 실전 수준을 가늠하는 지표로 활용되는 것도 이 때문이다. 

김은성 KISA 위협대응정책팀장은 보안 특화 AI가 공격과 방어 양쪽에서 활용할 수 있다는 점을 특징으로 꼽았다. 취약점 탐색과 레드팀 같은 공격적 보안뿐 아니라 위협 헌팅, 보안관제센터(SOC) 자동화, 자동 패치 생성 등 방어 업무에도 적용할 수 있다는 설명이다. 

AI를 보안에 활용하는 것뿐 아니라 AI 자체를 보호하는 문제도 중요해지고 있다. ‘AI 포 시큐리티(AI for Security·보안을 위한 AI)’는 AI를 활용해 취약점 탐지와 침해사고 분석, 대응 자동화 등 기존 보안 업무를 고도화하는 개념이다. 

반면 ‘시큐리티 포 AI(Security for AI·AI를 보호하는 보안)’는 프롬프트 인젝션과 모델 탈취, 데이터 오염, 공급망 위협 등으로부터 AI 모델과 시스템을 보호하는 영역을 뜻한다. 두 영역은 별개가 아니라 AI 활용이 확대될수록 함께 갖춰야 하는 보안 체계다. 

정부와 KISA가 국내 보안 특화 파운데이션 모델 확보를 중요하게 보는 배경에는 한국 고유의 위협 환경과 데이터 주권 문제가 자리잡고 있다. 한국은 북한 등 특정 공격 주체의 위협과 한국형 공격기법에 노출돼 있는 데다 한글(HWP) 문서, 망분리, 문서보안(DRM) 등 국내에 특화된 업무·보안 환경을 갖고 있기 때문이다. 

이에 KISA는 해외 범용 모델이 이 같은 환경을 충분히 반영하기 어렵고, 시스템 구성이나 사용 소프트웨어 등 민감한 정보를 해외 서비스에 전달하기도 쉽지 않다고 보고 있다. 

범용 AI에서 글로벌 빅테크와 정면 경쟁하기보다 보안처럼 특정 영역에 집중하는 전략도 제시됐다. 김 팀장은 범용 프론티어 모델과의 격차를 단기간에 좁히기는 어렵지만, 한국 보안 환경에 맞춰 특정 분야를 집중적으로 학습한 특화 모델이라면 경쟁 가능성을 높일 수 있다고 설명했다.

그는 범용 프론티어 AI와 정면 경쟁해 시장을 선점하기는 쉽지 않은 만큼, 한국 보안 환경에 특화된 파운데이션 모델을 구축해 전문성을 높이는 것이 하나의 방향이라고 봤다. 김 팀장은 “한 학문, 한 학문 따라가면 갈 수 있겠다는 게 보안 특화 파운데이션 모델의 방향성”이라고 말했다.