[로펌라운지] 김앤장, '에이전틱 AI 시대의 보안 이슈와 규제 대응' 세미나 개최

AI 규제 변화에 따른 위기 대응 체계 점검

"안전하고 신뢰할 수 있는 AI 생태계 구축"

김앤장 법률사무소가 13일 오후 2시 김앤장 법률사무소 크레센도 빌딩 3층 대회의장에서 '에이전틱 AI, 특화 모델 시대의 보안 이슈와 규제 대응' 세미나를 개최한다. [사진=김앤장 법률사무소]

김앤장 법률사무소(정계성 대표변호사)가 에이전틱 인공지능(AI) 확산에 따른 보안 위험과 기업의 법적·제도적 대응 방안을 모색할 세미나를 개최한다.

김앤장은 한국정보통신법학회 정보보호포럼과 공동으로 오는 13일 오후 2시 서울 종로구 크레센도 빌딩 3층 대회의장에서 '에이전틱 AI, 특화 모델 시대의 보안 이슈와 규제 대응'을 주제로 공개 세미나를 연다고 12일 밝혔다.

에이전틱 AI는 사용자의 지시에 따라 외부 도구와 시스템을 자율적으로 호출해 업무를 수행하는 기술이다. 기업의 생산성을 크게 높일 수 있지만, AI의 권한 오남용, 프롬프트 인젝션(악의적 명령 삽입), API 연동 과정에서의 정보 유출, 사고 발생 시 책임 귀속 등 새로운 보안 위험을 수반한다는 지적이 나온다.

특히 인공지능기본법 시행 등 규제 환경이 변화함에 따라 AI 도입·운영 전 과정에서 실효성 있는 보안 통제와 준법 체계 구축이 필수 과제로 떠올랐다.

이번 세미나는 에이전틱 AI와 특화 모델의 자율적 기능을 통제하는 기술적 방안, 사이버 위기 대응을 위한 기업 내부통제 체계 설계를 중심으로 진행된다.

이성엽 고려대 교수(한국정보통신법학회 회장)의 개회사와 정영진 김앤장 변호사의 환영사를 시작으로, 이상근 고려대 정보보호대학원 교수가 '에이전틱 AI의 자율 역량과 통제 방안 동향'을, 한혜원 김앤장 변호사가 '사이버 위기 대응과 관련된 기업의 내부통제 시스템 설계의 방향'을 발표한다.

이어 권태경 연세대 교수가 좌장을 맡는 종합토론에는 이주형 서울시립대 교수, 박기웅 세종대 교수, 이종혁 과학기술정보통신부 과장, 민경표 카카오뱅크 CISO, 차윤호 김앤장 고문 등이 참여해 실질적 대응책을 모색한다.

이번 행사를 기획한 이성엽 회장은 "에이전틱 AI와 특화 모델의 확산으로 기업의 생산성과 효율성이 극대화되는 한편, 자율적인 도구 호출 및 시스템 연동에 따른 새로운 유형의 보안 리스크와 책임 문제가 대두되고 있다"면서 "이번 세미나가 급변하는 규제 환경 속에서 기업들이 실효성 있는 기술적 통제 방안과 내부통제 체계를 함께 설계해 안전하고 신뢰할 수 있는 AI 생태계를 구축하는 중요한 지침이 되길 바란다"고 밝혔다.