출시 앞둔 카카오 AI '카나나'…개인정보위, '사전적정성 검토' 통과

오픈AI 등 외부 모델 사용 시 안전장치 마련

개인정보위 "출시 직전·이후 실제 이행 상황 점검"

카카오, AI 혁신 이끌 통합 AI브랜드 '카나나' 공개 [사진=카카오]

내달 출시를 앞두고 있는 카카오의 인공지능(AI) 비서 서비스 '카나나'에 대해 출시 전에 이용자의 개인정보를 발설하지 않도록 안전장치를 마련하는 등 기술적 보안 조치를 취해야 한다는 정부 판단이 나왔다. 

개인정보위는 13일 이같은 내용을 담은 카카오 AI 서비스 '카나나'에 대한 사전 적정성 검토 결과를 전날 전체회의에서 의결했다고 밝혔다. 

사전적정성 검토제는 기업 등이 AI 등 신기술·신서비스 기획·개발 단계에서 기존 법해석·집행 선례만으로는 명확한 개인정보 보호법 준수방안을 찾기 어려운 경우, 개인정보위와 협력해 신청 대상 신기술·신서비스 환경에 적합한 법 적용방안을 마련하고, 이를 이행하면 사후에 불이익한 처분을 면제해주는 제도다. 

카나나는 대화 맥락을 파악해 답변을 제시하는 AI 친구 서비스로, 기존 카카오톡과는 별개로 출시된다. 여러 이용자가 참여하는 단체방 대화를 기반으로 이용자 질문에 답하는 '카나'와 이용자와 단둘이 주고받았던 대화를 기반으로 이용자 질문에 대답하는 '나나'로 구성된다. 카카오가 자체 개발한 언어모델(LLM)을 주로 활용하지만, 오픈AI의 챗GPT 모델 또한 보완적으로 활용하고 있다. 

개인정보위는 이번 사전적정성 검토를 통해 △암호화 등 기술적 보안조치 강화 △외부모델 처리데이터 보호 강화 △내부 학습에 이용시 별도 추가적 안전조치 운영 △내부 관리체계 강화 등 추가 안전조치 방안을 마련토록 제시했다.

카나나에는 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치도 강화하기로 했다. 또 외부 모델인 오픈AI와의 위수탁 계약에서 데이터 보호 조건을 명확히 했다. 위탁계약에는 해당 데이터를 오픈AI 사업목적으로 쓰이지 않도록 해야한다는 조건을 명시하는 한편, 챗GPT의 응답 후 오픈AI에 별도로 저장되지 않도록 했다. 

또 카카오가 이용자 대화 데이터를 자사 언어모델의 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도의 동의를 받도록 하였다. 이때 이를 원하지 않는 이용자는 동의하지 않을 수 있다.

개인정보위는 카나나 서비스 출시 직전과 이후에 이러한 사항을 카카오가 실제 이행하고 있는지 점검할 예정이다.