카카오, 멀티모달 모델 '카나나-2-v-디사이드' 공개…AI 에이전트 판단·선택 돕는다

텍스트, 이미지 함께 이해하고 확률, 선택, 점수로 응답하는 의사결정 모델

문장 생성없어 속도와 효율성 높여…GPT-6 대비 약 43배 빠른 속도

인공지능의 의사결정을 지원하는 자체 개발 멀티모달 모델 ‘카나나-2-v-디사이드’ [사진=카카오]

카카오는 인공지능의 의사결정을 지원하는 자체 개발 멀티모달 모델 ‘카나나-2-v-디사이드’를 글로벌 오픈소스 플랫폼 허깅페이스에 공개했다고 6일 밝혔다. 

의사결정 모델은 이용자의 질문에 대해 문장으로 답변하는 거대언어모델(LLM)과 다르게 확률(Noul)·선택(Choice)·점수(Score) 등 규격화된 형태로 판단 결과를 제공하는 모델이다. 결과를 바로 활용할 수 있도록 설계돼 자연어 답변에서 필요한 결론을 다시 추출하는 과정을 줄일 수 있다. 이용자의 요청에 따라 여러 단계의 업무를 수행하는 인공지능(AI) 에이전트에 유용하다. 

카카오는 자체 개발 멀티모달 언어모델 ‘카나나-2-v-3b’를 기반으로 이번 모델을 개발했다. 텍스트와 이미지를 함께 이해하고 △확률 △선택 △점수의 세 가지 형식의 결과로 제공해, 파손된 상품 교환 여부 등 고객 문의 분류나 AI 에이전트 도구 선택, 상품 이미지 판단 등 판단이 필요한 다양한 서비스에 적용할 수 있다.

카카오는 질문과 선택지를 숫자들의 묶음인 ‘벡터’로 표현해 유사도를 비교하는 임베딩 기반 구조를 적용했다. 분류 항목이 많아도 유연하게 활용할 수 있고, 동일한 선택지의 벡터는 저장 후 재사용할 수 있어 반복 요청 시 연산 부담과 응답 지연을 줄였다. 

이번 모델은 H200 그래픽처리장치(GPU) 1장 기준 평균 응답 속도를 0.04초 이내, GPT-6 루나 대비 43배 빠른 속도를 기록했다.

자체 평가 데이터셋 ‘카나나 디시전 벤치’와 공개 평가 데이터셋 ‘디시전 인덱스’에서 비교 대상 모델 중 가장 높은 성능을 기록했다. 비교 대상에는 마이크로소프트의 ‘디시전-1’, 타입세이프 AI의 ‘제브’, 퍼플렉시티의 ‘pplx-디사이더-v1.1-27B’, 업스테이지의 ‘솔라 디사이드’ 등이 포함됐다. 

카카오는 이번 모델에는 연구 목적 뿐 아니라 상업적 활용이 가능한 ‘카나나 오픈 라이선스’를 적용했다. 국내외 연구자와 기업이 다양한 AI 에이전트 서비스를 개발하는 데 활용 가능하다.

카카오는 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 해당 모델을 우선 적용해 실제 서비스 환경에서 성능을 지속적으로 개선할 계획이다. 향후 검색과 판단을 하나의 모델로 통합하는 방향으로 기술을 고도화한다는 방침이다.

최동진 카카오 어플라이드 AI 모델 성과리더는 “이번 모델 공개는 최신 AI 기술의 발전을 실제 서비스에 활용할 수 있는 기반을 넓힌다는 점에서 의미가 있다”며 “앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공해 나가겠다”고 말했다.

한편 카카오는 자체 개발 AI 모델의 활용 범위를 확대하고 있다. 지난해 2월 경량 언어모델 ‘카나나 나노 2.1B’를 오픈소스로 공개한 데 이어 올해 7월 소형 언어모델 4종, 이용자의 질문과 문서의 의미를 분석해 관련 정보를 검색하는 ‘카나나-2-임베딩’ 모델 2종을 공개했다. 이번 의사결정 모델까지 추가하면서 AI 에이전트에 필요한 정보 검색과 판단 기술을 각각 확보하고 있다.