[NNA] 中 기업, 생성형 AI 도입 급속 확산… 상반기 처리량 4배 늘어

[사진=게티이미지]

중국 기업들의 생성형 인공지능(AI) 활용이 급속히 확산되면서 대규모 언어모델(LLM)의 처리량이 불과 반년 사이 4배 이상 늘어난 것으로 나타났다. 미국 조사기관 프로스트&설리번이 발표한 보고서에 따르면, 올 상반기(1~6월) 중국 기업들의 활용에 따른 LLM의 처리량은 하루 평균 10조 토큰(텍스트 단위)을 넘어섰다. 이는 지난해 하반기(7~12월)의 2조 1,999억 토큰에서 크게 증가한 수치다.

 

이번 조사는 중국 내 기업 IT 부서 임원 700명을 대상으로 실시됐다. 조사에 따르면 올 상반기 실제 처리량은 10조 1,865억 토큰으로 집계됐다. 금융·제조·교육 분야를 중심으로 검색 시스템과 LLM을 결합한 ‘검색확장생성(RAG)’ 서비스와 사람의 업무를 대체하는 ‘AI 에이전트’ 도입이 빠르게 확산되고 있는 것으로 나타났다.

 

LLM 선택과 관련해 기업의 55.6%가 설계 정보가 비공개된 클로즈드 모델을 택했으며, 오픈소스 모델을 채택한 비율은 44.4%였다. 프로스트&설리번은 그러나 오픈소스화·경량화 흐름에 맞춰 향후 8할 이상의 기업이 스마트화 과정에서 오픈소스 모델을 채택할 것이라고 전망했다.

 

중국 기업이 활용하는 주요 기초 모델 중에서는 전자상거래 대기업 알리바바 그룹의 ‘퉁의(通義)’가 17.7%를 차지해 가장 많이 쓰였다. 이어 바이트댄스의 ‘두바오(豆包)’가 14.1%, 신흥기업 ‘딥시크(DeepSeek)’가 10.3%를 기록하며 뒤를 이었다.