엔비디아에 맞선 구글 AI칩…"제미나이2·카카오 LLM 등 다수 활용"

LLM 학습부터 신약 개발·난치병 치료 등 과학 분야도

구글 TPU '트릴리움'…컴퓨팅 성능 4.7배·에너지 효율 67% 향상

 

[사진=로이터연합뉴스]

아마존·메타·애플 등 빅테크 기업들이 엔비디아 의존도를 낮추기 위해 인공지능(AI) 칩 자체 개발 속도를 높이고 있는 가운데, 구글이 추론 특화 AI칩을 내세우며 시장 선점에 나섰다. 추론 특화 성능은 물론, 전력 효율성과 가격 경쟁력을 강점으로 내세워 구글의 AI 칩 수요가 늘고있는 추세다. 

16일 모한 피치카 구글 클라우드 그룹 프로덕트 매니저는 "구글의 텐서처리장치(TPU)는 이미 시장 점유율 측면에서 의미있는 수치를 내고 있다"면서 "수십억 명이 이용하고 있는 구글의 서비스 검색, 유튜브를 비롯해 구글의 최신 모델 제미나이2.0 학습에도 활용되고 있다"고 밝혔다. 이어 그는 "딥마인드의 알파폴드 2와 같은 과학 혁신 연구에 활용되면서 노벨화학상 수상에 기여했다고 본다"고 덧붙였다. 

구글 AI칩은 초거대언어모델(LLM) 학습을 비롯해, 신약 개발과 난치병 치료 연구 등 다양한 영역에서 활용되고 있다. 

피치카 매니저는 "AI 학습에는 다양한 AI 인프라가 필요한데, TPU는 특히 AI와 관련한 추론 학습에 최적화돼 있는 만큼 생성형AI의 다단계 형태의 추론 프로세스에 적합하다"면서 "반면, GPU는 원래 컴퓨터 그래픽에서 활용된 프로세서인데, 대량의 데이터를 처리하는 데 적합하다"고 전했다. 

고밀도 LLM 학습의 효율성을 높이려면, GPU보단 TPU가 적합할 수 있다는 의미다. 실제로 구글의 최신 모델 제미나이2.0과 같이 방대한 양의 데이터와 연산이 필요한 LLM 학습에 사용됐다. 특히 구글이 최근 출시한 TPU '트릴리움'은 칩당 최대 컴퓨팅 성능이 4.7배, 에너지 효율성은 67% 향상되는 등 더 저렴한 비용으로 더 많은 작업을 할 수 있게 됐다. 트릴리움은 메타의 '라마(Llama-2-70b)', 오픈AI의 GPT(gpt3-175b) 등을 이전 세대보다 최대 4배 빠르게 훈련시킬 수 있다고 구글 클라우드 측은 전했다. 

카카오도 신규 AI서비스 '카나나' 개발에 트릴리움을 활용했다. 카나나는 GPU 기반으로 개발됐으나, 학습 성능과 언어 추론 처리의 효율성을 높이기 위해 구글 TPU로 전환했다고 전했다. 피치카 매니저는 "대기업부터 생성형 AI를 개발하는 스타트업 등 많은 기업들이 구글 클라우드를 통해 TPU를 이용하고 있다"고 전했다. 

업계에서도 구글 AI칩의 성장세를 높게 평가하고 있다. 글로벌 시장조사업체 옴디아에 따르면 구글 TPU의 지난해 매출은 60억~90억달러(약8조8000억~13조2000억원)으로 예상된다. 현재 엔비디아 AI칩 예상 매출액(800억달러)과 비교하면 10분의 1 수준이지만, 앞으로 엔비디아 GPU를 대체할 강력한 칩이라고 분석했다.

알렉산더 해로웰 옴디아 수석연구원은 "구글 TPU 수요는 엔비디아의 점유율을 빼앗을 만큼 매우 빠르게 성장하고 있다"며 "엔비디아가 지배하고 있는 AI칩 시장 점유율에 의미 있는 영향을 미칠 것"이라고 전망했다.