허깅페이스는 700만명 이상 사용자를 보유한 세계 최대 인공지능(AI) 모델·데이터셋 플랫폼이다. 허깅페이스는 그동안 아마존웹서비스(AWS), 애저(Azure), 엔비디아(NVIDIA)와 같은 주요 빅테크 기업 서비스만 배포 옵션으로 제공했다. 프렌들리AI가 전략적 파트너십을 체결하면서 국내 최초 배포 옵션으로 선택됐다.
생성형AI 모델 배포와 운영은 복잡한 인프라 관리와 높은 비용 문제를 동반한다. 프렌들리AI는 GPU 기반 모델 API 제공사 중 1위 처리 속도(Artificial Analysis 벤치마크 결과)의 기술력을 갖고 있다. 특히 프렌들리 데디케이트 엔드포인트(Friendli Dedicated Endpoints)는 GPU에 최적화한 추론 엔진을 기반으로 전용 GPU 자원과 자동 리소스 관리를 제공하며 빠르고 비용 효율적인 추론 서비스를 지원한다.
이번 파트너십으로 개발자들은 간편하게 AI 모델을 배포하고 운영할 수 있게 됐다.
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지