AI 전문기업 루멘라이, 한국 로컬 LLM 시장 공략 나선다

오픈소스 LLM 기반 온프레미스 파인튜닝·RAG 최적화 독자 기술 보유

일본 AI 기업 '넘버원 솔루션'과 공동개발하여 일본서 출시해 호평

오른쪽부터 고은수 루멘라이 회장, 안태민 루멘라이 대표, 오모라이 넘버원솔루션 대표, 다나카 넘버원솔루션 부장 [사진=루멘라이]

한국 온프레미스 AI 전문기업 루멘라이(Lumenrai, 대표 안태민)가 한국 로컬 LLM(거대언어모델) 시장을 정조준한다.
 
루멘라이는 한국 기업 환경에 최적화된 온프레미스 AI 플랫폼을 공급하는 한국 AI 전문기업으로 Meta Llama, OpenAI GPT-OSS, Microsoft Phi, Qwen, Mistral, DeepSeek, EXAONE 등 검증된 오픈소스 LLM을 한국 기업 환경에 최적화하는 온프레미스 파인튜닝·RAG(검색증강생성) 구축 기술을 보유하고 있다.
 
고객의 업종·데이터·보안 요건에 맞춰 최적 모델을 선택·튜닝한 뒤 완전 오프라인 환경에 구축하는 것이 루멘라이의 핵심 기술이다. 루멘라이는 이 기술로 2024년부터 일본의 넘버원솔루션과 로컬 LLM 구축 플랫폼을 공동 개발한 후 협업을 통해 일본에서의 성공 가능성을 확인했다.
 
그리고 드디어 한국 시장에 최적화된 온프레미스 AI 플랫폼을 2026년 상반기 정식 출시할 예정이다. 주력 제품은 100% 에어갭(air-gapped) 구조의 온프레미스 AI 플랫폼 '마이크로코즘(Microcosm)'의 한국형 버전이다.

 
기업 데이터가 외부 서버로 전송되지 않는 완전 오프라인 구동 방식으로, 2026년 1월 시행되는 AI 기본법과 국가망보안체계(N2SF) 3등급 차등 보안, 의료법상 환자 데이터 외부 전송 금지, 금융 망분리, 방산 보안 요건을 모두 충족한다.
 
루멘라이 안태민 대표는 “오픈소스 LLM 생태계는 이미 충분히 성숙했다”며 "지금 시장이 필요로 하는 것은 글로벌 최상위권 오픈소스 모델을 고객에 맞춰 정교하게 튜닝하고 안정적으로 운영하는 기술이다. 지난 2년간 기술력을 집중해왔고 금번 한국에 신규로 설립한 루멘라이를 통해 출시한다"고 밝혔다.
 
안 대표는 또 “오픈소스 모델 선택부터 운영 자동화까지 전 과정을 책임지는 AI 전문 기업으로서 실무에서 바로 쓸 수 있는 로컬 LLM을 경쟁력 있는 가격과 안정된 시스템으로 공급하는 것이 루멘라이의 사명”이라고 회사의 가치를 설명했다.
 
최근 생성형 AI 도입을 검토하는 기업들 사이에서 ‘온프레미스(On-premise, 사내 구축형)’ 방식이 생존을 위한 핵심 전략으로 부상하고 있다. 특히 데이터 보안과 규제 준수가 생명인 특정 산업군을 중심으로 오픈 LLM(거대언어모델)을 자체 서버에 올리는 흐름이 가속화되는 양상이다.