NC AI, 챗봇 '엔써'에 AI 안전기술 '세이프가드' 적용

국내 AI 기업 중 최초로 안정성 시스템 상용 서비스

엔써, 게임 이용자 실시간 문의·버그 제보·건의사항 접수 담당

NC AI가 엔씨소프트의 고객 상담 챗봇 서비스 ’NCER(엔써)’에 자체 개발한 AI 안전성 기술 ‘세이프가드’를 정식 적용했다고 30일 밝혔다. [사진=NC AI]

엔씨에이아이(NC AI)가 엔씨소프트 고객 상담 챗봇 서비스 ‘엔써(NCER)’에 자체 개발한 인공지능(AI) 안전성 기술 ‘세이프가드’를 적용했다고 30일 밝혔다.

국내 AI 기업 중 최초로 종합적인 안전성 시스템을 상용 서비스에 도입한 사례다. 전 세계적으로 AI 안전성에 대한 우려가 커지는 상황에서 선제적 대응에 나섰다는 평가다.

세이프가드는 레드팀·블루팀·퍼플팀으로 구성된 삼중 보안 체계를 기반으로 운영된다. 레드팀은 새로운 공격 패턴을 연구하고, 블루팀은 대응 기술을 개발한다. 퍼플팀은 이를 종합해 정책에 반영하는 순환 구조로 설계됐다.

엔씨는 또 퍼블리싱코디네이션 센터와 협업해 게임 산업 특성을 반영한 ‘챗봇 네거티브 규제 정책’을 마련했다. 게임 내 금지 행위, 유료 재화 편법, 서비스 관련 부적절 발언 등을 차단하는 산업 맞춤형 보안 체계다.

NCER는 2024년 출시된 고객 상담 서비스로, 주요 게임에서 이용자의 실시간 문의·버그 제보·건의사항 접수를 담당한다. 이번에 세이프가드가 적용되면서 일반적인 차별·혐오·욕설·외설 차단 기준뿐 아니라 게임 산업 특유의 안전 요구사항까지 충족하게 됐다. 특히 실시간 대화 환경에서 발생할 수 있는 위험 상황을 사전에 탐지하고 즉시 차단하는 성능을 입증했다.

엔씨는 AI 윤리 경영도 병행하고 있다. 2022년부터 ‘NC AI 윤리 프레임워크’를 통해 데이터 보호, 편향 방지, 투명성 확보라는 세 가지 핵심 가치를 실천해왔다. 실제 서비스에도 적용돼 ‘리니지W’와 ‘리니지2M’에서는 다국어 광고 패턴을 탐지·차단하는 스팸 필터링 시스템을 운영 중이다.

앞으로는 텍스트 기반을 넘어 이미지·영상까지 포괄하는 차세대 안전성 기술로 확장할 계획이다. 비전-언어 모델을 활용해 멀티모달 콘텐츠에서 발생할 수 있는 부적절한 내용을 탐지·차단하는 시스템을 구축한다는 목표다.

엔씨는 감정형 음성합성, 자연어 처리, 3D 비전 로보틱스 등 다양한 AI 기술도 보유하고 있다. 신작 RPG ‘아이온 2’에는 감정 표현이 가능한 음성 합성 기술을 적용해 게임 몰입도를 높였다.

이연수 NC AI 대표는 “세이프가드 적용은 AI 안전성 분야에서 기술적 우위를 확보하고 책임 있는 AI 개발 기업으로서의 위치를 공고히 하는 출발점”이라며 “앞으로도 기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하는 AI 전문 기업으로 성장하겠다”고 말했다.