스캐터랩이 대표 직속 안전 전담 조직을 신설하고 생성형 인공지능(AI) 서비스 '제타'의 이용자 보호 체계를 강화한다. 콘텐츠 검수부터 AI와의 대화 과정까지 자체 모더레이션 기술을 적용하고, 청소년 이용시간과 결제 한도를 제한하는 등 서비스 운영 전반에 안전 기준을 확대한다.
스캐터랩은 김종윤 대표 직속 조직인 '트러스트&세이프티 팀'을 신설했다고 17일 밝혔다.
신설 조직은 제타의 콘텐츠 안전과 이용자 보호를 전담한다. 스캐터랩은 제타의 주요 AI 개발 인력 절반을 콘텐츠 및 대화 모더레이션 AI 모델 개발에 투입할 계획이다. 이용자 및 청소년 보호를 경영 차원의 핵심 과제로 삼고 콘텐츠 안전 정책 수립부터 자체 AI 모델 개발, 콘텐츠 기술 및 검수 업무까지 통합 관리한다는 방침이다.
우선 콘텐츠 제작과 유통 과정의 검수 체계를 강화한다. 스캐터랩은 올해 말까지 자체 AI 모델과 플롯 모더레이션 기능을 고도화해 콘텐츠 이용 등급을 명확히 분류하고, 이용자 연령에 맞는 보호 체계를 구축할 계획이다.
플롯 검수는 크리에이터의 제작 과정과 출시 시점, 서비스 내 노출 시점 등 총 3단계로 진행한다. 각 단계에서 콘텐츠의 소재와 텍스트·이미지를 검수해 이용 등급을 분류한다. 한국·일본·미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책과 검수 기준도 마련할 예정이다.
이를 위해 대규모 언어모델(LLM)을 활용한 플롯 검수 특화 자체 AI 모델을 개발한다. 연령 확인 절차도 강화한다. 확인된 이용자 연령에 따라 접근할 수 있는 플롯을 구분해 가입 초기부터 연령에 적합한 콘텐츠를 제공한다는 계획이다.
AI와 이용자의 대화 과정에서도 안전 장치를 강화한다. 부적절한 대화를 방지하는 자체 AI 모델을 출시하고, 이용자 연령별 발화 기준을 수립해 AI가 해당 기준에 맞춰 응답하도록 추가 조치를 진행한다.
이용자에게 AI와 상호작용하고 있다는 사실을 주기적으로 안내하는 기능도 도입한다. 국내 청소년 이용자를 대상으로 하루 이용시간을 3시간으로 제한하고 기본 결제 한도를 월 10만원으로 설정하는 기능도 연내 적용할 예정이다. 자살·자해 관련 민감 콘텐츠가 감지되면 정해진 기준에 따라 이용자에게 적절한 안내를 제공하는 기능도 구현하고 검증할 방침이다.
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지



![[르포] 중력 6배에 짓눌려 기절 직전…전투기 조종사 비행환경 적응훈련(영상)](https://image.ajunews.com/content/image/2024/02/29/20240229181518601151_258_161.jpg)



