스캐터랩, 대표 직속 안전 팀 신설…개발 인력 절반 투입
◈ [웨비나] AI 투자의 ROI, 모아야 보입니다: 흩어진 AI를 자산으로 바꾸는 측정 가능한 에이전트 전략
일시 : 2026년 12월 2일 (수) 14:00 ~ 15:30
장소 : 온라인(bylineplus.com)
AI 캐릭터 챗 서비스 ‘제타’를 운영하는 스캐터랩이 이용자 보호 조치를 강화한다. 대표 직속 안전 전담 팀을 신설하고 AI 개발 인력 절반을 이곳에 투입할 계획이다. 최근 아동·청소년 유해 콘텐츠 논란이 불거진 이후 업계 차원의 이용자 보호 장치가 마련되는 모습이다.
스캐터랩은 17일 김종윤 대표가 직접 이끄는 ‘트러스트&세이프티 팀’을 신설했다고 밝혔다. 해당 조직은 제타의 콘텐츠 안전 정책부터 자체 AI 모델 개발, 콘텐츠 검수와 운영 업무까지 통합 관리한다.
이번 안전 전담 팀에는 AI 개발 인력이 대거 투입된다. 개발 인력 콘텐츠 및 대화 모더레이션 AI 모델 개발에 투입할 계획이다. 회사는 올해 말까지 자체 AI 모델과 플롯·플레이 모더레이션을 고도화해 이용 자체 등급을 명확히 분류하고, 이용자 연령에 맞는 보호 체계를 강화할 계획이다.
콘텐츠 검수는 창작자 제작 과정과 출시 시점, 서비스 내 노출 시점 등 3단계로 진행한다. 각 단계에서 소재와 텍스트, 이미지를 검수해 이용 등급을 분류한다. 한국과 일본, 미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책도 마련한다. 연령 확인 절차를 강화하고 확인된 연령에 따라 접근 가능한 콘텐츠를 구분할 예정이다.
AI와 대화하는 과정에서도 보호 장치를 강화한다. 부적절한 대화를 방지하는 자체 AI 모델을 개발하고, 이용자 연령에 맞는 대화 기준을 적용한다. 이용자가 AI와 상호작용하고 있다는 사실을 주기적으로 안내하는 기능도 도입한다.
앞서 스캐터랩은 청소년 이용 시간 하루 3시간, 기본 결제 한도 월 10만원으로 제한하는 보호 정책을 연내 도입하겠다고 전한 바 있다. 자살·자해 관련 민감 콘텐츠가 감지되면 적절한 안내를 제공하는 기능도 개발한다.
김종윤 스캐터랩 대표는 “제타는 이용자가 이야기의 주인공이 돼 AI와 함께 자신만의 이야기를 만들어 가는 서비스인 만큼 창작의 즐거움과 이용자의 안전을 함께 고려해야 한다”며 “트러스트&세이프티 팀을 중심으로 정책과 기술, 운영을 아우르는 보호 체계를 고도화하고, 안심하고 사용할 수 있는 AI 엔터테인먼트 환경을 만들어 가겠다”고 말했다.
글. 바이라인네트워크
<윤정환 기자>yjh@byline.network
◈ [레노버 스페셜리포트] 합리적인 선택, 신뢰할 수 있는 스토리지
급증하는 기업 데이터, 성능과 보안은 강화하고 운영 비용은 줄일 수 있을까요?
ThinkSystem 스토리지 시리즈 비교, 랜섬웨어 보호·복구 기능을 eBook으로 확인하세요.


