(출처=스캐터랩)

스캐터랩, 대표 직속 안전 팀 신설…개발 인력 절반 투입

AI 캐릭터 챗 서비스 ‘제타’를 운영하는 스캐터랩이 이용자 보호 조치를 강화한다. 대표 직속 안전 전담 팀을 신설하고 AI 개발 인력 절반을 이곳에 투입할 계획이다. 최근 아동·청소년 유해 콘텐츠 논란이 불거진 이후 업계 차원의 이용자 보호 장치가 마련되는 모습이다.

스캐터랩은 17일 김종윤 대표가 직접 이끄는 ‘트러스트&세이프티 팀’을 신설했다고 밝혔다. 해당 조직은 제타의 콘텐츠 안전 정책부터 자체 AI 모델 개발, 콘텐츠 검수와 운영 업무까지 통합 관리한다.

이번 안전 전담 팀에는 AI 개발 인력이 대거 투입된다. 개발 인력 콘텐츠 및 대화 모더레이션 AI 모델 개발에 투입할 계획이다. 회사는 올해 말까지 자체 AI 모델과 플롯·플레이 모더레이션을 고도화해 이용 자체 등급을 명확히 분류하고, 이용자 연령에 맞는 보호 체계를 강화할 계획이다.

콘텐츠 검수는 창작자 제작 과정과 출시 시점, 서비스 내 노출 시점 등 3단계로 진행한다. 각 단계에서 소재와 텍스트, 이미지를 검수해 이용 등급을 분류한다. 한국과 일본, 미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책도 마련한다. 연령 확인 절차를 강화하고 확인된 연령에 따라 접근 가능한 콘텐츠를 구분할 예정이다.

AI와 대화하는 과정에서도 보호 장치를 강화한다. 부적절한 대화를 방지하는 자체 AI 모델을 개발하고, 이용자 연령에 맞는 대화 기준을 적용한다. 이용자가 AI와 상호작용하고 있다는 사실을 주기적으로 안내하는 기능도 도입한다.

앞서 스캐터랩은 청소년 이용 시간 하루 3시간, 기본 결제 한도 월 10만원으로 제한하는 보호 정책을 연내 도입하겠다고 전한 바 있다. 자살·자해 관련 민감 콘텐츠가 감지되면 적절한 안내를 제공하는 기능도 개발한다.

김종윤 스캐터랩 대표는 “제타는 이용자가 이야기의 주인공이 돼 AI와 함께 자신만의 이야기를 만들어 가는 서비스인 만큼 창작의 즐거움과 이용자의 안전을 함께 고려해야 한다”며 “트러스트&세이프티 팀을 중심으로 정책과 기술, 운영을 아우르는 보호 체계를 고도화하고, 안심하고 사용할 수 있는 AI 엔터테인먼트 환경을 만들어 가겠다”고 말했다.

글. 바이라인네트워크
<윤정환 기자>yjh@byline.network

일간 바이라인 구독하기

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다


The reCAPTCHA verification period has expired. Please reload the page.