국내 청소년 하루 기본 3시간·월 기본 결제 10만원 한도 연내 도입 계획

핵심 요약

  • 스캐터랩이 김종윤 대표 직속으로 제타 이용자 보호 조직을 신설했다. 플롯 제작부터 노출까지 검수를 강화하고 연령별 접근 제한과 AI 대화 안전장치를 마련할 계획이다.

스캐터랩이 AI 캐릭터 채팅 서비스 '제타'의 안전 전담 조직을 신설하고, 주요 AI 개발 인력 절반을 콘텐츠·대화 검수 모델 개발에 투입한다고 11월 17일 밝혔다. 김종윤 대표가 직접 이끄는 '트러스트&세이프티 팀'은 콘텐츠 안전 정책 수립부터 자체 AI 모델 개발, 검수까지 맡는다.

국내 청소년의 하루 기본 이용 시간을 3시간, 월 기본 결제 한도를 10만원으로 제한하는 조치는 연내 도입할 계획이다. 스캐터랩은 지난 10월 청소년 과몰입을 줄이기 위한 이용 시간·결제 한도 도입을 예고했다.

제타는 창작자가 인물과 상황을 설정한 이야기인 '플롯'을 골라 AI 캐릭터와 대화하며 이야기를 이어가는 서비스다. 스캐터랩은 연말까지 플롯 검수 체계를 개선해 이용 등급을 나누고, 가입 단계의 연령 확인을 강화해 연령에 맞는 플롯에 접근하도록 할 예정이다.

플롯은 제작·출시·서비스 내 노출의 세 단계에서 소재와 글, 이미지 검수를 거친다. 이를 위해 한국·일본·미국 등 주요 서비스 국가에 적용할 콘텐츠 정책과 검수 기준을 마련하고 플롯 검수에 특화된 자체 AI 모델을 개발한다.

대화 단계에서는 부적절한 대화를 방지하는 자체 AI를 출시하고, AI 캐릭터가 이용자 연령에 맞게 답하도록 대화 기준을 마련한다. 대화 상대가 AI라는 사실을 주기적으로 알리는 기능도 준비한다. 자살·자해 관련 민감 콘텐츠가 감지되면 정해진 기준에 따라 이용자에게 안내하는 기능은 개발과 검증을 거칠 예정이다.

이용자 신고·이의제기 처리와 콘텐츠 일부의 정기 검수에서 확인한 문제는 정책과 AI 모델에 반영한 뒤 다시 점검한다. 지식재산권과 청소년 보호를 두고 규제 당국, 앱스토어 운영사, 콘텐츠 업계 등과 논의도 이어가기로 했다.

김종윤 스캐터랩 대표는 "제타는 이용자가 이야기의 주인공이 돼 AI와 함께 자신만의 이야기를 만들어 가는 서비스인 만큼 창작의 즐거움과 이용자의 안전을 함께 고려해야 한다"고 말했다.

청소년의 장시간 AI 대화와 과도한 결제에 대한 우려 속에 뤼튼테크놀로지스도 지난 9월 '크랙'의 청소년 이용 시간을 하루 3시간, 결제액을 월 10만원으로 제한하는 방안을 발표했다. 하루 3시간을 넘겨 이용하거나 월 10만원을 초과해 결제하려면 보호자의 인증과 동의를 받도록 할 예정이며, 적용 시점은 내년 초다.

인공지능(AI)과 스타트업 분야의 주요 소식을 전합니다.