AI 캐릭터 제작 정책 및 콘텐츠 가이드라인

주식회사 와이오밍엔시스 작성일: 2026년 4월 | 시행일: 2026년 5월 21일

전문

본 정책은 주식회사 와이오밍엔시스(이하 "회사")이 운영하는 Fave(이하 "플랫폼")에 적용되는 AI 캐릭터 제작 및 콘텐츠 운영에 관한 종합 정책입니다.

본 정책은 다음 세 영역에 보편적으로 적용됩니다:

회사는 선정적인 콘텐츠로부터 청소년을 보호하고, 성인의 합법적인 콘텐츠 이용 권리를 보장하기 위해 연령 확인 절차와 세이프티 필터 시스템을 도입하였습니다. 또한, 대한민국의 정보통신망 이용촉진 및 정보보호 등에 관한 법률(이하 "정보통신망법"), 아동·청소년의 성보호에 관한 법률(이하 "청소년성보호법") 등 관련 법령과 방송통신심의위원회에서 제공하는 인터넷내용등급서비스(이하 "SafeNet")의 등급 기준을 준수하고 있습니다.

콘텐츠 등급 기준

콘텐츠의 판단 기준은 기본적으로 SafeNet의 등급 기준을 따르되, 플랫폼의 주요 콘텐츠가 텍스트 기반임을 감안하여 영상이나 음성 매체에 비해 유해성 정도를 종합적으로 고려합니다. 또한, 웹툰과 웹소설 등 유사 매체의 심의 사례를 참고하여 기준을 유연하게 해석하고 적용할 수 있습니다. 등급에 따른 세부 기준은 SafeNet(www.safenet.ne.kr)을 참고하시기 바랍니다.

• 붉은색: 전면 금지
• 주황색: 성인용 캐릭터의 경우 제한적 허용
• 초록색: 전면 허용

캐릭터 분류

1. 세이프티 캐릭터 (전연령 캐릭터)

세이프티 캐릭터란, 만 14세 이상의 이용자 누구나 이용 가능한 캐릭터를 의미합니다. SafeNet 2등급까지의 콘텐츠가 허용됩니다. 해당 규정은 캐릭터 설명 및 상세정보, 에셋(이미지), 태그, AI 채팅 출력에 보편적으로 적용됩니다.

2. 언세이프티 캐릭터 (성인용 캐릭터, 민감 캐릭터)

언세이프티 캐릭터란, 세이프티 필터를 해제(OFF)한 성인 인증 완료 이용자(만 19세 이상)만 확인 및 이용할 수 있는 캐릭터를 의미합니다. SafeNet 3등급까지의 콘텐츠가 허용되며, 4등급 콘텐츠 중 성기 노출 및 성범죄 또는 노골적인 성행위는 언세이프티 캐릭터에서도 금지됩니다. 해당 규정은 캐릭터 설명 및 상세정보, 에셋(이미지), 태그, AI 채팅 출력에 보편적으로 적용됩니다.

제1조 (캐릭터 공통 규정)

본 조의 규정은 세이프티·언세이프티 캐릭터를 불문하고 모든 캐릭터에 적용됩니다.

1. 법령 준수 및 불법 콘텐츠 금지

• 범죄 및 불법 행위에 악용될 가능성이 있는 콘텐츠를 게재해서는 안 됩니다.
• 반사회적 행위를 미화하거나 상세히 묘사해서는 안 됩니다.
• 테러, 학대, 인신매매 등 중대 범죄 행위를 지나치게 묘사하거나 조장해서는 안 됩니다.
• 자살·자해의 구체적인 방법, 마약 제조·유통 방법, 폭발물 제작 방법 등 범죄 수단을 상세히 안내하는 콘텐츠를 게재해서는 안 됩니다.
• 기타 관계 법령에 위반되는 콘텐츠를 게재해서는 안 됩니다.

2. 저작권 보호

• 타인의 저작물을 허가 없이 이용하여 캐릭터를 만들어서는 안 됩니다.
• 타인의 저작물을 무단으로 도용하거나 게재해서는 안 됩니다.
• 저작권 침해가 의심되는 캐릭터는 권리자의 요청 또는 회사의 판단에 따라 삭제될 수 있습니다.

3. 개인정보 및 초상권 보호

• 타인의 개인정보를 동의 없이 공개하거나 배포해서는 안 됩니다.
• 타인의 초상권을 침해하는 이미지를 사용해서는 안 됩니다.

4. 실존 인물 사용 제한

• 실존 인물(유명인, 일반인 지인 포함)을 대상으로 성인용 캐릭터를 만드는 것은 딥페이크 성범죄 방지 등 관련 법령에 의거하여 즉시 삭제 및 계정 영구 정지될 수 있습니다.
• 실존 인물을 대상으로 전연령 캐릭터를 만드는 경우 반드시 대상자의 동의가 필요하며, 운영진의 소명 요청 시 동의를 입증할 수 있는 자료를 제출해야 합니다. 확인되지 않을 경우 무통보 삭제됩니다.
• 딥페이크 또는 실존 인물로 오인될 수 있는 이미지를 사용해서는 안 됩니다.
• AI 채팅 출력에서 실존 인물의 이름·특징을 특정하여 성적·폭력적·비방적 콘텐츠가 생성되어서는 안 됩니다.

5. 미성년자 보호

• 미성년자 회원의 성인용 캐릭터 채팅은 국내법상 금지되고 있으며, 이를 우회하는 모든 시도는 적발 즉시 경고 혹은 무통보 강제 탈퇴 조치될 수 있습니다.
• 미성년자에게 정신적, 신체적 위해를 가할 수 있는 콘텐츠를 게재해서는 안 됩니다.
• 아동 학대, 성적 착취 등 미성년자를 대상으로 한 범죄 행위를 과도하게 묘사해서는 안 됩니다.
• 아동·청소년의 성보호에 관한 법률 등 관련 법령에 저촉되는 콘텐츠를 게재해서는 안 됩니다.

6. 사회적 금기 사항

• 특정 집단이나 지역에 대한 혐오 표현 또는 차별적 언어를 포함해서는 안 됩니다.
• 종교, 정치, 인종, 성소수자, 국가 등을 비방하거나 혐오하는 표현을 포함해서는 안 됩니다.
• 특정 집단에 대한 폭력 조장, 비인간화 표현을 포함해서는 안 됩니다.
• 기타 사회적 통념상 부적절하다고 판단되는 콘텐츠를 게재해서는 안 됩니다.

7. 서비스 품질 및 이용환경 보호

• 서비스 품질을 저하시킬 우려가 있는 부적절한 콘텐츠를 게재해서는 안 됩니다.
• 영리 목적으로 작성된 스팸 또는 홍보성 콘텐츠를 게재해서는 안 됩니다.
• 이용자를 기만하거나 속일 가능성이 있는 콘텐츠를 게재해서는 안 됩니다.
• 다른 이용자의 서비스 이용 환경을 저해하는 콘텐츠를 게재해서는 안 됩니다.

8. 공개 캐릭터 노출 항목 규정

• 공개 캐릭터의 경우 반드시 1개 이상의 이미지가 있어야 합니다.
• 공개 캐릭터의 노출 항목(캐릭터 이름, 한 줄 소개, 캐릭터 소개)에 캐릭터와 관련 없는 문구나, 지나치게 선정적인 문구가 들어가서는 안 됩니다.
• 캐릭터 특성과 무관한 태그를 포함해 다른 이용자의 오인지를 유발해서는 안 됩니다.
• 본 정책에 위반되는 태그를 생성 또는 적용해서는 안 됩니다.

제2조 (캐릭터 에셋 규정)

1. 공통 규정

다음 사항은 세이프티·언세이프티를 불문하고 모든 캐릭터 에셋에 적용됩니다.

• 저작권·초상권 보호: 타인의 이미지를 무단으로 도용하거나, 타인의 초상권을 침해하는 이미지를 사용해서는 안 됩니다.
• 실존 인물 보호: 딥페이크 기술을 활용하거나 실존 인물로 오인될 수 있는 이미지를 사용해서는 안 됩니다.
• 아동·청소년 보호: 아동·청소년으로 인식될 수 있는 캐릭터를 성적으로 묘사하는 이미지를 사용해서는 안 됩니다. 상세 판단 기준은 제6조를 따릅니다.
• 혐오·불쾌 콘텐츠 금지: 이용자에게 과도한 혐오감이나 불쾌감을 유발할 수 있는 이미지를 사용해서는 안 됩니다.

2. 세이프티 캐릭터 에셋 규정

세이프티 캐릭터는 만 14세 이상의 이용자가 이용하는 콘텐츠이므로, 에셋(이미지) 전반에 걸쳐 다음 기준을 준수하여야 합니다.

가. 성적 콘텐츠 제한

• 성행위(성교, 유사 성행위, 자위 등) 및 이를 전제로 한 탈의·전희 장면을 묘사하는 이미지를 사용해서는 안 됩니다.
• 직접적인 행위 묘사가 없더라도, 성적 흥분을 유도하는 구도·자세·표정 등을 통해 성행위를 강하게 암시하는 이미지를 사용해서는 안 됩니다.
• 민감 신체 부위(성기, 항문, 여성의 유두·유륜·가슴, 엉덩이 등)가 직접 노출되거나, 이를 비유적 표현물로 대체하여 부각하는 이미지를 사용해서는 안 됩니다.
• 성인용품, 콘돔, 기타 성적 맥락의 도구가 등장하는 이미지를 사용해서는 안 됩니다.
• 성적 수치심이나 불쾌감을 유발할 수 있는 자세, 표정, 상황을 담은 이미지를 사용해서는 안 됩니다.

나. 신체 노출 및 의복 기준

• 사회 통념상 가려야 할 신체 부위의 의도적 노출을 금지합니다. 다만, 전투 중 의복 파손, 격렬한 운동, 수영복 착용 등 서사적으로 불가피한 상황에서의 비의도적 노출은 허용될 수 있으며, 이 경우에도 성적인 강조가 있어서는 안 됩니다.
• 의복을 착용하고 있더라도 신체 윤곽이나 특정 부위를 지나치게 부각하는 의상(밀착 라텍스, 유두·유륜이 비치는 의복 등), 또는 의복으로서의 기능을 상실한 상태(심하게 찢어지거나 젖어 투과되는 옷 등)가 성적 연상을 강하게 유발하는 이미지를 사용해서는 안 됩니다.
• 사회 통념상 성인 공연·유흥업 맥락의 의상(과도한 노출 복장 등)으로 인식될 수 있는 이미지를 사용해서는 안 됩니다.

다. 아동·청소년 보호

• 아동·청소년 또는 아동·청소년으로 인식될 수 있는 캐릭터를 대상으로 하는 모든 성적 표현, 성적 암시, 성적 대상화를 포함하는 이미지를 사용해서는 안 됩니다. 이는 설정상 동의 여부, 나이 표기와 무관하게 외형·복장·신체 비율 등을 기준으로 판단합니다.
• 판단 기준의 상세 내용은 제6조(아동·청소년 보호 특별 규정)를 따릅니다.

라. 폭력성 및 유해 약물 제한

• 과도한 유혈, 신체 절단, 장기 노출 등 심각한 불쾌감이나 공포를 유발하는 수준의 폭력 장면을 묘사하는 이미지를 사용해서는 안 됩니다.
• 법률상 금지된 약물 또는 환각·각성·쾌락 등을 목적으로 오용되는 약물(가상의 약물 포함)의 사용, 제조, 유통 장면을 묘사하는 이미지를 사용해서는 안 됩니다. 다만, 치료 목적의 적절한 약물 사용은 허용됩니다.

마. 부적절한 성적 상황 금지

• 강간, 성추행, 성희롱, 성매매 등 동의 없이 이루어지거나 사회 통념상 용인되기 어려운 성적 행위를 묘사하는 이미지를 사용해서는 안 됩니다.
• 성착취, 성적 학대 등 관계 법령에서 금지하는 행위를 묘사하거나 이를 연상시키는 이미지를 사용해서는 안 됩니다.

3. 언세이프티 캐릭터 에셋 규정

가. 대표 이미지 제한

• 대표(기본) 이미지는 캐릭터 목록, 검색 결과 등에 불특정 이용자에게 노출되는 이미지이므로, 지나치게 선정적이거나 음란한 내용을 포함할 수 없습니다.

나. 성적 신체 부위의 직접 노출 제한

• 남녀의 성기, 음모, 항문 등 성적 신체 부위를 가감 없이 드러내는 이미지는 허용되지 않습니다. 해당 부위는 형태를 식별할 수 없을 정도로 차폐 처리되어야 합니다.
• 다음의 경우에는 예외적으로 허용됩니다:
  • 의상, 소품, 구도 등을 활용하여 해당 부위가 완전히 가려진 경우
  • 불투명한 색상으로 해당 부위 전체를 덮어 형태를 전혀 인지할 수 없게 처리한 경우
  • 반투명 의상 (시스루, 메쉬 등)의 경우, 신체의 외곽 실루엣만 드러나고 부위 자체의 형상은 보이지 않는 경우
• 블러, 모자이크 등 반투명 처리를 사용하는 경우에도, 신체 중요부위 자체의 차폐가 어려운 경우 불투명 색상 처리를 권장합니다.

다. 법률상 유통 불가 행위의 이미지 묘사 금지

• 성폭력(강간, 윤간, 강제추행 등), 수간, 시간(屍姦), 근친 간 성행위, 가학적·피학적 성 행위 등 관계 법령 및 정보통신 심의 규정에서 유통을 금지하는 행위를 이미지로 묘사해서는 안 됩니다.
• 사회 통념상 수용되기 어려운 극단적 성적 행위를 집중적으로 묘사한 이미지는 제재 대상이 됩니다.

라. 저속한 언어 사용 제한

• 에셋에 포함되는 텍스트(캐릭터 이름, 한 줄 소개, 태그 등)에 지나치게 저속하거나 외설적인 표현을 사용해서는 안 됩니다.

마. 아동·청소년으로 인식될 수 있는 캐릭터의 성적 에셋 제한

• 캐릭터의 설정 나이, 외형, 신체 비율, 복장 등을 종합적으로 고려하여 일반인의 관점에서 아동·청소년으로 인식될 여지가 있는 경우, 해당 캐릭터에 성적 요소가 포함된 에셋을 사용할 수 없습니다.
• 설정상 성인이라 하더라도, 교복을 착용한 상태에서 신체 노출이나 성적 표현이 결합되면 청소년성보호법상 아동·청소년 성착취물에 해당할 수 있으므로, 성적 요소가 포함되는 캐릭터에는 교복 대신 성인임을 분명히 인식할 수 있는 의상을 사용해 주시기 바랍니다.

제3조 (캐릭터 텍스트 규정)

본 조는 크리에이터가 작성하는 캐릭터 설명, 상세정보, 프롬프트, 로어북 등의 텍스트에 적용됩니다.

1. 공통 규정

• 타인의 저작물을 무단으로 도용해서는 안 됩니다.
• 과도하게 저속한 단어나 비속어를 사용해서는 안 됩니다.
• 과도한 불쾌감이나 혐오감을 유발할 수 있는 텍스트를 포함해서는 안 됩니다.
• 성기, 음모 등을 지칭하는 단어나 기타 성적인 표현을 포함해서는 안 됩니다.

2. 세이프티 캐릭터 텍스트 규정

세이프티 캐릭터의 설명, 상세정보, 프롬프트, 로어북 등 크리에이터가 작성하는 모든 텍스트에 다음 기준이 적용됩니다.

가. 성적 표현 제한

• 성행위(성교, 유사 성행위, 자위 등) 및 이를 전제로 한 탈의·전희 장면을 서술해서는 안 됩니다.
• 직접적인 행위 서술 없이도, 은유·상징·분위기 묘사 등을 통해 성행위를 강하게 연상시키거나 성적 흥분을 유도하는 텍스트를 포함해서는 안 됩니다.
• 성적 신체 부위(성기, 항문, 여성의 가슴 등)를 직접 지칭하는 단어와 성적 행위를 묘사하는 동사를 결합한 표현을 사용해서는 안 됩니다.
• 성인용품 등 성적 맥락의 도구나 미성년자에게 판매가 금지된 물품을 서술해서는 안 됩니다.

나. 아동·청소년 보호

• 아동·청소년 또는 아동·청소년으로 인식될 수 있는 캐릭터를 대상으로 하는 모든 성적 표현, 성적 암시, 성적 대상화를 포함하는 텍스트를 사용해서는 안 됩니다. 이는 설정상 동의 여부나 나이 표기와 무관하게 적용됩니다.

다. 폭력성 및 유해 약물 제한

• 심각한 공포나 불쾌감을 유발하는 수준의 폭력 묘사(과도한 유혈, 신체 훼손, 장기 노출 등)를 포함해서는 안 됩니다.
• 법률상 금지된 약물 또는 환각·각성·쾌락 등을 목적으로 오용되는 약물(가상의 약물 포함)의 사용, 제조, 유통을 서술해서는 안 됩니다. 다만, 서사 내 치료 목적의 약물 사용은 허용됩니다.

라. 부적절한 성적 상황 금지

• 강간, 성추행, 성희롱, 성매매 등 비동의적이거나 사회 통념상 용인되기 어려운 성적 상황을 서술해서는 안 됩니다.
• 성착취, 성적 학대, 기타 관계 법령에서 금지하는 성적 행위를 서술하거나 이를 유도하는 맥락을 포함해서는 안 됩니다.

마. 기타

• 위 항목에 명시되지 않은 사항이라 하더라도, 만 14세 이상의 이용자에게 부적절하다고 판단되는 내용은 제재 대상이 될 수 있습니다.

3. 언세이프티 캐릭터 텍스트 규정

• 개연성 없이 성범죄 또는 노골적인 성행위를 묘사해서는 안 됩니다.
• 과도하게 선정적인 표현을 포함해서는 안 됩니다.
• 아동 또는 청소년을 성인이라 지칭하거나 부적절한 텍스트를 포함해서는 안 됩니다.

제4조 (AI 채팅 출력 규정)

본 조는 AI가 생성하는 채팅 텍스트에 적용되는 규정으로, 등급별 시스템 가드레일을 통해 실행됩니다.

1. 공통 규정

다음 사항은 세이프티·언세이프티를 불문하고 AI 채팅 출력에서 절대 생성되어서는 안 됩니다:

• 아동·청소년 또는 아동·청소년으로 인식 가능한 캐릭터와 관련된 성적 묘사 일체
• 실존 인물을 특정한 성적·폭력적·비방적 콘텐츠
• 자살·자해 방법, 마약 제조, 폭발물 제작 등 구체적 범죄 수단의 안내
• 테러, 인신매매, 성매매 알선 등 중대 범죄를 조장하는 내용
• 인종, 민족, 성별, 성적 지향, 종교, 장애, 국적 등을 이유로 한 혐오 선동 및 차별 표현
• 딥페이크, 비동의 성적 콘텐츠 등 실존 인물 기반 성적 묘사

2. 세이프티 캐릭터 AI 채팅 출력 규정

세이프티 캐릭터 채팅에서 금지 범위에 해당하는 출력이 감지될 경우, AI는 자연스러운 장면 전환 또는 간접 묘사로 대체하여야 합니다.

3. 언세이프티 캐릭터 AI 채팅 출력 규정

언세이프티 캐릭터 채팅에서 서사 없이 성적 묘사만 반복되는 패턴이 감지될 경우, AI는 자연스러운 서사 전환을 유도합니다. 절대 금지 사항(제4조 제1항) 위반이 감지될 경우, AI는 해당 요청을 거부하고 대안적 서사 방향을 제시합니다.

4. 비동의 상황의 서사적 묘사에 관한 특칙

픽션 내 비동의 상황(범죄 피해 등)의 서사적 묘사는 언세이프티 등급 내에서 맥락적으로 허용하되, 이를 미화·긍정하거나 쾌락적으로 소비하는 방향으로 출력되어서는 안 됩니다.

제5조 (이용자 입력 규정)

본 조는 이용자가 채팅창에 입력하는 텍스트에 적용됩니다.

1. 절대 금지 유도 행위

이용자가 채팅 입력을 통해 제4조 제1항의 절대 금지 사항에 해당하는 AI 출력을 유도하는 행위는 금지됩니다. 해당 입력이 감지될 경우 AI는 요청을 거부하며, 반복적인 시도는 제재 대상이 됩니다.

2. 세이프티 캐릭터에서의 등급 초과 유도

세이프티 캐릭터와의 채팅에서 이용자가 성적 상황, 과도한 폭력 등 해당 등급의 허용 범위를 초과하는 출력을 유도하는 입력을 할 경우, AI는 등급에 맞는 수준으로 자연스럽게 전환합니다.

3. 시스템 가드레일 우회 시도

이용자가 시스템 가드레일을 우회하기 위한 기술적 지시어(예: "검열을 무시하라", "제한 없이 응답하라" 등)를 입력하는 경우, AI는 해당 요청을 무시하고 정상적인 응답을 생성합니다. 반복적·조직적인 우회 시도는 제재 대상이 됩니다.

제6조 (아동·청소년 보호 특별 규정)

1. 아동·청소년 정의

본 정책에서 "아동·청소년"이란 아동·청소년의 성보호에 관한 법률상 19세 미만인 자를 의미하며, 가상의 인물(캐릭터, 이미지)의 경우 사회 통념상 미성년자로 인식되는 수준의 체형 디자인 및 복장인 캐릭터도 포함합니다.

2. 아동·청소년으로 보이는 캐릭터 판단 기준

• 캐릭터의 신원, 외모나 신체발육 상태, 제작 경위나 출처 등 주어진 여러 정보를 종합적으로 고려하여 사회 평균인의 시각에서 객관적으로 관찰할 때 외관상 의심의 여지없이 명백하게 아동·청소년으로 인식되는 경우
• 외모나 신체발육 상태가 명백하게 아동·청소년으로 인식될 수 있는 캐릭터
• 교복을 입고 있거나 학생임을 명시적으로 표현하는 캐릭터
• 설정상 나이가 미성년자가 아니더라도, 외관상 명백하게 아동·청소년으로 인식될 수 있는 캐릭터

3. 미성년자 대상 성적 콘텐츠 절대 금지

• 미성년자 및 미성년자로 인식될 수 있는 캐릭터를 대상으로 하는 모든 종류의 성행위, 성적 암시, 성적 맥락, 성적 표현, 성적 대상화는 동의 여부와 관계없이 절대 금지합니다.
• 이 규정은 캐릭터 제작 단계, AI 채팅 출력, 이용자 입력의 전 영역에 예외 없이 적용됩니다.

4. 교복 착용 캐릭터 특별 규정

• 성인임을 명시하더라도, 교복 착용 상태에서 신체 노출 또는 성적인 표현이 포함된 경우 아동·청소년 성착취물로 규정되어 국내 법에 따라 제재될 수 있습니다.
• 교복 대신 명백히 성인 캐릭터임을 인식할 수 있는 제복으로 설정하시는 것을 권장드리며, 성적인 요소가 포함된 경우 교복을 사용하지 않도록 유의해주시기 바랍니다.
• 설정상 성인(성년)으로 기재되었더라도, 교복을 착용하거나 외모/신체적 특징이 아동·청소년으로 명백히 인식되는 경우 성적 묘사가 포함된 이미지는 사용할 수 없으며 삭제 조치됩니다.

5. 음란물 및 아동·청소년 성착취물 판단 기준

• 음란물이란 사회통념상 일반 보통인의 성욕을 자극하여 성적 흥분을 유발하고 정상적인 성적 수치심을 해하여 성적 도의관념에 반하는 것을 말합니다.
• 아동·청소년 성착취물이란 아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하여 성적 행위를 하거나 묘사하는 것을 말합니다.

제7조 (콘텐츠 검열 실행 구조)

회사는 다음 세 단계의 검열 구조를 통해 본 정책을 실행합니다.

1. 제작 단계 검열

캐릭터 등록 및 수정 시점에 적용됩니다.

• 프롬프트, 태그, 설명문에 대한 자동 스크리닝(키워드 탐지 및 AI 분류)을 실시합니다.
• 크리에이터가 선택한 등급(세이프티/언세이프티)과 실제 콘텐츠의 불일치를 자동으로 감지합니다.
• 등급 불일치가 감지될 경우 크리에이터에게 등급 상향을 권고하며, 미조치 시 강제 전환 또는 비공개 처리합니다.

2. 채팅 단계 검열

AI 채팅 출력 생성 시점에 실시간으로 적용됩니다.

• 등급별로 분화된 시스템 프롬프트 가드레일을 적용합니다.
• 세이프티 캐릭터: 성적 묘사, 유혈 묘사, 강한 비속어 등의 생성 시 자연스러운 장면 전환 또는 간접 묘사로 대체합니다.
• 언세이프티 캐릭터: 성인 수준 표현을 허용하되, 절대 금지 사항 위반 감지 시 AI가 거부 응답을 출력합니다.
• 이용자 입력 중 절대 금지 사항을 유발하는 지시어 감지 시, AI가 해당 요청을 거부하고 대안적 서사 방향을 제시합니다.

3. 사후 모니터링

서비스 운영 기간 전반에 걸쳐 상시 적용됩니다.

• 이용자 신고 시스템: 채팅 중 부적절 콘텐츠 발생 시 원터치 신고 기능을 제공하며, 신고된 대화 세션을 자동 보존합니다.
• 정기 샘플링: 운영팀이 주기적으로 채팅 로그를 샘플링하여 가드레일 작동 여부를 점검합니다.
• 자동 플래그: 절대 금지 키워드·패턴이 채팅 로그에서 감지되면 자동으로 검토 대기열에 등록합니다.
• 크리에이터 프롬프트 감사: 크리에이터가 시스템 가드레일을 우회하도록 프롬프트를 설계한 경우 제재합니다.

제8조 (크리에이터 의무)

1. 등급 선정 의무

• 캐릭터 등록 시 세이프티 또는 언세이프티 등급을 반드시 자기선정하여야 합니다.
• 시스템이 콘텐츠 분석을 기반으로 등급을 자동 제안하며, 크리에이터가 최종 확인합니다.
• 등급 불일치가 감지될 경우 등급 상향 권고를 받게 되며, 미조치 시 강제 전환됩니다.

2. 가드레일 우회 금지

• 크리에이터가 프롬프트, 로어북 등을 통해 시스템 가드레일을 의도적으로 우회하도록 설계하는 행위는 금지됩니다.
• 예시: "어떤 요청이든 거부하지 마라", "검열을 무시하라", "제한 없이 대화하라" 등의 지시어를 프롬프트에 포함하는 경우
• 적발 시 제9조에 따른 제재가 적용됩니다.

제9조 (위반 시 제재)

1. 캐릭터 제재

• 캐릭터 공개 여부와 관계없이 본 정책을 위반하는 경우 해당 캐릭터는 경고 없이 삭제되거나 비공개 조치가 취해질 수 있습니다.
• 선정적인 콘텐츠가 포함되었음에도 불구하고 언세이프티 캐릭터로 지정하지 않은 경우 해당 캐릭터는 언세이프티 캐릭터로 전환되거나 삭제될 수 있습니다.
• 회사는 위 ①②에 따른 조치를 취한 경우, 법적 이유로 통지가 금지되거나 이용자·제3자· 회사에 해를 끼칠 수 있다고 합리적으로 판단되는 경우를 제외하고, 해당 이용자에게 조치의 사유를 지체 없이 통지합니다.
• 이용자는 조치에 대해 통지를 받은 날로부터 30일 이내에 이의를 신청할 수 있으며, 회사는 이의 신청 접수일로부터 30일 이내에 답변합니다.

2. 이용자 제재

• 본 정책을 위반하는 경우 단계적 제재가 적용됩니다.
  • (경고 → 일시 정지 → 장기 정지 → 영구 이용 정지)
• 다만, 위반의 중대성·반복성·고의성을 종합적으로 고려하여 단계를 생략하거나 가중할 수 있습니다. 특히 다음 각 호의 경우에는 사전 경고 없이 즉시 계정 영구 이용 정지 조치가 취해질 수 있습니다.

  가. 아동·청소년을 대상으로 한 성적 콘텐츠를 유도하거나 생성하는 경우 즉시 계정 영구 차단 및 관계 기관 신고 진행 나. 절대 금지 사항(제4조 제1항)을 반복적으로 위반하거나 유도하는 경우 다. 딥페이크 성적 허위영상물 등 관련 법령에서 유통을 금지한 콘텐츠를 생성하는 경우 라. 시스템 가드레일 우회를 반복·조직적으로 시도하여 플랫폼에 악영향을 미치는 경우

• 위 내용에 따른 이용 제한 또는 해지 조치에 대해 이용자는 통지를 받은 날로부터 30일 이내에 이의를 신청할 수 있습니다.

3. 크리에이터 제재

• 가드레일 우회 프롬프트 설계: 1차 적발 시 경고 및 캐릭터 비공개 처리, 2차 적발 시 캐릭터 삭제 및 계정 정지
• 등급 미스매치 반복: 해당 캐릭터 강제 등급 전환 및 경고, 반복 시 캐릭터 삭제

4. 법적 조치

• 관계 법령 위반으로 긴급한 조치가 필요하다고 판단되는 경우, 즉시 해당 콘텐츠 삭제 및 계정 정지 조치가 이루어질 수 있습니다.
• 필요한 경우 관계 기관에 신고 및 수사 협조가 이루어질 수 있습니다.

제10조 (이용자 보호 장치)

1. 세이프티 필터

• 신규 가입 시 세이프티 필터는 기본 활성화(ON) 상태입니다.
• 세이프티 필터 해제(OFF)는 성인인증 완료 이용자에 한하여 가능합니다.
• 미성년자 회원은 세이프티 필터를 해제할 수 없습니다.

2. 성인인증

• 성인인증은 본인 명의 휴대폰을 통한 본인인증 방식으로 진행되며, 만 19세 이상인 경우에만 인증이 완료됩니다.
• 본인 명의 휴대폰 인증이 불가능한 경우(해외 거주 등) 현재 성인인증을 지원하지 않으며, 이에 따라 세이프티 필터 해제가 불가합니다. 향후 추가 인증 수단이 도입될 경우 별도 안내할 예정입니다.

3. 채팅 중 보호 기능

• 채팅 중 부적절한 콘텐츠가 발생할 경우 원터치 신고 및 대화 중단 기능을 제공합니다.
• 이용자는 자체 수위 설정을 통해 세이프티 콘텐츠만 이용하도록 선택할 수 있으며, 이 경우 언세이프티 캐릭터는 노출되지 않습니다.

4. 앱스토어 대응

• 웹 서비스에서는 성인인증 후 언세이프티 캐릭터에 접근할 수 있습니다.
• 앱 서비스 내에서는 앱스토어 정책상, 언세이프티 캐릭터가 직접 노출되지 않으며, 웹에서 대화를 시작한 후 앱에서 이어가는 방식으로 제공됩니다.

제11조 (정책의 해석 및 변경)

• 모든 이용자분들의 적극적인 협조를 부탁드리며, 본 정책을 위반한 캐릭터 또는 해당 항목이 명확히 명시되지 않은 사항이라 하더라도 안전한 AI 채팅 서비스 제공을 위해 회사의 판단에 따라 캐릭터 삭제, 성인용 캐릭터 전환, 채팅 제한 등의 조치가 가능합니다.
• 본 정책에 대한 해석상 이견이 있거나 이의제기가 필요하신 경우 회사에 문의해주시기 바랍니다.
• 본 정책은 국내법상 규제 등에 따라 변경될 수 있으며, 최종적인 해석 권한은 회사에게 있습니다.
• 본 정책의 변경 시 변경 내용과 시행일을 시행일 7일 전부터 플랫폼 내 공지사항을 통해 고지합니다. 다만, 이용자에게 불리한 내용의 변경인 경우에는 시행일 30일 전부터 공지하고, 이용자가 등록한 전자우편 등을 통해 개별 통지합니다.
• 법령 개정 또는 보안·서비스 안전을 위한 긴급한 사유가 있는 경우에는 위 공지 기간보다 짧게 또는 즉시 시행할 수 있으며, 이 경우 시행 후 지체 없이 사후 공지합니다.
• 변경된 정책의 시행일 이후에도 서비스를 계속 이용하는 경우 변경된 정책에 동의한 것으로 간주됩니다. 변경된 정책에 동의하지 않는 경우 서비스 이용을 중단하고 회원탈퇴를 신청할 수 있습니다.

부칙

1. 본 정책은 2026년 5월 21일부터 시행됩니다.
2. 앞으로도 Fave는 이용자 여러분의 안전하고 즐거운 이용을 위해 최선을 다하겠습니다.

부속 문서: 법적 근거 매핑

주식회사 와이오밍엔시스

문의: help@faveai.io