平台内容审核机制

1. 自动审核

生成开始前，提示词会经 OpenAI Moderation API 检查。上传的图片会在生成前检查。相应检测开启时，腾讯云内容审核（Tencent Cloud）和 Gemini 多模态分类也会检查这些输入。公开分享会按同一套内容规则检查。

2. 对举报的查看

发送到 [email protected] 的举报由我们的团队查看。举报可能导致第 4 节中的处理。

3. 严重级别

• L1 — 严重：儿童安全或恐怖主义。生成会被拒绝。账号可能被关闭，并可能依法向主管机关报告。
• L2 — 高：严重违规，包括血腥、仇恨言论、对真人的深度伪造，或侵犯版权或商标。我们可能拒绝该次生成、下架公开内容并暂停账号。
• L3 — 中：其他违反内容标准的情形。我们可能警告账号并下架公开内容。
• L4 — 低：较轻的违规。我们可能警告账号，并要求修改或删除内容。

4. 处理措施

• 警告，适用于首次较轻违规。
• 下架违反本政策的公开内容。
• 限制积分、功能或模型使用。
• 暂时暂停账号。
• 永久关闭账号。
• 在法律要求时移交主管机关，包括儿童性虐待材料。