Innholdsmoderering

1. Automatisert gjennomgang

Før genereringen starter, blir ledetekstene screenet med OpenAI Moderation API. Opplastede bilder screenes før generering. Når disse detektorene er aktivert, screener også Tencent Cloud-innholdsmoderering og Gemini multimodal klassifisering inndataene. Offentlig deling kontrolleres mot de samme innholdsreglene.

2. Gjennomgang av rapporter

Rapporter sendt til [email protected] blir gjennomgått av teamet vårt. En rapport kan føre til tiltakene i avsnitt 4.

3. Alvorlighetsgrad

• L1 — Kritisk: barnesikkerhet eller terrorisme. Generasjonen er blokkert. Kontoen kan bli stengt, og vi kan rapportere saken til myndighetene.
• L2 — Høy: alvorlige brudd, inkludert gørr, hatefulle ytringer, deepfake av en ekte person eller brudd på opphavsrett eller varemerke. Vi kan blokkere forespørselen, fjerne offentlig innhold og suspendere kontoen.
• L3 — Medium: andre brudd på innholdsstandardene. Vi kan gi en advarsel til kontoen og fjerne offentlig innhold.
• L4 — Lav: mindre brudd. Vi kan gi kontoen en advarsel og kreve at innholdet endres eller fjernes.

4. Håndheving

• En advarsel, for et første mindre brudd.
• Fjerning av offentlig innhold som bryter med disse retningslinjene.
• Begrensninger på kreditter, funksjoner eller modelltilgang.
• Midlertidig suspensjon av kontoen.
• Permanent nedleggelse av kontoen.
• Henvisning til myndighetene der loven krever det, inkludert materiale med seksuelt misbruk av barn.