Модерация контента

1. Автоматизированная проверка

Перед началом генерации запросы проверяются с помощью API модерации OpenAI. Загруженные изображения также проверяются перед генерацией. При включении этих детекторов входные данные также проверяются с помощью модерации контента Tencent Cloud и многомодальной классификации Gemini. Проверка на соответствие правилам публичного доступа осуществляется на основе тех же правил.

2. Анализ отчетов

Сообщения, отправленные на [email protected], рассматриваются нашей командой. Сообщение может привести к действиям, описанным в разделе 4.

3. Тяжесть

• L1 — Критическая ситуация: угроза безопасности ребенка или терроризм. Подписка заблокирована. Учетная запись может быть закрыта, и мы можем сообщить об этом властям.
• L2 — Высокий уровень опасности: серьезные нарушения, включая сцены насилия, разжигание ненависти, дипфейк с изображением реального человека, а также нарушение авторских прав или прав на товарный знак. Мы можем заблокировать запрос, удалить общедоступный контент и приостановить действие учетной записи.
• L3 — Средний уровень: другие нарушения стандартов контента. Мы можем вынести предупреждение учетной записи и удалить общедоступный контент.
• L4 — Низкий уровень: незначительные нарушения. Мы можем вынести предупреждение учетной записи и потребовать изменения или удаления контента.

4. Обеспечение соблюдения

• Предупреждение за первое незначительное нарушение.
• Удаление общедоступного контента, нарушающего данную политику.
• Ограничения на количество кредитов, функций или доступ к моделям.
• Временная блокировка аккаунта.
• Окончательное закрытие счета.
• Передача информации в соответствующие органы в случаях, когда этого требует закон, в том числе в отношении материалов, содержащих сцены сексуального насилия над детьми.