सामग्री मॉडरेशन

1. स्वचालित समीक्षा

जनरेशन शुरू होने से पहले, प्रॉम्प्ट्स को OpenAI मॉडरेशन API के साथ स्क्रीन किया जाता है। अपलोड की गई इमेज को जनरेशन से पहले स्क्रीन किया जाता है। जब ये डिटेक्टर सक्रिय होते हैं, तो Tencent क्लाउड कंटेंट मॉडरेशन और जेमिनी मल्टीमॉडल क्लासिफिकेशन भी इनपुट को स्क्रीन करते हैं। सार्वजनिक शेयरिंग की जाँच भी इन्हीं कंटेंट नियमों के अनुसार की जाती है।

2. रिपोर्टों की समीक्षा

[email protected] पर भेजी गई रिपोर्टों की समीक्षा हमारी टीम द्वारा की जाती है। रिपोर्ट के आधार पर धारा 4 में वर्णित कार्रवाई की जा सकती है।

3. गंभीरता

• L1 — गंभीर: बाल सुरक्षा या आतंकवाद। जनरेशन ब्लॉक कर दिया गया है। खाता बंद किया जा सकता है, और हम इस मामले की सूचना अधिकारियों को दे सकते हैं।
• L2 — उच्च: गंभीर उल्लंघन, जिनमें हिंसा, घृणास्पद भाषण, किसी वास्तविक व्यक्ति का डीपफेक बनाना, या कॉपीराइट या ट्रेडमार्क का उल्लंघन शामिल है। हम अनुरोध को ब्लॉक कर सकते हैं, सार्वजनिक सामग्री हटा सकते हैं और खाता निलंबित कर सकते हैं।
• L3 — मध्यम: सामग्री मानकों का अन्य उल्लंघन। हम खाते को चेतावनी दे सकते हैं और सार्वजनिक सामग्री हटा सकते हैं।
• L4 — निम्न: मामूली उल्लंघन। हम खाते को चेतावनी दे सकते हैं और सामग्री को बदलने या हटाने की आवश्यकता हो सकती है।

4. प्रवर्तन

• पहली बार मामूली उल्लंघन करने पर चेतावनी।
• इस नीति का उल्लंघन करने वाली सार्वजनिक सामग्री को हटाना।
• क्रेडिट, सुविधाओं या मॉडल तक पहुंच पर सीमाएं।
• खाते को अस्थायी रूप से निलंबित कर दिया गया है।
• खाते को स्थायी रूप से बंद करना।
• जहां कानून के अनुसार आवश्यक हो, वहां अधिकारियों को मामला सौंपना, जिसमें बाल यौन शोषण सामग्री भी शामिल है।