मुख्य सामग्री पर जाएं
केवल Black tier। किसी भी नीचे के tier पर page की जगह plans view होती है। Custom Bot (+) AI access नहीं देता — यह केवल tier से बंधा है।
Standard Auto-Moderation patterns match करता है। AI Auto-Moderation message को इस तरह पढ़ती है जैसे एक moderator करता: यह sarcasm, coded language, filters से बचने के लिए बनाई misspellings, और आपके members जो भी भाषा में लिखते हैं उसकी content समझती है। यह images और videos भी पढ़ती है, उनमें लिखे text समेत। जिस message को Auto-Moderation पहले ही हटा चुका है, उसे AI दोबारा check नहीं करती।
दो switches दोनों on होने चाहिए: Server Setup में AI Auto-Mod, और इस page पर settings। Module off होने पर, कुछ scan नहीं होता और यहाँ amber banner के अलावा कोई warning नहीं दिखता।

​
Monitor mode में शुरू करें

Operating mode setting page पर सबसे महत्वपूर्ण control है।

Monitor

Violations logged होती हैं। कुछ पर action नहीं होता, सिवाय इसके कि नाबालिगों से जुड़ी यौन सामग्री हमेशा हटा दी जाती है। यह default है।

Enforce

Configured actions स्वतः लागू होते हैं।
Monitor mode अब भी tokens costs — हर message scan होता है, केवल action रोका जाता है। यदि आप log channel set किए बिना Monitor छोड़ते हैं, तो आप ऐसे scans के लिए भुगतान करते हैं जिनके परिणाम कोई नहीं देखता।
कुछ दिनों के लिए log channel के साथ Monitor चलाएँ, इसने क्या flag किया वह पढ़ें, अपनी sensitivity tune करें, फिर Enforce पर switch करें। इस step को skip करना false positives के बारे में शिकायतों का सबसे आम कारण है।

​
Sensitivity

एक slider, percentage के रूप में व्यक्त। AI हर message को हर category के लिए 0 से 100% तक score देती है — यानी उसके उस category को तोड़ने की संभावना — और कोई category तब act करती है जब उसका score 100 घटा sensitivity तक पहुँच जाता है: sensitivity 25 पर, 75% से। एक संतुलित शुरुआती बिंदु 25–40% है। Text के लिए, 50 से ऊपर की sensitivity 50 की तरह काम करती है। 50 से कम score पर AI किसी message को उल्लंघन के बजाय ठीक होने की अधिक संभावना वाला मानती है, इसलिए ऊँची setting सिर्फ़ false positives बढ़ाएगी। जो message बातों से moderation को चकमा देने की कोशिश करता है — यह दावा करके कि staff ने उसे approve किया है, सीधे AI को संबोधित करके, या खुद को मज़ाक या fiction बताकर — उसे हमेशा कम से कम 50 की sensitivity पर check किया जाता है, और उसकी log entry में यह दर्ज होता है। Images पर यह सीमा लागू नहीं होती। AI आमतौर पर किसी image को लेकर आश्वस्त होती है; borderline images का फ़ैसला sensitivity करती है, जिन्हें वह 40 से 69% तक score देती है।
हर category की अपनी sensitivity slider है। जब किसी category की slider set होती है, तो केवल वही लागू होती है — global value उन categories के लिए fallback है जिन्हें आपने tune नहीं किया, अतिरिक्त floor नहीं।

​
Categories

दस categories, प्रत्येक का अपना switch, अपना actions सेट, और अपनी sensitivity।
Out of the box केवल Sexual content involving minors enabled है। हर दूसरी category तब तक off है जब तक आप उसे on नहीं करते — एक ताज़ा enabled AI Auto-Mod configure करने तक लगभग कुछ नहीं करती।
नाबालिगों से जुड़ी यौन सामग्री हमेशा हटा दी जाती है। जब AI किसी message, image या video को इस category के लिए 50% या उससे अधिक rate करती है, तो content delete हो जाता है और staff को alert किया जाता है — भले ही category off हो, rating उसकी sensitivity से नीचे हो, channel age-restricted हो या Monitor mode चल रहा हो। Category की अपनी settings केवल उसके ऊपर लगने वाली punishment तय करती हैं, जैसे ban। जिस content को किसी AI provider का child-safety filter block कर देता है, उसके साथ भी यही व्यवहार किया जाता है। ऐसा कोई भी content कभी किसी log या alert entry में नहीं दिखाया जाता, और न ही ऐसा कोई text जिसे AI इस category के लिए 35% या उससे अधिक rate करती है। इसे on छोड़ें।
जब किसी message के कई results हों — उसका text, उसकी images और उनमें लिखा text, किसी video के frames, speech और screen पर दिखने वाला text — तो हर result को आपकी settings के आधार पर परखा जाता है, और जिन results पर आपकी settings act करती हैं उनमें से सबसे गंभीर लागू होता है। नाबालिगों से जुड़ी जिस सामग्री को 50% या उससे अधिक rate किया गया हो, उसे हटा दिया जाता है, और साथ में वह punishment भी लगती है जो कोई दूसरा result माँगता है।

​
Age-gated channels

Discord age-restricted channel में, Sexual content category दबा दी जाती है। हर दूसरी category — sexual content involving minors सहित — अब भी सामान्य रूप से लागू होती है। जिस image या video को AI judge नहीं कर पाई, उसे वहाँ delete करने के बजाय staff को report किया जाता है; नीचे “Images कैसे check होती हैं” देखें।

​
Actions

प्रति category कोई भी combination चुनें: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert। तीन combinations reject होते हैं:
  • Kick और Ban एक साथ
  • Alert के साथ Ban
  • Alert के साथ Kick
बाकी सब stack करता है। Delete किसी भी चीज़ के साथ combine होता है।
Mute केवल text mute है। यह member को voice channels में चुप नहीं कराता।

​
Custom rules

अपने server के नियम सादी English में लिखें। AI इन्हें standard categories के साथ check करती है: messages और member names में, images जो दिखाती हैं उसमें और उनमें लिखे text में, और videos की speech और screen पर दिखने वाले text में।
25 rules, केवल Black tier।
हर rule का एक नाम, 1,000 characters तक का description, एक single action, और वैकल्पिक sensitivity है जो global value को override करती है। Categories की तरह, text के लिए 50 से ऊपर की sensitivity 50 की तरह काम करती है।
क्या अनुमत है और क्या नहीं दोनों के बारे में specific हों। “No advertising other servers, but sharing a friend’s art or stream link in #showcase is fine” “no ads” से बहुत बेहतर काम करता है।
ऐसा rule text जो AI के instructions को manipulate करने के प्रयास जैसा लगे save पर reject हो जाता है। यदि कोई rule generic error के साथ save होने से मना करे, तो इसे command के बजाय behaviour के plain description के रूप में rephrase करें।
Matching custom rule अपनी sensitivity के खिलाफ check होता है और स्वतंत्र रूप से enforce करता है चाहे समकक्ष category enabled हो या नहीं।

​
Escalation

Default पर off। जब on, बार-बार अपराधी उत्तरोत्तर मज़बूत actions प्राप्त करते हैं।
1

Steps जोड़ें

हर step एक infraction count (1–99) साथ ही एक action है, timeout, mute और ban के लिए duration के साथ। 20 steps तक।
2

Decay window set करें

1 से 30 दिन, default 7। इतने के बाद, एक infraction गिनना बंद कर देती है।
वर्तमान message total में गिना जाता है। 1 infraction पर set step member के पहले अपराध पर fire होता है, दूसरे पर नहीं।
Step की action category की punishment को बदल देती है लेकिन यदि category में Delete और Alert थे तो उन्हें रखती है। Escalation punishment को escalate करता है; यह message के हटाए जाने को नहीं रोकता।
Duration एक साल पर capped है। Dashboard 100,000 hours जैसे मान स्वीकार करता है जिन्हें server फिर generic save error के साथ reject करता है — durations को एक साल के अंदर रखें।

​
Exemptions

  • Exempt roles — इनमें से किसी वाले members पूरी तरह skip हो जाते हैं
  • Exempt channels — यहाँ messages कभी scan नहीं होते
  • Exempt users — 500 तक, bots के लिए उपयोगी
Administrator वाले members कभी scan नहीं होते, चाहे आप उन्हें exempt करें या नहीं। यह जाँच किसी token खर्च होने से पहले चलती है।

​
Kick और ban से पहले confirmation

Default पर on। Kick और ban actions moderator के approve के लिए post होते हैं, तुरंत लागू नहीं होते।
Confirmation deletion को नहीं रोकती। यदि category के actions में Delete शामिल है, तो violation detect होते ही message हट जाता है। केवल kick या ban approval की प्रतीक्षा करती है।
Confirmations एक घंटे बाद expire हो जाती हैं। वे आपके alert channel पर post होती हैं, log channel पर fall back करती हैं, message जिस channel में था उस पर fall back करती हैं।

​
Trust Tiers

एक token-बचाने का उपाय। लंबे clean record वाले members कम बार scan होते हैं। चार safeguards का matlab है कि trusted member कभी अदृश्य नहीं होता:
  1. Discord invites, @everyone/@here, और 5+ mentions हमेशा scan होते हैं — कोई अपवाद नहीं
  2. 6 सेकंड में 3 messages का burst scan force करता है
  3. Sampling कभी शून्य तक नहीं पहुँचती — trusted member अब भी समय-समय पर scan होता है
  4. कोई भी violation trust को तुरंत शून्य पर reset कर देता है
व्यस्त server पर Trust Tiers token खर्च को काफ़ी कम कर सकता है, क्योंकि जो members सबसे अधिक post करते हैं वे आमतौर पर वही हैं जो नियम कभी नहीं तोड़ते।
Trusted Members list वर्तमान में योग्य लोगों को दिखाती है। Reduce किसी का score आधा करता है; Remove इसे पूरी तरह clear करता है। दोनों तुरंत प्रभाव में आते हैं — save bar शामिल नहीं है।

​
Channels

  • Log channel — हर moderation event, matched category और confidence के साथ
  • Alert channel — high-severity events और confirmation prompts
दोनों में से कोई भी set न होने पर, AI moderation कहीं भी दृश्य record के बिना चलती और act करती है।

​
जब token balance ख़त्म हो जाए

AI Auto-Mod fail-closed है: यदि यह पुष्टि नहीं कर सकता कि budget है, तो यह scan नहीं करती। Notices आपके alert channel पर जाते हैं, log channel पर fall back करते हैं। यदि balance recover हो और दूसरी बार गिरे तो low-balance warning फिर fire होती है।

AI Usage

खर्च track करें, देखें क्या scan हुआ, और top up करें।

​
जब AI जवाब नहीं देती

अगर AI किसी message के text पर जवाब नहीं देती — क्योंकि वह down है या बहुत धीमी है — तो उस message को कोई AI verdict नहीं मिलता, उसकी कोई cost नहीं लगती और उसे दोबारा check नहीं किया जाता; किसी member का नाम उसके अगले update या नाम बदलने पर फिर से check होता है। Standard Auto-Moderation पर इसका कोई असर नहीं पड़ता। Images और videos एक बार और check होते हैं; नीचे देखें।

​
Images कैसे check होती हैं

प्रति message चार images तक check होती हैं, जिनमें Discord, Tenor, Giphy और Imgur के embeds में आने वाली images और किसी के forward किए गए messages की images भी शामिल हैं। चौथी image के बाद की images check नहीं होतीं; आपके alert channel पर सूचना भेजी जाती है, एक घंटे में अधिकतम एक बार।
  • Animated images — GIFs और animated WebP — उनके frames में check होती हैं, जो पहले से आख़िरी frame तक sample किए जाते हैं। जो animation इतना लंबा या बड़ा हो कि उसे पूरा sample न किया जा सके, उसे और animated PNG को उतने हिस्से के आधार पर check किया जाता है जितना sample किया जा सकता है; यदि कुछ नहीं मिलता, तो आपके alert channel पर सूचना भेजी जाती है कि उसे पूरी तरह check नहीं किया गया।
  • Videos check होते हैं इसके आधार पर कि वे क्या दिखाते हैं और उनमें क्या कहा जाता है; नीचे “Videos कैसे check होते हैं” देखें।
  • SVGs और बहुत छोटी images — 10 pixels से छोटी, या 1:200 से पतली — skip कर दी जाती हैं।
  • बड़ी images — जैसे photos और पूरी screen के screenshots — छोटे आकार में जाँची जाती हैं, जिसमें उनका text पढ़ने योग्य रहता है, इसलिए इनमें कम tokens लगते हैं।
यदि AI किसी image को judge करने से मना कर दे, या कोई safety filter उसे block कर दे, तो एक दूसरा AI model उसे classify करता है। यदि दोनों में से कोई नहीं कर पाता, तो image delete हो जाती है और staff को alert किया जाता है; age-restricted channel में staff को केवल alert किया जाता है। इसके लिए member को न कोई warning मिलती है और न कोई infraction। जिस message के text को AI provider का safety filter block कर दे, उसे भी इसी तरह handle किया जाता है। AI हर image में लिखा text भी पढ़ती है — जैसे किसी chat का screenshot या किसी meme का caption — और image पर फ़ैसला करते समय उसे ध्यान में रखती है, फिर उसके कुछ हिस्से को एक message की तरह दोबारा check करती है: किसी non-Latin लिपि (जैसे Arabic, Cyrillic या Chinese) में लिखा text, या letters की जगह अंकों से लिखा text; और पूरा text, जब AI को image के बारे में यक़ीन न हो या आपके server पर custom rules हों, जो उस text और image में दिखने वाली चीज़ों, दोनों पर check होते हैं। यह check केवल कोई result जोड़ सकता है, किसी result को कभी हटा नहीं सकता, और इसकी कोई cost नहीं लगती। अगर इसका जवाब नहीं मिलता, तो image का अपना verdict लागू रहता है। यदि कोई भी AI model जवाब नहीं देता, तो image लगभग 30 मिनट बाद फिर से check होती है, और आपके alert channel पर सूचना भेजी जाती है, एक घंटे में अधिकतम एक बार। जिस image को AI provider पढ़ नहीं पाता, उसे दोबारा check नहीं किया जाता; आपके alert channel पर उसी तरह सूचना भेजी जाती है।

​
Videos कैसे check होते हैं

इमेज और वीडियो स्कैन करें on होने पर, videos भी check होते हैं: video attachments, और वह video जो कोई Tenor या Giphy GIF चलाता है। YouTube या Twitch जैसी sites के videos download नहीं किए जाते; उनकी preview image किसी भी image की तरह check होती है। हर video background में check होता है, आमतौर पर post होने के आधे मिनट के भीतर:
  • यह क्या दिखाता है — पहले से आख़िरी तक, scene changes सहित, 12 frames तक को किसी image की तरह check किया जाता है।
  • क्या कहा और लिखा जाता है — इसके पहले 60 सेकंड की speech को transcribe करके screen पर दिखने वाले text के साथ एक message की तरह check किया जाता है, custom rules सहित। पहले मिनट के बाद की speech check नहीं की जाती।
हर result को आपकी settings के आधार पर परखा जाता है, और जिन results पर आपकी settings act करती हैं उनमें से सबसे गंभीर लागू होता है, ठीक वैसे ही जैसे किसी और AI Auto-Mod verdict में। जिन frames को judge करने से AI मना कर दे, उन्हें वैसी ही image की तरह handle किया जाता है: video delete हो जाता है और staff को alert किया जाता है, या age-restricted channel में staff को केवल alert किया जाता है। कुछ videos check नहीं होते। आपके alert channel पर यह सूचना भेजी जाती है, अधिकतम एक घंटे में एक बार:
  • 100 MB से बड़ी files।
  • वह video जिसे download या play नहीं किया जा सकता। इसे दोबारा check नहीं किया जाता।
  • वह video जिसे AI पूरी तरह check नहीं कर पाई। यदि AI उसके किसी हिस्से के लिए जवाब नहीं देती, तो उसे लगभग एक मिनट बाद एक बार और check किया जाता है। जिस video की picture पढ़ी नहीं जा सकती, उसकी speech फिर भी check की जाती है।
  • एक server पर 20 से अधिक videos प्रतीक्षा में, या किसी एक member के 3 से अधिक messages के videos — उससे आगे वाले skip कर दिए जाते हैं।

​
एक scan की क्या लागत है

एक message एक AI call उत्पन्न करता है, जिसकी cost उसकी लंबाई और आपके custom rules की संख्या चाहे जो हो, एक जैसी रहती है। Images वाला message text के लिए एक call plus प्रति image एक, चार तक उत्पन्न करता है; image में लिखा text पढ़ना free है। जिस image को पहला model judge करने से मना कर दे, उस पर एक call और लगती है, क्योंकि तब एक दूसरा model उसे check करता है। जिस image को AI provider पढ़ नहीं पाता, उसकी कोई cost नहीं होती। एक video की लागत 4 calls तक होती है: इसके frames के लिए दो तक, इसकी speech transcribe करने के लिए एक, और जो कहा गया और screen पर दिखा उसे check करने के लिए एक, जो video में speech न होने पर free है। कोई Tenor या Giphy GIF image और video दोनों के रूप में गिना जाता है। जिस video को download या play नहीं किया जा सकता, उसकी कोई cost नहीं होती, और पहले से check हो चुके video की repost की आमतौर पर कोई cost नहीं होती। जिस video को AI पहली बार में पूरी तरह check नहीं कर पाई, उसे एक बार और check किया जाता है, जिससे इनमें से कुछ calls की cost फिर से लग सकती है।
यदि image and video scanning आपके server के लिए महत्वपूर्ण नहीं है, तो इमेज और वीडियो स्कैन करें off करना उपलब्ध सबसे बड़ी बचत है।

​
Username scanning

जब member join करता है और जब वे अपना nickname, display name या username बदलते हैं तब Display names और usernames check होते हैं। Member के बाकी updates पर, जैसे कोई नया role मिलने पर, प्रति member हर 30 दिनों में अधिकतम एक check की cost लगती है। नाम categories के साथ-साथ आपके custom rules पर भी check होते हैं। नाम के लिए Delete action अर्थहीन है, इसलिए यह इसके बजाय alert बन जाता है।

​
Troubleshooting

इन पर क्रम में काम करें:
  1. क्या AI Auto-Mod Server Setup में on है?
  2. क्या आपने कोई categories enable की हैं? Default पर केवल एक on है।
  3. क्या आप Monitor mode में हैं? यह log करती है, और केवल नाबालिगों से जुड़ी सामग्री पर act करती है।
  4. क्या आपका token balance 3,000 से ऊपर है?
  5. क्या शामिल members Administrators हैं, या exempt list पर हैं?
Global slider के बजाय उस specific category की sensitivity कम करें जो over-fire हो रही है। Tune करते समय Monitor mode पर वापस जाएँ।
Image and video scanning off करें, Trust Tiers enable करें और उन high-traffic channels को exempt करें जिन्हें moderation की ज़रूरत नहीं है। Categories off करने से कोई बचत नहीं होती: कौन-सी categories और rules चालू हैं, इससे check की cost नहीं बदलती।
ऐसा server जिसमें module enabled है लेकिन कोई configuration कभी save नहीं हुआ, पूरी तरह चुप है। यह page खोलें, अपनी categories और log channel set करें, और एक बार save करें।
यह ठीक वही है जिसे AI Auto-Mod handle करती है और standard Auto-Mod नहीं। सुनिश्चित करें कि संबंधित category enabled है और इसकी sensitivity बहुत कम set नहीं है।

Auto-Moderation

Pattern-based filtering, हर tier पर मुफ़्त।

AI Server Control

Bot से बात करके server manage करें।