Naar hoofdinhoud gaan
Alleen Black-tier. Op elke lagere tier wordt de pagina vervangen door de plannenweergave. Custom Bot (+) geeft geen AI-toegang — die zit aan de tier alleen vast.
Standaard Auto-Moderation matcht patronen. AI Auto-Moderation leest het bericht zoals een moderator dat zou doen: het begrijpt sarcasme, versluierd taalgebruik, spelfouten die filters proberen te omzeilen en inhoud in elke taal die je leden schrijven. Het leest ook afbeeldingen en video’s, en de tekst daarin. Een bericht dat Auto-Moderation al heeft verwijderd, wordt niet nog eens door de AI gecontroleerd.
Twee schakelaars moeten allebei aan staan: AI Auto-Mod in Server Setup en de instellingen op deze pagina. Met de module uit scant er niets en verschijnt hier geen waarschuwing behalve een oranje banner.

​
Begin in Monitor-modus

De instelling Operating mode is het belangrijkste besturingselement op de pagina.

Monitor

Overtredingen worden gelogd. Er wordt niet op gehandeld, behalve dat seksuele inhoud met minderjarigen altijd wordt verwijderd. Dit is de standaard.

Enforce

Geconfigureerde acties worden automatisch toegepast.
Monitor-modus kost nog steeds tokens — elk bericht wordt gescand, alleen de actie wordt achtergehouden. Als je Monitor aan laat staan zonder logkanaal, betaal je voor scans die niemand ziet.
Draai een paar dagen Monitor met een logkanaal, lees wat er is gemarkeerd, verfijn je gevoeligheid en schakel dan pas over naar Enforce. Deze stap overslaan is de meest voorkomende oorzaak van klachten over false positives.

​
Gevoeligheid

Eén schuifregelaar, uitgedrukt in procenten. De AI geeft elk bericht voor elke categorie een score van 0 tot 100% — hoe waarschijnlijk het is dat het die overtreedt — en een categorie grijpt in zodra de score 100 min de gevoeligheid bereikt: bij een gevoeligheid van 25 vanaf 75%. Een uitgebalanceerd startpunt is 25–40%. Voor tekst werkt een gevoeligheid boven 50 als 50. Onder een score van 50 vindt de AI een bericht eerder in orde dan niet, dus een hogere instelling zou alleen valse meldingen toevoegen. Een bericht dat zich langs de moderatie probeert te praten — door te beweren dat staff het heeft goedgekeurd, zich tot de AI te richten of zich als grap of fictie voor te doen — wordt altijd gecontroleerd met een gevoeligheid van minstens 50, en de logmelding vermeldt dat. Voor afbeeldingen geldt die grens niet. De AI is bij een afbeelding meestal zeker; de gevoeligheid beslist over de twijfelgevallen, die hij een score van 40 tot 69% geeft.
Elke categorie heeft een eigen gevoeligheidsschuif. Zodra die op een categorie is ingesteld, is dat de enige die geldt — de globale waarde is een fallback voor categorieën die je niet hebt afgestemd, geen extra minimum.

​
Categorieën

Tien categorieën, elk met een eigen schakelaar, eigen set acties en eigen gevoeligheid.
Alleen Seksuele inhoud met minderjarigen staat standaard aan. Elke andere categorie staat uit tot jij hem aanzet — een vers ingeschakelde AI Auto-Mod doet vrijwel niets tot je hem configureert.
Seksuele inhoud met minderjarigen wordt altijd verwijderd. Geeft de AI een bericht, afbeelding of video hiervoor een score van 50% of hoger, dan wordt de inhoud verwijderd en krijgt staff een melding — ook met de categorie uitgeschakeld, onder de ingestelde gevoeligheid, in een leeftijdsbeperkt kanaal of in Monitor-modus. De eigen instellingen van de categorie bepalen alleen de extra straf, zoals de ban. Inhoud die het kinderveiligheidsfilter van een AI-provider blokkeert, wordt op dezelfde manier behandeld. Niets daarvan wordt ooit getoond in een log- of alertmelding, en ook geen tekst die de AI hiervoor een score van 35% of hoger geeft. Laat hem aan.
Levert een bericht meerdere bevindingen op — de tekst, de afbeeldingen en de tekst daarin, de frames, de spraak en de tekst in beeld van een video — dan wordt elke bevinding afgewogen tegen je instellingen, en van de bevindingen waarop je instellingen handelen, wordt de ernstigste toegepast. Inhoud met minderjarigen met een score van 50% of hoger wordt verwijderd, bovenop de straf die een andere bevinding oplevert.

​
Leeftijdsbeperkte kanalen

In een leeftijdsbeperkt Discord-kanaal wordt de categorie Sexual content onderdrukt. Elke andere categorie — inclusief seksuele inhoud met minderjarigen — handhaaft nog normaal. Een afbeelding of video die de AI niet kon beoordelen, wordt daar aan staff gemeld in plaats van verwijderd; zie Hoe afbeeldingen worden gecontroleerd hieronder.

​
Acties

Kies per categorie een willekeurige combinatie: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Drie combinaties worden geweigerd:
  • Kick en Ban samen
  • Alert met Ban
  • Alert met Kick
Al het overige stapelt. Delete combineert met alles.
Mute is alleen een text-mute. Het legt het lid niet stil in voice-kanalen.

​
Aangepaste regels

Schrijf de regels van je server in gewoon Nederlands (of Engels). De AI controleert ze naast de standaardcategorieën: in berichten en ledennamen, in wat afbeeldingen tonen en de tekst daarin, en in de spraak en de tekst in beeld van video’s.
25 regels, alleen Black-tier.
Elke regel heeft een naam, een beschrijving van maximaal 1.000 tekens, één actie en optionele gevoeligheid die de globale waarde overschrijft. Net als bij categorieën werkt een gevoeligheid boven 50 voor tekst als 50.
Wees specifiek over zowel wat wel als wat niet mag. “Geen advertenties voor andere servers, maar de link van een vriend zijn art of stream in #showcase delen is prima” werkt veel beter dan “geen ads”.
Regeltekst die eruitziet als een poging om de instructies van de AI te manipuleren, wordt bij opslaan geweigerd. Weigert een regel op te slaan met een generieke fout, herformuleer hem dan als een neutrale beschrijving van het gedrag in plaats van als een commando.
Een aangepaste regel die matcht, wordt tegen zijn eigen gevoeligheid gecheckt en handhaaft onafhankelijk van of de bijbehorende categorie aan staat.

​
Escalatie

Standaard uit. Aan gezet krijgen recidivisten steeds sterkere acties.
1

Voeg stappen toe

Elke stap is een aantal overtredingen (1–99) plus een actie, met een duur voor timeout, mute en ban. Tot 20 stappen.
2

Stel het decay-window in

1 tot 30 dagen, standaard 7. Na deze tijd telt een overtreding niet meer mee.
Het huidige bericht telt mee in het totaal. Een stap op 1 overtreding vuurt bij de eerste overtreding van het lid, niet bij de tweede.
De actie van een stap vervangt de straf van de categorie, maar behoudt Delete en Alert als de categorie die had. Escalatie escaleert de straf; ze houdt niet tegen dat het bericht wordt verwijderd.
Een duur is gemaximeerd op één jaar. Het dashboard accepteert waarden als 100.000 uur die de server vervolgens met een generieke opslagfout weigert — houd duren binnen een jaar.

​
Uitzonderingen

  • Uitgezonderde rollen — leden met een van deze worden volledig overgeslagen
  • Uitgezonderde kanalen — berichten hier worden nooit gescand
  • Uitgezonderde gebruikers — tot 500, nuttig voor bots
Leden met Administrator worden nooit gescand, of je hen nu uitzondert of niet. Deze check draait voordat er een token wordt uitgegeven.

​
Bevestiging voor kick en ban

Standaard aan. Kick- en ban-acties worden ter goedkeuring aan een moderator voorgelegd in plaats van direct toegepast.
Bevestiging houdt de verwijdering niet tegen. Als de set acties van de categorie Delete bevat, wordt het bericht verwijderd op het moment dat de overtreding wordt gedetecteerd. Alleen de kick of ban wacht op goedkeuring.
Bevestigingen verlopen na een uur. Ze worden geplaatst in je alert-kanaal, met terugval naar het logkanaal, met terugval naar het kanaal waarin het bericht stond.

​
Trust Tiers

Een token-bezuiniging. Leden met een langdurige schone reputatie worden minder vaak gescand. Vier veiligheidsmaatregelen zorgen dat een vertrouwd lid nooit onzichtbaar wordt:
  1. Discord-invites, @everyone/@here en 5+ mentions worden altijd gescand — geen uitzonderingen
  2. Een burst van 3 berichten in 6 seconden dwingt een scan af
  3. Sampling bereikt nooit nul — een vertrouwd lid wordt periodiek nog gescand
  4. Elke overtreding zet vertrouwen direct terug op nul
Op een drukke server kunnen Trust Tiers het tokenverbruik flink drukken, omdat de leden die het meest posten meestal die zijn die nooit de regels breken.
De lijst Trusted Members toont wie op dit moment kwalificeert. Reduce halveert iemands score; Remove wist die volledig. Beide werken direct — de save bar is niet betrokken.

​
Kanalen

  • Log-kanaal — elke moderatie-gebeurtenis, met de gematchte categorie en het vertrouwen
  • Alert-kanaal — gebeurtenissen met hoge ernst en bevestigingsverzoeken
Zonder beide draait AI-moderatie en handelt ze zonder ergens een zichtbaar spoor.

​
Wanneer het tokensaldo op raakt

AI Auto-Mod is fail-closed: kan hij niet bevestigen dat er budget is, dan scant hij niet. Meldingen gaan naar je alert-kanaal, met terugval naar het logkanaal. De low-balance-waarschuwing vuurt opnieuw als het saldo herstelt en daarna weer daalt.

AI Usage

Volg verbruik, zie wat er gescand is en vul aan.

​
Als de AI niet antwoordt

Antwoordt de AI niet op de tekst van een bericht — omdat hij onbereikbaar of te traag is —, dan krijgt het bericht geen AI-oordeel, kost het niets en wordt het niet opnieuw gecontroleerd; de naam van een lid wordt opnieuw gecontroleerd bij de volgende wijziging aan het lid of aan de naam. Standaard Auto-Moderation merkt hier niets van. Afbeeldingen en video’s worden nog één keer gecontroleerd; zie hieronder.

​
Hoe afbeeldingen worden gecontroleerd

Per bericht worden tot vier afbeeldingen gecontroleerd, ook afbeeldingen in embeds van Discord, Tenor, Giphy en Imgur, en in berichten die iemand doorstuurt. Afbeeldingen na de vierde worden niet gecontroleerd; je alert-kanaal krijgt daarvan een melding, hooguit één keer per uur.
  • Geanimeerde afbeeldingen — GIF’s en geanimeerde WebP — worden over hun frames heen gecontroleerd, met steekproeven van het eerste tot het laatste frame. Een animatie die te lang of te groot is om volledig te bemonsteren, of een geanimeerde PNG, wordt gecontroleerd op wat er wel van kan worden bemonsterd; wordt er niets gevonden, dan krijgt je alert-kanaal een melding dat de controle niet volledig was.
  • Video’s worden gecontroleerd op wat ze laten zien en wat erin wordt gezegd; zie Hoe video’s worden gecontroleerd hieronder.
  • SVG’s en piepkleine afbeeldingen — kleiner dan 10 pixels, of smaller dan 1:200 — worden overgeslagen.
  • Grote afbeeldingen — zoals foto’s en schermafbeeldingen van het hele scherm — worden op een kleiner formaat gecontroleerd waarop hun tekst leesbaar blijft, en kosten daardoor minder tokens.
Weigert de AI een afbeelding te beoordelen, of wordt die door een veiligheidsfilter geblokkeerd, dan classificeert een tweede AI-model de afbeelding. Lukt dat geen van beide, dan wordt de afbeelding verwijderd en krijgt staff een melding; in een leeftijdsbeperkt kanaal krijgt staff alleen een melding. Het lid krijgt hiervoor geen waarschuwing en er wordt geen overtreding geregistreerd. Een bericht waarvan de tekst door het veiligheidsfilter van de AI-provider wordt geblokkeerd, wordt op dezelfde manier behandeld. De AI leest ook de tekst in elke afbeelding — een screenshot van een chat, het onderschrift van een meme — bij het beoordelen ervan, en controleert een deel ervan nog eens als een bericht: tekst in een niet-Latijns schrift, zoals Arabisch, Cyrillisch of Chinees, of geschreven met cijfers in plaats van letters; en alle tekst als de AI twijfelt over de afbeelding of je server aangepaste regels heeft, die worden gecontroleerd op die tekst en op wat de afbeelding toont. Deze controle kan alleen een bevinding toevoegen, er nooit een wegnemen, en kost niets. Blijft ze onbeantwoord, dan blijft het oordeel over de afbeelding zelf staan. Antwoordt er helemaal geen AI-model, dan wordt de afbeelding ongeveer 30 minuten later opnieuw gecontroleerd en krijgt je alert-kanaal een melding, hooguit één keer per uur. Een afbeelding die de AI-provider niet kan lezen, wordt niet opnieuw gecontroleerd; je alert-kanaal krijgt daarvan op dezelfde manier een melding.

​
Hoe video’s worden gecontroleerd

Met Afbeeldingen en video’s scannen aan, worden video’s ook gecontroleerd: video-bijlagen, en de video die een Tenor- of Giphy-GIF afspeelt. Video’s op sites zoals YouTube of Twitch worden niet gedownload; hun voorbeeldafbeelding wordt gecontroleerd als elke andere afbeelding. Elke video wordt op de achtergrond gecontroleerd, meestal binnen een halve minuut na het posten:
  • Wat hij laat zien — tot 12 frames, van het eerste tot het laatste en inclusief scènewisselingen, worden gecontroleerd als een afbeelding.
  • Wat er wordt gezegd en geschreven — de spraak in de eerste 60 seconden wordt getranscribeerd en samen met de tekst in beeld gecontroleerd als een bericht, inclusief aangepaste regels. Spraak na de eerste minuut wordt niet gecontroleerd.
Elke bevinding wordt afgewogen tegen je instellingen, en van de bevindingen waarop je instellingen handelen, wordt de ernstigste toegepast, zoals bij elke andere uitspraak van AI Auto-Mod. Frames die de AI weigert te beoordelen, worden behandeld als zo’n afbeelding: de video wordt verwijderd en staff krijgt een melding, of staff krijgt alleen een melding in een leeftijdsbeperkt kanaal. Sommige video’s worden niet gecontroleerd. Je alert-kanaal krijgt daarvan een melding, hooguit één keer per uur:
  • Bestanden groter dan 100 MB.
  • Een video die niet kan worden gedownload of afgespeeld. Die wordt niet opnieuw gecontroleerd.
  • Een video die de AI niet volledig kon controleren. Antwoordt de AI voor een deel ervan niet, dan wordt de video ongeveer een minuut later nog één keer gecontroleerd. Bij een video waarvan het beeld niet te lezen is, wordt de spraak toch gecontroleerd.
  • Meer dan 20 video’s in wachtrij op één server, of video’s uit meer dan 3 berichten van één lid — die daarboven worden overgeslagen.

​
Wat een scan kost

Eén bericht produceert één AI-aanroep, die evenveel kost ongeacht de lengte en het aantal aangepaste regels dat je hebt. Een bericht met afbeeldingen produceert één aanroep voor de tekst plus één per afbeelding, tot vier; het lezen van de tekst in een afbeelding is gratis. Een afbeelding die het eerste model weigert te beoordelen, kost één extra aanroep, omdat een tweede model die dan controleert. Een afbeelding die de provider niet kan lezen, kost niets. Een video kost tot vier aanroepen: tot twee voor de frames, één om de spraak te transcriberen en één om te controleren wat er is gezegd en in beeld staat, die gratis is als de video geen spraak bevat. Een Tenor- of Giphy-GIF telt als zowel een afbeelding als een video. Een video die niet kan worden gedownload of afgespeeld, kost niets, en een herplaatsing van een al gecontroleerde video kost meestal niets. Een video die de AI de eerste keer niet volledig kon controleren, wordt nog één keer gecontroleerd, wat een deel van die aanroepen opnieuw kan kosten.
Is beeld- en videoscanning niet belangrijk voor je server, dan is Afbeeldingen en video’s scannen uitzetten de grootste enkelvoudige besparing.

​
Scannen van gebruikersnamen

Weergavenamen en gebruikersnamen worden gecontroleerd wanneer een lid binnenkomt en wanneer die zijn bijnaam, weergavenaam of gebruikersnaam wijzigt. Andere wijzigingen aan een lid, zoals een nieuwe rol, kosten hooguit één controle per lid per 30 dagen. Namen worden naast de categorieën ook aan je aangepaste regels getoetst. Een Delete-actie heeft geen betekenis voor een naam, dus wordt hij een alert.

​
Probleemoplossing

Loop deze op volgorde langs:
  1. Staat AI Auto-Mod aan in Server Setup?
  2. Heb je categorieën ingeschakeld? Slechts één staat standaard aan.
  3. Zit je in Monitor-modus? Die logt, en handelt alleen bij inhoud met minderjarigen.
  4. Is je tokensaldo boven 3.000?
  5. Zijn de betrokken leden Administrators of staan ze op een uitzonderingslijst?
Verlaag de gevoeligheid van de specifieke categorie die te vaak vuurt, niet de globale schuif. Ga terug naar Monitor-modus tijdens het afstemmen.
Zet beeld- en videoscanning uit, schakel Trust Tiers in en zonder drukbezochte kanalen die geen moderatie nodig hebben uit. Categorieën uitzetten bespaart niets: een controle kost evenveel, welke categorieën en regels ook aan staan.
Een server met de module ingeschakeld maar zonder ooit opgeslagen configuratie is volledig stil. Open deze pagina, stel je categorieën en een logkanaal in en sla één keer op.
Dat is precies wat AI Auto-Mod afhandelt en wat standaard Auto-Mod niet doet. Zorg dat de relevante categorie is ingeschakeld en dat de gevoeligheid niet te laag staat.

Auto-Moderation

Patroongebaseerde filtering, gratis op elke tier.

AI Server Control

Beheer de server door met de bot te praten.