Zum Hauptinhalt springen
Nur Black-Stufe. Auf jeder niedrigeren Stufe wird die Seite durch die Tarifansicht ersetzt. Custom Bot (+) gewährt keinen KI-Zugriff — er hängt ausschließlich an der Stufe.
Standard-Auto-Moderation gleicht Muster ab. KI-Auto-Moderation liest die Nachricht so, wie es ein Moderator tun würde: Sie versteht Sarkasmus, verschlüsselte Sprache, absichtliche Tippfehler, um Filter zu umgehen, und Inhalte in jeder Sprache, in der deine Mitglieder schreiben. Sie liest auch Bilder und Videos und den Text darin. Eine Nachricht, die die Auto-Moderation bereits entfernt hat, wird von der KI nicht erneut geprüft.
Zwei Schalter müssen beide an sein: KI-Auto-Mod in der Server-Einrichtung und die Einstellungen auf dieser Seite. Bei ausgeschaltetem Modul scannt nichts, und hier erscheint über ein gelbes Banner hinaus keine Warnung.

​
Starte im Monitor-Modus

Die Einstellung Betriebsmodus ist das wichtigste Bedienelement auf der Seite.

Monitor

Verstöße werden protokolliert. Es wird nicht eingegriffen, außer dass sexuelle Inhalte mit Minderjährigen immer entfernt werden. Das ist der Standard.

Enforce

Konfigurierte Aktionen werden automatisch angewendet.
Der Monitor-Modus kostet trotzdem Tokens — jede Nachricht wird gescannt, nur die Aktion wird zurückgehalten. Wenn du Monitor ohne gesetzten Log-Kanal aktiv lässt, bezahlst du für Scans, deren Ergebnisse niemand sieht.
Lass Monitor ein paar Tage mit einem Log-Kanal laufen, lies, was er markiert hat, justiere deine Empfindlichkeit und wechsel dann zu Enforce. Diesen Schritt zu überspringen ist die häufigste Ursache für Beschwerden über False Positives.

​
Empfindlichkeit

Ein Schieberegler, in Prozent. Die KI bewertet jede Nachricht für jede Kategorie mit 0 bis 100 % — wie wahrscheinlich es ist, dass sie gegen die Kategorie verstößt —, und eine Kategorie greift ein, sobald ihr Wert 100 minus der Empfindlichkeit erreicht: bei einer Empfindlichkeit von 25 ab 75 %. Ein ausgewogener Startpunkt ist 25–40 %. Bei Text wirkt eine Empfindlichkeit über 50 wie 50. Unter einem Wert von 50 hält die KI eine Nachricht eher für unbedenklich als nicht, daher würde eine höhere Einstellung nur Fehlalarme hinzufügen. Eine Nachricht, die versucht, sich an der Moderation vorbeizureden — indem sie behauptet, das Team habe sie freigegeben, sich direkt an die KI wendet oder sich als Witz oder Fiktion ausgibt —, wird immer mit einer Empfindlichkeit von mindestens 50 geprüft, und ihr Log-Eintrag vermerkt das. Bei Bildern gibt es diese Grenze nicht. Die KI ist sich bei einem Bild meist sicher; über die Grenzfälle, die sie mit 40 bis 69 % bewertet, entscheidet die Empfindlichkeit.
Jede Kategorie hat ihren eigenen Empfindlichkeitsregler. Ist der Regler einer Kategorie gesetzt, gilt nur dieser — der globale Wert ist ein Rückfall für Kategorien, die du nicht angepasst hast, nicht eine zusätzliche Untergrenze.

​
Kategorien

Zehn Kategorien, jede mit eigenem Schalter, eigenem Aktionsset und eigener Empfindlichkeit.
Nur Sexuelle Inhalte mit Minderjährigen ist ab Werk aktiviert. Jede andere Kategorie ist aus, bis du sie einschaltest — eine frisch aktivierte KI-Auto-Mod tut fast nichts, bis du sie konfigurierst.
Sexuelle Inhalte mit Minderjährigen werden immer entfernt. Bewertet die KI eine Nachricht, ein Bild oder ein Video in dieser Kategorie mit 50 % oder mehr, wird der Inhalt gelöscht und das Team benachrichtigt — auch bei ausgeschalteter Kategorie, unterhalb ihrer Empfindlichkeitsschwelle, in einem altersbeschränkten Kanal oder im Monitor-Modus. Die Einstellungen der Kategorie selbst bestimmen nur die zusätzliche Strafe, etwa den Ban. Inhalte, die der Kinderschutzfilter eines KI-Anbieters blockiert, werden genauso behandelt. Nichts davon erscheint jemals in einem Log- oder Alert-Eintrag, ebenso wenig wie Text, den die KI hierfür mit 35 % oder mehr bewertet. Lass die Kategorie an.
Liefert eine Nachricht mehrere Ergebnisse — für ihren Text, ihre Bilder und den Text darin, die Einzelbilder, die Sprache und den Bildschirmtext eines Videos —, wird jedes an deinen Einstellungen gemessen, und angewendet wird das schwerwiegendste, bei dem deine Einstellungen eingreifen. Inhalte mit Minderjährigen, die mit 50 % oder mehr bewertet werden, werden zusätzlich zu der Strafe entfernt, die ein anderes Ergebnis verlangt.

​
Altersbeschränkte Kanäle

In einem altersbeschränkten Discord-Kanal wird die Kategorie Sexuelle Inhalte unterdrückt. Jede andere Kategorie — einschließlich sexueller Inhalte mit Minderjährigen — greift weiterhin normal. Ein Bild oder Video, das die KI nicht beurteilen konnte, wird dort dem Team gemeldet, statt gelöscht zu werden; siehe „Wie Bilder geprüft werden“ weiter unten.

​
Aktionen

Wähle je Kategorie eine beliebige Kombination: Nachricht löschen, Nutzer verwarnen, Timeout, Mute, Kick, Ban, Alert. Drei Kombinationen werden abgelehnt:
  • Kick und Ban gemeinsam
  • Alert mit Ban
  • Alert mit Kick
Alles andere ist kombinierbar. Löschen kombiniert sich mit allem.
Mute ist nur ein Text-Mute. Es schaltet das Mitglied in Voice-Kanälen nicht stumm.

​
Eigene Regeln

Schreibe die Regeln deines Servers in einfacher Sprache. Die KI prüft sie zusätzlich zu den Standardkategorien: in Nachrichten und Mitgliedernamen, in dem, was Bilder zeigen, und dem Text darin sowie in der Sprache und dem Bildschirmtext von Videos.
25 Regeln, nur Black-Stufe.
Jede Regel hat einen Namen, eine Beschreibung mit bis zu 1.000 Zeichen, eine einzelne Aktion und optional eine Empfindlichkeit, die den globalen Wert überschreibt. Wie bei Kategorien wirkt eine Empfindlichkeit über 50 bei Text wie 50.
Sei präzise darin, was erlaubt ist, und darin, was nicht. „Keine Werbung für andere Server, aber den Kunst- oder Stream-Link eines Freundes in #showcase zu teilen ist okay“ funktioniert weit besser als „keine Werbung“.
Regeltext, der wie ein Versuch aussieht, die Anweisungen der KI zu manipulieren, wird beim Speichern abgelehnt. Wenn eine Regel sich mit einem generischen Fehler nicht speichern lässt, formuliere sie als schlichte Beschreibung des Verhaltens statt als Befehl.
Eine passende eigene Regel wird gegen ihre eigene Empfindlichkeit geprüft und greift unabhängig davon, ob die entsprechende Kategorie aktiviert ist.

​
Eskalation

Standardmäßig aus. Wenn an, erhalten Wiederholungstäter zunehmend härtere Aktionen.
1

Stufen hinzufügen

Jede Stufe ist eine Verstoßzahl (1–99) plus Aktion, mit Dauer für Timeout, Mute und Ban. Bis zu 20 Stufen.
2

Verfallsfenster setzen

1 bis 30 Tage, Standard 7. Nach dieser Zeit zählt ein Verstoß nicht mehr.
Die aktuelle Nachricht zählt in die Summe hinein. Eine Stufe, die auf 1 Verstoß gesetzt ist, greift beim ersten Vergehen des Mitglieds, nicht beim zweiten.
Die Aktion einer Stufe ersetzt die Strafe der Kategorie, behält aber Löschen und Alert, wenn die Kategorie sie hatte. Eskalation eskaliert die Strafe; sie verhindert nicht, dass die Nachricht entfernt wird.
Eine Dauer ist auf ein Jahr begrenzt. Das Dashboard akzeptiert Werte wie 100.000 Stunden, die der Server dann mit einem generischen Speicherfehler ablehnt — halte Dauern innerhalb eines Jahres.

​
Ausnahmen

  • Ausgenommene Rollen — Mitglieder mit einer davon werden komplett übersprungen
  • Ausgenommene Kanäle — Nachrichten hier werden nie gescannt
  • Ausgenommene Nutzer — bis zu 500, nützlich für Bots
Mitglieder mit Administrator werden nie gescannt, egal ob du sie ausnimmst oder nicht. Diese Prüfung läuft, bevor ein Token ausgegeben wird.

​
Bestätigung vor Kick und Ban

Standardmäßig an. Kick- und Ban-Aktionen werden zur Freigabe durch einen Moderator gepostet, statt sofort angewendet zu werden.
Die Bestätigung hält die Löschung nicht zurück. Enthält das Aktionsset der Kategorie „Löschen“, wird die Nachricht in dem Moment entfernt, in dem der Verstoß erkannt wird. Nur Kick oder Ban warten auf Freigabe.
Bestätigungen laufen nach einer Stunde ab. Sie werden in deinem Alert-Kanal gepostet, mit Rückfall auf den Log-Kanal, mit Rückfall auf den Kanal, in dem die Nachricht war.

​
Trust Tiers

Eine Token-sparende Maßnahme. Mitglieder mit langer sauberer Historie werden seltener gescannt. Vier Absicherungen sorgen dafür, dass ein vertrautes Mitglied nie unsichtbar wird:
  1. Discord-Einladungen, @everyone/@here und 5+ Erwähnungen werden immer gescannt — keine Ausnahmen
  2. Ein Ausbruch von 3 Nachrichten in 6 Sekunden erzwingt einen Scan
  3. Sampling erreicht nie null — ein vertrautes Mitglied wird weiterhin regelmäßig gescannt
  4. Jeder Verstoß setzt das Vertrauen sofort auf null zurück
Auf einem stark frequentierten Server können Trust Tiers die Token-Kosten deutlich senken, weil die Mitglieder, die am meisten posten, meist genau die sind, die nie Regeln brechen.
Die Liste Vertrauenswürdige Mitglieder zeigt, wer aktuell qualifiziert ist. Reduzieren halbiert die Punktzahl einer Person; Entfernen löscht sie ganz. Beides wirkt sofort — die Speicherleiste ist nicht beteiligt.

​
Kanäle

  • Log-Kanal — jedes Moderations-Ereignis mit erkannter Kategorie und Konfidenz
  • Alert-Kanal — hochkritische Ereignisse und Bestätigungsanfragen
Sind beide nicht gesetzt, läuft KI-Moderation und agiert ohne irgendwo sichtbare Aufzeichnung.

​
Wenn das Token-Guthaben ausgeht

KI-Auto-Mod ist fail-closed: Wenn nicht bestätigt werden kann, dass Budget vorhanden ist, wird nicht gescannt. Hinweise gehen an deinen Alert-Kanal, mit Rückfall auf den Log-Kanal. Die Niedrig-Guthaben-Warnung feuert erneut, wenn sich das Guthaben erholt und ein zweites Mal abfällt.

KI-Nutzung

Verfolge Ausgaben, sieh, was gescannt wurde, und lade auf.

​
Wenn die KI nicht antwortet

Antwortet die KI nicht auf den Text einer Nachricht — weil sie ausgefallen oder zu langsam ist —, erhält die Nachricht kein KI-Urteil, kostet nichts und wird nicht erneut geprüft; der Name eines Mitglieds wird bei der nächsten Änderung am Mitglied oder an seinem Namen erneut geprüft. Die Standard-Auto-Moderation ist davon nicht betroffen. Bilder und Videos werden noch einmal geprüft; siehe unten.

​
Wie Bilder geprüft werden

Pro Nachricht werden bis zu vier Bilder geprüft, einschließlich Bildern in Embeds von Discord, Tenor, Giphy und Imgur sowie in Nachrichten, die jemand weiterleitet. Bilder über das vierte hinaus werden nicht geprüft; dein Alert-Kanal erhält einen Hinweis, höchstens einmal pro Stunde.
  • Animierte Bilder — GIFs sowie animierte WebP-Dateien — werden über ihre Einzelbilder hinweg geprüft, stichprobenartig vom ersten bis zum letzten Einzelbild. Eine Animation, die zu lang oder zu groß ist, um sie vollständig stichprobenartig zu erfassen, oder ein animiertes PNG wird anhand dessen geprüft, was sich erfassen lässt; wird dabei nichts gefunden, erhält dein Alert-Kanal einen Hinweis, dass das Bild nicht vollständig geprüft wurde.
  • Videos werden danach geprüft, was sie zeigen und was darin gesagt wird; siehe „Wie Videos geprüft werden“ weiter unten.
  • SVGs und winzige Bilder — kleiner als 10 Pixel oder schmaler als 1:200 — werden übersprungen.
  • Große Bilder — etwa Fotos und Screenshots des ganzen Bildschirms — werden verkleinert geprüft, in einer Größe, in der ihr Text lesbar bleibt, und verbrauchen dadurch weniger Tokens.
Verweigert die KI die Beurteilung eines Bildes oder blockiert ein Sicherheitsfilter es, klassifiziert ein zweites KI-Modell das Bild. Gelingt das keinem von beiden, wird das Bild gelöscht und das Team benachrichtigt; in einem altersbeschränkten Kanal wird das Team nur benachrichtigt. Dem Mitglied wird dafür weder eine Verwarnung erteilt noch ein Verstoß angerechnet. Eine Nachricht, deren Text der Sicherheitsfilter des KI-Anbieters blockiert, wird genauso behandelt. Die KI liest auch den Text in jedem Bild — etwa einen Chat-Screenshot oder die Beschriftung eines Memes — und bezieht ihn in ihr Urteil über das Bild ein; einen Teil davon prüft sie danach noch einmal wie eine Nachricht: Text in einer nicht-lateinischen Schrift wie Arabisch, Kyrillisch oder Chinesisch oder mit Ziffern anstelle von Buchstaben, und den gesamten Text, wenn sich die KI bei dem Bild unsicher ist oder dein Server eigene Regeln hat, die an diesem Text und an dem geprüft werden, was das Bild zeigt. Diese Prüfung kann nur ein Ergebnis hinzufügen, nie eines aufheben, und sie kostet nichts. Bleibt sie unbeantwortet, gilt das eigene Urteil über das Bild. Antwortet überhaupt kein KI-Modell, wird das Bild etwa 30 Minuten später erneut geprüft, und dein Alert-Kanal erhält einen Hinweis, höchstens einmal pro Stunde. Ein Bild, das der KI-Anbieter nicht lesen kann, wird nicht erneut geprüft; dein Alert-Kanal erhält auf dieselbe Weise einen Hinweis.

​
Wie Videos geprüft werden

Ist Bilder und Videos scannen aktiviert, werden auch Videos geprüft: Video-Anhänge und das Video, das ein Tenor- oder Giphy-GIF abspielt. Videos auf Seiten wie YouTube oder Twitch werden nicht heruntergeladen; ihr Vorschaubild wird wie jedes Bild geprüft. Jedes Video wird im Hintergrund geprüft, meist innerhalb von einer halben Minute nach dem Posten:
  • Was es zeigt — bis zu 12 Einzelbilder, vom ersten bis zum letzten und einschließlich Szenenwechsel, werden wie ein Bild geprüft.
  • Was gesagt und geschrieben wird — die Sprache in den ersten 60 Sekunden wird transkribiert und zusammen mit dem Bildschirmtext wie eine Nachricht geprüft, eigene Regeln eingeschlossen. Sprache nach der ersten Minute wird nicht geprüft.
Jedes Ergebnis wird an deinen Einstellungen gemessen, und angewendet wird das schwerwiegendste, bei dem deine Einstellungen eingreifen — wie bei jedem anderen KI-Auto-Mod-Urteil. Einzelbilder, deren Beurteilung die KI verweigert, werden wie ein solches Bild behandelt: Das Video wird gelöscht und das Team benachrichtigt, oder in einem altersbeschränkten Kanal nur benachrichtigt. Manche Videos werden nicht geprüft. Dein Alert-Kanal erhält einen Hinweis, höchstens einmal pro Stunde:
  • Dateien über 100 MB.
  • Ein Video, das sich nicht herunterladen oder abspielen lässt. Es wird nicht erneut geprüft.
  • Ein Video, das die KI nicht vollständig prüfen konnte. Antwortet die KI für einen Teil davon nicht, wird es etwa eine Minute später noch einmal geprüft. Bei einem Video, dessen Bild nicht gelesen werden kann, wird trotzdem die Sprache geprüft.
  • Mehr als 20 wartende Videos auf einem Server, oder Videos aus mehr als 3 Nachrichten eines Mitglieds — die darüber hinausgehenden werden übersprungen.

​
Was ein Scan kostet

Eine Nachricht erzeugt einen KI-Aufruf, der gleich viel kostet, egal wie lang sie ist und wie viele eigene Regeln du hast. Eine Nachricht mit Bildern erzeugt einen Aufruf für den Text plus einen pro Bild, bis zu vier; das Lesen des Texts in einem Bild ist kostenlos. Ein Bild, dessen Beurteilung das erste Modell verweigert, kostet einen weiteren Aufruf, weil ein zweites Modell es dann prüft. Ein Bild, das der Anbieter nicht lesen kann, kostet nichts. Ein Video kostet bis zu vier Aufrufe: bis zu zwei für seine Einzelbilder, einen, um seine Sprache zu transkribieren, und einen, um das Gesagte und den Bildschirmtext zu prüfen — kostenlos, wenn das Video keine Sprache enthält. Ein Tenor- oder Giphy-GIF zählt sowohl als Bild als auch als Video. Ein Video, das sich nicht herunterladen oder abspielen lässt, kostet nichts, und ein Repost eines bereits geprüften Videos kostet meist nichts. Ein Video, das die KI beim ersten Mal nicht vollständig prüfen konnte, wird noch einmal geprüft, was einige dieser Aufrufe erneut kosten kann.
Wenn Bild- und Videoscannen für deinen Server nicht wichtig ist, ist das Ausschalten von Bilder und Videos scannen die größte einzelne Einsparung, die möglich ist.

​
Benutzernamen-Scan

Anzeigenamen und Benutzernamen werden geprüft, wenn ein Mitglied beitritt und wenn es seinen Nicknamen, Anzeigenamen oder Benutzernamen ändert. Andere Änderungen am Mitglied, etwa eine neue Rolle, kosten höchstens eine Prüfung pro Mitglied alle 30 Tage. Namen werden an deinen eigenen Regeln ebenso wie an den Kategorien geprüft. Eine Löschen-Aktion ergibt für einen Namen keinen Sinn, daher wird sie zu einem Alert.

​
Fehlerbehebung

Arbeite Folgendes der Reihe nach ab:
  1. Ist KI-Auto-Mod in der Server-Einrichtung an?
  2. Hast du irgendwelche Kategorien aktiviert? Standardmäßig ist nur eine an.
  3. Bist du im Monitor-Modus? Er protokolliert und greift nur bei Inhalten mit Minderjährigen ein.
  4. Ist dein Token-Guthaben über 3.000?
  5. Sind die betroffenen Mitglieder Administratoren oder auf einer Ausnahmeliste?
Senke die Empfindlichkeit der konkreten Kategorie, die zu oft feuert, statt des globalen Reglers. Kehre zum Monitor-Modus zurück, während du justierst.
Schalte Bild- und Videoscannen aus, aktiviere Trust Tiers und nimm stark frequentierte Kanäle aus, die keine Moderation brauchen. Kategorien auszuschalten spart nichts: Eine Prüfung kostet gleich viel, egal welche Kategorien und Regeln aktiv sind.
Ein Server mit aktiviertem Modul, aber ohne je gespeicherter Konfiguration ist völlig still. Öffne diese Seite, setze deine Kategorien und einen Log-Kanal und speichere einmal.
Genau damit geht KI-Auto-Mod um und Standard-Auto-Mod nicht. Stelle sicher, dass die passende Kategorie aktiviert ist und ihre Empfindlichkeit nicht zu niedrig eingestellt ist.

Auto-Moderation

Musterbasierte Filterung, in jeder Stufe kostenlos.

KI-Server-Steuerung

Den Server durch Sprechen mit dem Bot verwalten.