Auto-Mod IA

L’Auto-Modération standard filtre par motifs. L’AI Auto-Modération lit le message comme le ferait un modérateur : elle comprend le sarcasme, le langage codé, les fautes volontaires pour contourner les filtres et le contenu dans n’importe quelle langue parlée par vos membres. Elle lit également les images et les vidéos, ainsi que le texte qu’elles contiennent. Un message que l’Auto-Modération a déjà supprimé n’est pas revérifié par l’IA.

​

Commencez en mode Monitor

Le paramètre Operating mode est le contrôle le plus important de la page.

​

Sensibilité

Un seul curseur, exprimé en pourcentage. L’IA note chaque message de 0 à 100 % pour chaque catégorie — la probabilité qu’il l’enfreigne — et une catégorie agit dès que sa note atteint 100 moins la sensibilité : avec une sensibilité de 25, à partir de 75 %. Un point de départ équilibré est 25–40 %. Pour le texte, une sensibilité supérieure à 50 agit comme 50. En dessous d’une note de 50, l’IA juge un message plutôt acceptable que non, donc un réglage plus élevé ne ferait qu’ajouter des faux positifs. Un message qui tente de contourner la modération par la parole — en affirmant que le staff l’a approuvé, en s’adressant à l’IA ou en se faisant passer pour une blague ou une fiction — est toujours vérifié avec une sensibilité d’au moins 50, et son entrée de log l’indique. Les images n’ont pas cette limite. L’IA est généralement sûre d’elle pour une image ; la sensibilité tranche les cas limites, qu’elle note de 40 à 69 %.

​

Catégories

Dix catégories, chacune avec son propre interrupteur, son propre jeu d’actions et sa propre sensibilité.

​

Salons soumis à un âge

Dans un salon Discord à accès restreint par âge, la catégorie Contenu sexuel est supprimée. Toutes les autres — y compris contenu sexuel impliquant des mineurs — s’appliquent normalement. Une image ou une vidéo que l’IA n’a pas pu juger y est signalée au staff au lieu d’être supprimée ; voir « Comment les images sont vérifiées » ci-dessous.

​

Actions

Choisissez n’importe quelle combinaison par catégorie : Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Trois combinaisons sont refusées :

• Kick et Ban ensemble
• Alert avec Ban
• Alert avec Kick

Tout le reste se combine. Delete se combine avec n’importe quoi.

​

Règles personnalisées

Rédigez vos propres règles en langage naturel. L’IA les vérifie en parallèle des catégories standards : dans les messages et les noms des membres, dans ce que montrent les images et le texte qu’elles contiennent, et dans la parole et le texte à l’écran des vidéos. Chaque règle a un nom, une description jusqu’à 1 000 caractères, une seule action, et une sensibilité optionnelle qui remplace la valeur globale. Comme pour les catégories, une sensibilité supérieure à 50 agit comme 50 pour le texte.

​

Escalade

Désactivée par défaut. Activée, les récidivistes reçoivent des sanctions progressivement plus fortes.

​

Exemptions

• Rôles exemptés — les membres possédant l’un de ces rôles sont entièrement ignorés
• Salons exemptés — les messages ici ne sont jamais analysés
• Utilisateurs exemptés — jusqu’à 500, utile pour les bots

​

Confirmation avant kick et ban

Activée par défaut. Les actions kick et ban sont postées pour approbation par un modérateur plutôt qu’appliquées immédiatement. Les confirmations expirent après une heure. Elles sont postées dans votre salon d’alertes, à défaut le salon de logs, à défaut le salon où se trouvait le message.

​

Trust Tiers

Une mesure d’économie de jetons. Les membres avec un long historique propre sont analysés moins souvent. Quatre garde-fous font qu’un membre de confiance n’est jamais invisible :

1. Les invitations Discord, @everyone/@here et 5+ mentions sont toujours analysées — sans exception
2. Une salve de 3 messages en 6 secondes force une analyse
3. L’échantillonnage n’atteint jamais zéro — un membre de confiance est tout de même analysé périodiquement
4. Toute infraction remet la confiance à zéro immédiatement

La liste Trusted Members montre qui se qualifie actuellement. Reduce divise par deux le score de quelqu’un ; Remove l’efface entièrement. Les deux prennent effet immédiatement — la barre de sauvegarde n’intervient pas.

​

Salons

• Salon de logs — chaque événement de modération, avec la catégorie détectée et la confiance
• Salon d’alertes — événements de haute gravité et invites de confirmation

​

Quand le solde de jetons s’épuise

L’AI Auto-Mod est en fail-closed : si elle ne peut pas confirmer qu’il y a du budget, elle n’analyse pas. Les avis vont dans votre salon d’alertes, à défaut dans le salon de logs. L’avertissement de solde bas se déclenche à nouveau si le solde remonte puis chute une seconde fois.

​

Quand l’IA ne répond pas

Si l’IA ne répond pas pour le texte d’un message — parce qu’elle est indisponible ou trop lente —, le message n’obtient aucun verdict de l’IA, ne coûte rien et n’est pas revérifié ; le nom d’un membre est revérifié lors de sa prochaine mise à jour ou de son prochain changement de nom. L’Auto-Modération standard n’est pas concernée. Les images et les vidéos sont vérifiées une fois de plus ; voir ci-dessous.

​

Comment les images sont vérifiées

Jusqu’à quatre images par message sont vérifiées, y compris les images des embeds de Discord, Tenor, Giphy et Imgur, et celles des messages que quelqu’un transfère. Les images au-delà de la quatrième ne sont pas vérifiées ; votre salon d’alertes en est informé, au plus une fois par heure.

• Les images animées — GIF et WebP animés — sont vérifiées sur toute leur durée, avec un échantillonnage de la première à la dernière image. Une animation trop longue ou trop volumineuse pour être entièrement échantillonnée, ou un PNG animé, est vérifié à partir de ce qui peut en être échantillonné ; si rien n’est trouvé, votre salon d’alertes est informé que l’image n’a pas été entièrement vérifiée.
• Les vidéos sont vérifiées d’après ce qu’elles montrent et ce qui y est dit ; voir « Comment les vidéos sont vérifiées » ci-dessous.
• Les SVG et les images minuscules — de moins de 10 pixels ou plus étroites que 1:200 — sont ignorés.
• Les grandes images — comme les photos et les captures d’écran en plein écran — sont vérifiées à une taille réduite qui garde leur texte lisible, ce qui consomme moins de jetons.

Si l’IA refuse de juger une image, ou si un filtre de sécurité la bloque, un second modèle d’IA la classifie. Si aucun des deux n’y parvient, l’image est supprimée et le staff est alerté ; dans un salon à accès restreint par âge, le staff est seulement alerté. Le membre ne reçoit pour cela ni avertissement ni infraction. Un message dont le texte est bloqué par le filtre de sécurité du fournisseur d’IA est traité de la même façon. L’IA lit aussi le texte de chaque image — une capture d’écran d’une conversation, la légende d’un mème — pour la juger, et en vérifie une partie une seconde fois comme un message : le texte dans une écriture non latine, comme l’arabe, le cyrillique ou le chinois, ou écrit avec des chiffres à la place des lettres ; et tout le texte quand l’IA n’est pas sûre de l’image ou que votre serveur a des règles personnalisées, vérifiées sur ce texte et sur ce que montre l’image. Cette vérification peut seulement ajouter un résultat, jamais en annuler un, et elle ne coûte rien. Si elle reste sans réponse, le verdict propre à l’image s’applique. Si aucun modèle d’IA ne répond, l’image est de nouveau vérifiée environ 30 minutes plus tard, et votre salon d’alertes en est informé, au plus une fois par heure. Une image que le fournisseur d’IA ne peut pas lire n’est pas revérifiée ; votre salon d’alertes en est informé de la même façon.

​

Comment les vidéos sont vérifiées

Avec Analyser les images et vidéos activé, les vidéos sont vérifiées elles aussi : les vidéos en pièce jointe, et la vidéo que joue un GIF Tenor ou Giphy. Les vidéos sur des sites comme YouTube ou Twitch ne sont pas téléchargées ; leur image d’aperçu est vérifiée comme une image ordinaire. Chaque vidéo est vérifiée en arrière-plan, généralement dans la demi-minute suivant sa publication :

• Ce qu’elle montre — jusqu’à 12 images, de la première à la dernière et incluant les changements de scène, sont vérifiées comme une image.
• Ce qui est dit et écrit — la parole de ses 60 premières secondes est transcrite et vérifiée comme un message avec le texte à l’écran, règles personnalisées comprises. La parole après la première minute n’est pas vérifiée.

Chaque résultat est évalué au regard de vos paramètres, et c’est le plus grave sur lequel vos paramètres agissent qui est appliqué, comme pour n’importe quel autre verdict d’AI Auto-Mod. Les images que l’IA refuse de juger sont traitées comme cette image : la vidéo est supprimée et le staff est alerté, ou seulement alerté dans un salon à accès restreint par âge. Certaines vidéos ne sont pas vérifiées. Votre salon d’alertes en est informé, au plus une fois par heure :

• Les fichiers de plus de 100 MB.
• Une vidéo qui ne peut pas être téléchargée ou lue. Elle n’est pas revérifiée.
• Une vidéo que l’IA n’a pas pu vérifier entièrement. Si l’IA ne répond pas pour une partie de la vidéo, celle-ci est revérifiée une fois, environ une minute plus tard. Pour une vidéo dont l’image ne peut pas être lue, la parole est tout de même vérifiée.
• Plus de 20 vidéos en attente sur un même serveur, ou des vidéos provenant de plus de 3 messages d’un même membre — celles au-delà sont ignorées.

​

Ce qu’une analyse coûte

Un message produit un appel IA, facturé pareil quelle que soit sa longueur et quel que soit le nombre de vos règles personnalisées. Un message avec images produit un appel pour le texte plus un par image, jusqu’à quatre ; la lecture du texte d’une image est gratuite. Une image que le premier modèle refuse de juger coûte un appel supplémentaire, car un second modèle la vérifie alors. Une image que le fournisseur ne peut pas lire ne coûte rien. Une vidéo coûte jusqu’à quatre appels : jusqu’à deux pour ses images, un pour transcrire sa parole et un pour vérifier ce qui a été dit et affiché à l’écran, gratuit lorsque la vidéo ne contient pas de parole. Un GIF Tenor ou Giphy compte à la fois comme une image et comme une vidéo. Une vidéo qui ne peut pas être téléchargée ou lue ne coûte rien, et republier une vidéo déjà vérifiée ne coûte généralement rien. Une vidéo que l’IA n’a pas pu vérifier entièrement la première fois est revérifiée une fois, ce qui peut coûter à nouveau une partie de ces appels.

​

Analyse des noms d’utilisateur

Les noms d’affichage et noms d’utilisateur sont vérifiés lors de l’arrivée d’un membre et lorsqu’il change de pseudo, de nom d’affichage ou de nom d’utilisateur. Les autres mises à jour du membre, comme un nouveau rôle, coûtent au plus une vérification par membre tous les 30 jours. Les noms sont vérifiés au regard de vos règles personnalisées comme des catégories. Une action Delete n’a pas de sens pour un nom, elle devient donc une alerte.

​

Dépannage