Auto-Mod IA

L’Auto-Moderazione standard confronta pattern. L’AI Auto-Moderation legge il messaggio come farebbe un moderatore: capisce sarcasmo, linguaggio in codice, errori intenzionali per aggirare i filtri e contenuti in qualsiasi lingua i tuoi membri scrivano. Legge anche le immagini e i video, e il testo che contengono. Un messaggio che l’Auto-Moderazione ha già rimosso non viene ricontrollato dall’AI.

​

Inizia in modalità Monitor

L’impostazione Operating mode è il controllo più importante della pagina.

​

Sensibilità

Uno slider, espresso in percentuale. L’AI assegna a ogni messaggio un punteggio da 0 a 100% per ogni categoria — quanto è probabile che la violi — e una categoria interviene non appena il suo punteggio raggiunge 100 meno la sensibilità: con una sensibilità di 25, dal 75%. Un punto di partenza bilanciato è 25–40%. Per il testo, una sensibilità superiore a 50 funziona come 50. Sotto un punteggio di 50 l’AI ritiene un messaggio più probabilmente accettabile che no, quindi un’impostazione più alta aggiungerebbe solo falsi positivi. Un messaggio che cerca di aggirare la moderazione a parole — sostenendo che lo staff l’ha approvato, rivolgendosi all’AI o giustificandosi come scherzo o finzione — viene sempre controllato con una sensibilità di almeno 50, e la sua voce di log lo indica. Le immagini non hanno questo limite. L’AI di solito è sicura su un’immagine; la sensibilità decide i casi limite, a cui assegna un punteggio dal 40 al 69%.

​

Categorie

Dieci categorie, ciascuna con il proprio interruttore, il proprio set di azioni e la propria sensibilità.

​

Canali con restrizioni per età

In un canale Discord con restrizioni per età, la categoria Sexual content è soppressa. Ogni altra categoria — incluso sexual content involving minors — continua a essere applicata normalmente. In questi canali, un’immagine o un video che l’AI non è riuscita a valutare viene segnalato allo staff invece di essere eliminato; vedi Come vengono controllate le immagini più sotto.

​

Azioni

Scegli qualsiasi combinazione per categoria: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Tre combinazioni vengono rifiutate:

• Kick e Ban insieme
• Alert con Ban
• Alert con Kick

Tutto il resto si somma. Delete si combina con qualsiasi cosa.

​

Regole personalizzate

Scrivi le regole del tuo server in inglese semplice. L’AI le controlla insieme alle categorie standard: nei messaggi e nei nomi dei membri, in ciò che mostrano le immagini e nel testo che contengono, e nel parlato e nel testo a schermo dei video. Ogni regola ha un nome, una descrizione fino a 1.000 caratteri, una singola azione e una sensibilità opzionale che sovrascrive il valore globale. Come per le categorie, per il testo una sensibilità superiore a 50 funziona come 50.

​

Escalation

Disattivata di default. Quando attiva, i recidivi ricevono azioni progressivamente più forti.

​

Esenzioni

• Exempt roles — i membri con uno di questi vengono saltati del tutto
• Exempt channels — i messaggi qui non vengono mai scansionati
• Exempt users — fino a 500, utile per i bot

​

Conferma prima di kick e ban

Attiva di default. Le azioni kick e ban vengono pubblicate per essere approvate da un moderatore invece che applicate immediatamente. Le conferme scadono dopo un’ora. Vengono pubblicate nel tuo canale alert, con fallback al canale log, con fallback al canale in cui era il messaggio.

​

Trust Tiers

Una misura di risparmio token. I membri con una lunga cronologia pulita vengono scansionati meno spesso. Quattro tutele fanno sì che un membro fidato non sia mai invisibile:

1. Inviti Discord, @everyone/@here e 5+ menzioni vengono sempre scansionati — nessuna eccezione
2. Una raffica di 3 messaggi in 6 secondi forza una scansione
3. Il campionamento non raggiunge mai zero — un membro fidato viene comunque scansionato periodicamente
4. Qualsiasi violazione azzera la fiducia istantaneamente

L’elenco Trusted Members mostra chi si qualifica attualmente. Reduce dimezza il punteggio di qualcuno; Remove lo azzera del tutto. Entrambi hanno effetto immediato — la barra di salvataggio non è coinvolta.

​

Canali

• Log channel — ogni evento di moderazione, con la categoria corrisposta e la confidenza
• Alert channel — eventi ad alta severità e prompt di conferma

​

Quando il saldo dei token si esaurisce

L’AI Auto-Mod è fail-closed: se non può confermare che c’è budget, non scansiona. Gli avvisi vanno al canale alert, con fallback al canale log. L’avviso di saldo basso scatta di nuovo se il saldo si riprende e scende una seconda volta.

​

Quando l’AI non risponde

Se l’AI non risponde sul testo di un messaggio — perché non è disponibile o è troppo lenta —, il messaggio resta senza verdetto dell’AI, non costa nulla e non viene ricontrollato; il nome di un membro viene ricontrollato al suo prossimo aggiornamento o cambio di nome. L’Auto-Moderazione standard non ne è influenzata. Le immagini e i video vengono controllati una volta in più; vedi sotto.

​

Come vengono controllate le immagini

Vengono controllate fino a quattro immagini per messaggio, comprese quelle negli embed di Discord, Tenor, Giphy e Imgur e nei messaggi che qualcuno inoltra. Le immagini oltre la quarta non vengono controllate; il tuo canale alert riceve un avviso, al massimo una volta all’ora.

• Immagini animate — GIF e WebP animati — vengono controllate lungo tutta l’animazione, con fotogrammi campionati dal primo all’ultimo. Un’animazione troppo lunga o troppo grande per essere campionata per intero, o un PNG animato, viene controllato in base a ciò che è possibile campionare; se non viene trovato nulla, il tuo canale alert riceve un avviso che l’immagine non è stata controllata del tutto.
• I video vengono controllati in base a cosa mostrano e a cosa viene detto al loro interno; vedi Come vengono controllati i video più sotto.
• SVG e immagini minuscole — sotto i 10 pixel, o più sottili di 1:200 — vengono saltati.
• Le immagini grandi — come foto e screenshot a schermo intero — vengono controllate a dimensioni ridotte che mantengono leggibile il testo, e costano meno token.

Se l’AI si rifiuta di valutare un’immagine, o un filtro di sicurezza la blocca, a classificarla è un secondo modello AI. Se nessuno dei due ci riesce, l’immagine viene eliminata e lo staff viene avvisato; in un canale con restrizioni per età lo staff viene solo avvisato. Il membro non riceve alcun avvertimento né alcuna infrazione per questo. Un messaggio il cui testo viene bloccato dal filtro di sicurezza del provider AI viene gestito allo stesso modo. L’AI legge anche il testo in ogni immagine — lo screenshot di una chat, la didascalia di un meme — per giudicarla, e ne ricontrolla una parte come un messaggio: il testo in una scrittura non latina, come l’arabo, il cirillico o il cinese, o scritto con numeri al posto delle lettere; e tutto il testo quando l’AI non è sicura dell’immagine o il tuo server ha regole personalizzate, che vengono controllate su quel testo e su ciò che mostra l’immagine. Questo controllo può solo aggiungere un risultato, mai annullarne uno, e non costa nulla. Se resta senza risposta, vale il verdetto sull’immagine stessa. Se non risponde alcun modello AI, l’immagine viene ricontrollata circa 30 minuti dopo e il tuo canale alert riceve un avviso, al massimo una volta all’ora. Un’immagine che il provider AI non riesce a leggere non viene ricontrollata; il tuo canale alert riceve un avviso allo stesso modo.

​

Come vengono controllati i video

Con Scansiona immagini e video attivo, vengono controllati anche i video: i video allegati, e il video riprodotto da una GIF Tenor o Giphy. I video su siti come YouTube o Twitch non vengono scaricati; la loro immagine di anteprima viene controllata come qualsiasi immagine. Ogni video viene controllato in background, di solito entro mezzo minuto dalla pubblicazione:

• Cosa mostra — vengono controllati come un’immagine fino a 12 fotogrammi, dal primo all’ultimo e inclusi i cambi di scena.
• Cosa viene detto e scritto — il parlato dei primi 60 secondi viene trascritto e controllato come un messaggio insieme al testo a schermo, regole personalizzate incluse. Il parlato oltre il primo minuto non viene controllato.

Ogni risultato viene valutato rispetto alle tue impostazioni, e viene applicato il più grave su cui le tue impostazioni agiscono, come qualsiasi altro verdetto dell’AI Auto-Mod. I fotogrammi che l’AI si rifiuta di valutare vengono gestiti come quell’immagine: il video viene eliminato e lo staff viene avvisato, oppure viene solo avvisato in un canale con restrizioni per età. Alcuni video non vengono controllati. Il tuo canale alert riceve un avviso, al massimo una volta all’ora:

• File oltre i 100 MB.
• Un video che non può essere scaricato o riprodotto. Non viene ricontrollato.
• Un video che l’AI non è riuscita a controllare del tutto. Se l’AI non risponde per una parte del video, questo viene ricontrollato una volta dopo circa un minuto. Per un video di cui non si riesce a leggere l’immagine, il parlato viene comunque controllato.
• Più di 20 video in attesa su un singolo server, o video da più di 3 messaggi di un singolo membro — quelli oltre questo numero vengono saltati.

​

Cosa costa una scansione

Un messaggio produce una chiamata AI, che costa lo stesso qualunque sia la sua lunghezza e quante regole personalizzate tu abbia. Un messaggio con immagini produce una chiamata per il testo più una per immagine, fino a quattro; leggere il testo in un’immagine è gratuito. Un’immagine che il primo modello si rifiuta di valutare costa una chiamata in più, perché a quel punto la controlla un secondo modello. Un’immagine che il provider non riesce a leggere non costa nulla. Un video costa fino a quattro chiamate: fino a due per i suoi fotogrammi, una per trascrivere il suo parlato e una per controllare cosa è stato detto e mostrato a schermo, gratuita quando il video non ha parlato. Una GIF Tenor o Giphy conta sia come immagine sia come video. Un video che non può essere scaricato o riprodotto non costa nulla, e ripubblicare un video già controllato di solito non costa nulla. Un video che l’AI non è riuscita a controllare del tutto la prima volta viene ricontrollato una volta, il che può costare di nuovo alcune di quelle chiamate.

​

Scansione degli username

I nomi visualizzati e gli username vengono controllati quando un membro entra e quando cambia il suo nickname, il nome visualizzato o lo username. Gli altri aggiornamenti del membro, come un nuovo ruolo, costano al massimo un controllo per membro ogni 30 giorni. I nomi vengono controllati rispetto alle tue regole personalizzate oltre che alle categorie. Un’azione Delete non ha senso per un nome, quindi diventa invece un alert.

​

Risoluzione dei problemi