Auto-Mod IA

A Auto-Moderation padrão casa padrões. A moderação por IA lê a mensagem como um moderador leria: entende sarcasmo, linguagem codificada, erros propositais para driblar filtros e conteúdo em qualquer idioma que seus membros usem. Também lê imagens e vídeos, e o texto que eles contêm. Uma mensagem que a Auto-Moderation já removeu não é verificada de novo pela IA.

​

Comece em modo Monitor

A configuração Operating mode é o controle mais importante da página.

​

Sensibilidade

Um único slider, expresso em porcentagem. A IA dá a cada mensagem uma pontuação de 0 a 100% em cada categoria — a probabilidade de ela violá-la — e uma categoria age assim que sua pontuação atinge 100 menos a sensibilidade: com sensibilidade 25, a partir de 75%. Um ponto de partida equilibrado é 25–40%. Para texto, uma sensibilidade acima de 50 funciona como 50. Abaixo de uma pontuação de 50, a IA considera a mensagem mais provavelmente aceitável do que não, então um ajuste mais alto só acrescentaria falsos positivos. Uma mensagem que tenta driblar a moderação na conversa — alegando que a staff a aprovou, dirigindo-se à IA ou se justificando como piada ou ficção — é sempre verificada com uma sensibilidade de pelo menos 50, e a entrada de log dela registra isso. Imagens não têm esse limite. A IA costuma ter certeza sobre uma imagem; a sensibilidade decide os casos limítrofes, que ela pontua de 40 a 69%.

​

Categorias

Dez categorias, cada uma com seu próprio interruptor, seu conjunto de ações e sua sensibilidade.

​

Canais com restrição de idade

Em um canal do Discord com restrição de idade, a categoria Conteúdo sexual é suprimida. Toda outra categoria — incluindo conteúdo sexual envolvendo menores — continua sendo aplicada normalmente. Nesses canais, uma imagem ou vídeo que a IA não conseguiu avaliar é reportado à staff em vez de ser excluído; veja Como as imagens são verificadas abaixo.

​

Ações

Escolha qualquer combinação por categoria: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Três combinações são recusadas:

• Kick e Ban juntos
• Alert com Ban
• Alert com Kick

Todo o resto empilha. Delete combina com qualquer coisa.

​

Regras personalizadas

Escreva as regras próprias do seu servidor em português comum. A IA as verifica junto com as categorias padrão: em mensagens e nomes de membros, no que as imagens mostram e no texto delas, e na fala e no texto na tela dos vídeos. Cada regra tem um nome, uma descrição de até 1.000 caracteres, uma única ação e uma sensibilidade opcional que sobrescreve o valor global. Assim como nas categorias, para texto uma sensibilidade acima de 50 funciona como 50.

​

Escalação

Desligada por padrão. Quando ligada, reincidentes recebem ações progressivamente mais fortes.

​

Isenções

• Cargos isentos — membros com qualquer um deles são totalmente pulados
• Canais isentos — mensagens ali nunca são escaneadas
• Usuários isentos — até 500, útil para bots

​

Confirmação antes de kick e ban

Ligada por padrão. Ações de kick e ban são postadas para um moderador aprovar em vez de aplicadas imediatamente. Confirmações expiram após uma hora. Elas são postadas no seu canal de alerta, com fallback para o canal de log e depois para o canal onde a mensagem foi enviada.

​

Trust Tiers

Uma medida para economizar tokens. Membros com longo histórico limpo são escaneados com menos frequência. Quatro salvaguardas garantem que um membro confiável nunca fica invisível:

1. Convites do Discord, @everyone/@here e 5+ menções são sempre escaneados — sem exceções
2. Uma rajada de 3 mensagens em 6 segundos força um scan
3. A amostragem nunca chega a zero — um membro confiável ainda é escaneado periodicamente
4. Qualquer violação zera a confiança instantaneamente

A lista Trusted Members mostra quem atualmente qualifica. Reduce corta a pontuação de alguém pela metade; Remove zera. Ambos têm efeito imediato — a barra de salvamento não é envolvida.

​

Canais

• Canal de log — todo evento de moderação, com a categoria casada e a confiança
• Canal de alerta — eventos de alta severidade e pedidos de confirmação

​

Quando o saldo de tokens acaba

O AI Auto-Mod é fail-closed: se não puder confirmar que há orçamento, não escaneia. Os avisos vão para o canal de alerta, com fallback para o canal de log. O aviso de saldo baixo dispara de novo se o saldo se recupera e cai uma segunda vez.

​

Quando a IA não responde

Se a IA não responder sobre o texto de uma mensagem — por estar fora do ar ou lenta demais —, a mensagem fica sem veredito da IA, não custa nada e não é verificada de novo; o nome de um membro é verificado de novo na próxima atualização do membro ou troca de nome. A Auto-Moderation padrão não é afetada. Imagens e vídeos são verificados mais uma vez; veja abaixo.

​

Como as imagens são verificadas

São verificadas até quatro imagens por mensagem, incluindo imagens em embeds do Discord, Tenor, Giphy e Imgur, e em mensagens que alguém encaminha. Imagens além da quarta não são verificadas; seu canal de alerta é avisado, no máximo uma vez por hora.

• Imagens animadas — GIFs e WebP animados — são verificadas ao longo de seus quadros, amostrados do primeiro ao último. Uma animação longa ou grande demais para ser amostrada por completo, ou um PNG animado, é verificado com base no que pode ser amostrado; se nada for encontrado, seu canal de alerta é avisado de que a verificação não foi completa.
• Vídeos são verificados pelo que mostram e pelo que é dito neles; veja Como os vídeos são verificados abaixo.
• SVGs e imagens minúsculas — com menos de 10 pixels, ou mais estreitas que 1:200 — são ignorados.
• Imagens grandes — como fotos e capturas de tela inteira — são verificadas em tamanho reduzido, que mantém o texto legível, e por isso gastam menos tokens.

Se a IA se recusar a avaliar uma imagem, ou um filtro de segurança a bloquear, um segundo modelo de IA a classifica. Se nenhum dos dois conseguir, a imagem é excluída e a staff é alertada; em um canal com restrição de idade, a staff é apenas alertada. O membro não recebe advertência nem infração por isso. Uma mensagem cujo texto o filtro de segurança do provedor de IA bloqueia é tratada da mesma forma. A IA também lê o texto de cada imagem — uma captura de tela de um chat, a legenda de um meme — ao julgá-la, e verifica parte dele de novo como uma mensagem: o texto em uma escrita não latina, como o árabe, o cirílico ou o chinês, ou escrito com números no lugar de letras; e todo o texto quando a IA não tem certeza sobre a imagem ou o seu servidor tem regras personalizadas, que são verificadas nesse texto e no que a imagem mostra. Essa verificação só pode acrescentar um resultado, nunca anular um, e não custa nada. Se ficar sem resposta, vale o veredito da própria imagem. Se nenhum modelo de IA responder, a imagem é verificada de novo cerca de 30 minutos depois, e seu canal de alerta é avisado, no máximo uma vez por hora. Uma imagem que o provedor de IA não consegue ler não é verificada de novo; seu canal de alerta é avisado da mesma forma.

​

Como os vídeos são verificados

Com Analisar imagens e vídeos ligado, vídeos também são verificados: anexos de vídeo, e o vídeo que um GIF do Tenor ou Giphy reproduz. Vídeos em sites como YouTube ou Twitch não são baixados; sua imagem de prévia é verificada como qualquer imagem. Cada vídeo é verificado em segundo plano, geralmente dentro de meio minuto após ser postado:

• O que ele mostra — até 12 quadros, do primeiro ao último e incluindo mudanças de cena, são verificados como uma imagem.
• O que é dito e escrito — a fala dos primeiros 60 segundos é transcrita e verificada como uma mensagem junto com o texto na tela, regras personalizadas incluídas. Fala após o primeiro minuto não é verificada.

Cada resultado é avaliado em relação às suas configurações, e é aplicado o mais grave entre aqueles em que suas configurações agem, como qualquer outro veredito do AI Auto-Mod. Quadros que a IA se recusa a avaliar são tratados como essa imagem: o vídeo é excluído e a staff é alertada, ou apenas alertada em um canal com restrição de idade. Alguns vídeos não são verificados. Seu canal de alerta é avisado, no máximo uma vez por hora:

• Arquivos acima de 100 MB.
• Um vídeo que não pode ser baixado ou reproduzido. Ele não é verificado novamente.
• Um vídeo que a IA não conseguiu verificar por completo. Se a IA não der resposta para uma parte dele, ele é verificado mais uma vez cerca de um minuto depois. Um vídeo cuja imagem não pode ser lida ainda tem a fala verificada.
• Mais de 20 vídeos esperando em um mesmo servidor, ou vídeos de mais de 3 mensagens de um mesmo membro — os que ultrapassarem esse número são pulados.

​

Quanto custa um scan

Uma mensagem gera uma chamada de IA, cobrada igual qualquer que seja o tamanho dela e quantas regras personalizadas você tenha. Uma mensagem com imagens gera uma chamada para o texto mais uma por imagem, até quatro; ler o texto de uma imagem é gratuito. Uma imagem que o primeiro modelo se recusa a avaliar custa uma chamada a mais, porque um segundo modelo então a verifica. Uma imagem que o provedor não consegue ler não custa nada. Um vídeo custa até quatro chamadas: até duas por seus quadros, uma para transcrever sua fala e uma para verificar o que foi dito e mostrado na tela, gratuita quando o vídeo não tem fala. Um GIF do Tenor ou Giphy conta como imagem e como vídeo ao mesmo tempo. Um vídeo que não pode ser baixado ou reproduzido não custa nada, e republicar um já verificado geralmente não custa nada. Um vídeo que a IA não conseguiu verificar por completo na primeira vez é verificado mais uma vez, o que pode custar parte dessas chamadas de novo.

​

Escaneamento de nomes

Nomes de exibição e nomes de usuário são verificados quando um membro entra e quando ele muda o apelido, o nome de exibição ou o nome de usuário. Outras atualizações do membro, como um novo cargo, custam no máximo uma verificação por membro a cada 30 dias. Os nomes são verificados com suas regras personalizadas, além das categorias. Uma ação Delete não faz sentido para um nome, então vira um alerta.

​

Solução de problemas