Auto-Mod con IA

La Auto-Moderación estándar coincide patrones. La Auto-Moderación con IA lee el mensaje como lo haría un moderador: entiende sarcasmo, lenguaje en clave, errores ortográficos pensados para esquivar filtros y contenido en cualquier idioma en el que escriban tus miembros. También lee imágenes y vídeos, y el texto que contienen. La IA no vuelve a comprobar un mensaje que la Auto-Moderación ya ha retirado.

​

Empieza en modo Monitor

El ajuste Modo de operación es el control más importante de la página.

​

Sensibilidad

Un deslizador, expresado en porcentaje. La IA puntúa cada mensaje de 0 a 100% en cada categoría — la probabilidad de que la incumpla — y una categoría actúa en cuanto su puntuación alcanza 100 menos la sensibilidad: con una sensibilidad de 25, a partir del 75%. Un punto de partida equilibrado es 25–40%. Para el texto, una sensibilidad por encima de 50 funciona como 50. Por debajo de una puntuación de 50, la IA considera que un mensaje es más probablemente correcto que no, así que un ajuste más alto solo añadiría falsos positivos. Un mensaje que intenta esquivar la moderación con palabras — afirmando que el staff lo aprobó, dirigiéndose a la IA o excusándose como broma o ficción — siempre se comprueba con una sensibilidad de al menos 50, y su entrada de registro lo indica. Las imágenes no tienen ese límite. La IA suele estar segura sobre una imagen; la sensibilidad decide los casos límite, que puntúa entre el 40 y el 69%.

​

Categorías

Diez categorías, cada una con su interruptor, su conjunto de acciones y su sensibilidad.

​

Canales con restricción de edad

En un canal de Discord con restricción de edad, la categoría Contenido sexual se suprime. Todas las demás —incluida contenido sexual con menores— siguen aplicándose con normalidad. En esos canales, una imagen o un vídeo que la IA no pudo juzgar se notifica al staff en lugar de eliminarse; consulta «Cómo se comprueban las imágenes» más abajo.

​

Acciones

Elige cualquier combinación por categoría: Eliminar mensaje, Advertir al usuario, Timeout, Silenciar, Expulsar, Banear, Alertar. Se rechazan tres combinaciones:

• Expulsar y Banear juntos
• Alertar con Banear
• Alertar con Expulsar

Todo lo demás se acumula. Eliminar se combina con cualquier cosa.

​

Reglas personalizadas

Escribe las reglas propias de tu servidor en lenguaje sencillo. La IA las comprueba junto a las categorías estándar: en mensajes y nombres de miembros, en lo que muestran las imágenes y el texto que contienen, y en el habla y el texto en pantalla de los vídeos. Cada regla tiene un nombre, una descripción de hasta 1000 caracteres, una única acción y una sensibilidad opcional que anula el valor global. Como con las categorías, para el texto una sensibilidad por encima de 50 funciona como 50.

​

Escalada

Desactivada por defecto. Cuando se activa, los reincidentes reciben acciones progresivamente más fuertes.

​

Exenciones

• Roles exentos: los miembros con cualquiera de ellos se saltan por completo
• Canales exentos: los mensajes aquí nunca se escanean
• Usuarios exentos: hasta 500, útil para bots

​

Confirmación antes de expulsar y banear

Activada por defecto. Las acciones de expulsión y baneo se publican para que un moderador las apruebe en lugar de aplicarse de inmediato. Las confirmaciones caducan tras una hora. Se publican en tu canal de alerta, con respaldo en el canal de registro y, en última instancia, en el canal donde se envió el mensaje.

​

Niveles de confianza

Una medida para ahorrar tokens. Los miembros con un largo historial impecable se escanean con menos frecuencia. Cuatro salvaguardas hacen que un miembro de confianza nunca sea invisible:

1. Las invitaciones de Discord, @everyone/@here y 5+ menciones siempre se escanean: sin excepciones
2. Una ráfaga de 3 mensajes en 6 segundos fuerza un escaneo
3. El muestreo nunca llega a cero: un miembro de confianza sigue escaneándose periódicamente
4. Cualquier infracción reinicia la confianza a cero al instante

La lista de Miembros de confianza muestra quién cumple actualmente. Reducir reduce la puntuación de alguien a la mitad; Retirar la borra por completo. Ambas surten efecto de inmediato: la barra de guardado no interviene.

​

Canales

• Canal de registro: cada evento de moderación, con la categoría coincidente y la confianza
• Canal de alerta: eventos de alta gravedad y avisos de confirmación

​

Cuando se agota el saldo de tokens

Auto-Mod con IA es fail-closed: si no puede confirmar que hay presupuesto, no escanea. Los avisos van a tu canal de alerta, con respaldo en el canal de registro. La advertencia de saldo bajo se dispara de nuevo si el saldo se recupera y cae una segunda vez.

​

Cuando la IA no responde

Si la IA no responde sobre el texto de un mensaje — porque no está disponible o tarda demasiado —, el mensaje se queda sin veredicto de la IA, no cuesta nada y no se vuelve a comprobar; el nombre de un miembro se vuelve a comprobar en su siguiente actualización o cambio de nombre. La Auto-Moderación estándar no se ve afectada. Las imágenes y los vídeos se comprueban una vez más; consulta más abajo.

​

Cómo se comprueban las imágenes

Se comprueban hasta cuatro imágenes por mensaje, incluidas las de los embeds de Discord, Tenor, Giphy e Imgur y las de los mensajes que alguien reenvía. Las imágenes a partir de la quinta no se comprueban; se avisa a tu canal de alerta, como máximo una vez por hora.

• Las imágenes animadas —GIF y WebP animados— se comprueban a lo largo de sus fotogramas, con un muestreo del primero al último. Una animación demasiado larga o grande para muestrearla por completo, o un PNG animado, se comprueba a partir de lo que se pueda muestrear; si no se encuentra nada, se avisa a tu canal de alerta de que no se comprobó por completo.
• Los vídeos se comprueban por lo que muestran y lo que se dice en ellos; consulta «Cómo se comprueban los vídeos» más abajo.
• Los SVG y las imágenes diminutas —de menos de 10 píxeles o más estrechas que 1:200— se omiten.
• Las imágenes grandes —como fotos y capturas de pantalla completa— se revisan a un tamaño reducido que mantiene legible su texto, lo que consume menos tokens.

Si la IA se niega a juzgar una imagen, o un filtro de seguridad la bloquea, un segundo modelo de IA la clasifica. Si ninguno de los dos lo consigue, la imagen se elimina y se alerta al staff; en un canal con restricción de edad solo se alerta al staff. El miembro no recibe por ello ninguna advertencia ni infracción. Un mensaje cuyo texto bloquea el filtro de seguridad del proveedor de IA se trata de la misma manera. La IA también lee el texto de cada imagen — una captura de un chat, el texto de un meme — al juzgarla, y vuelve a comprobar parte de él como un mensaje: el texto en una escritura no latina, como el árabe, el cirílico o el chino, o escrito con números en lugar de letras; y todo el texto cuando la IA no está segura de la imagen o tu servidor tiene reglas personalizadas, que se comprueban con ese texto y con lo que muestra la imagen. Esta comprobación solo puede añadir un resultado, nunca anularlo, y no cuesta nada. Si no recibe respuesta, se mantiene el veredicto propio de la imagen. Si no responde ningún modelo de IA, la imagen se vuelve a comprobar unos 30 minutos después y se avisa a tu canal de alerta, como máximo una vez por hora. Una imagen que el proveedor de IA no puede leer no se vuelve a comprobar; se avisa a tu canal de alerta de la misma manera.

​

Cómo se comprueban los vídeos

Con Analizar imágenes y videos activado, los vídeos también se comprueban: los vídeos adjuntos y el vídeo que reproduce un GIF de Tenor o Giphy. Los vídeos de sitios como YouTube o Twitch no se descargan; su imagen de vista previa se comprueba como cualquier imagen. Cada vídeo se comprueba en segundo plano, normalmente antes de que pase medio minuto desde su publicación:

• Lo que muestra — hasta 12 fotogramas, del primero al último e incluyendo los cambios de escena, se comprueban como una imagen.
• Lo que se dice y se escribe — el habla de sus primeros 60 segundos se transcribe y se comprueba como un mensaje junto con el texto en pantalla, reglas personalizadas incluidas. El habla posterior al primer minuto no se comprueba.

Cada resultado se evalúa según tus ajustes y se aplica el más grave sobre el que actúan tus ajustes, como cualquier otro veredicto de Auto-Mod con IA. Los fotogramas que la IA se niega a juzgar se tratan como esa imagen: el vídeo se elimina y se alerta al staff, o solo se alerta en un canal con restricción de edad. Algunos vídeos no se comprueban. Se avisa a tu canal de alerta, como máximo una vez por hora:

• Archivos de más de 100 MB.
• Un vídeo que no se puede descargar o reproducir. No se vuelve a comprobar.
• Un vídeo que la IA no pudo comprobar por completo. Si la IA no responde en una parte del vídeo, este se comprueba una vez más aproximadamente un minuto después. En un vídeo cuya imagen no se puede leer, el habla se sigue comprobando.
• Más de 20 vídeos en espera en un mismo servidor, o vídeos de más de 3 mensajes de un mismo miembro — los que superen ese número se omiten.

​

Cuánto cuesta un escaneo

Un mensaje produce una llamada a la IA, que cuesta lo mismo sea cual sea su longitud y cuantas reglas personalizadas tengas. Un mensaje con imágenes produce una llamada por el texto más una por cada imagen, hasta cuatro; leer el texto de una imagen es gratis. Una imagen que el primer modelo se niega a juzgar cuesta una llamada más, porque entonces la revisa un segundo modelo. Una imagen que el proveedor no puede leer no cuesta nada. Un vídeo cuesta hasta cuatro llamadas: hasta dos por sus fotogramas, una para transcribir su habla y una para comprobar lo dicho y lo que aparece en pantalla, que es gratis cuando el vídeo no tiene habla. Un GIF de Tenor o Giphy cuenta como imagen y como vídeo a la vez. Un vídeo que no se puede descargar o reproducir no cuesta nada, y volver a publicar uno ya comprobado normalmente no cuesta nada. Un vídeo que la IA no pudo comprobar por completo la primera vez se comprueba una vez más, lo que puede volver a costar algunas de esas llamadas.

​

Escaneo de nombres de usuario

Los nombres visibles y los nombres de usuario se comprueban cuando un miembro se une y cuando cambia su apodo, su nombre visible o su nombre de usuario. Las demás actualizaciones del miembro, como un rol nuevo, cuestan como máximo una comprobación por miembro cada 30 días. Los nombres se comprueban con tus reglas personalizadas además de con las categorías. Una acción de Eliminar no tiene sentido para un nombre, así que pasa a ser una alerta.

​

Solución de problemas