Перейти к основному содержанию
Только Black-тариф. На любом более низком тарифе страница заменяется представлением тарифов. Custom Bot (+) не даёт AI-доступа — он привязан только к тарифу.
Стандартная Автомодерация сопоставляет шаблоны. AI Auto-Moderation читает сообщение так, как это делал бы модератор: понимает сарказм, кодированный язык, опечатки-обходы фильтров и содержимое на любом языке, на котором пишут ваши участники. Также читает изображения и видео, включая текст в них. Сообщение, которое Автомодерация уже удалила, AI повторно не проверяет.
Должны быть включены оба переключателя: AI Auto-Mod в Настройке сервера и настройки на этой странице. При выключенном модуле ничего не сканируется, и здесь нет предупреждения, кроме янтарного баннера.

​
Начните в Monitor

Настройка Operating mode — самый важный элемент на странице.

Monitor

Нарушения логируются. Ничего не применяется, кроме одного: сексуальный контент с участием несовершеннолетних удаляется всегда. Это значение по умолчанию.

Enforce

Настроенные действия применяются автоматически.
Monitor тоже стоит токенов — сканируется каждое сообщение, только действие удерживается. Если оставить Monitor без выбранного лог-канала, вы платите за сканы, результаты которых никто не видит.
Запустите Monitor на несколько дней с лог-каналом, прочитайте, что помечено, донастройте чувствительность, затем переключитесь в Enforce. Пропуск этого шага — самая частая причина жалоб на ложные срабатывания.

​
Чувствительность

Один слайдер в процентах. AI оценивает каждое сообщение по каждой категории от 0 до 100 % — насколько вероятно, что сообщение под неё подпадает, — и категория срабатывает, как только её оценка достигает 100 минус чувствительность: при чувствительности 25 — от 75 %. Сбалансированная стартовая точка — 25–40 %. Для текста чувствительность выше 50 работает как 50. При оценке ниже 50 AI считает сообщение скорее допустимым, чем нет, поэтому более высокое значение лишь добавило бы ложных срабатываний. Сообщение, которое пытается уговорами обойти модерацию — ссылается на одобрение персонала, обращается к AI или оправдывается тем, что это шутка или вымысел, — всегда проверяется с чувствительностью не ниже 50, и в его записи лога это указано. Для изображений такого ограничения нет. AI обычно уверен в оценке изображения; чувствительность решает исход пограничных случаев — тех, которые он оценивает от 40 до 69 %.
У каждой категории свой слайдер. Если у категории задан свой, действует только он — глобальное значение работает как запасное для ненастроенных категорий, а не как дополнительный пол.

​
Категории

Десять категорий, у каждой свой переключатель, набор действий и чувствительность.
Из коробки включено только Sexual content involving minors. Все остальные категории выключены, пока вы их не включите — свеже включённый AI Auto-Mod почти ничего не делает, пока его не настроят.
Сексуальный контент с участием несовершеннолетних удаляется всегда. Если AI оценивает сообщение, изображение или видео по этой категории на 50 % или выше, контент удаляется, а персонал получает оповещение — даже при выключенной категории, ниже порога её чувствительности, в канале с возрастным ограничением или в режиме Monitor. Собственные настройки категории определяют лишь дополнительное наказание, например ban. Контент, заблокированный фильтром защиты детей AI-провайдера, обрабатывается так же. Такой контент никогда не показывается ни в записях лога, ни в оповещениях, как и любой текст, который AI оценивает по этой категории на 35 % или выше. Оставьте её включённой.
Если по сообщению есть несколько результатов — по тексту, изображениям и тексту на них, кадрам видео, его речи и тексту на экране, — каждый сопоставляется с вашими настройками, и применяется самый серьёзный из тех, на которые ваши настройки реагируют. Контент с участием несовершеннолетних, оценённый на 50 % или выше, удаляется в дополнение к наказанию, которого требует другой результат.

​
Возрастные каналы

В age-restricted канале Discord категория Sexual content подавляется. Все остальные категории — включая sexual content involving minors — по-прежнему применяются как обычно. Изображение или видео, которое AI не смог оценить, там не удаляется — о нём только сообщается персоналу; см. раздел «Как проверяются изображения» ниже.

​
Действия

Выберите любую комбинацию для категории: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Три комбинации не разрешены:
  • Kick и Ban вместе
  • Alert вместе с Ban
  • Alert вместе с Kick
Всё остальное складывается. Delete совместим с чем угодно.
Mute — только текстовый мьют. Он не глушит участника в голосовых каналах.

​
Пользовательские правила

Пишите свои правила простым английским. AI проверяет их вместе со стандартными категориями: в сообщениях и именах участников, в том, что показано на изображениях, и в тексте на них, а в видео — в речи и тексте на экране.
25 правил, только Black-тариф.
У каждого правила есть имя, описание до 1000 символов, одно действие и опциональная чувствительность, перекрывающая глобальную. Как и у категорий, для текста чувствительность выше 50 работает как 50.
Будьте конкретны и в том, что разрешено, и в том, что нет. «No advertising other servers, but sharing a friend’s art or stream link in #showcase is fine» работает куда лучше, чем «no ads».
Текст правила, похожий на попытку манипулировать инструкциями AI, отклоняется при сохранении. Если правило отказывается сохраняться с общей ошибкой, переформулируйте как простое описание поведения, а не как команду.
Совпадающее пользовательское правило проверяется по своей собственной чувствительности и применяется независимо от того, включена ли эквивалентная категория.

​
Эскалация

По умолчанию выключена. При включении повторные нарушители получают всё более строгие меры.
1

Добавьте шаги

Каждый шаг — это число нарушений (1–99) плюс действие, с длительностью для timeout, mute и ban. До 20 шагов.
2

Задайте окно затухания

От 1 до 30 дней, по умолчанию 7. По истечении нарушение перестаёт учитываться.
Текущее сообщение засчитывается в общий счёт. Шаг с 1 нарушением срабатывает на первом же проступке участника, а не на втором.
Действие шага заменяет наказание категории, но сохраняет Delete и Alert, если они были у категории. Эскалация усиливает наказание, но не отменяет удаление сообщения.
Длительность ограничена одним годом. Панель принимает значения вроде 100 000 часов, которые сервер затем отклоняет с общей ошибкой сохранения — держитесь в пределах года.

​
Исключения

  • Exempt roles — участники с любой из них полностью пропускаются
  • Exempt channels — сообщения здесь никогда не сканируются
  • Exempt users — до 500, полезно для ботов
Участники с Administrator никогда не сканируются, независимо от исключений. Эта проверка происходит до того, как тратятся токены.

​
Подтверждение перед kick и ban

По умолчанию включено. Действия kick и ban публикуются для одобрения модератором, а не применяются сразу.
Подтверждение не удерживает удаление. Если в наборе действий категории есть Delete, сообщение удаляется в момент обнаружения нарушения. Ждут одобрения только kick или ban.
Подтверждения истекают через час. Они публикуются в вашем alert-канале, с откатом на лог-канал, а потом на канал, где было сообщение.

​
Trust Tiers

Мера экономии токенов. Участников с давним чистым послужным списком сканируют реже. Четыре защиты гарантируют, что доверенный участник не станет невидимым:
  1. Инвайты Discord, @everyone/@here и 5+ упоминаний сканируются всегда — без исключений
  2. Всплеск 3 сообщения за 6 секунд принудительно вызывает сканирование
  3. Семплирование никогда не достигает нуля — доверенный участник всё равно сканируется периодически
  4. Любое нарушение мгновенно обнуляет доверие
На оживлённом сервере Trust Tiers могут существенно сократить расход токенов, потому что самые активные участники обычно те, кто не нарушает.
Список Trusted Members показывает, кто сейчас квалифицируется. Reduce уполовинивает счёт; Remove обнуляет полностью. Оба применяются сразу — панель сохранения не участвует.

​
Каналы

  • Log channel — каждое событие модерации, с совпавшей категорией и уверенностью
  • Alert channel — события высокой серьёзности и подтверждения
Без обоих AI-модерация работает и действует без видимой записи где-либо.

​
Когда баланс токенов заканчивается

AI Auto-Mod fail-closed: если не может подтвердить наличие бюджета, не сканирует. Уведомления идут в ваш alert-канал, с откатом на лог-канал. Предупреждение о низком балансе вновь срабатывает, если баланс восстановился и снова упал.

AI Usage

Отслеживайте расход, смотрите, что сканировали, и пополняйте.

​
Когда AI не отвечает

Если AI не дал ответа по тексту сообщения — он недоступен или отвечает слишком медленно, — сообщение остаётся без вердикта AI, ничего не стоит и повторно не проверяется; имя участника проверяется снова при следующем обновлении участника или смене имени. На стандартную Автомодерацию это не влияет. Изображения и видео проверяются ещё раз; см. ниже.

​
Как проверяются изображения

Проверяется до четырёх изображений на сообщение, включая изображения в embed из Discord, Tenor, Giphy и Imgur, а также в пересланных сообщениях. Изображения сверх четырёх не проверяются; в ваш alert-канал приходит уведомление, не чаще одного раза в час.
  • Анимированные изображения — GIF и анимированные WebP — проверяются по выборке кадров от первого до последнего. Анимация, слишком длинная или слишком большая для полной выборки, либо анимированный PNG проверяется по тому, что удаётся охватить выборкой; если ничего не найдено, в ваш alert-канал приходит уведомление о том, что проверка была неполной.
  • Видео проверяются за тем, что на них видно и что в них говорится; см. раздел «Как проверяются видео» ниже.
  • SVG и крошечные изображения — меньше 10 пикселей или тоньше 1:200 — пропускаются.
  • Большие изображения — например, фотографии и скриншоты всего экрана — проверяются в уменьшенном размере, при котором их текст остаётся читаемым, поэтому расходуют меньше токенов.
Если AI отказывается оценивать изображение или его блокирует фильтр безопасности, изображение классифицирует вторая AI-модель. Если не справится ни одна из них, изображение удаляется, а персонал получает оповещение; в канале с возрастным ограничением персонал только получает оповещение. Участник не получает за это предупреждения, и нарушение ему не засчитывается. Сообщение, текст которого блокирует фильтр безопасности AI-провайдера, обрабатывается так же. AI также читает текст на каждом изображении — будь то скриншот чата или подпись к мему — и учитывает его при оценке изображения, а часть этого текста ещё раз проверяет как сообщение: текст, написанный не латиницей — например, арабским письмом, кириллицей или китайскими иероглифами, — или с цифрами вместо букв; и весь текст, когда AI не уверен в оценке изображения или на вашем сервере есть пользовательские правила, по которым проверяются и этот текст, и то, что показано на изображении. Эта проверка может только добавить результат, но никогда не отменяет имеющийся, и ничего не стоит. Если ответа на неё нет, остаётся в силе вердикт по самому изображению. Если вообще ни одна AI-модель не отвечает, изображение проверяется повторно примерно через 30 минут, а в ваш alert-канал приходит уведомление, не чаще одного раза в час. Изображение, которое AI-провайдер не может прочитать, повторно не проверяется; в ваш alert-канал точно так же приходит уведомление.

​
Как проверяются видео

Когда включено Сканировать изображения и видео, видео тоже проверяются: вложенные видео и видео, которое воспроизводит GIF из Tenor или Giphy. Видео на сайтах вроде YouTube или Twitch не скачивается; его превью проверяется как обычное изображение. Каждое видео проверяется в фоновом режиме, обычно за полминуты после публикации:
  • Что показывает — до 12 кадров, от первого до последнего, включая смены сцен, проверяются как изображение.
  • Что говорится и что написано — речь за первые 60 секунд транскрибируется и вместе с текстом на экране проверяется как сообщение, включая пользовательские правила. Речь после первой минуты не проверяется.
Каждый результат сопоставляется с вашими настройками, и применяется самый серьёзный из тех, на которые ваши настройки реагируют, — как и любой другой вердикт AI Auto-Mod. Кадры, которые AI отказывается оценивать, обрабатываются как такое изображение: видео удаляется и персонал получает оповещение, либо персонал только получает оповещение в канале с возрастным ограничением. Некоторые видео не проверяются. В ваш alert-канал приходит об этом уведомление, не чаще одного раза в час:
  • Файлы больше 100 МБ.
  • Видео, которое не удаётся скачать или воспроизвести. Повторно оно не проверяется.
  • Видео, которое AI не смог проверить полностью. Если по части видео AI не дал ответа, оно проверяется ещё раз примерно через минуту. Если не удаётся прочитать видеоряд, речь в видео всё равно проверяется.
  • Более 20 видео в очереди на одном сервере, или видео из более чем 3 сообщений одного участника — те, что сверх этого, пропускаются.

​
Сколько стоит скан

Одно сообщение — один AI-вызов, который стоит одинаково независимо от длины сообщения и количества ваших пользовательских правил. Сообщение с изображениями — один вызов для текста плюс один на каждое изображение, до четырёх; чтение текста на изображении бесплатно. Изображение, которое первая модель отказывается оценивать, стоит ещё один вызов, потому что затем его проверяет вторая модель. Изображение, которое провайдер не может прочитать, ничего не стоит. Видео стоит до четырёх вызовов: до двух за кадры, один за транскрибирование речи и один за проверку сказанного и показанного на экране, которая бесплатна, если в видео нет речи. GIF из Tenor или Giphy считается одновременно и изображением, и видео. Видео, которое не удаётся скачать или воспроизвести, ничего не стоит, а повторная публикация уже проверенного видео обычно тоже ничего не стоит. Видео, которое AI не смог полностью проверить с первого раза, проверяется ещё раз, и часть этих вызовов может быть потрачена повторно.
Если сканирование изображений и видео для вашего сервера неважно, отключение Сканировать изображения и видео — самая большая доступная экономия.

​
Сканирование имён

Отображаемые имена и юзернеймы проверяются при входе участника и при смене никнейма, отображаемого имени или юзернейма. Другие изменения участника, например новая роль, стоят не больше одной проверки на участника раз в 30 дней. Имена проверяются не только по категориям, но и по вашим пользовательским правилам. Действие Delete для имени бессмысленно, поэтому оно превращается в alert.

​
Решение проблем

Идите по порядку:
  1. Включён ли AI Auto-Mod в Настройке сервера?
  2. Включены ли категории? По умолчанию включена только одна.
  3. Вы в режиме Monitor? Он логирует, а действует только в отношении контента с участием несовершеннолетних.
  4. Ваш баланс токенов выше 3 000?
  5. Причастные участники — Administrator или в списке исключений?
Понизьте чувствительность конкретной категории, а не глобальный слайдер. Вернитесь в Monitor, пока настраиваете.
Отключите сканирование изображений и видео, включите Trust Tiers и исключите оживлённые каналы, которым модерация не нужна. Отключение категорий ничего не экономит: проверка стоит одинаково, какие бы категории и правила ни были включены.
Сервер с включённым модулем без ни разу сохранённой конфигурации молчит полностью. Откройте эту страницу, задайте категории и лог-канал и сохраните хоть раз.
Именно с этим справляется AI Auto-Mod, а стандартный Auto-Mod — нет. Убедитесь, что нужная категория включена, а её чувствительность не занижена.

Автомодерация

Фильтрация по шаблонам, бесплатно на любом тарифе.

AI Server Control

Управляйте сервером, разговаривая с ботом.