Перейти до основного вмісту
Лише тариф Black. На будь-якому нижчому сторінка замінюється переглядом тарифів. Custom Bot (+) не дає доступу до AI — він прив’язаний лише до тарифу.
Стандартна автомодерація шукає збіги за шаблонами. AI Auto-Moderation читає повідомлення, як це зробив би модератор: розуміє сарказм, кодовану мову, навмисні перекручення, зроблені щоб обійти фільтри, і вміст будь-якою мовою, якою пишуть ваші учасники. Він також читає зображення та відео, а також текст у них. Повідомлення, яке автомодерація вже видалила, AI повторно не перевіряє.
Мають бути увімкнені два перемикачі: AI Auto-Mod у налаштуванні сервера і налаштування на цій сторінці. При вимкненому модулі нічого не сканується, а сторінка попереджає лише бурштиновим банером.

​
Починайте з режиму Monitor

Налаштування Operating mode — найважливіший елемент керування на сторінці.

Monitor

Порушення фіксуються. Ніяких дій не застосовується, крім одного: сексуальний вміст із залученням неповнолітніх видаляється завжди. Це стан за замовчуванням.

Enforce

Налаштовані дії застосовуються автоматично.
Режим Monitor теж витрачає токени — кожне повідомлення сканується, лише дія стримується. Якщо тримати Monitor без встановленого log-каналу, ви платите за сканування, результати яких ніхто не бачить.
Тримайте Monitor кілька днів із log-каналом, читайте, що він позначив, налаштуйте чутливість — і тільки потім перемикайте на Enforce. Пропуск цього кроку — найпоширеніша причина скарг на хибні спрацювання.

​
Чутливість

Один повзунок у відсотках. AI оцінює кожне повідомлення за кожною категорією від 0 до 100% — наскільки ймовірно, що воно її порушує, — і категорія спрацьовує, щойно її оцінка досягає 100 мінус чутливість: за чутливості 25 — від 75%. Збалансований старт — 25–40%. Для тексту чутливість понад 50 діє як 50. За оцінки нижче 50 AI вважає повідомлення радше прийнятним, ніж ні, тож вище значення лише додало б хибних спрацьовувань. Повідомлення, яке намагається обійти модерацію вмовляннями, — посилається на схвалення персоналу, звертається до AI чи виправдовується тим, що це жарт або вигадка, — завжди перевіряється з чутливістю щонайменше 50, і його запис у лозі це зазначає. Для зображень такого обмеження немає. AI зазвичай упевнений щодо зображення; долю межових випадків, які він оцінює від 40 до 69%, вирішує чутливість.
Кожна категорія має власний повзунок чутливості. Коли повзунок категорії встановлено, він єдиний, що діє — глобальне значення це запасний варіант для категорій, які ви не налаштували, а не додатковий поріг.

​
Категорії

Десять категорій, у кожної свій перемикач, свій набір дій і своя чутливість.
За замовчуванням увімкнено лише Sexual content involving minors. Усі інші категорії вимкнено, поки ви їх не ввімкнете — щойно ввімкнена AI Auto-Mod без налаштувань майже нічого не робить.
Сексуальний вміст із залученням неповнолітніх видаляється завжди. Якщо AI оцінює повідомлення, зображення чи відео за цією категорією на 50% або вище, вміст видаляється, а персонал отримує сповіщення — навіть із вимкненою категорією, нижче порогу її чутливості, у каналі з віковим обмеженням чи в режимі Monitor. Власні налаштування категорії визначають лише додаткове покарання, як-от ban. Вміст, заблокований фільтром захисту дітей AI-провайдера, обробляється так само. Такий вміст ніколи не показується ні в записах логу, ні в сповіщеннях, як і будь-який текст, який AI оцінює за цією категорією на 35% або вище. Залиште її ввімкненою.
Якщо за повідомленням є кілька результатів — за текстом, зображеннями й текстом на них, кадрами відео, його мовленням і текстом на екрані, — кожен зіставляється з вашими налаштуваннями, і застосовується найсерйозніший із тих, на які реагують ваші налаштування. Вміст із залученням неповнолітніх, оцінений на 50% або вище, видаляється на додачу до покарання, якого вимагає інший результат.

​
Канали з віковим обмеженням

У Discord-каналі з віковим обмеженням категорія Sexual content пригнічується. Усі інші — зокрема sexual content involving minors — і далі діють нормально. Зображення або відео, яке AI не зміг оцінити, там не видаляється — про нього лише сповіщають персонал; див. розділ «Як перевіряються зображення» нижче.

​
Дії

Оберіть будь-яку комбінацію на категорію: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Три комбінації відхиляються:
  • Kick і Ban разом
  • Alert разом з Ban
  • Alert разом з Kick
Усе інше поєднується. Delete комбінується з чим завгодно.
Mute — лише текстовий. Він не заглушує учасника в голосових каналах.

​
Кастомні правила

Пишіть правила свого сервера звичайною мовою. AI перевіряє їх поряд зі стандартними категоріями: у повідомленнях та іменах учасників, у тому, що показують зображення, і в тексті на них, а також у мовленні й тексті на екрані відео.
25 правил, лише тариф Black.
У кожного правила є назва, опис до 1000 символів, одна дія та необов’язкова чутливість, що перекриває глобальну. Як і для категорій, для тексту чутливість понад 50 діє як 50.
Пишіть конкретно й про те, що дозволено, і про те, що ні. «Не рекламувати чужі сервери, але поділитися посиланням на арт друга чи його стрім у #showcase — можна» працює значно краще, ніж «без реклами».
Текст правила, схожий на спробу маніпулювати інструкціями AI, відхиляється при збереженні. Якщо правило не зберігається із загальною помилкою — переформулюйте його як опис поведінки, а не як команду.
Спрацьоване кастомне правило перевіряється з власною чутливістю і застосовує дію незалежно від того, увімкнено відповідну категорію чи ні.

​
Ескалація

За замовчуванням вимкнена. При ввімкненні повторні порушники отримують дедалі суворіші дії.
1

Додайте кроки

Кожен крок — кількість порушень (1–99) плюс дія, з тривалістю для timeout, mute і ban. До 20 кроків.
2

Встановіть вікно затухання

1–30 днів, за замовчуванням 7. Після цього часу порушення перестає зараховуватись.
Поточне повідомлення входить у загальний рахунок. Крок «1 порушення» спрацює на першому інциденті учасника, а не на другому.
Дія кроку замінює покарання категорії, але зберігає Delete і Alert, якщо категорія їх мала. Ескалація посилює покарання; вона не скасовує видалення повідомлення.
Тривалість обмежена одним роком. Панель приймає значення на кшталт 100 000 годин, а потім сервер відхиляє це загальною помилкою при збереженні — тримайтесь у межах року.

​
Виключення

  • Exempt roles — учасники з будь-якою з цих ролей повністю пропускаються
  • Exempt channels — повідомлення тут ніколи не скануються
  • Exempt users — до 500, зручно для ботів
Учасників з Administrator ніколи не сканують, незалежно від того, додали ви їх у виключення чи ні. Ця перевірка виконується до витрати токенів.

​
Підтвердження перед kick і ban

Увімкнено за замовчуванням. Дії kick і ban публікуються для схвалення модератором, а не застосовуються одразу.
Підтвердження не стримує видалення. Якщо в набір дій категорії входить Delete, повідомлення видаляється одразу після виявлення порушення. Лише kick чи ban чекають на схвалення.
Підтвердження діє одну годину. Публікується в alert-канал, з відкатом на log-канал, а тоді на канал, де було повідомлення.

​
Trust Tiers

Спосіб зберегти токени. Учасників із довгою чистою історією сканують рідше. Чотири запобіжники не дають довіреному учаснику стати «невидимим»:
  1. Discord-інвайти, @everyone/@here і 5+ згадок скануються завжди — без винятків
  2. Сплеск із 3 повідомлень за 6 секунд змушує виконати сканування
  3. Sampling ніколи не досягає нуля — довіреного все одно сканують періодично
  4. Будь-яке порушення миттєво обнуляє довіру
На активному сервері Trust Tiers можуть суттєво зменшити витрати токенів — бо ті, хто пише найбільше, зазвичай не порушують правил.
Список Trusted Members показує, хто зараз кваліфікується. Reduce зменшує баланс довіри вдвічі; Remove обнуляє його. Обидві дії застосовуються одразу — панель збереження не задіяна.

​
Канали

  • Log channel — кожна подія модерації, зі збіглою категорією та рівнем впевненості
  • Alert channel — події високої серйозності та підказки підтвердження
Якщо жодного не задано, AI-модерація працює й діє без видимих записів будь-де.

​
Коли закінчуються токени

AI Auto-Mod «fail-closed»: якщо не може підтвердити бюджет — не сканує. Повідомлення йдуть у alert-канал, з відкатом на log-канал. Попередження про низький баланс з’явиться знову, якщо баланс відновиться і впаде вдруге.

AI Usage

Слідкуйте за витратами, дивіться, що сканувалося, поповнюйте баланс.

​
Коли AI не відповідає

Якщо AI не відповідає щодо тексту повідомлення — бо недоступний або надто повільний, — повідомлення лишається без вердикту AI, нічого не коштує і повторно не перевіряється; ім’я учасника перевіряється знову під час наступного оновлення учасника чи зміни імені. На стандартну автомодерацію це не впливає. Зображення та відео перевіряються ще раз; див. нижче.

​
Як перевіряються зображення

Перевіряється до чотирьох зображень на повідомлення, зокрема зображення в embed із Discord, Tenor, Giphy та Imgur, а також у пересланих повідомленнях. Зображення понад чотири не перевіряються; ваш alert-канал отримує сповіщення, не частіше ніж раз на годину.
  • Анімовані зображення — GIF та анімовані WebP — перевіряються за вибіркою кадрів від першого до останнього. Анімація, надто довга чи надто велика для повної вибірки, або анімований PNG перевіряється за тим, що вдається охопити вибіркою; якщо нічого не знайдено, ваш alert-канал отримує сповіщення про те, що перевірка була неповною.
  • Відео перевіряються за тим, що на них видно і що в них кажуть; див. розділ «Як перевіряються відео» нижче.
  • SVG і крихітні зображення — менші за 10 пікселів або тонші за 1:200 — пропускаються.
  • Великі зображення — наприклад, фотографії та знімки всього екрана — перевіряються в зменшеному розмірі, за якого їхній текст лишається читабельним, тож витрачають менше токенів.
Якщо AI відмовляється оцінювати зображення або його блокує фільтр безпеки, зображення класифікує друга AI-модель. Якщо не впорається жодна з них, зображення видаляється, а персонал отримує сповіщення; у каналі з віковим обмеженням персонал лише отримує сповіщення. Учасник не отримує за це попередження, і порушення йому не зараховується. Повідомлення, текст якого блокує фільтр безпеки AI-провайдера, обробляється так само. AI також читає текст на кожному зображенні — скриншоті чату, підписі до мему — і враховує його, оцінюючи зображення, а частину цього тексту ще раз перевіряє як повідомлення: текст, написаний не латиницею — наприклад, арабським письмом, кирилицею чи китайськими ієрогліфами, — або з цифрами замість літер; і весь текст, коли AI не впевнений щодо зображення або на вашому сервері є кастомні правила, які перевіряються і на цьому тексті, і на тому, що показує зображення. Ця перевірка може лише додати результат, а не скасувати його, і нічого не коштує. Якщо відповіді немає, чинним лишається вердикт щодо самого зображення. Якщо взагалі жодна AI-модель не відповідає, зображення перевіряється повторно приблизно через 30 хвилин, а ваш alert-канал отримує сповіщення, не частіше ніж раз на годину. Зображення, яке AI-провайдер не може прочитати, повторно не перевіряється; ваш alert-канал так само отримує сповіщення.

​
Як перевіряються відео

Коли ввімкнено Сканувати зображення та відео, відео теж перевіряються: вкладені відео та відео, яке відтворює GIF із Tenor чи Giphy. Відео на сайтах на кшталт YouTube чи Twitch не завантажується; його прев’ю перевіряється як звичайне зображення. Кожне відео перевіряється у фоновому режимі, зазвичай протягом півхвилини після публікації:
  • Що показує — до 12 кадрів, від першого до останнього, включно зі змінами сцен, перевіряються як зображення.
  • Що сказано й написано — мовлення за перші 60 секунд транскрибується і разом із текстом на екрані перевіряється як повідомлення, включно з кастомними правилами. Мовлення після першої хвилини не перевіряється.
Кожен результат зіставляється з вашими налаштуваннями, і застосовується найсерйозніший із тих, на які реагують ваші налаштування, — так само, як будь-який інший вердикт AI Auto-Mod. Кадри, які AI відмовляється оцінювати, обробляються як таке зображення: відео видаляється і персонал отримує сповіщення, або персонал лише отримує сповіщення в каналі з віковим обмеженням. Деякі відео не перевіряються. Ваш alert-канал отримує про це сповіщення, не частіше ніж раз на годину:
  • Файли понад 100 МБ.
  • Відео, яке не вдається завантажити чи відтворити. Повторно воно не перевіряється.
  • Відео, яке AI не зміг перевірити повністю. Якщо щодо частини відео AI не дав відповіді, воно перевіряється ще раз приблизно через хвилину. Якщо не вдається прочитати відеоряд, мовлення у відео все одно перевіряється.
  • Понад 20 відео в черзі на одному сервері, або відео з понад 3 повідомлень одного учасника — ті, що понад цю кількість, пропускаються.

​
Скільки коштує сканування

Одне повідомлення — один виклик AI, що коштує однаково незалежно від довжини повідомлення та кількості ваших кастомних правил. Повідомлення із зображеннями — один виклик для тексту плюс по одному на кожне зображення, до чотирьох; читання тексту на зображенні безкоштовне. Зображення, яке перша модель відмовляється оцінювати, коштує ще один виклик, бо потім його перевіряє друга модель. Зображення, яке провайдер не може прочитати, нічого не коштує. Відео коштує до чотирьох викликів: до двох за кадри, один за транскрибування мовлення і один за перевірку сказаного й показаного на екрані, безкоштовну, якщо у відео немає мовлення. GIF із Tenor чи Giphy рахується водночас і як зображення, і як відео. Відео, яке не вдається завантажити чи відтворити, нічого не коштує, а повторна публікація вже перевіреного відео зазвичай теж нічого не коштує. Відео, яке AI не зміг повністю перевірити з першого разу, перевіряється ще раз, і частину цих викликів може бути витрачено повторно.
Якщо сканування зображень і відео для вашого сервера неважливе, вимкнення Сканувати зображення та відео — найбільша економія, доступна одним кліком.

​
Сканування імен

Display name та username перевіряються, коли учасник заходить і коли змінює нікнейм, display name чи username. Інші зміни учасника, як-от нова роль, коштують щонайбільше одну перевірку на учасника раз на 30 днів. Імена перевіряються не лише за категоріями, а й за вашими кастомними правилами. Дія Delete для імені не має сенсу — тому замість неї спрацьовує alert.

​
Розв’язання проблем

Пройдіть за порядком:
  1. Чи увімкнено AI Auto-Mod у налаштуванні сервера?
  2. Чи ввімкнули ви категорії? За замовчуванням увімкнено лише одну.
  3. Чи ви в режимі Monitor? Він фіксує, а діє лише щодо вмісту із залученням неповнолітніх.
  4. Чи баланс токенів вище 3000?
  5. Чи не є учасники Administrator або в списку виключень?
Знижуйте чутливість саме тієї категорії, що спрацьовує зайве, а не глобальний повзунок. Поверніться в Monitor, поки налаштовуєте.
Вимкніть сканування зображень і відео, увімкніть Trust Tiers і виключіть високонавантажені канали, які не потребують модерації. Вимкнення категорій нічого не заощаджує: перевірка коштує однаково, хоч би які категорії та правила були ввімкнені.
Сервер із увімкненим модулем, але жодного разу не збереженою конфігурацією — повністю мовчазний. Відкрийте цю сторінку, задайте категорії й log-канал і збережіть один раз.
Саме це AI Auto-Mod і робить, а стандартна автомодерація — ні. Переконайтесь, що потрібна категорія увімкнена, а її чутливість не занизька.

Auto-Moderation

Фільтрація за шаблонами, безкоштовно на будь-якому тарифі.

AI Server Control

Керуйте сервером, розмовляючи з ботом.