Automoderacja AI

Standardowa Automoderacja dopasowuje wzory. AI Automoderacja czyta wiadomość tak, jak zrobiłby to moderator: rozumie sarkazm, kodowany język, celowe błędy pisowni obchodzące filtry i treści w dowolnym języku, w którym piszą twoi członkowie. Czyta również obrazy i filmy oraz zawarty w nich tekst. Wiadomość, którą Automoderacja już usunęła, nie jest ponownie sprawdzana przez AI.

​

Zacznij w trybie Monitor

Ustawienie Tryb działania to najważniejsza kontrolka na stronie.

​

Czułość

Jeden suwak wyrażony w procentach. AI ocenia każdą wiadomość w każdej kategorii w skali od 0 do 100% — jak prawdopodobne jest, że ją narusza — a kategoria reaguje, gdy jej ocena osiągnie 100 minus czułość: przy czułości 25 od 75%. Zrównoważony punkt startowy to 25–40%. W przypadku tekstu czułość powyżej 50 działa jak 50. Przy ocenie poniżej 50 AI uznaje wiadomość raczej za w porządku niż nie, więc wyższe ustawienie dodawałoby tylko fałszywe alarmy. Wiadomość, która próbuje słowami obejść moderację — twierdząc, że personel ją zatwierdził, zwracając się do AI lub tłumacząc się żartem albo fikcją — jest zawsze sprawdzana z czułością co najmniej 50, a jej wpis w logu to odnotowuje. Obrazów ta granica nie dotyczy. AI zwykle jest pewne oceny obrazu; o przypadkach granicznych, którym przypisuje od 40 do 69%, decyduje czułość.

​

Kategorie

Dziesięć kategorii, każda z własnym przełącznikiem, własnym zestawem akcji i własną czułością.

​

Kanały ograniczone wiekowo

Na kanale ograniczonym wiekowo w Discord kategoria Sexual content jest tłumiona. Każda inna kategoria — w tym sexual content involving minors — nadal egzekwuje normalnie. Obraz lub film, którego AI nie zdołało ocenić, nie jest tam usuwany — personel dostaje jedynie powiadomienie; zobacz sekcję „Jak sprawdzane są obrazy” poniżej.

​

Akcje

Wybierz dowolną kombinację na kategorię: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Trzy kombinacje są odrzucane:

• Kick i Ban razem
• Alert z Ban
• Alert z Kick

Wszystko inne się stackuje. Delete łączy się z czymkolwiek.

​

Reguły niestandardowe

Napisz własne reguły serwera prostym językiem. AI sprawdza je obok standardowych kategorii: w wiadomościach i nazwach członków, w tym, co pokazują obrazy, i w zawartym w nich tekście, a także w mowie i tekście na ekranie filmów. Każda reguła ma nazwę, opis do 1000 znaków, pojedynczą akcję i opcjonalną czułość nadpisującą wartość globalną. Tak jak w kategoriach, w przypadku tekstu czułość powyżej 50 działa jak 50.

​

Eskalacja

Wyłączona domyślnie. Gdy włączona, powracający przewinienia otrzymują progresywnie silniejsze akcje.

​

Wyjątki

• Zwolnione role — członkowie posiadający dowolną z nich są całkowicie pomijani
• Zwolnione kanały — wiadomości tutaj nigdy nie są skanowane
• Zwolnieni użytkownicy — do 500, przydatne dla botów

​

Potwierdzenie przed kickiem i banem

Włączone domyślnie. Akcje kick i ban są publikowane do zatwierdzenia przez moderatora, a nie stosowane natychmiast. Potwierdzenia wygasają po godzinie. Są publikowane na twoim kanale alertów, z rezerwą na kanał logów, z rezerwą na kanał, na którym była wiadomość.

​

Trust Tiers

Środek oszczędzania tokenów. Członkowie z długą czystą kartoteką są rzadziej skanowani. Cztery zabezpieczenia oznaczają, że zaufany członek nigdy nie jest niewidoczny:

1. Zaproszenia Discord, @everyone/@here i 5+ wzmianek są zawsze skanowane — bez wyjątków
2. Serie 3 wiadomości w 6 sekund wymuszają skan
3. Próbkowanie nigdy nie osiąga zera — zaufany członek jest nadal okresowo skanowany
4. Każde naruszenie natychmiast resetuje zaufanie do zera

Lista Zaufanych członków pokazuje, kto obecnie się kwalifikuje. Reduce obniża czyjąś punktację o połowę; Remove ją całkowicie wymazuje. Obie odnoszą skutek natychmiast — pasek zapisu nie jest zaangażowany.

​

Kanały

• Kanał logów — każde zdarzenie moderacji, z pasującą kategorią i pewnością
• Kanał alertów — zdarzenia o wysokiej ważności i monity potwierdzeń

​

Gdy saldo tokenów się kończy

AI Auto-Mod jest fail-closed: jeśli nie może potwierdzić, że jest budżet, nie skanuje. Powiadomienia idą na twój kanał alertów, z rezerwą na kanał logów. Ostrzeżenie o niskim saldzie odpala się ponownie, jeśli saldo się odbuduje i spadnie po raz drugi.

​

Gdy AI nie odpowiada

Jeśli AI nie odpowie w sprawie tekstu wiadomości — bo jest niedostępne albo działa za wolno — wiadomość nie dostaje werdyktu AI, nic nie kosztuje i nie jest sprawdzana ponownie; nazwa członka jest sprawdzana ponownie przy jego następnej aktualizacji lub zmianie nazwy. Nie ma to wpływu na standardową Automoderację. Obrazy i filmy są sprawdzane jeszcze raz; zobacz niżej.

​

Jak sprawdzane są obrazy

Sprawdzane są maksymalnie cztery obrazy na wiadomość, w tym obrazy w embedach z Discord, Tenor, Giphy i Imgur oraz w wiadomościach, które ktoś przekazuje dalej. Obrazy od piątego wzwyż nie są sprawdzane; na twój kanał alertów trafia wtedy powiadomienie, nie częściej niż raz na godzinę.

• Obrazy animowane — GIF-y oraz animowane WebP — są sprawdzane na podstawie próbki klatek od pierwszej do ostatniej. Animacja zbyt długa lub zbyt duża, by pobrać próbki z całości, albo animowany PNG jest sprawdzany na podstawie próbek, które da się pobrać; jeśli nic nie zostanie znalezione, na twój kanał alertów trafia powiadomienie, że nie sprawdzono całości.
• Filmy są sprawdzane pod kątem tego, co pokazują i co jest w nich mówione; zobacz sekcję „Jak sprawdzane są filmy” poniżej.
• SVG i bardzo małe obrazy — mniejsze niż 10 pikseli lub węższe niż 1:200 — są pomijane.
• Duże obrazy — takie jak zdjęcia i zrzuty całego ekranu — są sprawdzane w zmniejszonym rozmiarze, w którym ich tekst pozostaje czytelny, dzięki czemu zużywają mniej tokenów.

Jeśli AI odmówi oceny obrazu albo zablokuje go filtr bezpieczeństwa, obraz klasyfikuje drugi model AI. Jeśli żaden z nich nie da rady, obraz jest usuwany, a personel dostaje powiadomienie; na kanale ograniczonym wiekowo personel dostaje tylko powiadomienie. Członek nie dostaje za to ostrzeżenia, a przewinienie nie jest mu liczone. Wiadomość, której tekst blokuje filtr bezpieczeństwa dostawcy AI, jest traktowana tak samo. AI czyta też tekst na każdym obrazie — zrzut ekranu czatu, podpis mema — oceniając obraz, a część tego tekstu sprawdza jeszcze raz jak wiadomość: tekst zapisany pismem innym niż łacińskie, na przykład arabskim, cyrylicą lub chińskim, albo z cyframi zamiast liter; oraz cały tekst, gdy AI nie jest pewna co do obrazu albo twój serwer ma reguły niestandardowe, które są sprawdzane na tym tekście i na tym, co pokazuje obraz. To sprawdzenie może tylko dodać wynik, nigdy go nie usuwa, i nic nie kosztuje. Jeśli pozostanie bez odpowiedzi, obowiązuje werdykt dotyczący samego obrazu. Jeśli żaden model AI w ogóle nie odpowie, obraz jest sprawdzany ponownie po około 30 minutach, a na twój kanał alertów trafia powiadomienie, nie częściej niż raz na godzinę. Obraz, którego dostawca AI nie potrafi odczytać, nie jest sprawdzany ponownie; na twój kanał alertów trafia powiadomienie w ten sam sposób.

​

Jak sprawdzane są filmy

Gdy włączone jest Skanuj obrazy i wideo, filmy są sprawdzane również: załączniki wideo oraz film odtwarzany przez GIF z Tenor lub Giphy. Filmy z serwisów takich jak YouTube czy Twitch nie są pobierane; ich obraz podglądu jest sprawdzany jak każdy obraz. Każdy film jest sprawdzany w tle, zwykle w ciągu pół minuty od publikacji:

• Co pokazuje — do 12 klatek, od pierwszej do ostatniej, w tym zmiany scen, są sprawdzane jak obraz.
• Co jest mówione i pisane — mowa z pierwszych 60 sekund jest transkrybowana i sprawdzana jak wiadomość razem z tekstem na ekranie, łącznie z regułami niestandardowymi. Mowa po pierwszej minucie nie jest sprawdzana.

Każdy wynik jest porównywany z twoimi ustawieniami, a zastosowany zostaje najpoważniejszy z tych, na które twoje ustawienia reagują, tak jak każdy inny werdykt AI Auto-Mod. Klatki, których ocenić AI odmawia, są traktowane jak taki obraz: film jest usuwany, a personel dostaje powiadomienie, albo tylko dostaje powiadomienie na kanale ograniczonym wiekowo. Niektóre filmy nie są sprawdzane. Twój kanał alertów dostaje o tym powiadomienie, nie częściej niż raz na godzinę:

• Pliki powyżej 100 MB.
• Film, którego nie można pobrać lub odtworzyć. Nie jest sprawdzany ponownie.
• Film, którego AI nie zdołało sprawdzić w całości. Jeśli AI nie odpowie w przypadku części filmu, film jest sprawdzany jeszcze raz po około minucie. W filmie, którego obrazu nie da się odczytać, mowa jest mimo to sprawdzana.
• Ponad 20 filmów oczekujących na jednym serwerze, lub filmy z ponad 3 wiadomości jednego członka — te powyżej tego limitu są pomijane.

​

Ile kosztuje skan

Jedna wiadomość produkuje jedno wywołanie AI, które kosztuje tyle samo niezależnie od długości wiadomości i liczby twoich reguł niestandardowych. Wiadomość z obrazami produkuje jedno wywołanie dla tekstu plus jedno na obraz, do czterech; odczytanie tekstu na obrazie jest bezpłatne. Obraz, którego oceny odmawia pierwszy model, kosztuje jedno wywołanie więcej, bo wtedy sprawdza go drugi model. Obraz, którego dostawca nie potrafi odczytać, nic nie kosztuje. Film kosztuje do czterech wywołań: do dwóch za klatki, jedno za transkrypcję mowy i jedno za sprawdzenie tego, co powiedziano i pokazano na ekranie, bezpłatne, gdy film nie zawiera mowy. GIF z Tenor lub Giphy liczy się zarówno jako obraz, jak i jako film. Film, którego nie można pobrać lub odtworzyć, nic nie kosztuje, a ponowne opublikowanie już sprawdzonego filmu zwykle też nic nie kosztuje. Film, którego AI nie zdołało za pierwszym razem sprawdzić w całości, jest sprawdzany jeszcze raz, co może ponownie kosztować część tych wywołań.

​

Skanowanie nazw użytkowników

Wyświetlane nazwy i nazwy użytkowników są sprawdzane, gdy członek dołącza i gdy zmienia pseudonim, wyświetlaną nazwę lub nazwę użytkownika. Inne zmiany członka, takie jak nowa rola, kosztują najwyżej jedno sprawdzenie na członka na 30 dni. Nazwy są sprawdzane zarówno pod kątem kategorii, jak i twoich reguł niestandardowych. Akcja Delete jest bez sensu dla nazwy, więc staje się alertem.

​

Rozwiązywanie problemów