Auto-Mod AI

Auto-Moderation standar mencocokkan pola. AI Auto-Moderation membaca pesan seperti yang dilakukan moderator: memahami sarkasme, bahasa terkode, salah eja yang dimaksudkan untuk menghindari filter, dan konten dalam bahasa apa pun yang ditulis anggota Anda. Ia juga membaca gambar dan video, termasuk teks di dalamnya. Pesan yang sudah dihapus oleh Auto-Moderation tidak diperiksa lagi oleh AI.

​

Mulailah dalam mode Monitor

Pengaturan Operating mode adalah kontrol paling penting di halaman.

​

Sensitivitas

Satu slider, dinyatakan sebagai persentase. AI memberi setiap pesan skor 0 hingga 100% untuk setiap kategori — seberapa besar kemungkinan pesan itu melanggarnya — dan sebuah kategori bertindak begitu skornya mencapai 100 dikurangi sensitivitas: pada sensitivitas 25, mulai dari 75%. Titik awal yang seimbang adalah 25–40%. Untuk teks, sensitivitas di atas 50 berlaku seperti 50. Di bawah skor 50, AI menilai sebuah pesan lebih mungkin aman daripada tidak, sehingga pengaturan yang lebih tinggi hanya akan menambah positif palsu. Pesan yang mencoba lolos dari moderasi dengan kata-kata — mengaku sudah disetujui staf, berbicara langsung kepada AI, atau berdalih sebagai lelucon atau fiksi — selalu diperiksa dengan sensitivitas minimal 50, dan entri log-nya menyebutkan hal itu. Gambar tidak memiliki batas tersebut. AI biasanya yakin tentang sebuah gambar; sensitivitas menentukan kasus-kasus batas, yang diberinya skor 40 hingga 69%.

​

Kategori

Sepuluh kategori, masing-masing dengan tombol sendiri, set aksinya sendiri, dan sensitivitasnya sendiri.

​

Saluran yang dibatasi usia

Di saluran Discord yang dibatasi usia, kategori Sexual content disingkirkan. Setiap kategori lain — termasuk sexual content involving minors — masih menegakkan secara normal. Gambar atau video yang tidak dapat dinilai AI akan dilaporkan ke staf di sana alih-alih dihapus; lihat bagian “Cara gambar diperiksa” di bawah.

​

Aksi

Pilih kombinasi apa pun per kategori: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. Tiga kombinasi ditolak:

• Kick dan Ban bersama
• Alert dengan Ban
• Alert dengan Kick

Yang lain menumpuk. Delete menggabungkan dengan apa pun.

​

Aturan kustom

Tulis aturan server Anda sendiri dalam bahasa Inggris sederhana. AI memeriksanya di samping kategori standar: dalam pesan dan nama anggota, dalam apa yang ditampilkan gambar beserta teks di dalamnya, serta dalam ucapan dan teks di layar video. Setiap aturan memiliki nama, deskripsi hingga 1.000 karakter, aksi tunggal, dan sensitivitas opsional yang menimpa nilai global. Seperti pada kategori, untuk teks sensitivitas di atas 50 berlaku seperti 50.

​

Eskalasi

Nonaktif secara default. Ketika aktif, pelanggar berulang menerima aksi yang semakin kuat secara progresif.

​

Pengecualian

• Peran yang dikecualikan — anggota dengan salah satu dari ini dilewati sepenuhnya
• Saluran yang dikecualikan — pesan di sini tidak pernah di-scan
• Pengguna yang dikecualikan — hingga 500, berguna untuk bot

​

Konfirmasi sebelum kick dan ban

Aktif secara default. Aksi kick dan ban diposting untuk moderator menyetujui daripada diterapkan segera. Konfirmasi kedaluwarsa setelah satu jam. Mereka diposting ke saluran alert Anda, kembali ke saluran log, kembali ke saluran tempat pesan berada.

​

Trust Tiers

Tindakan penghematan token. Anggota dengan catatan bersih yang panjang di-scan lebih jarang. Empat pengaman berarti anggota tepercaya tidak pernah tak terlihat:

1. Undangan Discord, @everyone/@here, dan 5+ mention selalu di-scan — tanpa pengecualian
2. Ledakan 3 pesan dalam 6 detik memaksa scan
3. Sampling tidak pernah mencapai nol — anggota tepercaya masih di-scan secara berkala
4. Pelanggaran apa pun mereset kepercayaan menjadi tidak ada secara instan

Daftar Trusted Members menampilkan siapa yang saat ini memenuhi syarat. Reduce memangkas skor seseorang; Remove menghapusnya sepenuhnya. Keduanya berlaku segera — bilah simpan tidak terlibat.

​

Saluran

• Log channel — setiap peristiwa moderasi, dengan kategori yang cocok dan tingkat kepercayaan
• Alert channel — peristiwa keparahan tinggi dan permintaan konfirmasi

​

Ketika saldo token habis

AI Auto-Mod adalah fail-closed: jika tidak dapat mengonfirmasi ada anggaran, ia tidak scan. Pemberitahuan pergi ke saluran alert Anda, kembali ke saluran log. Peringatan saldo rendah menyala lagi jika saldo pulih dan turun untuk kedua kalinya.

​

Saat AI tidak menjawab

Jika AI tidak menjawab untuk teks sebuah pesan — karena sedang down atau terlalu lambat — pesan tersebut tidak mendapat putusan AI, tidak memakan biaya, dan tidak diperiksa lagi; nama anggota diperiksa lagi pada pembaruan anggota atau perubahan nama berikutnya. Auto-Moderation standar tidak terpengaruh. Gambar dan video diperiksa sekali lagi; lihat di bawah.

​

Cara gambar diperiksa

Hingga empat gambar per pesan diperiksa, termasuk gambar dalam embed dari Discord, Tenor, Giphy, dan Imgur, serta dalam pesan yang diteruskan seseorang. Gambar setelah yang keempat tidak diperiksa; saluran alert Anda diberi tahu, paling banyak sekali per jam.

• Gambar animasi — GIF serta WebP animasi — diperiksa di seluruh frame-nya, dengan sampel dari frame pertama hingga terakhir. Animasi yang terlalu panjang atau terlalu besar untuk diambil sampelnya secara penuh, atau PNG animasi, diperiksa berdasarkan bagian yang dapat diambil sampelnya; jika tidak ditemukan apa pun, saluran alert Anda diberi tahu bahwa gambar tersebut tidak diperiksa sepenuhnya.
• Video diperiksa berdasarkan apa yang ditampilkan dan apa yang diucapkan di dalamnya; lihat “Cara video diperiksa” di bawah.
• SVG dan gambar yang sangat kecil — di bawah 10 piksel, atau rasionya lebih tipis dari 1:200 — dilewati.
• Gambar besar — seperti foto dan tangkapan layar penuh — diperiksa dalam ukuran yang diperkecil yang tetap membuat teksnya terbaca, sehingga memakai lebih sedikit token.

Jika AI menolak menilai sebuah gambar, atau filter keamanan memblokirnya, model AI kedua akan mengklasifikasikannya. Jika keduanya tidak bisa, gambar tersebut dihapus dan staf diberi tahu; di saluran yang dibatasi usia, staf hanya diberi tahu. Anggota tidak mendapat peringatan dan tidak dikenai pelanggaran karenanya. Pesan yang teksnya diblokir oleh filter keamanan penyedia AI diperlakukan dengan cara yang sama. AI juga membaca teks di setiap gambar — tangkapan layar obrolan, teks pada meme — saat menilai gambar itu, lalu memeriksa sebagian teksnya sekali lagi seperti pesan: teks dalam aksara non-Latin, seperti Arab, Sirilik, atau Tionghoa, atau yang ditulis dengan angka sebagai pengganti huruf; dan seluruh teks bila AI ragu tentang gambar itu atau server Anda memiliki aturan kustom, yang diperiksa terhadap teks itu dan terhadap apa yang ditampilkan gambar. Pemeriksaan ini hanya bisa menambah temuan, tidak pernah membatalkannya, dan tidak memakan biaya. Jika tidak terjawab, putusan atas gambar itu sendiri tetap berlaku. Jika tidak ada model AI yang menjawab sama sekali, gambar diperiksa lagi sekitar 30 menit kemudian, dan saluran alert Anda diberi tahu, paling banyak sekali per jam. Gambar yang tidak dapat dibaca oleh penyedia AI tidak diperiksa lagi; saluran alert Anda diberi tahu dengan cara yang sama.

​

Cara video diperiksa

Dengan Pindai gambar dan video aktif, video juga diperiksa: lampiran video, dan video yang diputar oleh GIF Tenor atau Giphy. Video di situs seperti YouTube atau Twitch tidak diunduh; gambar pratinjaunya diperiksa seperti gambar apa pun. Setiap video diperiksa di latar belakang, biasanya dalam waktu setengah menit setelah diposting:

• Apa yang ditampilkannya — hingga 12 frame, dari yang pertama hingga terakhir dan termasuk pergantian adegan, diperiksa seperti gambar.
• Apa yang diucapkan dan ditulis — ucapan dalam 60 detik pertamanya ditranskripsi dan diperiksa seperti pesan bersama teks di layar, termasuk aturan kustom. Ucapan setelah menit pertama tidak diperiksa.

Setiap temuan ditimbang terhadap pengaturan Anda, lalu diterapkan temuan paling serius yang ditindaklanjuti oleh pengaturan Anda, seperti keputusan AI Auto-Mod lainnya. Frame yang AI tolak nilai diperlakukan seperti gambar tersebut: video dihapus dan staf diberi tahu, atau hanya diberi tahu di saluran yang dibatasi usia. Beberapa video tidak diperiksa. Saluran alert Anda diberi tahu, paling banyak sekali per jam:

• File di atas 100 MB.
• Video yang tidak dapat diunduh atau diputar. Video ini tidak diperiksa lagi.
• Video yang tidak dapat diperiksa sepenuhnya oleh AI. Jika AI tidak menjawab untuk sebagian darinya, video diperiksa sekali lagi sekitar satu menit kemudian. Video yang gambarnya tidak dapat dibaca tetap diperiksa ucapannya.
• Lebih dari 20 video menunggu di satu server, atau video dari lebih dari 3 pesan milik satu anggota — yang melebihi itu dilewati.

​

Berapa biaya scan

Satu pesan menghasilkan satu panggilan AI, yang biayanya sama berapa pun panjangnya dan berapa pun jumlah aturan kustom Anda. Pesan dengan gambar menghasilkan satu panggilan untuk teks plus satu per gambar, hingga empat; membaca teks dalam gambar gratis. Gambar yang penilaiannya ditolak oleh model pertama memakan satu panggilan tambahan, karena model kedua kemudian memeriksanya. Gambar yang tidak dapat dibaca oleh penyedia AI tidak memakan biaya. Satu video memakan biaya hingga empat panggilan: hingga dua untuk frame-nya, satu untuk mentranskripsi ucapannya dan satu untuk memeriksa apa yang diucapkan dan ditampilkan di layar, yang gratis jika video tidak berisi ucapan. GIF Tenor atau Giphy dihitung sebagai gambar sekaligus video. Video yang tidak dapat diunduh atau diputar tidak memakan biaya, dan repost dari video yang sudah diperiksa biasanya tidak memakan biaya. Video yang tidak dapat diperiksa sepenuhnya oleh AI pada kali pertama diperiksa sekali lagi, sehingga sebagian panggilan tersebut dapat memakan biaya lagi.

​

Pemindaian nama pengguna

Nama tampilan dan nama pengguna diperiksa saat anggota bergabung dan saat mereka mengubah nickname, nama tampilan, atau nama pengguna. Pembaruan anggota lainnya, seperti peran baru, memakan paling banyak satu pemeriksaan per anggota setiap 30 hari. Nama diperiksa terhadap aturan kustom Anda maupun kategori. Aksi Delete tidak berarti untuk nama, jadi menjadi alert sebagai gantinya.

​

Pemecahan masalah