AI Otomatik Moderasyonu

Standart Otomatik Moderasyon örüntüleri eşleştirir. AI Otomatik Moderasyon mesajı bir moderatörün yapacağı gibi okur: alaycılığı, kodlanmış dili, filtreleri atlatmak için yapılmış yazım hatalarını ve üyelerinizin yazdığı herhangi bir dildeki içeriği anlar. Ayrıca görüntüleri ve videoları, içlerindeki metinle birlikte okur. Otomatik Moderasyon’un zaten kaldırdığı bir mesaj, AI tarafından bir kez daha kontrol edilmez.

​

İzleme modunda başlayın

Çalışma modu ayarı sayfadaki en önemli kontroldür.

​

Hassasiyet

Yüzde olarak ifade edilen tek bir kaydırıcı. AI her mesajı her kategori için %0 ile %100 arasında puanlar — mesajın o kategoriyi ihlal etme olasılığı — ve bir kategori, puanı 100 eksi hassasiyete ulaştığında devreye girer: 25 hassasiyette %75’ten itibaren. Dengeli bir başlangıç noktası %25–40’tır. Metin için 50’nin üzerindeki bir hassasiyet 50 gibi çalışır. 50’nin altındaki bir puanda AI, mesajı ihlal eden değil büyük olasılıkla sorunsuz sayar; bu yüzden daha yüksek bir ayar yalnızca yanlış alarm ekler. Moderasyonu laf kalabalığıyla atlatmaya çalışan bir mesaj — ekibin onayladığını iddia ederek, AI’ye seslenerek ya da kendini şaka veya kurgu olarak savunarak — her zaman en az 50 hassasiyetle kontrol edilir ve günlük kaydı bunu belirtir. Görüntülerde böyle bir sınır yoktur. AI bir görüntü hakkında genellikle emindir; %40 ile %69 arasında puanladığı sınırdaki görüntülere hassasiyet karar verir.

​

Kategoriler

Her biri kendi anahtarına, kendi eylem setine ve kendi hassasiyetine sahip on kategori.

​

Yaş kısıtlı kanallar

Discord’da yaş kısıtlaması olan bir kanalda Cinsel içerik kategorisi bastırılır. Küçükleri içeren cinsel içerik dahil diğer her kategori hâlâ normal şekilde uygulanır. AI’nin değerlendiremediği bir görüntü veya video ise orada silinmek yerine ekibe bildirilir; aşağıdaki “Görüntüler nasıl kontrol edilir” bölümüne bakın.

​

Eylemler

Kategori başına herhangi bir kombinasyon seçin: Mesajı sil, Kullanıcıyı uyar, Zaman aşımına al, Sustur, At, Yasakla, Uyarı. Üç kombinasyon reddedilir:

• At ve Yasakla birlikte
• Uyarı ile Yasakla
• Uyarı ile At

Diğer her şey birikir. Sil her şeyle birleşir.

​

Özel kurallar

Sunucunuzun kendi kurallarını sade İngilizce olarak yazın. AI bunları standart kategorilerin yanında kontrol eder: mesajlarda ve üye adlarında, görüntülerin gösterdiklerinde ve içlerindeki metinde, videoların konuşmasında ve ekrandaki metninde. Her kuralın bir adı, 1.000 karaktere kadar bir açıklaması, tek bir eylemi ve küresel değeri geçersiz kılan isteğe bağlı bir hassasiyeti vardır. Kategorilerde olduğu gibi, metin için 50’nin üzerindeki bir hassasiyet 50 gibi çalışır.

​

Yükseltme

Varsayılan olarak kapalıdır. Açık olduğunda, tekrar suç işleyenler kademeli olarak daha güçlü eylemler alır.

​

Muafiyetler

• Muaf roller — bu rollerden herhangi birine sahip üyeler tamamen atlanır
• Muaf kanallar — buradaki mesajlar asla taranmaz
• Muaf kullanıcılar — 500’e kadar, botlar için kullanışlıdır

​

At ve yasakla öncesi onay

Varsayılan olarak açıktır. At ve yasakla eylemleri hemen uygulanmak yerine bir moderatörün onayı için gönderilir. Onaylar bir saat sonra sona erer. Uyarı kanalınıza, oradan günlük kanalına, oradan da mesajın olduğu kanala düşerek gönderilirler.

​

Güven Kademeleri

Bir token tasarrufu önlemi. Uzun temiz sicile sahip üyeler daha az sıklıkla taranır. Dört güvence, güvenilir bir üyenin asla görünmez olmayacağı anlamına gelir:

1. Discord davetleri, @everyone/@here ve 5+ bahsetme her zaman taranır — istisna yok
2. 6 saniyede 3 mesajlık bir ani artış taramayı zorlar
3. Örnekleme asla sıfıra ulaşmaz — güvenilir bir üye yine de periyodik olarak taranır
4. Herhangi bir ihlal güveni anında sıfıra sıfırlar

Güvenilir Üyeler listesi şu anda kimin nitelikli olduğunu gösterir. Azalt birinin puanını yarıya indirir; Kaldır tamamen temizler. Her ikisi de hemen geçerli olur — kaydetme çubuğu devrede değildir.

​

Kanallar

• Günlük kanalı — eşleşen kategori ve güven ile her moderasyon olayı
• Uyarı kanalı — yüksek önem taşıyan olaylar ve onay istemleri

​

Token bakiyesi bittiğinde

AI Otomatik Moderasyonu güvenli-kapalıdır: bütçe olduğunu doğrulayamazsa tarama yapmaz. Bildirimler uyarı kanalınıza, oradan da günlük kanalına düşerek gider. Bakiye toparlanır ve ikinci kez düşerse düşük bakiye uyarısı tekrar tetiklenir.

​

AI yanıt vermediğinde

AI bir mesajın metni için yanıt vermezse — hizmet dışı olduğu ya da çok yavaş kaldığı için — mesaj AI kararı almaz, hiçbir maliyeti olmaz ve yeniden kontrol edilmez; bir üyenin adı ise üyenin bir sonraki güncellemesinde veya ad değişikliğinde yeniden kontrol edilir. Standart Otomatik Moderasyon bundan etkilenmez. Görüntüler ve videolar bir kez daha kontrol edilir; aşağıya bakın.

​

Görüntüler nasıl kontrol edilir

Mesaj başına dörde kadar görüntü kontrol edilir; Discord, Tenor, Giphy ve Imgur embed’lerindeki ve birinin ilettiği mesajlardaki görüntüler de buna dahildir. Dördüncüden sonraki görüntüler kontrol edilmez; uyarı kanalınıza en fazla saatte bir kez bildirim gönderilir.

• Hareketli görüntüler — GIF’ler ve hareketli WebP dosyaları — ilkinden sonuncusuna kadar örneklenen kareleri üzerinden kontrol edilir. Tamamı örneklenemeyecek kadar uzun veya büyük bir animasyon ya da hareketli bir PNG, örneklenebilen kısmı üzerinden kontrol edilir; hiçbir şey bulunmazsa uyarı kanalınıza tam olarak kontrol edilmediğine dair bir bildirim gönderilir.
• Videolar, gösterdikleri ve içlerinde söylenenler üzerinden kontrol edilir; aşağıdaki “Videolar nasıl kontrol edilir” bölümüne bakın.
• SVG’ler ve çok küçük görüntüler — 10 pikselden küçük veya en-boy oranı 1:200’den ince olanlar — atlanır.
• Büyük görüntüler — fotoğraflar ve tam ekran görüntüleri gibi — metinlerini okunur tutan küçültülmüş bir boyutta kontrol edilir; bu da daha az token harcar.

AI bir görüntüyü değerlendirmeyi reddederse ya da bir güvenlik filtresi onu engellerse, görüntüyü ikinci bir AI modeli sınıflandırır. İkisi de sınıflandıramazsa görüntü silinir ve ekip uyarılır; yaş kısıtlaması olan bir kanalda ise ekip yalnızca uyarılır. Üye bunun için uyarı almaz ve hakkında suç kaydı oluşturulmaz. Metni AI sağlayıcısının güvenlik filtresi tarafından engellenen bir mesaj da aynı şekilde ele alınır. AI ayrıca her görüntüdeki metni de okur — bir sohbet ekran görüntüsü, bir mem yazısı gibi — ve görüntü hakkındaki kararına katar; bu metnin bir kısmını da bir mesaj gibi bir kez daha kontrol eder: Arap, Kiril veya Çin yazısı gibi Latin olmayan bir yazıdaki ya da harflerin yerine rakamlarla yazılmış metni; AI görüntüden emin olmadığında veya sunucunuzun özel kuralları olduğunda ise metnin tamamını; özel kurallarınız bu metne ve görüntünün gösterdiklerine göre kontrol edilir. Bu kontrol yalnızca bulgu ekleyebilir, hiçbir bulguyu kaldıramaz ve hiçbir maliyeti yoktur. Yanıtsız kalırsa görüntünün kendi kararı geçerli olur. Hiçbir AI modeli yanıt vermezse görüntü yaklaşık 30 dakika sonra yeniden kontrol edilir ve uyarı kanalınıza en fazla saatte bir kez bildirim gönderilir. AI sağlayıcısının okuyamadığı bir görüntü yeniden kontrol edilmez; uyarı kanalınıza aynı şekilde bildirim gönderilir.

​

Videolar nasıl kontrol edilir

Görselleri ve videoları tara açıkken videolar da kontrol edilir: video ekleri ve bir Tenor veya Giphy GIF’inin oynattığı video. YouTube veya Twitch gibi sitelerdeki videolar indirilmez; önizleme görüntüleri herhangi bir görüntü gibi kontrol edilir. Her video arka planda kontrol edilir, genellikle paylaşıldıktan yarım dakika içinde:

• Ne gösterdiği — ilkinden sonuncusuna kadar, sahne değişiklikleri dahil, en fazla 12 kare bir görüntü gibi kontrol edilir.
• Ne söylendiği ve yazıldığı — ilk 60 saniyesindeki konuşma metne dökülür ve ekrandaki metinle birlikte, özel kurallar dahil bir mesaj gibi kontrol edilir. İlk dakikadan sonraki konuşma kontrol edilmez.

Her bulgu ayarlarınıza göre değerlendirilir ve ayarlarınızın işlem yaptığı bulgular arasından en ciddisi, diğer herhangi bir AI Otomatik Moderasyon kararında olduğu gibi uygulanır. AI’nin değerlendirmeyi reddettiği kareler böyle bir görüntü gibi ele alınır: video silinir ve ekip uyarılır, ya da yaş kısıtlaması olan bir kanalda yalnızca ekip uyarılır. Bazı videolar kontrol edilmez. Uyarı kanalınıza bu konuda en fazla saatte bir kez bildirim gönderilir:

• 100 MB’ın üzerindeki dosyalar.
• İndirilemeyen veya oynatılamayan bir video. Yeniden kontrol edilmez.
• AI’nin tam olarak kontrol edemediği bir video. AI videonun bir kısmı için yanıt vermezse, video yaklaşık bir dakika sonra bir kez daha kontrol edilir. Görüntüsü okunamayan bir videonun konuşması yine de kontrol edilir.
• Bir sunucuda 20’den fazla bekleyen video, ya da bir üyenin 3’ten fazla mesajından gelen videolar — bunun ötesindekiler atlanır.

​

Bir taramanın maliyeti nedir

Bir mesaj, uzunluğundan ve kaç özel kuralınız olduğundan bağımsız olarak aynı ücretle faturalanan bir AI çağrısı üretir. Görüntüleri olan bir mesaj metin için bir çağrı artı görüntü başına dörde kadar bir çağrı üretir; bir görüntüdeki metni okumak ücretsizdir. İlk modelin değerlendirmeyi reddettiği bir görüntü bir çağrıya daha mal olur, çünkü bu durumda onu ikinci bir model kontrol eder. AI sağlayıcısının okuyamadığı bir görüntünün ise hiçbir maliyeti olmaz. Bir video en fazla dört çağrıya mal olur: kareleri için en fazla iki, konuşmasını metne dökmek için bir ve söylenenleri ve ekranda gösterilenleri kontrol etmek için bir — video konuşma içermiyorsa bu sonuncusu ücretsizdir. Bir Tenor veya Giphy GIF’i hem bir görüntü hem de bir video olarak sayılır. İndirilemeyen veya oynatılamayan bir videonun maliyeti olmaz, ve zaten kontrol edilmiş bir videonun yeniden paylaşılmasının da genellikle maliyeti olmaz. AI’nin ilk seferde tam olarak kontrol edemediği bir video bir kez daha kontrol edilir; bu da o çağrıların bir kısmının yeniden harcanmasına neden olabilir.

​

Kullanıcı adı taraması

Görünen adlar ve kullanıcı adları, bir üye katıldığında ve takma adını, görünen adını veya kullanıcı adını değiştirdiğinde kontrol edilir. Yeni bir rol gibi diğer üye güncellemeleri, üye başına 30 günde en fazla bir kontrole mal olur. Adlar kategorilerin yanı sıra özel kurallarınıza göre de kontrol edilir. Bir ad için Sil eylemi anlamsızdır, bu yüzden bunun yerine bir uyarıya dönüşür.

​

Sorun giderme