Chuyển đến nội dung chính
Chỉ hạng Black. Trên bất kỳ hạng thấp hơn, trang được thay thế bằng chế độ xem kế hoạch. Custom Bot (+) không cấp quyền truy cập AI — nó chỉ được liên kết với hạng.
Auto-Moderation tiêu chuẩn khớp các mẫu. AI Auto-Moderation đọc tin nhắn theo cách một moderator sẽ đọc: nó hiểu mỉa mai, ngôn ngữ mã hóa, lỗi chính tả có ý định né bộ lọc, và nội dung bằng bất kỳ ngôn ngữ nào mà các thành viên của bạn viết. Nó cũng đọc hình ảnh và video, cùng văn bản trong đó. Tin nhắn mà Auto-Moderation đã xóa sẽ không được AI kiểm tra lại.
Hai nút chuyển phải cả hai đều bật: AI Auto-Mod trong Server Setup, và các cài đặt trên trang này. Với module tắt, không có gì quét và không có cảnh báo xuất hiện ở đây ngoài một banner hổ phách.

​
Bắt đầu ở chế độ Monitor

Cài đặt Operating mode là điều khiển quan trọng nhất trên trang.

Monitor

Vi phạm được ghi lại. Không có hành động nào được thực hiện, ngoại trừ việc nội dung khiêu dâm liên quan đến trẻ vị thành niên luôn bị xóa. Đây là mặc định.

Enforce

Các hành động được cấu hình được áp dụng tự động.
Chế độ Monitor vẫn tốn token — mọi tin nhắn đều được quét, chỉ hành động bị giữ lại. Nếu bạn để Monitor bật mà không đặt kênh log, bạn trả tiền cho các lần quét mà kết quả không ai thấy.
Chạy Monitor trong vài ngày với một kênh log, đọc những gì nó đánh dấu, điều chỉnh độ nhạy của bạn, rồi chuyển sang Enforce. Bỏ qua bước này là nguyên nhân phổ biến nhất của các khiếu nại về báo động sai.

​
Độ nhạy

Một thanh trượt, được biểu thị bằng phần trăm. AI chấm điểm mỗi tin nhắn từ 0 đến 100% cho từng danh mục — khả năng tin nhắn vi phạm danh mục đó — và một danh mục sẽ hành động khi điểm của nó đạt 100 trừ đi độ nhạy: với độ nhạy 25, từ 75%. Một điểm bắt đầu cân bằng là 25–40%. Với văn bản, độ nhạy trên 50 có tác dụng như 50. Dưới mức điểm 50, AI đánh giá một tin nhắn có nhiều khả năng ổn hơn là vi phạm, nên một mức cài đặt cao hơn chỉ làm tăng báo động nhầm. Một tin nhắn cố gắng lách qua kiểm duyệt bằng lời lẽ — tự nhận đã được đội ngũ quản trị duyệt, nói trực tiếp với AI, hoặc biện minh rằng đó chỉ là đùa hay hư cấu — luôn được kiểm tra với độ nhạy ít nhất 50, và bản ghi log của nó sẽ ghi rõ điều này. Hình ảnh không có giới hạn này. AI thường chắc chắn khi đánh giá một hình ảnh; độ nhạy sẽ quyết định các trường hợp lưng chừng, mà AI chấm từ 40 đến 69%.
Mỗi danh mục có thanh trượt độ nhạy riêng của nó. Khi thanh trượt của một danh mục được đặt, đó là cái duy nhất áp dụng — giá trị toàn cầu là dự phòng cho các danh mục bạn chưa điều chỉnh, không phải là sàn thêm.

​
Danh mục

Mười danh mục, mỗi cái có nút chuyển riêng, bộ hành động riêng và độ nhạy riêng.
Chỉ Nội dung khiêu dâm liên quan đến trẻ vị thành niên được bật sẵn. Mọi danh mục khác đều tắt cho đến khi bạn bật nó — một AI Auto-Mod mới được bật hầu như không làm gì cho đến khi bạn cấu hình nó.
Nội dung khiêu dâm liên quan đến trẻ vị thành niên luôn bị xóa. Khi AI đánh giá một tin nhắn, hình ảnh hoặc video ở mức 50% trở lên cho danh mục này, nội dung sẽ bị xóa và đội ngũ quản trị được thông báo — ngay cả khi danh mục bị tắt, khi mức đánh giá dưới độ nhạy của danh mục, trong kênh bị giới hạn tuổi hoặc ở chế độ Monitor. Cài đặt riêng của danh mục chỉ quyết định hình phạt bổ sung, chẳng hạn như lệnh cấm. Nội dung bị bộ lọc an toàn trẻ em của một nhà cung cấp AI chặn cũng được xử lý theo cùng cách này. Những nội dung này không bao giờ được hiển thị trong bất kỳ bản ghi log hay alert nào, và mọi văn bản mà AI chấm từ 35% trở lên cho danh mục này cũng vậy. Hãy để danh mục này luôn bật.
Khi một tin nhắn có nhiều kết quả — văn bản, hình ảnh và văn bản trong hình, các khung hình, lời nói và văn bản trên màn hình của video — mỗi kết quả được đối chiếu với cài đặt của bạn, và trong số các kết quả mà cài đặt của bạn có xử lý, kết quả nghiêm trọng nhất sẽ được áp dụng. Nội dung khiêu dâm liên quan đến trẻ vị thành niên ở mức 50% trở lên sẽ bị xóa, bên cạnh hình phạt mà một kết quả khác yêu cầu.

​
Kênh bị giới hạn tuổi

Trong một kênh bị hạn chế tuổi của Discord, danh mục Nội dung khiêu dâm bị chặn. Mọi danh mục khác — bao gồm nội dung khiêu dâm liên quan đến trẻ vị thành niên — vẫn thi hành bình thường. Tại những kênh này, hình ảnh hoặc video mà AI không thể đánh giá sẽ được báo cáo cho đội ngũ quản trị thay vì bị xóa; xem “Cách hình ảnh được kiểm tra” bên dưới.

​
Hành động

Chọn bất kỳ tổ hợp nào mỗi danh mục: Xóa tin nhắn, Cảnh báo người dùng, Timeout, Mute, Kick, Cấm, Alert. Ba tổ hợp bị từ chối:
  • Kick và Cấm cùng nhau
  • Alert với Cấm
  • Alert với Kick
Mọi thứ khác xếp chồng. Xóa kết hợp với bất kỳ điều gì.
Mute chỉ là mute văn bản. Nó không làm im lặng thành viên trong các kênh voice.

​
Quy tắc tùy chỉnh

Viết các quy tắc riêng của máy chủ của bạn bằng tiếng Anh thuần. AI kiểm tra chúng cùng với các danh mục tiêu chuẩn: trong tin nhắn và tên thành viên, trong những gì hình ảnh thể hiện và văn bản trong đó, và trong lời nói và văn bản trên màn hình của video.
25 quy tắc, chỉ hạng Black.
Mỗi quy tắc có một tên, một mô tả lên đến 1.000 ký tự, một hành động duy nhất, và một độ nhạy tùy chọn ghi đè giá trị toàn cầu. Giống như với danh mục, với văn bản, độ nhạy trên 50 có tác dụng như 50.
Hãy cụ thể về những gì được phép cũng như những gì không. “Không quảng cáo các máy chủ khác, nhưng chia sẻ liên kết nghệ thuật hoặc stream của một người bạn trong #showcase là được” hoạt động tốt hơn nhiều so với “không quảng cáo”.
Văn bản quy tắc trông giống như một nỗ lực thao túng các hướng dẫn của AI bị từ chối khi lưu. Nếu một quy tắc từ chối lưu với một lỗi chung, hãy diễn đạt lại nó dưới dạng mô tả đơn giản về hành vi thay vì như một lệnh.
Một quy tắc tùy chỉnh khớp được kiểm tra dựa trên độ nhạy riêng của nó và thi hành độc lập với việc danh mục tương đương có được bật hay không.

​
Leo thang

Tắt theo mặc định. Khi bật, những kẻ tái phạm nhận được các hành động ngày càng mạnh hơn.
1

Thêm các bước

Mỗi bước là một số vi phạm (1–99) cộng với một hành động, với một thời lượng cho timeout, mute và cấm. Lên đến 20 bước.
2

Đặt cửa sổ decay

1 đến 30 ngày, mặc định 7. Sau khoảng thời gian này, một vi phạm ngừng đếm.
Tin nhắn hiện tại tính vào tổng số. Một bước được đặt thành 1 vi phạm kích hoạt trên vi phạm đầu tiên của thành viên, không phải vi phạm thứ hai.
Hành động của một bước thay thế hình phạt của danh mục nhưng giữ Xóa và Alert nếu danh mục có chúng. Leo thang leo thang hình phạt; nó không dừng tin nhắn bị loại bỏ.
Một thời lượng được giới hạn ở một năm. Bảng điều khiển chấp nhận các giá trị như 100.000 giờ mà máy chủ sau đó từ chối với một lỗi lưu chung — giữ thời lượng trong vòng một năm.

​
Miễn trừ

  • Vai trò miễn trừ — thành viên có bất kỳ vai trò nào trong số này bị bỏ qua hoàn toàn
  • Kênh miễn trừ — tin nhắn ở đây không bao giờ được quét
  • Người dùng miễn trừ — lên đến 500, hữu ích cho các bot
Các thành viên có Administrator không bao giờ được quét, dù bạn có miễn trừ họ hay không. Kiểm tra này chạy trước khi bất kỳ token nào được tiêu.

​
Xác nhận trước khi kick và ban

Bật theo mặc định. Các hành động kick và ban được đăng cho một moderator phê duyệt thay vì được áp dụng ngay lập tức.
Xác nhận không giữ lại việc xóa. Nếu bộ hành động của danh mục bao gồm Xóa, tin nhắn được loại bỏ ngay khi phát hiện vi phạm. Chỉ kick hoặc ban chờ phê duyệt.
Các xác nhận hết hạn sau một giờ. Chúng được đăng vào kênh alert của bạn, quay lại kênh log, quay lại kênh mà tin nhắn ở đó.

​
Trust Tiers

Một biện pháp tiết kiệm token. Các thành viên có bản ghi sạch dài được quét ít thường xuyên hơn. Bốn biện pháp bảo vệ nghĩa là một thành viên đáng tin cậy không bao giờ vô hình:
  1. Lời mời Discord, @everyone/@here, và 5+ đề cập luôn được quét — không có ngoại lệ
  2. Một loạt 3 tin nhắn trong 6 giây buộc phải quét
  3. Lấy mẫu không bao giờ đạt đến không — một thành viên đáng tin cậy vẫn được quét định kỳ
  4. Bất kỳ vi phạm nào đặt lại tin cậy về không ngay lập tức
Trên một máy chủ bận Trust Tiers có thể cắt giảm chi tiêu token đáng kể, vì các thành viên đăng nhiều nhất thường là những người không bao giờ phá vỡ quy tắc.
Danh sách Trusted Members hiển thị ai hiện đủ điều kiện. Reduce giảm nửa điểm của ai đó; Remove xóa nó hoàn toàn. Cả hai đều có hiệu lực ngay lập tức — thanh lưu không liên quan.

​
Kênh

  • Log channel — mọi sự kiện kiểm duyệt, với danh mục khớp và độ tin cậy
  • Alert channel — các sự kiện có mức độ nghiêm trọng cao và các lời nhắc xác nhận
Không có cái nào được đặt, kiểm duyệt AI chạy và hành động không có bản ghi có thể nhìn thấy ở bất kỳ đâu.

​
Khi số dư token hết

AI Auto-Mod là fail-closed: nếu nó không thể xác nhận có ngân sách, nó không quét. Thông báo đi đến kênh alert của bạn, quay lại kênh log. Cảnh báo số dư thấp kích hoạt lại nếu số dư phục hồi và giảm lần thứ hai.

AI Usage

Theo dõi chi tiêu, xem những gì đã được quét, và nạp thêm.

​
Khi AI không phản hồi

Nếu AI không phản hồi về văn bản của một tin nhắn — do gặp sự cố hoặc quá chậm — tin nhắn sẽ không có phán quyết AI, không tốn gì và không được kiểm tra lại; tên của thành viên sẽ được kiểm tra lại vào lần cập nhật thành viên hoặc đổi tên tiếp theo. Auto-Moderation tiêu chuẩn không bị ảnh hưởng. Hình ảnh và video được kiểm tra thêm một lần; xem bên dưới.

​
Cách hình ảnh được kiểm tra

Tối đa bốn hình ảnh mỗi tin nhắn được kiểm tra, bao gồm cả hình ảnh trong nội dung nhúng từ Discord, Tenor, Giphy và Imgur, và trong các tin nhắn mà ai đó chuyển tiếp. Các hình ảnh sau hình thứ tư không được kiểm tra; kênh alert của bạn sẽ nhận được thông báo, tối đa một lần mỗi giờ.
  • Hình ảnh động — GIF và WebP động — được kiểm tra trên nhiều khung hình, lấy mẫu từ khung đầu đến khung cuối. Một hoạt ảnh quá dài hoặc quá lớn để lấy mẫu toàn bộ, hoặc một PNG động, sẽ được kiểm tra dựa trên phần có thể lấy mẫu được; nếu không phát hiện gì, kênh alert của bạn sẽ nhận được thông báo rằng nó chưa được kiểm tra đầy đủ.
  • Video được kiểm tra dựa trên những gì nó hiển thị và những gì được nói trong đó; xem “Cách video được kiểm tra” bên dưới.
  • SVG và hình ảnh rất nhỏ — dưới 10 điểm ảnh, hoặc mảnh hơn tỷ lệ 1:200 — sẽ bị bỏ qua.
  • Hình ảnh lớn — như ảnh chụp và ảnh chụp toàn màn hình — được kiểm tra ở kích thước thu nhỏ vẫn giữ chữ dễ đọc, nhờ đó tốn ít token hơn.
Nếu AI từ chối đánh giá một hình ảnh, hoặc bộ lọc an toàn chặn hình ảnh đó, một mô hình AI thứ hai sẽ phân loại nó. Nếu cả hai đều không thể, hình ảnh sẽ bị xóa và đội ngũ quản trị được thông báo; trong kênh bị giới hạn tuổi, đội ngũ quản trị chỉ được thông báo. Thành viên không bị cảnh báo và cũng không bị ghi nhận vi phạm vì việc này. Một tin nhắn có văn bản bị bộ lọc an toàn của nhà cung cấp AI chặn cũng được xử lý theo cùng cách này. AI cũng đọc văn bản trong mỗi hình ảnh — ảnh chụp màn hình một cuộc trò chuyện, chữ trên một meme — khi đánh giá hình ảnh đó, rồi kiểm tra lại một phần văn bản như một tin nhắn: văn bản không viết bằng chữ Latinh, như chữ Ả Rập, chữ Kirin hay chữ Hán, hoặc viết bằng số thay cho chữ cái; và toàn bộ văn bản khi AI không chắc chắn về hình ảnh hoặc máy chủ của bạn có quy tắc tùy chỉnh, các quy tắc này được đối chiếu với văn bản đó và với những gì hình ảnh thể hiện. Lần kiểm tra này chỉ có thể thêm kết quả, không bao giờ xóa bỏ kết quả nào, và không tốn gì. Nếu không nhận được phản hồi, phán quyết của chính hình ảnh vẫn giữ nguyên. Nếu không có mô hình AI nào phản hồi, hình ảnh sẽ được kiểm tra lại sau khoảng 30 phút, và kênh alert của bạn sẽ nhận được thông báo, tối đa một lần mỗi giờ. Hình ảnh mà nhà cung cấp AI không đọc được sẽ không được kiểm tra lại; kênh alert của bạn cũng nhận được thông báo theo cùng cách đó.

​
Cách video được kiểm tra

Khi bật Quét hình ảnh và video, video cũng được kiểm tra: các tệp video đính kèm, và video mà một GIF Tenor hoặc Giphy phát. Video trên các trang như YouTube hoặc Twitch không được tải xuống; hình ảnh xem trước của chúng được kiểm tra như bất kỳ hình ảnh nào. Mỗi video được kiểm tra trong nền, thường trong vòng 30 giây sau khi được đăng:
  • Những gì nó hiển thị — tối đa 12 khung hình, từ khung đầu đến khung cuối và bao gồm cả các thay đổi cảnh, được kiểm tra như một hình ảnh.
  • Những gì được nói và viết — lời nói trong 60 giây đầu tiên được chuyển thành văn bản và kiểm tra như một tin nhắn cùng với văn bản trên màn hình, bao gồm cả các quy tắc tùy chỉnh. Lời nói sau phút đầu tiên không được kiểm tra.
Mỗi kết quả được đối chiếu với cài đặt của bạn, và trong số các kết quả mà cài đặt của bạn có xử lý, kết quả nghiêm trọng nhất sẽ được áp dụng, như bất kỳ phán quyết nào khác của AI Auto-Mod. Các khung hình mà AI từ chối đánh giá được xử lý như một hình ảnh như vậy: video bị xóa và đội ngũ quản trị được thông báo, hoặc chỉ được thông báo trong một kênh bị giới hạn tuổi. Một số video không được kiểm tra. Kênh alert của bạn sẽ nhận được thông báo, tối đa một lần mỗi giờ:
  • Các tệp trên 100 MB.
  • Một video không thể tải xuống hoặc phát. Nó sẽ không được kiểm tra lại.
  • Một video mà AI không thể kiểm tra đầy đủ. Nếu AI không phản hồi cho một phần của video, video sẽ được kiểm tra thêm một lần sau khoảng một phút. Nếu không đọc được phần hình của video, lời nói trong video vẫn được kiểm tra.
  • Hơn 20 video đang chờ trên một máy chủ, hoặc video từ hơn 3 tin nhắn của một thành viên — những video vượt quá số đó sẽ bị bỏ qua.

​
Một lần quét tốn bao nhiêu

Một tin nhắn tạo ra một cuộc gọi AI, có giá như nhau bất kể độ dài và số lượng quy tắc tùy chỉnh của bạn. Một tin nhắn có hình ảnh tạo ra một cuộc gọi cho văn bản cộng với một cho mỗi hình ảnh, lên đến bốn; việc đọc văn bản trong hình ảnh là miễn phí. Một hình ảnh mà mô hình đầu tiên từ chối đánh giá sẽ tốn thêm một cuộc gọi, vì khi đó một mô hình thứ hai sẽ kiểm tra nó. Hình ảnh mà nhà cung cấp AI không đọc được thì không tốn gì. Một video tốn tối đa bốn cuộc gọi: tối đa hai cho các khung hình của nó, một để chuyển lời nói thành văn bản và một để kiểm tra những gì đã nói và hiển thị trên màn hình, miễn phí khi video không có lời nói. Một GIF Tenor hoặc Giphy được tính là cả hình ảnh lẫn video. Một video không thể tải xuống hoặc phát thì không tốn gì, và việc đăng lại một video đã được kiểm tra thường cũng không tốn gì. Một video mà AI không thể kiểm tra đầy đủ ở lần đầu sẽ được kiểm tra thêm một lần, việc này có thể tốn lại một phần các cuộc gọi đó.
Nếu quét hình ảnh và video không quan trọng đối với máy chủ của bạn, tắt Quét hình ảnh và video là khoản tiết kiệm lớn nhất có sẵn.

​
Quét tên người dùng

Tên hiển thị và tên người dùng được kiểm tra khi một thành viên tham gia và khi họ thay đổi biệt danh, tên hiển thị hoặc tên người dùng. Các cập nhật khác của thành viên, chẳng hạn như một vai trò mới, tốn tối đa một lần kiểm tra cho mỗi thành viên mỗi 30 ngày. Tên được kiểm tra theo các quy tắc tùy chỉnh của bạn cũng như theo các danh mục. Một hành động Xóa vô nghĩa cho một tên, nên nó trở thành một alert thay thế.

​
Xử lý sự cố

Làm việc qua chúng theo thứ tự:
  1. AI Auto-Mod có bật trong Server Setup không?
  2. Bạn đã bật bất kỳ danh mục nào chưa? Chỉ một cái được bật theo mặc định.
  3. Bạn có ở chế độ Monitor không? Nó ghi nhật ký, và chỉ hành động đối với nội dung khiêu dâm liên quan đến trẻ vị thành niên.
  4. Số dư token của bạn có trên 3.000 không?
  5. Các thành viên liên quan có phải là Administrators, hoặc trong danh sách miễn trừ không?
Hạ độ nhạy trên danh mục cụ thể đang kích hoạt quá mức thay vì thanh trượt toàn cầu. Quay lại chế độ Monitor trong khi bạn điều chỉnh.
Tắt quét hình ảnh và video, bật Trust Tiers và miễn trừ các kênh có lưu lượng cao không cần kiểm duyệt. Tắt các danh mục không tiết kiệm được gì: một lần kiểm tra có giá như nhau, bất kể danh mục và quy tắc nào đang bật.
Một máy chủ có module bật nhưng không có cấu hình được lưu là hoàn toàn im lặng. Mở trang này, đặt các danh mục và một kênh log của bạn, và lưu một lần.
Đó chính xác là điều mà AI Auto-Mod xử lý và Auto-Mod tiêu chuẩn không. Đảm bảo danh mục liên quan được bật và độ nhạy của nó không được đặt quá thấp.

Auto-Moderation

Lọc dựa trên mẫu, miễn phí trên mọi hạng.

AI Server Control

Quản lý máy chủ bằng cách nói chuyện với bot.