跳转到主要内容
仅限 Black 等级。 在任何更低等级上，页面被替换为方案视图。自定义机器人（+）不授予 AI 访问——它仅与等级绑定。
标准 自动审核 匹配模式。AI 自动审核像审核员一样阅读消息：它理解讽刺、隐语、旨在躲避过滤器的错拼，以及你成员书写的任何语言。它还能读取图片和视频，以及其中的文字。已被自动审核移除的消息不会再由 AI 检查。
必须同时打开两个开关：服务器设置 中的 AI 自动审核，以及本页面上的设置。模块关闭时，什么都不扫描，此处除了一条琥珀色横幅外没有警告。

​
从监控模式开始

运行模式 设置是页面上最重要的控件。

监控

违规被记录。不采取任何行动，但涉及未成年人的色情内容始终会被移除。这是默认。

执行

自动应用已配置的动作。
监控模式仍然消耗令牌——每条消息都被扫描，只是保留了动作。若你开着监控但未设置日志频道，你为无人查看结果的扫描付费。
开启日志频道并运行监控几天，阅读它标记了什么，调整你的灵敏度，然后切换到执行。跳过这一步是关于误报的投诉最常见的原因。

​
灵敏度

一个滑块，用百分比表示。AI 会针对每个类别给每条消息打出 0 到 100% 的分数（即它违反该类别的可能性），当分数达到 100 减去灵敏度时，该类别就会采取行动：灵敏度为 25 时，从 75% 起。 平衡的起点是 25–40%。 对于文字，高于 50 的灵敏度与 50 效果相同。分数低于 50 时，AI 认为消息更可能没有问题，因此设置得更高只会增加误报。试图靠说辞绕过审核的消息（声称已获管理人员批准、直接对 AI 喊话，或以玩笑、虚构为借口）始终以不低于 50 的灵敏度检查，其日志记录也会注明这一点。 图片没有这一上限。AI 对图片的判定通常很有把握；得分在 40 到 69% 之间的临界图片，由灵敏度决定如何处理。
每个类别都有自己的灵敏度滑块。当类别的滑块被设定时，它是唯一生效的 ——全局值是你未调整类别的回退，而不是一个额外的底线。

​
类别

十个类别，每个都有自己的开关、自己的动作集和自己的灵敏度。
开箱只启用 涉及未成年人的色情内容。其他每个类别在你打开之前都关闭——刚启用的 AI 自动审核在你配置之前几乎什么都不做。
涉及未成年人的色情内容始终会被移除。 当 AI 对某条消息、图片或视频在该类别上的评分达到 50% 或以上时，内容会被删除，并向管理人员发出警报——即使该类别已关闭、未达到其灵敏度、位于年龄限制频道或处于监控模式也是如此。该类别自身的设置只决定额外的处罚，例如封禁。被 AI 提供商的儿童安全过滤器拦截的内容也按同样方式处理。这些内容绝不会显示在任何日志或警报记录中，AI 在该类别上评分达到 35% 或以上的文字也一样。请保持开启。
当一条消息有多项检测结果（文字、图片及其中的文字，以及视频的画面帧、语音和屏幕文字）时，每一项都会对照你的设置进行评估，并在你的设置会采取行动的结果中应用最严重的一项。涉及未成年人的色情内容评分达到 50% 或以上时，除了其他检测结果所要求的处罚外，还会被移除。

​
年龄限制频道

在 Discord 年龄限制频道中，色情内容 类别被抑制。其他每个类别——包括涉及未成年人的色情内容——仍正常执行。在这类频道中，AI 无法判定的图片或视频不会被删除，而是报告给管理人员；详见下文的”图片检查方式”。

​
动作

每个类别选择任何组合：删除消息、警告用户、超时、静音、踢出、封禁、警报。 三种组合被拒绝：
  • 踢出 和 封禁一起
  • 警报 配合 封禁
  • 警报 配合 踢出
其他都可叠加。删除与任何动作组合。
静音仅为文字静音。 它不在语音频道中让成员噤声。

​
自定义规则

用普通英语书写你服务器自己的规则。AI 会与标准类别一并检查它们：包括消息和成员名称、图片所展示的内容及其中的文字，以及视频的语音和屏幕文字。
25 条规则，仅限 Black 等级。
每条规则有一个名称、最多 1,000 字符的描述、单一动作，以及一个可选的灵敏度覆盖全局值。与类别一样，对于文字，高于 50 的灵敏度与 50 效果相同。
请对允许和不允许的内容都具体说明。“不允许宣传其他服务器，但在 #showcase 中分享朋友的画作或直播链接是可以的”比”不允许广告”表现好得多。
看起来像试图操纵 AI 指令的规则文本在保存时被拒绝。若一条规则以通用错误拒绝保存，请将其改写为对行为的平实描述，而不是命令。
匹配的自定义规则按 其自己的 灵敏度检查，独立于等效类别是否启用而执行。

​
递进

默认关闭。开启时，屡犯者会收到逐步加重的动作。
1

添加步骤

每一步是一个违规次数（1–99）加一个动作，超时、静音和封禁带时长。最多 20 步。
2

设置衰减窗口

1 到 30 天，默认 7。此时长之后，违规不再计数。
当前消息计入总数。 设为 1 次违规的步骤在成员第一次犯错时触发，而不是第二次。
步骤的动作 替换 类别的处罚，但若类别有删除和警报则保留它们。递进升级处罚；它不阻止消息被移除。
时长上限为一年。仪表板接受 100,000 小时这样的值，然后服务器以通用保存错误拒绝——请将时长保持在一年内。

​
豁免

  • 豁免角色 ——拥有任一角色的成员完全跳过
  • 豁免频道 ——这里的消息从不扫描
  • 豁免用户 ——最多 500 个，对机器人很有用
拥有管理员权限的成员从不被扫描，无论你是否豁免他们。此检查在花费任何令牌之前运行。

​
踢出与封禁前的确认

默认开启。踢出和封禁动作会被发布供审核员批准，而不是立即应用。
确认不会推迟删除。 若类别的动作集包含删除，消息在检测到违规的瞬间被移除。只有踢出或封禁等待批准。
确认在一小时后过期。它们发布到你的警报频道，回退到日志频道，回退到消息所在频道。

​
信任等级

一项节省令牌的措施。长期干净记录的成员被扫描得更少。 四项安全保障意味着受信任的成员从未真正不可见：
  1. Discord 邀请、@everyone/@here 和 5 个及以上的提及始终扫描 ——无例外
  2. 6 秒内 3 条消息的爆发强制扫描
  3. 抽样从不归零——受信任的成员仍会定期被扫描
  4. 任何违规立即将信任重置为零
在忙碌的服务器上，信任等级可以大幅削减令牌花费，因为发帖最多的成员通常正是从不破坏规则的成员。
受信任成员 列表显示当前有资格的人。降低 将某人的分数减半；移除 完全清除。两者立即生效——不涉及保存栏。

​
频道

  • 日志频道 ——每次审核事件，附匹配的类别和置信度
  • 警报频道 ——高严重性事件和确认提示
两者都未设置时，AI 审核运行并采取行动，任何地方都没有可见记录。

​
令牌余额耗尽时

AI 自动审核是失败-关闭的：若无法确认有预算，就不扫描。 通知发送到你的警报频道，回退到日志频道。若余额恢复后再次下降，低余额警告会再次触发。

AI 用量

跟踪花费、查看扫描了什么并充值。

​
AI 未响应时

如果 AI 未对某条消息的文字作出响应（因为服务中断或响应过慢），该消息不会得到 AI 判定，不产生费用，也不会被重新检查；成员的名字会在该成员下一次更新或更名时重新检查。标准自动审核不受影响。图片和视频会再检查一次；见下文。

​
图片检查方式

每条消息最多检查四张图片，包括来自 Discord、Tenor、Giphy 和 Imgur 的嵌入内容中的图片，以及有人转发的消息中的图片。第四张之后的图片不会被检查；你的警报频道会收到通知，最多每小时一次。
  • 动态图片（GIF 以及动态 WebP）会从首帧到末帧抽样检查各帧。过长或过大、无法完整抽样的动画，以及动态 PNG，都会根据可抽样的部分进行检查；如果未发现问题，你的警报频道会收到通知，告知其未被完整检查。
  • 视频 会根据其画面内容和语音内容进行检查；详见下文的”视频检查方式”。
  • SVG 和极小的图片（小于 10 像素，或宽高比超过 1:200）会被跳过。
  • 大图片（如照片和全屏截图）会先缩小到仍能看清其中文字的尺寸再检查，因此消耗的令牌更少。
如果 AI 拒绝判定某张图片，或安全过滤器拦截了它，将由第二个 AI 模型对其进行分类。如果两者都无法判定，该图片会被 删除并向管理人员发出警报；在年龄限制频道中则只向管理人员发出警报。成员不会因此收到警告，也不会被记为违规。文字被 AI 提供商安全过滤器拦截的消息也按同样方式处理。 AI 还会读取每张图片中的文字（例如聊天截图或表情包上的文字），将其纳入对图片的判定，并像检查消息一样再检查其中一部分：以非拉丁字母书写的文字（如阿拉伯文、西里尔文或中文），或用数字代替字母书写的文字；当 AI 对图片的判定没有把握，或你的服务器设有自定义规则时，则检查全部文字，并将你的自定义规则对照这些文字和图片所展示的内容进行检查。这项检查只能增加检测结果，绝不会撤销结果，也不产生费用。如果它没有得到响应，则以图片本身的判定为准。 如果没有任何 AI 模型响应，该图片会在大约 30 分钟后重新检查，你的警报频道也会收到通知，最多每小时一次。AI 提供商无法读取的图片不会重新检查；你的警报频道同样会收到通知。

​
视频检查方式

开启 扫描图片和视频 后，视频也会被检查：视频附件，以及 Tenor 或 Giphy GIF 所播放的视频。YouTube 或 Twitch 等网站上的视频不会被下载；它们的预览图会像其他图片一样被检查。 每个视频都会在后台进行检查，通常在发布后半分钟内完成：
  • 画面内容 ——最多 12 帧，从第一帧到最后一帧，包括场景切换处，都会像图片一样被检查。
  • 语音和文字内容 ——视频前 60 秒内的语音会被转录，并与屏幕文字一起像消息一样接受检查，包括自定义规则在内。第一分钟之后的语音不会被检查。
每项检测结果都会对照你的设置进行评估，并在你的设置会采取行动的结果中应用最严重的一项，与其他任何 AI 自动审核判定一样。AI 拒绝判定的帧与此类图片的处理方式相同：视频会被删除并向管理人员发出警报；在年龄限制频道中则只向管理人员发出警报。 某些视频不会被检查。你的警报频道会收到通知，最多每小时一次：
  • 超过 100 MB 的文件。
  • 无法下载或播放的视频。该视频不会被再次检查。
  • AI 未能完整检查的视频。如果 AI 对视频的某一部分没有响应，该视频会在约一分钟后再检查一次。画面无法读取的视频，其语音仍会被检查。
  • 同一服务器上等待检查的视频超过 20 个，或来自同一成员超过 3 条消息的视频 ——超出部分会被跳过。

​
一次扫描的成本

一条消息产生一次 AI 调用，无论消息长短、自定义规则多少，费用都相同。带图片的消息为文字产生一次调用加上 每张图片一次，最多四张；读取图片中的文字是免费的。第一个模型拒绝判定的图片会多花一次调用，因为随后会由第二个模型检查。AI 提供商无法读取的图片不产生费用。 每个视频最多产生四次调用：画面帧最多两次，转录语音一次，检查所说内容和屏幕显示内容一次（视频没有语音时此项免费）。Tenor 或 Giphy 的 GIF 会同时算作一张图片和一个视频。无法下载或播放的视频不产生费用，已检查过的视频再次发布时通常也不产生费用。首次未能被 AI 完整检查的视频会再检查一次，可能会再次消耗其中部分调用。
若图片和视频扫描对你的服务器不重要，关闭 扫描图片和视频 是可用的最大单项节省。

​
用户名扫描

显示名和用户名会在成员加入时，以及成员更改昵称、显示名或用户名时被检查。其他成员更新（例如获得新角色）每 30 天最多为每位成员产生一次检查费用。名字除了按类别检查，也会按你的自定义规则检查。删除动作对名字无意义，因此改为警报。

​
故障排查

按顺序检查：
  1. AI 自动审核在服务器设置中打开了吗？
  2. 你启用了任何类别吗？只有一个默认开启。
  3. 你在监控模式吗？它会记录，但只对涉及未成年人的色情内容采取行动。
  4. 你的令牌余额高于 3,000 吗？
  5. 涉及的成员是管理员，或在豁免列表上？
降低超发的具体类别的灵敏度，而不是全局滑块。调整时请返回监控模式。
关闭图片和视频扫描、启用信任等级，并豁免不需要审核的高流量频道。关闭类别并不能节省费用：无论开启了哪些类别和规则，一次检查的费用都相同。
启用模块但从未保存任何配置的服务器完全沉默。请打开此页面，设置类别和日志频道，并保存一次。
这正是 AI 自动审核处理而标准自动审核不处理的。请确保相关类别已启用且其灵敏度未设置过低。

自动审核

基于模式的过滤，所有等级免费。

AI 服务器控制

通过与机器人对话管理服务器。