Skip to main content
Black プラン専用。 それ未満のプランではページはプラン画面に置き換わります。カスタムボット(+)は AI アクセスを付与しません ― プラン単体に紐付いています。
標準の 自動モデレーション はパターン一致です。AI 自動モデレーションはモデレーターと同じ読み方をします:皮肉、隠語、フィルター回避のミススペル、メンバーが書くあらゆる言語のコンテンツを理解します。画像も読みます。
2 つのスイッチが両方オンである必要があります:サーバーセットアップAI Auto-Mod、そしてこのページの設定です。モジュールがオフのときは何もスキャンされず、警告はアンバーのバナー以外に表示されません。

まず Monitor モードで開始する

Operating mode はこのページで最も重要なコントロールです。

Monitor

違反はログに記録されます。アクションは行われません。 これが既定です。

Enforce

設定されたアクションが自動で適用されます。
Monitor モードでもトークンは消費されます ― すべてのメッセージがスキャンされ、アクションだけが保留されます。ログチャンネル未設定のまま Monitor を放置すると、誰も見ない結果のスキャン代を払うことになります。
ログチャンネルを設定した状態で Monitor を数日運用し、何が引っかかったかを読み、感度を調整してから Enforce に切り替えてください。この手順を省くのが偽陽性への苦情の最大原因です。

感度

パーセントで表す 1 つのスライダーです。 バランスの取れた出発点は 25〜40% です。
各カテゴリーには独自の感度スライダーがあります。カテゴリーのスライダーが設定されている場合、それだけが適用されます ― グローバル値は未調整のカテゴリー用のフォールバックであり、追加の最低値ではありません。

カテゴリー

10 カテゴリー、それぞれ独自のスイッチ、独自のアクションセット、独自の感度を持ちます。
最初から有効なのは 未成年に関する性的なコンテンツ のみです。他はすべてオフで、有効化しないと動きません ― 有効化直後の AI 自動モデレーションは、設定するまでほぼ何もしません。
未成年に関する性的なコンテンツのカテゴリーは技術的には編集可能ですが、無効にすると Discord の利用規約違反になる可能性があります。オンのままにしてください。

年齢制限付きチャンネル

Discord の年齢制限付きチャンネルでは 性的なコンテンツ カテゴリーが抑制されます。他のカテゴリー(未成年に関する性的なコンテンツを含む)は通常通り強制されます。

アクション

カテゴリーごとに任意の組み合わせを選べます:Delete message、Warn user、Timeout、Mute、Kick、Ban、Alert。 拒否される 3 つの組み合わせがあります:
  • Kick Ban を同時に
  • Alert Ban
  • Alert Kick
それ以外はすべて重ねられます。Delete はどれとでも組み合わせられます。
Mute はテキストのみのミュートです。 ボイスチャンネルでは沈黙させません。

カスタムルール

サーバー独自のルールを平易な英語で書きます。AI は標準カテゴリーと並行して適用します。
25 ルール、Black プラン専用。
各ルールに名前、最大 1,000 文字の説明、単一のアクション、そして任意でグローバル値を上書きする感度があります。
許可されることと許可されないことの両方を具体的に書いてください。「他のサーバーの広告禁止、ただし友人のアートや配信リンクを #showcase で共有するのは OK」の方が「広告禁止」よりずっと精度が高くなります。
AI の指示を操作しようとしているように見えるルール文は保存時に拒否されます。一般的なエラーで保存できない場合は、命令ではなく行動の平易な説明として書き直してください。
一致したカスタムルールは 自身の 感度に対して評価され、同等のカテゴリーが有効かどうかとは独立して強制されます。

エスカレーション

既定はオフ。オンにすると、繰り返しの違反者には段階的に強いアクションが課されます。
1

ステップを追加

各ステップは違反回数(1〜99)+アクションで、Timeout、Mute、Ban には期間も設定します。最大 20 ステップ。
2

減衰ウィンドウを設定

1〜30 日、既定 7。この期間を過ぎると違反はカウント対象から外れます。
現在のメッセージも合計にカウントされます。 1 違反に設定したステップは、そのメンバーの初違反で発動します(2 回目ではなく)。
ステップのアクションはカテゴリーの処罰を 置き換え ますが、カテゴリーが持っていた場合は Delete と Alert を維持します。エスカレーションは処罰をエスカレートするだけで、メッセージ削除を止めるわけではありません。
期間の上限は 1 年です。ダッシュボードは 100,000 時間などの値を受け付けますが、サーバー側で一般的な保存エラーとして拒否されます ― 期間は 1 年以内に収めてください。

除外

  • 除外ロール ― これらのいずれかを持つメンバーは完全にスキップ
  • 除外チャンネル ― ここのメッセージは決してスキャンしない
  • 除外ユーザー ― 最大 500、ボット向けに便利
Administrator を持つメンバーは除外の有無に関わらずスキャンされません。 このチェックはトークンが消費される前に走ります。

Kick と Ban 前の確認

既定でオン。Kick と Ban のアクションは即時実行されず、モデレーターの承認用に投稿されます。
確認は削除を保留しません。 カテゴリーのアクションセットに Delete が含まれる場合、違反検出の瞬間にメッセージは削除されます。Kick や Ban だけが承認を待ちます。
確認は 1 時間で期限切れになります。アラートチャンネルに投稿され、なければログチャンネル、それもなければメッセージがあったチャンネルにフォールバックします。

Trust Tiers(信頼ティア)

トークン節約策です。長期にわたって違反のないメンバーはスキャン頻度が下がります。 信頼メンバーが「見えなくなる」ことがないよう、4 つのセーフガードがあります:
  1. Discord 招待、@everyone/@here、5 件以上のメンションは常にスキャン ― 例外なし
  2. 6 秒で 3 メッセージのバーストは強制スキャン
  3. サンプリングはゼロにはならず、信頼メンバーも定期的にスキャンされる
  4. 違反があると信頼スコアは即座にゼロにリセット
賑わうサーバーでは Trust Tiers はトークン支出を大幅に削減できます。よく投稿するメンバーはたいていルールを破らない人だからです。
Trusted Members リストで現在資格のあるメンバーを確認できます。Reduce はスコアを半分に、Remove は完全にクリアします。どちらも即時適用され ― 保存バーは関与しません。

チャンネル

  • Log channel ― 一致カテゴリーと確信度を含む全モデレーションイベント
  • Alert channel ― 高い深刻度のイベントと確認プロンプト
どちらも未設定だと、AI モデレーションはどこにも記録を残さずに動作します。

トークン残高が尽きたら

AI 自動モデレーションはフェイルクローズ設計です:予算があると確認できないとスキャンしません。 通知はアラートチャンネルへ、なければログチャンネルへフォールバックします。残高が回復してから再度下がると、低残高警告は再び発火します。

AI 使用量

支出を追跡、スキャン内容を確認、トップアップ。

1 スキャンのコスト

1 メッセージにつき 1 回の AI 呼び出しです。画像付きメッセージはテキストで 1 回に加えて 画像 1 枚あたり 1 回、最大 4 回 です。
画像スキャンがサーバーに重要でなければ、Scan images をオフにするのが単一で最大の節約です。

ユーザー名スキャン

表示名とユーザー名はメンバーの参加時と名前変更時にチェックされます。名前に対する Delete は意味を持たないので、代わりに Alert になります。

トラブルシューティング

順番に確認してください:
  1. サーバーセットアップで AI Auto-Mod がオンか?
  2. カテゴリーをどれか有効にしたか?既定で 1 つしか有効ではありません。
  3. Monitor モードか?ログするだけで作動しません。
  4. トークン残高は 3,000 以上か?
  5. 対象メンバーが Administrator か、除外リストに載っていないか?
グローバルスライダーではなく、過剰発火している特定カテゴリーの感度を下げてください。調整中は Monitor モードに戻してください。
画像スキャンをオフに、Trust Tiers を有効に、モデレーション不要の混雑チャンネルを除外、興味のないカテゴリーを無効化してください。
モジュールを有効化しても設定を一度も保存していないサーバーは完全に沈黙します。このページを開き、カテゴリーとログチャンネルを設定し、一度保存してください。
それこそが AI 自動モデレーションが扱い、標準の自動モデレーションが扱えない領域です。該当カテゴリーが有効か、感度が低すぎないかを確認してください。

自動モデレーション

パターン一致によるフィルタリング、すべてのプランで無料。

AI サーバー制御

ボットに話しかけてサーバーを管理。