Black プラン専用。 それ未満のプランではページはプラン画面に置き換わります。カスタムボット(
+)は AI アクセスを付与しません ― プラン単体に紐付いています。2 つのスイッチが両方オンである必要があります:サーバーセットアップ の AI Auto-Mod、そしてこのページの設定です。モジュールがオフのときは何もスキャンされず、警告はアンバーのバナー以外に表示されません。
まず Monitor モードで開始する
Operating mode はこのページで最も重要なコントロールです。Monitor
違反はログに記録されます。アクションは行われません。 これが既定です。
Enforce
設定されたアクションが自動で適用されます。
感度
パーセントで表す 1 つのスライダーです。
バランスの取れた出発点は 25〜40% です。
各カテゴリーには独自の感度スライダーがあります。カテゴリーのスライダーが設定されている場合、それだけが適用されます ― グローバル値は未調整のカテゴリー用のフォールバックであり、追加の最低値ではありません。
カテゴリー
10 カテゴリー、それぞれ独自のスイッチ、独自のアクションセット、独自の感度を持ちます。年齢制限付きチャンネル
Discord の年齢制限付きチャンネルでは 性的なコンテンツ カテゴリーが抑制されます。他のカテゴリー(未成年に関する性的なコンテンツを含む)は通常通り強制されます。アクション
カテゴリーごとに任意の組み合わせを選べます:Delete message、Warn user、Timeout、Mute、Kick、Ban、Alert。 拒否される 3 つの組み合わせがあります:- Kick と Ban を同時に
- Alert と Ban
- Alert と Kick
Mute はテキストのみのミュートです。 ボイスチャンネルでは沈黙させません。
カスタムルール
サーバー独自のルールを平易な英語で書きます。AI は標準カテゴリーと並行して適用します。25 ルール、Black プラン専用。
AI の指示を操作しようとしているように見えるルール文は保存時に拒否されます。一般的なエラーで保存できない場合は、命令ではなく行動の平易な説明として書き直してください。
エスカレーション
既定はオフ。オンにすると、繰り返しの違反者には段階的に強いアクションが課されます。1
ステップを追加
各ステップは違反回数(1〜99)+アクションで、Timeout、Mute、Ban には期間も設定します。最大 20 ステップ。
2
減衰ウィンドウを設定
1〜30 日、既定 7。この期間を過ぎると違反はカウント対象から外れます。
現在のメッセージも合計にカウントされます。 1 違反に設定したステップは、そのメンバーの初違反で発動します(2 回目ではなく)。
期間の上限は 1 年です。ダッシュボードは 100,000 時間などの値を受け付けますが、サーバー側で一般的な保存エラーとして拒否されます ― 期間は 1 年以内に収めてください。
除外
- 除外ロール ― これらのいずれかを持つメンバーは完全にスキップ
- 除外チャンネル ― ここのメッセージは決してスキャンしない
- 除外ユーザー ― 最大 500、ボット向けに便利
Administrator を持つメンバーは除外の有無に関わらずスキャンされません。 このチェックはトークンが消費される前に走ります。
Kick と Ban 前の確認
既定でオン。Kick と Ban のアクションは即時実行されず、モデレーターの承認用に投稿されます。 確認は 1 時間で期限切れになります。アラートチャンネルに投稿され、なければログチャンネル、それもなければメッセージがあったチャンネルにフォールバックします。Trust Tiers(信頼ティア)
トークン節約策です。長期にわたって違反のないメンバーはスキャン頻度が下がります。
信頼メンバーが「見えなくなる」ことがないよう、4 つのセーフガードがあります:
- Discord 招待、
@everyone/@here、5 件以上のメンションは常にスキャン ― 例外なし - 6 秒で 3 メッセージのバーストは強制スキャン
- サンプリングはゼロにはならず、信頼メンバーも定期的にスキャンされる
- 違反があると信頼スコアは即座にゼロにリセット
チャンネル
- Log channel ― 一致カテゴリーと確信度を含む全モデレーションイベント
- Alert channel ― 高い深刻度のイベントと確認プロンプト
トークン残高が尽きたら
AI 自動モデレーションはフェイルクローズ設計です:予算があると確認できないとスキャンしません。
通知はアラートチャンネルへ、なければログチャンネルへフォールバックします。残高が回復してから再度下がると、低残高警告は再び発火します。
AI 使用量
支出を追跡、スキャン内容を確認、トップアップ。
1 スキャンのコスト
1 メッセージにつき 1 回の AI 呼び出しです。画像付きメッセージはテキストで 1 回に加えて 画像 1 枚あたり 1 回、最大 4 回 です。ユーザー名スキャン
表示名とユーザー名はメンバーの参加時と名前変更時にチェックされます。名前に対する Delete は意味を持たないので、代わりに Alert になります。トラブルシューティング
何も検出されない
何も検出されない
順番に確認してください:
- サーバーセットアップで AI Auto-Mod がオンか?
- カテゴリーをどれか有効にしたか?既定で 1 つしか有効ではありません。
- Monitor モードか?ログするだけで作動しません。
- トークン残高は 3,000 以上か?
- 対象メンバーが Administrator か、除外リストに載っていないか?
偽陽性が多すぎる
偽陽性が多すぎる
グローバルスライダーではなく、過剰発火している特定カテゴリーの感度を下げてください。調整中は Monitor モードに戻してください。
トークンが急速に減る
トークンが急速に減る
画像スキャンをオフに、Trust Tiers を有効に、モデレーション不要の混雑チャンネルを除外、興味のないカテゴリーを無効化してください。
有効にしたのに何も起こらず、ログすらない
有効にしたのに何も起こらず、ログすらない
モジュールを有効化しても設定を一度も保存していないサーバーは完全に沈黙します。このページを開き、カテゴリーとログチャンネルを設定し、一度保存してください。
メンバーが創意工夫したスペルでフィルターを回避した
メンバーが創意工夫したスペルでフィルターを回避した
それこそが AI 自動モデレーションが扱い、標準の自動モデレーションが扱えない領域です。該当カテゴリーが有効か、感度が低すぎないかを確認してください。
自動モデレーション
パターン一致によるフィルタリング、すべてのプランで無料。
AI サーバー制御
ボットに話しかけてサーバーを管理。