AI 자동 조정

일반 자동 조정은 패턴을 일치시킵니다. AI 자동 조정은 조정자처럼 메시지를 읽습니다: 반어법, 은어, 필터를 우회하려는 오탈자, 그리고 멤버가 사용하는 모든 언어의 콘텐츠를 이해합니다. 이미지와 동영상도, 그 안의 텍스트까지 읽습니다. 자동 조정이 이미 삭제한 메시지는 AI가 다시 검사하지 않습니다.

​

Monitor 모드로 시작하세요

Operating mode 설정이 이 페이지에서 가장 중요한 컨트롤입니다.

​

감도

퍼센트로 표현된 슬라이더 하나. AI는 각 메시지에 카테고리마다 0에서 100%까지 점수를 매기며(해당 카테고리를 위반할 가능성), 점수가 100에서 감도를 뺀 값에 도달하면 그 카테고리가 조치합니다. 감도가 25라면 75%부터입니다. 균형 잡힌 시작점은 25~40%입니다. 텍스트의 경우 50을 넘는 감도는 50처럼 작동합니다. 점수가 50 미만이면 AI는 그 메시지가 위반보다는 문제없을 가능성이 더 높다고 판단하므로, 더 높게 설정해도 오탐만 늘어납니다. 말로 조정을 피해 가려는 메시지(스태프가 승인했다고 주장하거나, AI에게 직접 말을 걸거나, 농담이나 허구라고 둘러대는 경우)는 항상 최소 50의 감도로 검사되며, 로그 항목에도 그 사실이 기록됩니다. 이미지에는 이 제한이 없습니다. AI는 이미지에 대해서는 대개 확신을 가지고 판정하며, 40에서 69%로 점수를 매긴 경계선상의 이미지는 감도에 따라 처리 여부가 결정됩니다.

​

카테고리

10개 카테고리, 각각 자체 스위치, 자체 조치 세트, 자체 감도가 있습니다.

​

연령 제한 채널

Discord 연령 제한 채널에서는 성적 콘텐츠 카테고리가 억제됩니다. 미성년자 관련 성적 콘텐츠를 포함한 다른 모든 카테고리는 정상적으로 시행됩니다. 이러한 채널에서는 AI가 판정하지 못한 이미지 또는 동영상을 삭제하지 않고 스태프에게 보고합니다. 자세한 내용은 아래의 “이미지 검사 방식”을 참고하세요.

​

조치

카테고리당 자유롭게 조합: Delete message, Warn user, Timeout, Mute, Kick, Ban, Alert. 세 가지 조합은 거부됩니다:

• Kick 과 Ban 함께
• Alert 와 Ban
• Alert 와 Kick

나머지는 모두 조합 가능합니다. Delete는 어떤 것과도 결합됩니다.

​

커스텀 규칙

서버만의 규칙을 자연스러운 영어로 작성합니다. AI는 메시지와 멤버 이름, 이미지에 담긴 내용과 그 안의 텍스트, 동영상의 음성과 화면 속 텍스트에서 이를 표준 카테고리와 함께 검사합니다. 각 규칙에는 이름, 최대 1,000자 설명, 단일 조치, 그리고 글로벌 값을 재정의하는 선택적 감도가 있습니다. 카테고리와 마찬가지로, 텍스트에서는 50을 넘는 감도가 50처럼 작동합니다.

​

에스컬레이션

기본은 꺼짐. 켜면 반복 위반자에게 점진적으로 강한 조치가 적용됩니다.

​

제외

• 제외 역할 — 이 역할 중 하나라도 가진 멤버는 완전히 건너뜁니다
• 제외 채널 — 여기의 메시지는 절대 스캔되지 않습니다
• 제외 사용자 — 최대 500명, 봇에 유용합니다

​

Kick 및 Ban 전 확인

기본은 켜짐. Kick과 Ban 조치는 즉시 적용되지 않고 조정자의 승인을 위해 게시됩니다. 확인은 1시간 후 만료됩니다. 알림 채널에 게시되며, 없으면 로그 채널, 그것도 없으면 해당 메시지 채널로 폴백됩니다.

​

신뢰 등급

토큰 절약 조치입니다. 오랫동안 깨끗한 기록을 유지한 멤버는 덜 자주 스캔됩니다. 신뢰받는 멤버가 결코 보이지 않게 되는 것을 막는 네 가지 안전장치:

1. Discord 초대, @everyone/@here, 5개 이상 멘션은 항상 스캔됩니다 — 예외 없음
2. 6초 동안 3개 메시지 폭발은 스캔을 강제합니다
3. 샘플링은 절대 0에 도달하지 않습니다 — 신뢰받는 멤버도 주기적으로 스캔됩니다
4. 어떤 위반이라도 신뢰가 즉시 0으로 초기화됩니다

신뢰받는 멤버 목록은 현재 자격 있는 사람을 보여줍니다. Reduce는 점수를 절반으로 낮추고, Remove는 완전히 지웁니다. 둘 다 즉시 적용됩니다 — 저장 바가 관여하지 않습니다.

​

채널

• 로그 채널 — 모든 조정 이벤트, 일치한 카테고리와 확신도 표시
• 알림 채널 — 고위험 이벤트와 확인 프롬프트

​

토큰 잔액이 소진될 때

AI 자동 조정은 안전-우선 방식입니다: 예산이 있는지 확인할 수 없으면 스캔하지 않습니다. 안내는 알림 채널에 게시되며, 없으면 로그 채널로 폴백됩니다. 잔액이 회복되었다가 두 번째로 낮아지면 저잔액 경고가 다시 발생합니다.

​

AI가 응답하지 않을 때

메시지의 텍스트에 대해 AI가 응답하지 않으면(서비스가 중단되었거나 너무 느린 경우) 그 메시지는 AI 판정을 받지 못하고, 비용이 들지 않으며, 다시 검사되지 않습니다. 멤버의 이름은 해당 멤버의 다음 업데이트나 이름 변경 시 다시 검사됩니다. 일반 자동 조정에는 영향이 없습니다. 이미지와 동영상은 한 번 더 검사됩니다. 아래를 참고하세요.

​

이미지 검사 방식

메시지당 최대 4개의 이미지를 검사하며, Discord, Tenor, Giphy, Imgur 임베드에 포함된 이미지와 누군가 전달한 메시지 속 이미지도 검사 대상입니다. 다섯 번째 이후의 이미지는 검사하지 않으며, 알림 채널에 최대 1시간에 한 번 안내가 게시됩니다.

• 애니메이션 이미지(GIF, 애니메이션 WebP)는 첫 프레임부터 마지막 프레임까지 프레임을 샘플링해 검사합니다. 너무 길거나 커서 전체를 샘플링할 수 없는 애니메이션이나 애니메이션 PNG는 샘플링할 수 있는 부분만으로 검사하며, 아무것도 발견되지 않으면 완전히 검사되지 않았다는 안내가 알림 채널에 게시됩니다.
• 동영상은 무엇을 보여주는지와 그 안에서 무엇이 말해지는지에 따라 검사됩니다. 아래의 “동영상 검사 방식”을 참고하세요.
• SVG와 아주 작은 이미지(10픽셀 미만이거나 가로세로 비율이 1:200보다 가늘고 긴 이미지)는 건너뜁니다.
• 큰 이미지(사진이나 전체 화면 스크린샷 등)는 글자를 읽을 수 있는 크기로 줄여서 검사하므로 토큰을 더 적게 사용합니다.

AI가 이미지 판정을 거부하거나 안전 필터가 이미지를 차단하면 두 번째 AI 모델이 분류합니다. 둘 다 판정하지 못하면 이미지는 삭제되고 스태프에게 알림이 전송됩니다. 연령 제한 채널에서는 스태프에게 알림만 전송됩니다. 이 경우 멤버는 경고를 받지 않으며 위반도 기록되지 않습니다. AI 제공업체의 안전 필터가 텍스트를 차단한 메시지도 같은 방식으로 처리됩니다. AI는 각 이미지 속 텍스트(채팅 스크린샷, 밈의 문구 등)도 읽어 이미지 판정에 반영하고, 그중 일부를 메시지처럼 한 번 더 검사합니다. 아랍 문자, 키릴 문자, 한자처럼 라틴 문자가 아닌 문자로 쓰였거나 글자 대신 숫자를 섞어 쓴 텍스트가 대상입니다. AI가 이미지 판정을 확신하지 못하거나 서버에 커스텀 규칙이 있으면 모든 텍스트가 검사되며, 커스텀 규칙은 그 텍스트와 이미지에 담긴 내용 모두에 대해 검사됩니다. 이 검사는 결과를 추가할 수만 있고 취소하지는 않으며, 비용이 들지 않습니다. 응답이 없으면 이미지 자체의 판정이 그대로 유지됩니다. 어떤 AI 모델도 응답하지 않으면 약 30분 뒤에 이미지를 다시 검사하며, 알림 채널에 최대 1시간에 한 번 안내가 게시됩니다. AI 제공업체가 읽을 수 없는 이미지는 다시 검사하지 않으며, 같은 방식으로 알림 채널에 안내가 게시됩니다.

​

동영상 검사 방식

이미지 및 비디오 스캔이 켜져 있으면 동영상도 검사됩니다: 동영상 첨부 파일과 Tenor 또는 Giphy GIF가 재생하는 동영상입니다. YouTube나 Twitch 같은 사이트의 동영상은 다운로드되지 않으며, 미리보기 이미지가 일반 이미지와 마찬가지로 검사됩니다. 각 동영상은 백그라운드에서 검사되며, 보통 게시된 지 30초 이내에 이루어집니다:

• 무엇을 보여주는지 — 처음부터 마지막까지 장면 전환을 포함해 최대 12개의 프레임이 이미지처럼 검사됩니다.
• 무엇이 말해지고 쓰이는지 — 처음 60초 동안의 음성이 텍스트로 변환되어 화면 속 텍스트와 함께, 커스텀 규칙을 포함해 메시지처럼 검사됩니다. 1분이 지난 후의 음성은 검사되지 않습니다.

각 결과를 설정에 비추어 평가하고, 다른 AI 자동 조정 판정과 마찬가지로 설정상 조치 대상인 결과 중 가장 심각한 것을 적용합니다. AI가 판정을 거부한 프레임은 그러한 이미지와 동일하게 처리됩니다: 동영상이 삭제되고 스태프에게 알림이 전송되거나, 연령 제한 채널에서는 알림만 전송됩니다. 일부 동영상은 검사되지 않습니다. 이 경우 알림 채널에 최대 1시간에 한 번 다음 내용이 게시됩니다:

• 100 MB를 초과하는 파일.
• 다운로드하거나 재생할 수 없는 동영상. 다시 검사되지 않습니다.
• AI가 완전히 검사하지 못한 동영상. 일부에 대해 AI가 응답하지 않으면 약 1분 뒤에 한 번 더 검사합니다. 화면을 읽을 수 없는 동영상도 음성은 검사합니다.
• 하나의 서버에서 20개를 초과하는 동영상이 대기 중인 경우, 또는 한 멤버의 동영상이 담긴 메시지가 3개를 초과하는 경우 — 그 이상은 건너뜁니다.

​

스캔당 비용

메시지 하나당 AI 호출 하나이며, 길이나 커스텀 규칙 수와 관계없이 비용이 같습니다. 이미지가 있는 메시지는 텍스트에 대한 호출 하나에 이미지당 하나씩, 최대 4개까지 추가되며, 이미지 속 텍스트를 읽는 것은 무료입니다. 첫 번째 모델이 판정을 거부한 이미지는 두 번째 모델이 검사하므로 호출이 하나 더 듭니다. AI 제공업체가 읽을 수 없는 이미지에는 비용이 들지 않습니다. 동영상은 최대 4회의 호출 비용이 듭니다: 프레임에 최대 2회, 음성을 텍스트로 변환하는 데 1회, 말한 내용과 화면에 표시된 내용을 검사하는 데 1회입니다(동영상에 음성이 없으면 이 검사는 무료입니다). Tenor 또는 Giphy GIF는 이미지이자 동영상으로 취급됩니다. 다운로드하거나 재생할 수 없는 동영상에는 비용이 들지 않으며, 이미 검사된 동영상을 다시 게시한 경우에도 보통 비용이 들지 않습니다. 처음에 AI가 완전히 검사하지 못한 동영상은 한 번 더 검사하므로, 그 호출 중 일부의 비용이 다시 들 수 있습니다.

​

사용자명 스캔

표시 이름과 사용자 이름은 멤버가 가입할 때와 닉네임, 표시 이름 또는 사용자 이름을 변경할 때 검사됩니다. 새 역할 부여 등 그 밖의 멤버 업데이트에는 멤버당 30일마다 최대 1회의 검사 비용이 듭니다. 이름은 카테고리뿐 아니라 커스텀 규칙에 대해서도 검사됩니다. 이름에 대한 Delete 조치는 의미가 없으므로 대신 알림이 됩니다.

​

문제 해결