すべてのガイド

ユースケースと導入手順

コミュニティの嫌がらせ報告を一貫して審査する方法

機微な会話、担当者のライブ表示、通知、異議申立てを人中心で扱います。

対象
コミュニティ、SNS、フォーラム、クリエイタープラットフォームの安全チーム
最新ガイド
2026年8月29日更新

01

出発点

複数の会話にわたる繰り返しの嫌がらせが報告されました。パターンを理解する一方、閲覧範囲を限定し、複数の担当者が相反する対応をしないようにする必要があります。

02

守る条件

  • 不要な担当者に機微な会話を見せること。
  • 同じ案件を二人が担当していることに気づかないこと。
  • 曖昧な通知で理解や異議申立てを妨げること。

03

手順

  1. 権限モード、成功したフィクスチャ、不変のバージョン、明示的な失敗経路を備えたビジュアルワークフローを公開します。新しいレポートを受ける前に、そのバージョンを有効なキューポリシーへ固定します。
  2. 構造化された申し立て、メッセージID、安全上の希望、任意の資料を収集する。
  3. 脅迫と差し迫った危険は保護された人レビューキューへ直送する。
  4. 署名付きWebhookで必要な会話範囲だけを取得する。
  5. ライブの在席表示と更新可能な担当権を表示する。
  6. 措置と別々の通知を行い、すべての異議申立てを人が判断する。

04

運用上の境界

嫌がらせキューは人が管理します。AIは証拠整理と不足情報の指摘はできますが、脅迫、性的嫌がらせ、保護属性への攻撃、組織的攻撃、脆弱なユーザーの案件は決定しません。

05

データ交換

conversation_window は参照されたメッセージの最小範囲と出所だけを返し、全履歴は保存しません。取得失敗は可視化され、必須証拠なら判断を止めます。

安定した参照ID署名付きリクエスト型付きの結果

06

確認

担当者は在席状況を確認して案件を引き受け、許可された証拠だけを見て結果を説明します。監査タイムラインは製品DBを複製せず品質確認を可能にします。

07

導入時の質問

在席表示は割り当ての代わりですか?+

いいえ。在席は短期的な認識、担当権は責任を示します。両方により放置案件を永久ロックせず重複を防ぎます。

嫌がらせをAI管理にできますか?+

限定された準備や仕分けは可能ですが、機微、不確実、保護対象、高影響、争われた案件は人が扱います。

Safest Resolve

チームが最初に運用するワークフローを設計しましょう。

レポートの入口、必要な証拠、判断者、製品アクション、通知、異議申立て経路から始めます。