すべてのガイド
ユースケースと導入手順
コミュニティの嫌がらせ報告を一貫して審査する方法
機微な会話、担当者のライブ表示、通知、異議申立てを人中心で扱います。
- 対象
- コミュニティ、SNS、フォーラム、クリエイタープラットフォームの安全チーム
- 最新ガイド
- 2026年8月29日更新
01
出発点
複数の会話にわたる繰り返しの嫌がらせが報告されました。パターンを理解する一方、閲覧範囲を限定し、複数の担当者が相反する対応をしないようにする必要があります。
02
守る条件
- 不要な担当者に機微な会話を見せること。
- 同じ案件を二人が担当していることに気づかないこと。
- 曖昧な通知で理解や異議申立てを妨げること。
03
手順
- 権限モード、成功したフィクスチャ、不変のバージョン、明示的な失敗経路を備えたビジュアルワークフローを公開します。新しいレポートを受ける前に、そのバージョンを有効なキューポリシーへ固定します。
- 構造化された申し立て、メッセージID、安全上の希望、任意の資料を収集する。
- 脅迫と差し迫った危険は保護された人レビューキューへ直送する。
- 署名付きWebhookで必要な会話範囲だけを取得する。
- ライブの在席表示と更新可能な担当権を表示する。
- 措置と別々の通知を行い、すべての異議申立てを人が判断する。
04
運用上の境界
嫌がらせキューは人が管理します。AIは証拠整理と不足情報の指摘はできますが、脅迫、性的嫌がらせ、保護属性への攻撃、組織的攻撃、脆弱なユーザーの案件は決定しません。
05
データ交換
conversation_window は参照されたメッセージの最小範囲と出所だけを返し、全履歴は保存しません。取得失敗は可視化され、必須証拠なら判断を止めます。
安定した参照ID署名付きリクエスト型付きの結果
06
確認
担当者は在席状況を確認して案件を引き受け、許可された証拠だけを見て結果を説明します。監査タイムラインは製品DBを複製せず品質確認を可能にします。
07
導入時の質問
在席表示は割り当ての代わりですか?+
いいえ。在席は短期的な認識、担当権は責任を示します。両方により放置案件を永久ロックせず重複を防ぎます。
嫌がらせをAI管理にできますか?+
限定された準備や仕分けは可能ですが、機微、不確実、保護対象、高影響、争われた案件は人が扱います。
Safest Resolve
チームが最初に運用するワークフローを設計しましょう。
レポートの入口、必要な証拠、判断者、製品アクション、通知、異議申立て経路から始めます。