Anthropic は 2026 年 10 月 29 日、AI モデル Claude が自分の返答を自動でチェックする安全監視の仕組み「セルフアセスメント」を正式に発表しました。技術文書は同社の新しいブログ「safeguards.anthropic.com」に掲載されており、 10 月 16 日付で研究者 9 名が共同執筆しています。
セルフアセスメントとは、Claude が返答を返すたびに、その内容が安全かどうかを自分自身で採点する仕組みです。具体的には、問題のある内容かどうかのカテゴリ分け、返答を拒否したかどうか、そして人間が確認すべき優先度を 1 〜 10 で評価します。ただし、フラグが立った会話がすぐにルール違反として処理されるわけではありません。あくまで担当者が目を向けるべき会話を絞り込む補助的なツールとして機能します。
精度の面では、最新モデルの Claude Fable 5 で検証した結果、従来の専用検出ツールが見つける有害な会話の 78 % を捉えられることがわかりました。特に深刻なケースに限ると、誤検知率 1 % で 94 % を検出できています。処理コストについても、会話データが既に保存されているため追加の計算負荷は 2 % 未満に収まり、利用料金が上がることもありません。
今年 6 月に実運用が始まって以来、すでにいくつかの成果が出ています。 8 月には、一つの API 利用企業から児童の性的虐待・搾取（ CSAE ）に関連する疑わしいやり取りが 10 万件以上検出され、全米失踪・被搾取児童センター（ NCMEC ）へ報告されました。 9 月には、 Claude Code を使って多数の被害者を狙っていた自動ロマンス詐欺の摘発にもつながっています。さらに、セルフアセスメントで見つかった問題のある組織の半数以上は、それまでの 1 か月間に他の手段では一切引っかかっていなかった組織でした。既存の対策では見落とされていた悪用を補完できていることがわかります。
一方、Anthropic は課題も素直に認めています。この仕組み単体で不正利用を完全に防ぐことはできず、悪意を持って繰り返し試みる攻撃者を止める力は限られています。また、データを保持しない契約形態（ ZDR ）の通信には適用されない点も押さえておく必要があります。
API を活用している企業にとっては、追加費用なしに不正検出の精度が上がるメリットがあります。ただし、安全な使い方の設計や運用ルールの整備は、これまで通り利用する側の責任です。
