Anthropic は 2026 年 8 月 7 日、最上位モデル「Claude Fable 5」の安全フィルターを更新し、健康や教育に関する一般的な質問が不当にブロックされるケースを約 85 %減らしたと発表しました。
Fable 5 は 2026 年 6 月 9 日のリリース当初から、生物兵器や化学兵器への転用リスクを警戒し、生物学に関連する質問のほぼすべてを自動で制限する設計を採用していました。安全性を最優先した判断ではありましたが、その副作用として「ミトコンドリアとは何か」「mRNA ワクチンはどう機能するか」といった学校の授業レベルの質問まで弾かれる事態が頻発していました。The Verge や Business Insider の検証記事でも同様の問題が確認され、使い勝手の悪さとして広く取り上げられていました。
今回の改訂では、判定ルールをゼロから見直し、問題のない質問を正確に通過させるための例外規定を細かく整備しました。社内外の専門家の意見を取り入れながら新しい学習データを用意し、フィルター自体を再構築しています。危険な用途への転用リスクがある質問は引き続きブロックしつつ、日常的な質問への過剰反応を大幅に抑えることができたと同社は説明しています。
改善効果はサービスごとに異なります。一般ユーザー向けの Claude.ai では不要な制限が約 67 %減少し、業務自動化ツールの Cowork では約 55 %減少する見込みです。開発者向けの Claude Code では約 17 %、API 利用の Claude Platform では約 7 %の削減が見込まれています。また医療の現場でも、医師や看護師が臨床業務で AI を活用できる場面が増えると同社は述べています。
ただし、ウイルス学・毒性学・分子設計のように軍事・テロへの転用が懸念される専門的な質問については、引き続きより制限の厳しいモデルへの切り替えが維持されます。「プロの生物学研究や創薬の用途にはまだ対応していない」と Anthropic は明言しており、リスクが低い質問でも念のためブロックされる場合があると説明しています。
この発表が行われた 2026 年 8 月 7 日は、スタンフォード大学と Arc Institute の研究チームが AI を使って実際に機能するウイルスのゲノムを設計できることを学術誌 Science に発表した日と重なります。Anthropic は米国情報機関の年次報告書を引用し、合成生物学の急速な進歩が新たな生物学的脅威につながる可能性があると改めて注意を促しました。医療や教育の分野で AI を役立てながら、悪用リスクを管理するという難しい課題に、今回の改訂は一つの答えを示しています。
