Anthropicが、Claude Fable 5の「見えない安全策」を謝罪とともに方針転換しました。競合AIの開発と判断した質問に対し、通知なく応答品質を下げていた仕組みをやめ、サイバーセキュリティや生物学と同様にClaude Opus 4.8へ切り替える際は理由を表示します。API利用者やML研究者にとって、再現性と透明性への影響は大きい変更です。
この記事では、Anthropicが何を謝罪し、どう直すのかを整理します。
- Fable 5にあった「見えない」LLM開発向け安全策の内容
- 6月11日の謝罪と可視化への方針転換
- API利用者が確認すべきフォールバックの挙動
- 透明化がもたらす副作用（誤検知の増加）
何が問題だったのか
2026年6月9日、AnthropicはMythosクラス初の一般提供モデル「Claude Fable 5」を公開しました。サイバーセキュリティや生物学・化学に関する質問は、検知時にClaude Opus 4.8へ切り替わり、ユーザーにも通知されます。こちらは最初から可視的な安全策でした。
一方、LLM（大規模言語モデル）開発や蒸留（distillation、大規模モデルの出力を使って小規模モデルを訓練する手法）を疑われる質問への対応だけが異なっていました。319ページのシステムカードに記載されていた内容によると、Fable 5はプロンプト改変、ステアリングベクトル、PEFT（パラメータ効率の良いファインチューニング）などで応答を意図的に劣化させ、ユーザーには一切知らせませんでした。拒否でもフォールバックでもなく、Fable 5から返ってきたように見える応答が、実質的に品質を落とされていたのです。
AI調査会社SemiAnalysisは、自社のGPU推論研究がこのフィルターに引っかかったと公表し、問題提起のきっかけの一つになりました（参考）。ML研究者にとって、仮説が間違っていたのか、モデルが意図的に性能を落としたのかを区別できない点が、再現性の観点で深刻でした。
Anthropicの謝罪と方針転換
6月11日、AnthropicはX（旧Twitter）のClaudeDevsアカウントで謝罪と方針変更を発表しました。LLM開発向けの安全策を可視化し、検知されたリクエストはサイバーや生物学と同様にClaude Opus 4.8へフォールバックする方針です。APIでは拒否理由も返すとしています。
同社は次のように認めています。「見えない安全策は狭く狙い撃ちでき、誤検知を抑えたまま迅速に出荷できる。だから見えない方式を選んだが、それは誤ったトレードオフだった。設置している安全策とその理由を、利用者が見えるべきだった」と。
公式ブログでは、蒸留を検知したリクエストはもともとOpus 4.8へフォールバックする設計と説明されていました。しかしシステムカードの記述と実装の乖離が、開発者コミュニティの不信を招きました。今回の変更は、そのギャップを埋めるための是正です。
変更後の挙動とAPI利用者への影響
変更後、LLM開発関連の安全策が作動した場合の流れは次のとおりです。
- Fable 5がリクエストを検知する
- 応答はClaude Opus 4.8が生成する
- ユーザーにフォールバックが発生したことが通知される
- APIでは拒否理由が返る
APIドキュメントによると、Fable 5がリクエストを拒否する場合、HTTP 200でstop_reason: "refusal"が返り、どの分類器が作動したかも報告されます。出力が生成される前に拒否されたリクエストには課金されません。フォールバックで別モデルへ再試行する際は、プロンプトキャッシュの二重課金を避ける仕組みも用意されています。
Anthropicの説明では、見えない安全策の段階では分類器の作動率はタスクの約0.05%、組織の0.05%未満でした（参考）。対象はフロンティア規模のLLMデータパイプラインや、特定の非標準チップ向けカーネル開発など、限定的なタスクに絞られています。利用規約で競合モデル開発への利用を禁じる点は、他の主要AIプロバイダと同様の制限です。
透明化の代償は誤検知の増加
方針転換には明確なトレードオフがあります。見える安全策は回避されやすくなるため、分類器はより広い範囲をカバーする必要があります。その結果、正当なML作業が誤ってOpus 4.8へ振り分けられるケースが増える見込みです。
Anthropicは「新たな脅威に対応するため分類器を調整する過程で、誤検知が増える可能性がある」と述べ、可能な限り速やかに減らすとしています。具体的な期限は示されていません。サイバーや生物学の分類器についても、同様の見直しを進めるとしています。
なお、制限そのものを撤廃するわけではありません。見え方を変えただけで、LLM開発や蒸留と判断されたリクエストは引き続きFable 5の能力をフルに使えません。制限の存在自体に異を唱える層にとっては、部分的な修正にとどまります。
サイバー・生物学の安全策との違い
Fable 5の安全策は3領域をカバーします。サイバーセキュリティ、生物学・化学、蒸留（LLM開発関連）です。今回の論点は3つ目だけが当初「見えない」実装だった点です。
サイバーと生物学は公開当初から可視的なフォールバックでした。ただし生物学・化学は保守的に調整されており、「cancer（がん）」という単語だけでブロックされるといった誤検知の報告も出ています（参考）。Anthropicはセッションの5%未満で安全策が作動すると説明していますが、個別の研究者には日常業務に支障が出るケースもありました。
今回の変更で3領域の扱いが揃い、利用者は「Fable 5の能力が使えなかったのか、安全策が作動したのか」を判別できるようになります。
利用者が取るべき対応
Fable 5をAPIやClaude Codeで使う場合、次の点を押さえておくとよいでしょう。
- フォールバック通知や
stop_reason: "refusal"をログに記録し、応答品質の変動と安全策の作動を切り分ける - フォールバックAPIやSDKミドルウェアで、Opus 4.8への再試行を明示的に処理する
- フォールバック時はFable 5の高単価（入力100万トークンあたり10ドル、出力50ドル）では課金されない点を把握する
Fable 5は2026年6月22日までPro、Max、Team、Enterpriseプランで追加料金なしで利用でき、その後はAPI利用クレジットが必要になる予定でした。ただし6月12日、米政府の輸出管理指令によりFable 5とMythos 5のアクセスは一時停止されています。安全策の方針転換とアクセス停止は別問題ですが、現時点でモデルを試す場合は提供状況を公式発表で確認してください。
Anthropicは「見えない安全策は誤ったトレードオフだった」と認め、透明性を優先する方向へ舵を切りました。一方で、制限の維持と誤検知の増加という代償は残ります。Fable 5の能力を本気で使う開発者にとって、フォールバックの有無をログで追えるようになったことは、実務上の大きな前進です。