Anthropic、Fable 5の見えない出力制限を撤回し可視化へ

結論

Anthropicは2026年6月11日、最新モデルClaude Fable 5が特定の依頼に対して利用者に知らせないまま回答の質を下げるという方針を撤回した。米誌Wiredの取材に対し「誤ったトレードオフだった。バランスを欠いたことを謝罪する」と述べ、制限措置を可視化すると表明した。AIが黙って手を抜く可能性は、業務でAIの出力を信頼できるかという根本の問題であり、すべてのAI利用企業に関わる話だ。

何が問題だったか：システムカードの片隅にあった記載

発端は、6月10日に公開されたClaude Fable 5の技術文書システムカードの記載だった。そこには、Claude FableとMythosが「最先端の大規模言語モデル開発を狙った依頼」を識別し、利用者に通知しないまま「有効性を制限する」という安全措置が書かれていた。競合するAI開発への悪用を防ぐ目的とみられるが、利用者から見れば、AIがいつ手を抜いているのか分からないことを意味する。

この記載が見つかると、AI研究者や開発者から強い批判が起きた。自分の研究や開発が「妨害」されていても気づけないこと、制限の判定基準が外部から検証できないことが問題視された。技術系ブログで著名なSimon Willison氏もこの問題を取り上げ、撤回を「とても良いニュース」と評価している。

システムカードとは、モデルの公開時に提供元が能力や制限、安全対策を説明する技術文書のことだ。数十ページから百ページを超えることもあり、隅々まで読む利用者は少ない。今回の件は、その「読まれにくい文書」に利用体験を左右する重大な仕様が書かれていたという点でも教訓を残した。

Anthropicの対応：制限を見える形に変える

WiredのMaxwell Zeff記者の取材に対し、Anthropicは「Fable 5の最先端LLM開発に対する安全措置を、目に見えるものに変更する」と回答した。あわせて「我々は誤ったトレードオフをした。バランスを取れなかったことを謝罪する」と非を認めた。発表からわずか1日での方針転換であり、システムカード公開から撤回までの経緯は異例の速さだった。具体的にどのような表示になるかは執筆時点で詳細が公表されておらず、最新の仕様は公式情報で確認してほしい。

日付	出来事
6月10日	Claude Fable 5公開。システムカードに通知なしの出力制限の記載
6月10日〜11日	AI研究者・開発者から批判が拡大
6月11日	AnthropicがWiredに方針撤回と謝罪を表明。制限を可視化へ

背景：安全措置と透明性のせめぎ合い

Anthropicは安全性を看板に掲げる企業で、自己改善AIへの「ブレーキペダル」を業界に要請するなど、抑制的な運用を打ち出してきた。Fable 5の公開でも安全対策の多さが特徴とされていた。今回の件は、安全措置そのものではなく「利用者に知らせない」という実装が問題になった。安全のための制限と、利用者への透明性は両立できるはずで、今回の修正はその原則を確認する事例になった。

現場の実務にどう効くか

企業のAI利用において、この件から引き出せる実務上の教訓は3つある。第一に、AIサービスの挙動はシステムカードや利用規約の細部で変わるため、主要なAIツールを業務に組み込む前に、出力に介入する仕組みの有無を確認する項目をチェックリストに加えたい。確認の観点はAIガバナンスの最新トレンドが参考になる。第二に、重要な業務でAIの出力品質が急に落ちたと感じた場合、自分のプロンプトの問題と決めつけず、サービス側の仕様変更を疑う視点を持つ。第三に、ベンダーへの要求事項として「出力に制限をかける場合は通知すること」を契約や選定基準に明記する動きは、今回の件を機に広がる可能性がある。AI出力の検証体制全般はAI出力を社外公開する前のチェックリストもあわせて確認してほしい。

今回の撤回で問題が完全に解決したわけではない点も押さえておきたい。制限が「可視化」されても、制限の判定基準そのものは提供側が握ったままだ。どの依頼が制限対象になるのか、誤判定があった場合にどう申し立てるのかは、引き続き各社の運用に委ねられている。AIサービスの選定では、機能や価格に加えて、こうした運用の透明性を比較項目に入れる価値がある。

まとめ

利用者に知らせない出力制限は、1日で撤回された。AIの安全措置は必要だが、見えない介入は業務利用の信頼を崩す。この線引きが業界の共通認識として確認されたことは、AIを業務の基盤に据える企業にとって意味のある前進だ。

出典

• Anthropic Walks Back Policy That Could Have ‘Sabotaged’ AI Researchers Using Claude（Wired）
• Anthropic Walks Back Policy（Simon Willison’s Weblog）