Anthropic、Fable 5を世界で再開放。脱獄の深刻度に共通指標を提案

結論

Anthropicは7月1日、米商務省が輸出規制を解除したことを受け、上位モデル「Fable 5」を世界で再び提供し始めた。あわせて、Amazon・Microsoft・Googleなどと共同で、AIの脱獄の深刻度を採点する業界共通の枠組みを提案した。脱獄は安全対策を回避させて危険な出力を引き出す行為を指す。各社ばらばらだった安全評価の物差しをそろえようとする動きで、AIを選ぶ企業にとっても比較の基準になりうる。

何が発表されたか

Anthropicの案内によると、Fable 5は7月1日に世界で復帰した。同社はブログ「Redeploying Fable 5」で、Amazon・Microsoft・Googleらとともに、脱獄の深刻度を採点する業界横断の枠組みを提案すると示した。これまで脱獄への強さは各社が独自に測っており、横並びで比べにくかった。深刻度の段階をそろえれば、どのモデルがどの程度の攻撃に耐えるかを共通のものさしで語れる。

背景には、上位モデルへの輸出規制をめぐる経緯がある。Anthropicの最上位級モデルは一時、政府の管理下で提供が絞られていた。規制の解除により、Fable 5が世界で使えるようになった。規制の当否をめぐる議論とは別に、安全評価の共通化は各社が足並みをそろえる分野になりつつある。AIの規制やガバナンスの流れはAIガバナンスの最新トレンド 企業に求められる対応、各国の規制動向は各国のAI規制の動向と企業が備えることで整理している。

現場の実務にどう効くか

推進担当や情報システムに効くのは、AIツールを選ぶときの比較のしやすさだ。安全性の指標がそろえば、「このモデルは脱獄にどこまで耐えるか」を共通のものさしで確認できる。ばらばらの独自指標を読み解く負担が減り、稟議や社内説明の材料にしやすい。

具体的には、AIツールの選定基準に「脱獄・攻撃への耐性をどの指標で示しているか」を加えるとよい。共通の枠組みが広がれば、その採点を条件表に入れられる。生成AIの攻撃手口と対策はプロンプトインジェクションとは？仕組みと企業の対策、最新のリスク動向は生成AIのセキュリティリスク最新動向と企業の対策を参照してほしい。なお、枠組みはまだ提案段階で、どこまで業界標準になるかは定まっていない。採用の広がりは今後の動きを公式で確認してほしい。

FAQ

Q. Fable 5は日本でも使えますか。 Anthropicは7月1日に世界での再提供を示した。利用できる範囲やプランは変わる可能性があるため、最新は公式で確認してほしい。

Q. 共通指標はもう使えますか。 現時点では提案の段階で、複数社が賛同する形で示されている。実際に各社の製品情報に反映されるかは、今後の採用状況を追う必要がある。

出典

• Redeploying Fable 5（Anthropic）
• US lifts restrictions on Anthropic’s powerful AI models Fable and Mythos（Al Jazeera）
• Anthropic says Trump admin has lifted export controls on Claude Fable 5 and Mythos 5（CNBC）