Anthropicが蒸留対策を強化 データ抜き取りを最大99%削減
この記事の要点
Anthropicは10月12日、Claudeの能力を無断で複製する蒸留攻撃への新対策を公開した。抜き取られるデータを約9割から99%減らし、誤検知は0.1%未満。疑わしいアカウント数万件を2時間以内に凍結した。APIでClaudeを使う企業は規約と不正対策の前提を再確認したい。
結論
Anthropicは10月12日、Claudeの能力を無断で複製する蒸留攻撃への新しい防御策を公式ブログで公開した。新対策によって攻撃者が抜き取れるデータは約90%から99%減り、誤って正規利用を止めてしまう割合は0.1%未満に抑えたという。関与が疑われるアカウントは数万件を、攻撃開始からおおむね2時間以内に凍結した。
この動きは、APIで高性能なモデルを使う企業にとって、利用規約と不正対策が自社の使い方にも関わる話だと示している。大量の出力を機械的に集めて別のAIの学習に使う行為は規約違反にあたり、検知と遮断の網が細かくなった。自社やベンダーがAPIをどう使っているかを、改めて点検する価値がある。
蒸留攻撃とは何か
蒸留攻撃は、高性能なAIに大量の質問を投げてその回答を集め、集めた回答で別の安価なモデルを学習させ、能力を丸ごと真似る手口を指す。モデルの開発には膨大な計算資源と時間がかかるが、出力さえ集められれば、開発コストのごく一部で似た性能のモデルを作れてしまう。攻撃者は不正に作ったアカウントを使い、数百万件規模の回答を生成することもある。
Anthropicは2月の報告で、2万件を超えるアカウントを同時に動かす代理ネットワークの存在に言及していた。今回の発表は、その後に講じた防御の効果を具体的な数字で示したものになる。
新しい防御の中身
対策は複数の層からなる。1つ目は推論の保護だ。8月31日以降に作られたAPIアカウントでは、Claudeが直前に組み立てた思考の過程を後から書き換えられないようにした。新しいモデルの推論内容を、保護の弱い旧モデルから読み取ることもできなくした。Claude Sonnet 5.5では、思考の記録を生成した組織だけが参照できる。
2つ目は分類器による検知だ。抜き取りを狙う要求を二段階で見分ける仕組みを、Claude Sonnet 5.5、Claude Opus 5および5.5、Claude Fable 5および5.1で動かす。過去の推論を翻訳させたり、別の記法で再現させたりする迂回の手口もふさいだ。分類器の導入後、推論の記録を抜き取ろうとする試みは10分の1から100分の1に減ったとしている。
3つ目は課金と罰則だ。9月24日からは、Claudeが答える前に遮断した要求にも料金を課すようにした。蒸留を含む用途が対象で、繰り返す相手には利用制限の強化とアカウント凍結で対応する。
Anthropicは、特定の中国のAI開発元による抜き取りの試みにも触れた。あるケースでは、サイバー分野の能力をClaude Fable 5から引き出そうとし、ふさがれると旧モデルや他社モデルに切り替えたという。米国立標準技術研究所の下部組織は、その開発元の公開モデルを、これまでに公開された中で最もサイバー能力が高いと評価している。別の開発元では、自社サービスへの要求がClaudeに転送されていたとされる。これらは発表を誇張せず、最新の詳細は公式で確認してほしい。
現場の実務にどう効くか
まず意味するのは、APIの使い方そのものが規約の観点で見られているということだ。社内で生成AIを広げるとき、出力を大量に保存して別のモデルの学習に回すような運用は、たとえ悪意がなくても規約違反と判断されうる。自社の利用方針を決める段階で、出力の二次利用の範囲をはっきりさせておきたい。入力してよい情報と使ってよい用途の線引きは生成AIの社内ガイドライン作成 押さえるべき項目を土台にできる。
次に、モデルの推論内容が保護対象になった点だ。思考の過程をログに残して分析する運用をしている場合、どこまで保存・共有してよいかを確認する必要が出てくる。社外に出す前の確認はAIが作った文章の情報漏洩リスク 出力に機密情報が混入するパターンと対策の考え方が参考になる。
競合モデル間の抜き取りが常態化している現状は、モデルを選ぶ側にも関わる。安さだけで選んだモデルが、実は他社モデルの出力に依存して作られていた場合、品質や法的リスクの面で不確実さが残る。各モデルの位置づけは主要LLM一覧 2026年版:5社のモデルの特徴と選び方で整理できる。同じ蒸留をめぐる動きはOpenAIが推論の抜き取りを阻止 Moonshotに関連でも起きており、各社が足並みをそろえつつある。
具体的なイメージ
社内で問い合わせ対応にClaudeを使い、精度を上げるために過去のやり取りを大量にためている部署を考える。この蓄積を自社の小型モデルに学習させれば安く運用できる、という案が出たとする。ここで止まって確認したいのが、ためた出力を別モデルの学習に使う行為が規約でどう扱われるかだ。自社データに対する回答を集めること自体と、その回答でモデルを作り直すことは意味が違う。前者は通常の利用でも、後者は蒸留とみなされうる。
安価なモデルに乗り換える検討でも同じ注意がいる。提示された性能が、実は他社モデルの出力を取り込んで底上げされたものであれば、提供元が対策を強めた途端に品質が揺らぐおそれがある。モデルの出どころと学習方法を提供元に確認し、契約前に裏づけを取っておくことが、後からの作り直しを防ぐ。
まとめ
今回の対策は、AI開発元が自社の投資を守る動きだが、使う側にとっても無関係ではない。規約の範囲で使い、出力の二次利用の線引きを決め、信頼できるモデルを選ぶ。この3点を自社のAI利用方針に落とし込んでおけば、不意の利用停止や品質の不確実さを避けやすくなる。
出典
よくある質問
蒸留攻撃とは何ですか。
高性能なAIモデルに大量の質問を投げ、その回答を集めて別の安価なモデルに学習させ、能力をそっくり真似る行為です。元のモデルを作った会社の投資にただ乗りする形になるため、各社が規約で禁じ、検知と遮断を進めています。
Claudeを業務で使う側に影響はありますか。
通常の業務利用が止まることは想定されていません。Anthropicは誤検知を0.1%未満に抑えたと説明しています。ただし大量の出力を機械的に収集して別モデルの学習に回すような使い方は規約違反で、利用制限や凍結の対象になります。最新の規約は公式で確認してください。