最新動向

Anthropicが外部評価者を社内に常駐 公開拒否権も放棄

Anthropicが外部評価者を社内に常駐 公開拒否権も放棄

この記事の要点

AnthropicがMETRの研究者6人を社内に常駐させ、評価レポートの公開を拒否する権利を手放した。SecureBioなどを加えた三層の評価体制を敷く。AIの安全性を誰がどう検証するかの透明性を高める動きだ。

結論

Anthropicは2026年10月、外部の評価機関METRの研究者6人を社内に常駐させ、評価レポートの公開を拒否する権利を手放したと発表した。6人には社内の計算資源やオフィス、ツールへ社員並みの権限が与えられる。さらにSecureBioとFacultyを加え、三層の独立評価体制を敷くとされる。AIの安全性を誰がどう検証し、その結果を公開できるかという透明性に関わる動きだ。導入企業にとっては、使うモデルの安全性がどう確かめられているかを知る手がかりになる。詳細は公式で確認してほしい。

何が発表されたのか

Anthropicの説明によると、METRの研究者6人は社内に入り、モデルの開発に使う内部の環境へ社員と同等にアクセスできる。外部から限られた情報で評価するのではなく、内部まで踏み込んで検証できる体制だ。評価の深さは、見える範囲で決まる。外から与えられた資料だけでは、都合の悪い部分が隠れていても気づけない。内部の環境に入れることは、その死角を減らす意味を持つ。

あわせて同社は、METRが評価レポートを公開することを止める権利を放棄した。METRは評価結果を自由に出せるようになり、Anthropic側が特定のレポートの削除を求めることはできても、公開そのものを封じることはできなくなったとされる。評価する側が、評価される側の許可なく結果を出せること。これが独立性の核心だ。

評価の担い手も広がった。生物由来の脅威を扱うSecureBioと、Accenture傘下のFacultyが加わり、分野の異なる三層で評価する構造になる。これらの動きは、AI各社が自主的な安全対策で合意した枠組みと結びついていると報じられている。独立した第三者が内部まで見て、結果を公開できることは、AI企業の自己申告だけに頼らない検証への一歩といえる。ただし、評価の範囲や頻度がどこまで実効性を持つかは、今後の運用を見る必要がある。断定を避け、公式の説明を確認したい。

この動きは、政府側の規制とも連動する。米国ではホワイトハウスのAIタスクフォースが120日のリスク報告に入った段階にあり、評価の独立性はその議論の中心にある。

現場の実務にどう効くか

AIを業務に入れる企業にとって、使うモデルが安全かどうかは自分では検証しにくい。モデルの中身を解析する力も時間もない。だからこそ、誰が評価しているか、その結果が公開されているかが判断材料になる。第三者が内部まで見て結果を出せる体制は、モデルを選ぶ側にとって信頼の裏づけになる。

実務では、AIベンダーを選ぶときの確認項目に、次の3つを足すとよい。

  • 外部評価の有無: 安全性の評価を独立した第三者が行っているか
  • 結果の公開: 評価レポートが公開され、誰でも読めるか
  • 指摘への対応: 指摘されたリスクに、どう対処したかが説明されているか

評価レポートが公開されていれば、どんなリスクが指摘され、どう対処されたかを自分で読める。これは、営業資料の美辞麗句よりはるかに確かな情報源だ。モデルの制御可能性は抽象的な論点ではなく、小型AIが自己複製しうるとAnthropicが警告した議論のように具体的な検証が始まっている。規制の面ではEUがAI法で初の調査に乗り出した動きもあわせて追いたい。

まとめ

AnthropicがMETRの研究者6人を社内に常駐させ、評価レポートの公開拒否権を手放した。SecureBioなどを加えた三層の評価体制を敷く。AIの安全性検証の透明性を高める動きで、モデルを選ぶ側の信頼材料になる。ベンダー選定では外部評価の有無と公開状況、指摘への対応を確認項目に加えたい。実効性は運用次第のため、最新は公式で確認してほしい。

出典

よくある質問

外部評価者を社内に入れると何が変わるのか

AnthropicはMETRの研究者6人に社内の計算資源やツールへ社員並みの権限を与えました。外からでは見えなかった部分まで評価できるようになり、安全性の検証が深まります。詳細は公式の説明で確認してください。

公開拒否権の放棄とは何か

これまでAnthropicは、評価結果の公開を止められる権利を持っていました。今回それを手放し、METRが評価レポートを自由に公開できるようにしたとされます。透明性を高める動きです。最新は公式で確認してください。