AnthropicがAccenture部門を常駐評価者に 各10億ドル拠出

結論

Anthropicは9月18日、Accenture傘下のFacultyを初の常駐評価者に指名したと発表した。両社は5年でそれぞれ10億ドル以上を拠出し、レッドチームや安全性評価、安全対策の検証を社内から行う。AIの安全性を「開発の外から監査する」のではなく「内側に評価チームを置く」形に踏み込んだ点が新しい。自社でAIを導入する立場からは、ガバナンスを誰の目で回すかを考える手がかりになる。

何が発表されたのか

AnthropicはFacultyを最初の埋め込み型評価者として迎え、評価者はAnthropicの社内で従業員並みのアクセス権を持つと報じられている。学習の進め方や公開の可否を決める場面に立ち会い、モデルの危険な振る舞いを事前に洗い出す。両社の拠出は5年で各10億ドル以上とされ、Accentureの株価は時間外取引で8%上昇したと伝えられた。

この取り組みは、Anthropicのダリオ・アモデイ最高経営責任者が9月に公表した文書の方針を具体化したものだという。契約は排他的ではなく、AnthropicはMETRなどの非営利団体とも同様の枠組みを試していると説明している。金額や体制は変わりうるため、最新の内容は公式発表で確認してほしい。

なぜ「常駐」なのか

従来のAI安全性の検証は、開発が一段落した後に外部が評価する形が中心だった。この方式では、問題が見つかっても手戻りが大きく、公開直前の判断に反映しにくい。評価チームを社内に置けば、学習中や公開判断の段階でリスクを指摘でき、対応が早くなる。

一方で、開発企業が評価者に資金を出す構造には、独立性をどう保つかという課題も残る。身内による評価では甘くなるのではないかという懸念は当然出る。AnthropicとAccentureは、評価者が実際の判断に立ち会うことと、複数の団体に分散することで、この懸念に応えようとしている。仕組みが機能するかは、今後の情報公開の中身で判断することになる。

現場の実務にどう効くか

この発表は、社内でAIガバナンスを整える担当者にとって「誰がどの段階で見るか」を設計するヒントになる。ポイントは、導入したAIを使い始めた後ではなく、選ぶ段階と運用に乗せる段階の両方で評価の目を入れることだ。自社なら、情報システム部門や法務が仕様の確認だけでなく、実際の出力を見て判断に加わる体制が近い。

具体的には、AIツールを稟議に上げる前に、想定業務でのテスト出力を第三者的な立場の担当者が確認する手順を挟むとよい。誤答や情報漏洩のリスクを、導入後ではなく導入前に洗い出せる。AIの安全性を測る国際規格の動きはソフトバンクがAI管理の国際規格ISO/IEC 42001を取得、開発企業が問題事例を自ら公表する枠組みはOpenAIがミスアライメント報告の枠組み 6事例を公表にまとめた。エージェントを安全に使うための試験基準はAIエージェントの安全基準AIUC-1が始動 5000試験、AI開発が自己改良に近づく中での慎重論は主要AI企業がAIの自己改良に接近と表明 慎重論も併記で確認できる。

まとめ

Anthropicは安全性の評価チームを社内に置き、Accentureの部門と5年で各10億ドル以上をかける。開発の内側で検証する形は、導入企業にとっても「使う前と運用中に評価の目を入れる」という設計の参考になる。独立性の担保という課題は残るため、今後の公開情報で機能を見極めたい。

出典

• Anthropic taps Accenture’s Faculty as first embedded evaluator（Anthropic）
• Anthropic taps Accenture’s Faculty as first embedded evaluator（AI Weekly）