Anthropicが連邦AI安全法案のドラフトを提示
この記事の要点
Anthropicが、重大リスクの基準を超えたAIモデルを、商務省が裁判所命令で一時停止できるようにする連邦法案の草案を示した。規制の矛先が自社にも向きうる中での提案で、企業のAIガバナンスにも影響する。
Anthropicが、重大な被害につながる基準を超えたAIモデルを、米商務省が裁判所命令で一時停止できるようにする連邦法案の草案を示した。報道によれば、対象はあらかじめ定めた破滅的リスクの基準に達したモデルで、通常の開発を止めるものではない。AIを規制する動きが自社にも及びうる中での提案であり、企業がAIをどう統制すべきかの議論にも関わる。
何が提案されたのか
複数の報道によると、Anthropicが用意した草案は、AIモデルが指定した破滅的リスクの基準を越えた場合に、商務省が裁判所に申し立て、その運用の一時停止を求められるようにする。狙いは、危険域に達したと判断されたモデルに対する歯止めを、政府の手続きとして用意することにある。Anthropicはこれまでも、第三者評価の受け入れや公開拒否権の放棄など、安全側に寄せる姿勢を示してきた。今回の草案も、その延長線上の動きとして報じられている。
この提案の背景には、AI企業と政府の距離が縮む一方で、緊張もある状況がある。Anthropicは、政府の姿勢が顧客との関係に影響しうると自社の資料で触れたとも報じられ、モデルの提供をめぐって政府の関与が強まる局面に直面してきた。自ら規制の枠組みを提案する動きは、不透明な規制を待つより、基準づくりに関与しておく狙いがあると読める。同様に、各国の当局もAIへの関与を強めている。
ただし、これは成立した法律ではなく、一企業が示したたたき台にすぎない。どのリスクを「破滅的」とみなすか、誰がどう判定するかは、条文の書き方次第で意味が大きく変わる。規制が強まれば、モデルを提供する側だけでなく、それを業務で使う企業にも、確認や記録の負担が及ぶ可能性がある。草案の正確な中身と今後の扱いは、断定せず最新を公式で確認してほしい。各国の規制の動きはEUがAI法で初の調査 OpenAIとAnthropicに照会、米政府側の体制は米政府のAI安全タスクフォースが始動 120日で報告へで取り上げている。
現場の実務にどう効くか
規制の最終形はまだ見えないが、企業が今できる準備は決まっている。使っているAIについて、どのモデルを、どの業務で、どんなデータとともに使っているかを一覧にしておくことだ。規制が入ったときに真っ先に問われるのは、この「どこで何を使っているか」の把握だからだ。モデルが急に提供停止になっても業務が止まらないよう、代替の手段を併せて考えておくと安心できる。
あわせて、モデルの提供が止まる事態への備えも現実的な論点になる。重要な業務を一つのモデルだけに依存していると、規制や事故で急に使えなくなったときに業務が止まる。用途ごとに代わりの選択肢を1つ確保し、切り替え手順を軽くでも書いておくと、万一のときの混乱を抑えられる。
社内の統制を文書で持っておくことも効く。利用の範囲、禁止事項、記録の取り方を定めたポリシーがあれば、外部の規制が変わっても、差分を直すだけで対応できる。作り方はAI利用ポリシーのテンプレートと作り方にまとめた。AI企業自身のガバナンスへの姿勢はAnthropicが株式の5%を公益基金に拠出へも参考になる。規制は負担であると同時に、安全に使う企業にとっては信頼の材料にもなる。
出典
よくある質問
この法案の草案は何を定めようとしているのか
重大な被害につながる一定の基準を超えたAIモデルについて、商務省が裁判所に申し立て、その運用を一時停止させられるようにする、という内容と報じられています。開発を止めるのではなく、危険域に達したモデルを対象にした仕組みです。
これは成立したのか
成立した法律ではなく、Anthropicが示した草案の段階です。内容も今後変わる可能性があります。法案の正確な条文と進捗は公式情報で確認してください。