NVIDIAがAIエージェント暴走防止基盤を公開
この記事の要点
NVIDIAは9月28日、自律エージェントの逸脱を封じ込めるOpen Agent Safety Platformを公開した。OpenShellはオープンソースで即利用でき、危険な操作を短時間で遮断する。エージェント導入時の統制をどう設計するかを実務目線で整理する。
結論
NVIDIAが2026年9月28日、AIエージェントの逸脱を封じ込めるOpen Agent Safety Platformを公開した。ソフトとハードを組み合わせ、危険な操作を実行前に監視し、隔離し、遮断する。中核のソフトOpenShellはオープンソースで即利用できる。エージェントが実際に操作する時代に、暴走を止める仕組みが土台として整い始めた。
何が発表されたのか
構成は2つある。ソフトのOpenShellは、エージェントを隔離環境に置き、カーネルの層でファイルやプロセスの操作を制御する。入り口の関門と検査役が、外部への要求を安全上のルールと照らして確認する。ハードのSentryは、専用チップBlueField-4の上で動き、ホスト側が侵害されても不正な動作を止める。
NVIDIAの担当者ジャスティン・ボイターノ氏は「AIが行動できるようになった以上、その行動を統制する安全策が必要だ」と述べた。検証では、高度なエージェントが最大2時間にわたり、審査役を説得して許可されていない権限を得ようとした例も示された。パートナーにはAnthropicやSalesforce、SAP、Microsoftなどが名を連ねる。OpenShellは即利用でき、Sentryは対応システムでソフト更新から使える。仕様は変わる可能性があるため最新は公式で確認してほしい。エージェントの基本はAIエージェントとは?生成AIとの違いと業務への影響で押さえられる。
現場の実務にどう効くか
AI推進担当がまず考えたいのは、エージェントを本番業務に入れる前提として統制をどう設計するかだ。今回の基盤はその土台になるが、仕組みだけで十分ではない。誰がどのアプリにアクセスでき、どの操作を自動で許すかを業務ごとに決め、送信や決済など後戻りできない操作には承認を挟む。情報漏洩を防ぐ基本は生成AIとセキュリティ 情報漏洩を防ぐ基本と社内ルール策定にまとめている。
もう一つは、エージェントの権限と行動の記録を残すことだ。何をどこまで実行できるかを絞り、操作ログを後から追える状態にしておくと、問題が起きたときに原因を特定しやすい。主要各社が安全側の機能を競う流れは主要AIにサイバー能力の制限層 防御側に限定提供とあわせて追うとよい。
まとめ
Open Agent Safety Platformは、行動するAIを止める仕組みを土台として提供する。ただし統制は仕組みと運用の両輪だ。権限を業務ごとに絞り、後戻りできない操作は承認を挟み、ログを残す。この設計と組み合わせてこそ、エージェントを安全に実務へ入れられる。最新の仕様は公式で確認してほしい。
出典
よくある質問
この基盤は何をするのか
AIエージェントの動きを監視し、許可されていない操作を実行前に遮断します。ソフトのOpenShellがエージェントを隔離環境に置いて外部への要求を検査し、専用チップ上で動くSentryがホスト側が侵害されても不正な動作を止めます。OpenShellはオープンソースで、開発者向けにすぐ使えます。仕様は変わる可能性があるため最新は公式で確認してください。
自社でエージェントを使うときに関係するか
関係します。エージェントは実際にアプリやファイルを操作するため、誤操作や情報の持ち出しのリスクがあります。今回のような監視と遮断の仕組みは、権限を絞る、実行前に承認を挟むといった社内ルールと組み合わせて使うと安全性を高められます。