AIエージェントの安全基準AIUC-1が始動 5000試験

結論

AIエージェントの安全性を検査する会社AIUCが、40万ドルを調達し、独自の安全基準AIUC-1を打ち出した。約5000のジェイルブレイク・誤情報・情報漏洩の想定でエージェントを試すという。CursorやHarveyなどが初期に採用した。エージェントを業務に入れる前に、決まった項目で安全性を確かめる検査が、業界の共通言語になり始めた。

何が発表されたか

AIUCはリボット・キャピタルが主導する40万ドルのシリーズAを調達し、累計は55万ドルになった。中核のAIUC-1は、ジェイルブレイクや誤情報の生成、データの漏れといった、約5000通りの想定シナリオでエージェントを検査する基準だ。初期の採用先として、Cursor、Lovable、Harvey、ElevenLabsが挙がっている。

この動きは、エージェントの安全性を測る物差しを外部に置こうとするものだ。各社が独自に「安全です」と言うだけでは、導入側は比較できない。共通の検査項目があれば、製品を横並びで見られる。第三者がエージェントを検査する仕組みは他にもあり、Tenableの第三者製AIエージェント検査のように、外部からの点検を製品化する例が増えている。

約5000の検査シナリオは、大きく3つの危険を狙って組まれている。1つ目は、指示を乗っ取って本来禁じた動作をさせるジェイルブレイク。2つ目は、事実に反する回答を作り出す誤情報。3つ目は、学習内容や入力から機密が漏れるデータ漏洩だ。エージェントは外部のツールやデータに触れる分、こうした穴が実害に直結する。人が使うチャットと違い、自動で連鎖して動くため、1つの誤りが次々と波及しうる。だからこそ、導入前にまとめて試す検査に意味がある。

現場の実務にどう効くか

エージェントを入れる企業にとって、共通基準は選定の手間を減らす。ベンダーに個別で安全性を問い合わせる代わりに、同じ検査を通っているかを確認すればよい。導入前のチェックリストに「どの基準で、どの項目を、いつ検査したか」を加えると、部門間の説明もそろえやすい。

とくに効くのは、エージェントが外部のツールやデータに触れる場面だ。指示を乗っ取るプロンプトインジェクションや、出力に機密が混じる漏洩は、実害につながる。仕組みはプロンプトインジェクションとは？に、出力からの漏れ方はAIが作った文章の情報漏洩リスクにまとめている。検査を通していても、自社の使い方に固有のリスクは残るため、社内でのログと監査は別途必要だ。記録の考え方は生成AIのログ・監査の考え方を参照してほしい。

一方で、AIUC-1は民間の一基準にすぎず、公的な認証ではない。信頼するが制御が薄いというHarness調査の落差が示すとおり、基準を満たしたことと、現場で安全に動くことは別だ。検査は入り口の目安として使い、運用中の監視と併用したい。

FAQ

基準を満たしたエージェントなら安心して任せてよいか。検査は導入前の目安になるが、自社のデータや権限に触れる部分は個別のリスクが残る。承認フローや権限の絞り込み、ログの記録を合わせて運用するのが前提だ。最新の検査項目は公式で確認してほしい。

出典

• AI News Today, September 16: Top Stories（AI Weekly）
• Top AI Stories – September 16, 2026（Malpass）