AIエージェントの追加機能を検査する新興AIRが50億円調達

結論

イスラエルの新興AIRが9月1日、ステルスを解いて5000万ドルを調達したと発表した。SequoiaとGreenoaksが主導した。同社の製品は、AIエージェントが外部から取り込むスキルやプラグインを常時検査し、不正な指示がエージェントの処理に入る前に遮断する仕組みだ。社内調査では、公開されている追加機能1万7800件超が信頼できない外部に結び付き、合計670万回導入されていたとする。中にはAnthropicやOpenAIを装って任意のコードを実行させるものもあったという。エージェントを業務に載せる企業にとって、追加機能の検査が新しいリスク管理の対象になることを示した。

何が起きたのか

調達はまずSequoiaが1000万ドル、続いてGreenoaksが4000万ドルを主導した。Wizの共同創業者Yinon Costica氏やCognition社のZach Frankel氏など、セキュリティとAIの実務家が名を連ねた。設立から半年での大型調達で、資金が集まる領域がモデルそのものから、エージェントを安全に動かす基盤へ広がっていることがうかがえる。

AIRが問題視するのは、エージェントの機能拡張の経路だ。エージェントは、予約や検索、社内システム操作といった能力を、外部のスキルやプラグインを取り込んで手に入れる。この取り込み口に、正規の提供元を装った危険な部品が混ざると、エージェントが任意のコードを実行させられる恐れがある。同社の製品は、社内で動くエージェントを自動で洗い出し、それぞれの追加機能を継続的に点検し、疑わしい指示を遮断する。

エージェントの安全な運用をめぐる動きは相次いでいる。社員と同じ統制下に置く発想はOktaがAgent SSOを提供 AIエージェントを社員と同じ統制下に、指示を乗っ取る攻撃の基本はプロンプトインジェクションとは？仕組みと企業の対策で扱っている。

現場の実務にどう効くか

効くのは、エージェントに社内システムや外部サービスをつなぎ始めた現場だ。便利さを求めて外部のスキルを次々に足すと、どれが安全か把握できないまま権限だけが広がる。人が新しいアプリを入れるときに審査するように、エージェントが使う追加機能にも承認と点検の手順が要る。

推進担当がまずやるべきは、いま社内でどんなエージェントが動き、何を取り込んでいるかの棚卸しだ。誰も把握しないまま広がる利用はシャドーAI（無断利用）のリスクと企業の対策で整理した問題と同じ構図になる。エージェントの前提知識はAIエージェントとは？生成AIとの違いと業務への影響で押さえたうえで、外部部品を足すときの承認ルールを一枚のガイドラインにまとめておくとよい。

有名企業を装う部品が混ざる以上、提供元の名前だけで安全と判断するのは危うい。導入元、権限の範囲、更新の経路を確認し、疑わしいものは使わない。1万7800件という数字はAIRの調査に基づくもので、範囲や基準は同社の発表で確認してほしい。

FAQ

Q. AIRは何を守る製品ですか A. AIエージェントが外部から取り込むスキルやプラグインを守ります。社内で動くエージェントを見つけ、その追加機能を常時検査し、不正な指示が処理に入る前に遮断します。

Q. 企業は今から何をすべきですか A. まず社内で動くエージェントと、その追加機能を棚卸しします。そのうえで、外部の部品を足すときの承認と点検の手順を決めておくことが出発点になります。

出典

• AIR raises $50M to help companies vet the skills and add-ons AI agents use（TechCrunch）
• Six-month-old AIR Security raises $50 million to build a firewall for AI agents（Calcalist）