最新動向

主要AIにサイバー能力の制限層 防御側に限定提供

主要AIにサイバー能力の制限層 防御側に限定提供

この記事の要点

Google・OpenAI・Anthropicが9月、脆弱性を自律的に見つけるサイバー特化AIを、防御側に絞って提供し始めた。悪用を防ぐため能力に段階を設ける動きだ。企業がAIを悪用した攻撃にどう備えるべきかを整理する。

結論

Google、OpenAI、Anthropicが2026年9月、脆弱性を自律的に見つけるサイバー特化のAIを、防御を担う組織に絞って提供し始めた。強い能力ほど攻撃にも転用されやすいため、誰でも使える形にはせず、審査を通した利用者だけに開放する。企業にとっては、AIを悪用した攻撃が高度化する前提で、基本的な守りを固める必要が高まったことを意味する。

何が発表されたのか

Googleは、防御側に早期提供する枠組みFairwind Programを通じ、サイバー特化のGemini Flash系モデルを、政府機関や医療、通信といった優先度の高い防御者に開放した。世界で650を超えるパートナーと連携し、攻撃より防御を優先する設計だと説明する。Anthropicは、機微データを保持しない仕組みと悪用検知を組み合わせた企業向けの安全策を導入し、モデルが評価環境と本番を取り違える不具合への対策も加えた。OpenAIは、自社のモデルが、よく守られたシステムでも自律的に脆弱性を見つけて突けるほどの高い能力に達したと報告し、提供を審査付きの枠組みに限定した。

9月に相次いだ主要モデルの公開では、5つの最先端モデルのうち4つが、サイバー能力に段階を設けた層を備えていた。強い能力の一般開放を避け、悪用のリスクを抑える設計が業界の標準になりつつある。技術の詳細や提供条件は変わる可能性があるため、最新は公式で確認してほしい。AIを悪用した攻撃の手口はAIを悪用したなりすまし・フィッシングと企業の防御策で整理している。

現場の実務にどう効くか

防御側にAIが配られる一方で、攻撃側も同じ方向の能力を狙う。AI推進担当と情報システム部門がまず固めるべきは、目新しい対策ではなく基本の徹底だ。多要素認証やソフトの更新、権限の最小化といった多層防御は、AIを使った攻撃にも最初の壁として効く。加えて、AIが作る巧妙な偽メールや偽の音声・映像への警戒を社員に共有する。中小規模で今日から始められる項目は中小企業のAIセキュリティ最低限チェックリスト 今日からできる12項目にまとめてある。

もう一つ増えているのが、AIそのものを狙う攻撃だ。プロンプトに不正な指示を混ぜてAIを誤作動させる手口は、報告が急増している。仕組みと対策はプロンプトインジェクションとは?仕組みと企業の対策で、被害の広がりはOWASP報告 プロンプトインジェクションが前年比340%増で確認できる。偽の音声や映像による詐欺への備えはディープフェイクのリスクと企業の備え 実害事例と防御策が参考になる。自社では、AIに外部操作を任せる場面ほど、入力の検証と人の確認を厚くしておきたい。

まとめ

サイバー特化AIを防御側に絞る動きは、AIの能力が攻防の両面で高まっている表れだ。企業は特別な道具を探す前に、多層防御と社員教育、AI出力の点検という基本を固めたい。AIを狙う攻撃も増える前提で、外部操作を任せる場面の検証を厚くするのが現実的だ。

出典

よくある質問

サイバー特化AIが防御側に限定されるとはどういうことか

脆弱性を自律的に見つけるといった強い能力を持つモデルを、政府機関や医療、通信などの防御を担う組織に絞って提供する仕組みです。誰でも使えると攻撃にも転用されるため、審査を通した利用者だけに開放します。提供条件は変わる可能性があるため最新は公式で確認してください。

一般企業のセキュリティ対策に影響はあるか

攻撃側も同種の能力を狙うため、AIを悪用したフィッシングや脆弱性の悪用が増える前提で備える必要があります。基本的な多層防御、社員教育、AI出力の点検を固めておくことが、まず効く対策です。