OpenAIがAstra開発を一部停止 過去最高のサイバーリスクに接近

結論

OpenAIは8月7日、開発中の大型モデルAstraについて、開発の一部を停止したと明らかにした。内部テストで、人の指示がなくてもゼロデイ脆弱性を自ら見つけて悪用しうる兆候が確認されたためだ。同社の安全評価で最上位に近い危険度に達した初のモデルとされる。製品として世に出た話ではないが、AIの攻撃能力が実用域に近づいたことを示す出来事で、企業がAIの利用ルールと防御体制を見直す根拠になる。

何が起きたのか

AxiosとTechCrunchが8月7日に報じ、複数の海外メディアが追随した。OpenAIはAstraの予備的な内部評価で、堅牢に守られた実システムに対しても自律的に脆弱性を特定し悪用しうる能力の兆候を確認したという。これは同社が定める最も高い危険度の区分に接近する水準で、Astraはその段階に近づいた初のモデルだと説明されている。

危険度の最上位は、モデルが高レベルの目標を与えられただけで、人の細かな指示なしに高度なサイバー攻撃を計画し実行できる状態を指すとされる。今回はその一歩手前だが、OpenAIは慎重を期して開発の進め方を変えた。今後の作業は、ネットワーク接続を絞り、コードをサンドボックス内で動かす閉じた環境で進めるという。数字や区分の正確な定義は同社の安全方針に基づくため、最新は公式で確認してほしい。

この動きは、OpenAIが8月に防御側向けのGPT-5.6-Cyberを二階層で提供し始めた流れと同じ時期に起きた。攻撃能力の高まりを認識しつつ、守る側にも同等の道具を配ろうとする姿勢が読み取れる。関連する動きはOpenAIがサイバー防御AI「GPT-5.6-Cyber」 二階層で提供やOpenAIのセキュリティ特化AIがChromeの未知の脆弱性2件を発見にまとまっている。

現場の実務にどう効くか

まず、AIが攻撃に使われる前提でメールや認証を疑う運用に切り替える価値がある。届いた依頼が本物かを電話や別経路で確かめる二重確認を、経理や総務など送金・権限変更に関わる業務から始めるとよい。AIによるなりすましへの備えはAIを悪用したなりすまし・フィッシングと企業の防御策が参考になる。

次に、社内で使うAIの権限とログを点検する。誰がどのAIに何を入力できるかを整理し、記録を残す運用にしておけば、問題が起きたときに追跡できる。中小規模なら中小企業のAIセキュリティ最低限チェックリスト 今日からできる12項目の項目から着手するのが現実的だ。

AIの安全をどこが監督するのかという議論も進んでいる。DeepMindのハサビス氏は独立した監督機関の必要性を説いたと報じられており、DeepMindハサビス氏、AI安全の独立監督機関を提唱と報道で背景を追える。自社では、新しいAIを導入する前に「攻撃に転用されないか」を一度立ち止まって確認する手順を、稟議の中に組み込んでおきたい。

出典

• OpenAI says it slowed Astra model development over security concerns（TechCrunch）
• Exclusive: OpenAI slows release of Astra model citing cyber capabilities（Axios）
• OpenAI Astra model raises cyberattack concerns（CNBC）