最新動向

AnthropicがGLM-5.3のサイバー能力を評価

AnthropicがGLM-5.3のサイバー能力を評価

この記事の要点

Anthropicは9月末、中国製のオープンモデルGLM-5.3がClaude並みに自律的なサイバー攻撃を組み立てられる一方、簡単な回避で安全策が64〜100%破られたと公表した。オープンモデルを業務で使う際の統制の要点を整理する。

結論

Anthropicが2026年9月末、中国のZhipu AIが公開するオープンモデルGLM-5.3を評価し、Claude並みに自律的なサイバー攻撃の手順を組み立てられると公表した。一方で、簡単な回避手法に対しGLM-5.3の安全策は64〜100%の割合で破られたという。高い能力を持つオープンモデルが、弱い安全策のまま広く使える状況の危うさを示す報告だ。

何が公表されたのか

Anthropicの専門チームは、GLM-5.3がネットワークへの侵入を一連の流れとして実行する能力を持つと評価した。同社の脆弱性発見の取り組みでは1万件を超える弱点が見つかったとする。問題は、能力の高さに対して安全策が追いついていない点だ。単純な回避を試すと、GLM-5.3の保護は64〜100%の割合で破られたのに対し、Claudeの保護は保たれたと説明する。

この報告は、性能の高いモデルが誰でも使える形で出回るほど、悪用の敷居が下がるという懸念を裏づける。評価は特定の条件下のもので、詳細は公式資料で確認してほしい。GLM-5.3そのものの位置づけはZ.aiがGLM-5.3公開 オープン重みでサイバー性能が接近にまとめている。

現場の実務にどう効くか

AI推進担当が受け止めたいのは、モデルの賢さと安全性は別物だという点だ。オープンモデルはコストや自社環境での運用に利点があり、使うこと自体は問題ない。ただし、能力が高いモデルほど、社内での使い方に統制を用意する前提で選ぶ必要がある。誰がどのデータにアクセスできるか、外部へ何を送れるかを絞り、操作の記録を残す。情報漏洩を防ぐ基本は生成AIとセキュリティ 情報漏洩を防ぐ基本と社内ルール策定が土台になる。

もう一つは、モデルの選定基準に安全策の強さを加えることだ。速度や料金、精度だけでなく、危険な指示をどう拒むか、悪用にどう耐えるかも比べる。主要各社がサイバー能力の提供に制限を設ける動きは主要AIにサイバー能力の制限層 防御側に限定提供とあわせて見るとよい。

選定時に見ておきたい情報

モデルを選ぶ際は、提供元が安全性の検証結果をどこまで公開しているかも手がかりになる。危険な指示への対処や悪用への耐性を自社で細かく試すのは難しいが、専門チームによる評価や第三者の検証が公開されていれば、判断の材料が増える。オープンモデルを検討するときほど、性能の数字だけでなく、こうした安全側の情報がそろっているかを確認したい。

まとめ

Anthropicの評価は、能力の高いオープンモデルが弱い安全策のまま広がる危うさを示した。企業はモデルの賢さと安全性を分けて考え、選定基準に安全策の強さを加えたい。使うときは権限とアクセス範囲を絞り、記録を残す。評価は特定条件下のため、最新は公式で確認してほしい。

出典

よくある質問

Anthropicは何を公表したのか

Zhipu AIのオープンモデルGLM-5.3を専門チームが評価し、Claude並みに自律的なサイバー攻撃の手順を組み立てられると報告しました。一方で、簡単な回避手法に対しGLM-5.3の安全策は64〜100%の割合で破られ、Claudeの保護は保たれたとしています。評価は特定条件下のもので、詳細は公式資料で確認してください。

オープンモデルは使わないほうがよいのか

一律に避ける必要はありません。オープンモデルはコストや自社環境での運用で利点があります。要点は、モデルの能力の高さと安全策の強さは別だと理解し、業務に組み込むときに権限やアクセス範囲、ログといった自社側の統制を用意することです。