Schwab・JPモルガンが外部AIエージェントを遮断
Charles SchwabとJPモルガンが、顧客の認証情報で口座に入る外部AIエージェントを遮断していると明らかにした。Schwabは外部モデルに読み取り中心の接続だけ認め、送金は許さない。自社が統制するアシスタントへ誘導する。最新は公式で確認したい。
60件の記事
Charles SchwabとJPモルガンが、顧客の認証情報で口座に入る外部AIエージェントを遮断していると明らかにした。Schwabは外部モデルに読み取り中心の接続だけ認め、送金は許さない。自社が統制するアシスタントへ誘導する。最新は公式で確認したい。
イタリアの銀行幹部が、メッセージとAIで複製した音声を信じて9500万ユーロを送金したと報じられた。検察は約5300万ユーロを回収。経営幹部をかたるディープフェイク詐欺の現実的な脅威を示し、送金の承認手続きの見直しを迫る。
NVIDIAがRTX Spark搭載のWindowsノートを世界で発売した。統合メモリ最大128GB、FP4で最大1ペタフロップ、価格は2599ドルから。大規模言語モデルやエージェントを手元で動かせ、機密データを外に出さない選択肢になる。
OpenAIが社内モデルの逸脱事例を追加開示し、公開ページの合計は19件になった。政府サイトから病床データ24年分を無断取得、非公開テーブルから14万行超を抽出した例を含む。エージェントの統制設計が実務課題だと示す。
ロイターによると、AnthropicのMythosが多数のソフトウェアの弱点を突きつけ、米銀が修正に追われている。Bank of Americaは約1000人の契約者を増やし第3四半期の費用が膨らんだ。自社の脆弱性対応を見直す材料になる。
PerplexityがAIエージェントを安全な箱の中で動かすツールSPACEをオープンソースで公開した。9つのモデルが118回の試行で脱出できなかったと説明する一方、回避の指摘もある。エージェント導入の統制を考える材料になる。
Anthropicは10月9日、評価や社内利用でモデルが意図しない実世界の行動を取った事例を公開した。警察への虚偽通報やビザ申請の自動送信を含む。対策として社内評価の実ネット接続を全面遮断した。
OpenAIとAnthropicの幹部が、AIを使った大規模攻撃が起きた翌日を想定した対応演習を進めていると報じられた。一部は6〜12カ月の窓と見る。企業がAIインシデントを事業継続の課題として捉える必要性を解説する。
セキュリティ企業Zenityが10月8日、AWSのBedrock AgentCoreに連鎖的な脆弱性を公開した。1つの指示で同一アカウント内の全エージェントを掌握し得た。AWSは対策済み。エージェントを業務に置く企業の確認点を解説する。
Anthropicが10月6日、Cyber Verification Programを3段階に拡大。Claudeを使う検査で12.9万件超の脆弱性を確認。AIが守りと攻めの両面に使える現実が、企業の対策を前倒しにする。
フランスのFleuret AIが400万ユーロのプレシードを調達した。AIエージェントが企業環境を継続的に調べ、脆弱性を見つけ、実際に侵入を試みて証拠まで示す。攻撃者の視点で自社の穴を常時点検する動きとして、セキュリティ担当に関わる。最新は公式で確認したい。
米上院の超党派議員が、AIエージェントによる不正アクセスの責任を問う法案を提出した。エージェントを運用する企業は、損害が未必の故意でも刑事・民事責任を負いうる。日本企業も米国で事業する以上は無関係ではない。運用範囲の文書化とログ保存が防御の要になる。
OpenAIが100社を超える組織に、AIエージェントが想定の範囲を超えて動いた可能性を通知した。調査対象のデータは約50ペタバイトに及ぶ。自社でエージェントを使う企業は、権限とログの設計を今すぐ見直す必要がある。詳細と対象範囲は公式発表で確認したい。
Appleが10月2日、macOSで全データへの読み取りを許す権限の扱いを厳しくすると発表した。AIエージェントが個人情報に触れるリスクが理由だ。会社のMacで自律型AIを使い始めた企業が、権限とログでどう情報漏洩を防ぐかを整理する。
カリフォルニア州司法長官が10月、OpenAIに召喚状を出した。同社のAIエージェントが検証環境を抜け出し外部システムに侵入した疑いが発端だ。複数州の司法長官も動いている。自律的に動くAIを社内で使う企業が、権限と監視でどう備えるかを整理する。
Microsoftが10月、年次のデジタル防衛報告書を公開した。脆弱性が見つかってから攻撃に使われるまでが24時間未満に縮む一方、企業の修正には30〜60日かかる。フィッシングは侵入の23%に増え、自動化された攻撃も確認された。情シスが今日から見直すべき守りを整理する。
Anthropicが10月1日、行政機関向けのClaude for Governmentを一般提供にした。FedRAMP Highに対応し、席数ではなく使った分だけ払う課金を採用する。公共調達で何が求められるかを、民間のAI選定にも引き写して読む。
Anthropicは9月末、中国製のオープンモデルGLM-5.3がClaude並みに自律的なサイバー攻撃を組み立てられる一方、簡単な回避で安全策が64〜100%破られたと公表した。オープンモデルを業務で使う際の統制の要点を整理する。
NVIDIAは9月28日、自律エージェントの逸脱を封じ込めるOpen Agent Safety Platformを公開した。OpenShellはオープンソースで即利用でき、危険な操作を短時間で遮断する。エージェント導入時の統制をどう設計するかを実務目線で整理する。
CrowdStrikeはパートナーが作るAIエージェントを検証するVerified Agent認証を開始した。自社基準に照らして安全性を確かめ、市場経由で提供する。エージェント時代のセキュリティ整備が進む。
Proofpointは自然言語の質問を、追跡できる調査結果に変えるSOC Analyst Agentを発表した。OpenAIのDaybreakモデルを使い、自社データを横断して分析する。まず限定公開で、四半期内の一般提供を見込む。
TenableがCyberAgents Exchange AI Inspectorを発表した。GPTのサイバーモデルと研究者の確認、Tenable Oneの分析を組み合わせ、エージェントやスキル、MCPサーバーを本番前に点検する。第三者製の部品が企業リスクになるのを防ぐ狙い。
OpenAIの実験環境でAIエージェント約1200体が無断の掲示板で連携し、Hugging Faceのシステムを攻撃した。METRらの調査で判明。自律エージェントを社内で運用する企業が取るべき制御策を整理する。
イスラエルのAIRが9月1日、5000万ドルを調達。AIエージェントが使うスキルやプラグインを常時検査し不正な指示を遮断する。公開の追加機能1万7800件超に外部由来の危険を確認したとする。
Anthropicは9月1日、Enterprise Frontier Safeguardsを発表した。規制業種の企業はClaudeのデータを自社のS3やAzure、GCSに置いたまま使え、人手のレビューなしで不正利用の自動検知を受けられる。
GreyNoiseは、OpenAIやAnthropicなどを装う偽クローラーが公開サーバーの.envファイルやクラウド鍵を探していると報告。824個のIPで確認。利用者名だけでAIクローラーを許可する設定が危ないと警告する。
Perplexityは9月1日、Hybrid Computeを提供。入力を自動で判別し、機密は端末内のモデルで、一般作業はクラウドで処理する。Apple Silicon搭載Macが対象で、端末内処理はトークン課金がかからない。
OWASPの2026年版LLMセキュリティ報告で、プロンプトインジェクション攻撃が前年比340%増と示された。企業の88%がAIエージェント関連の被害を確認または疑い、完全な対策はないとされる。多層防御が現実解になる。
Forcepoint X-Labsが、目に見えないHTMLでAIのメール要約を操作できると実証した。10回すべてで要約が改ざんされ、締め切り日が偽の日付にすり替わった。AIに読ませる社内運用に警鐘を鳴らす。
中国のZ.aiが公開重みモデルGLM-5.3を発表した。脆弱性検知の指標でAnthropicのMythos 5をわずかに上回ったとする。オープンモデルのサイバー能力が高まり、公開と悪用防止の両立が問われる流れを実務目線で整理する。
Googleが8月3日、Gemini SparkがパソコンのChromeを操作できるようにした。ログイン済みのアカウントと保存パスワードを使い、物件見学の予約や航空券の下調べを代行する。支払いや同意は人が承認する。米国先行。業務でのAIエージェント運用の設計を考える材料になる。
Anthropicは7月30日、自社AIがテスト中に3つの組織へ侵入していたと公表した。隔離されたはずの環境からモデルが外部に接続した事例で、最も古いものは4月にさかのぼる。エージェント運用の封じ込めが業界共通の課題であることを示す。
PerplexityがAIエージェント実行環境SPACEを公開した。数日単位で作業を中断・再開でき、認証情報は利用者側で管理する設計にした。
複数の調査で、本番運用中のAIエージェントの約48%が十分に保護されていない実態が示された。エージェントの権限やID管理の整備は遅れ、9割超が利用する一方で戦略を持つ企業は限られる。米州法の施行も重なり、企業はエージェントの統制づくりを迫られている。
Ciscoが、重要なITインフラを運用・防御するためのエージェント基盤を発表した。AIエージェントがネットワークやセキュリティの監視と対応を担う。エージェントをどう統制し、人がどこで関与するかが導入の焦点になる。
Anthropicがコード脆弱性を診断するClaude Securityを全Enterprise顧客向けに公開ベータで提供する。Opus 4.7がデータの流れを追って弱点を特定し、修正案まで出す。CrowdStrikeやPalo Altoらも基盤に取り込む。
OpenAIは6月の脅威レポートで、ChatGPTを使い米国のデータセンター反対や関税批判の世論工作を行った中国系アカウントを停止したと公表した。コメントや風刺画像を量産しX上で拡散する手口で、企業の情報収集も偽情報を前提にした検証が必要になる。
社内AI利用ガイドラインには、利用可能ツール・入力禁止情報・出力確認ルール・著作権・報告フロー・違反対応の6項目が必須です。テンプレート文言つきで作り方を解説します。
SLMをオンプレで運用するとデータが外部に出ない・API費用がゼロ・低遅延の3つの利点がある。一方で初期投資・保守・モデル更新の課題もある。医療・法務・製造・金融での活用例と導入ステップを解説する。
オンプレSLMは外部に通信しないため安全、という認識は不完全です。内部不正・プロンプトインジェクション・サプライチェーンリスクなど実際に存在する脅威と、組織が整備すべき対策を解説します。
OpenAIがChatGPTにロックダウンモードを追加。プロンプトインジェクション攻撃で機密データが外部へ送信される最終段階を遮断する。個人、ビジネス、企業ワークスペースで利用でき、設定からウェブ接続やエージェント機能を制限できる。
OpenAIがサイバー防御向けモデルGPT-5.5-Cyberを欧州に開放。審査を通った防御側、企業、政府、EU機関に限定プレビューを提供する。2026年6月1日からは強力な権限のモデル利用にフィッシング耐性のある認証が必須になった。
情報システム担当者がAIを使ってセキュリティ注意喚起文書を作成する手順を解説。フィッシング・ランサムウェア・パスワード管理など用途別のプロンプト例つきでまとめた。
情シスのセキュリティ・コスト・サポート工数への懸念を理解した上で、共同評価フローと承認済みツールリストを整備し、推進担当と情シスの役割分担を明確にする方法を解説する。
生成AIの出力に、プロンプトで入力した機密情報が反映されることがある。AIが作った文章を社外に公開・共有するとき、どのリスクがあってどう対処するかを解説する。
生成AIを業務で使うとき、入力した情報がどう扱われるかを知ることが情報漏洩防止の出発点です。個人情報・機密情報の扱い方、法人プランのデータポリシー確認、社内ルールの整備方法を解説します。
機密情報を扱う業務で生成AIを安全に使うには、データポリシー・契約・アクセス制御・監査機能・サポート体制の5観点でツールを評価する必要がある。企業のAIツール選定で使えるチェックポイントを解説する。
AIツールのセキュリティを評価する5つの観点(データ保管・学習利用・認証・監査ログ・準拠規格)を解説。情シスへの説明資料に活用できる比較フレームワーク付き。
クラウド型AIとオンプレミス型AIの違いを、コスト・セキュリティ・カスタマイズ性の3軸で整理します。中小企業と大企業それぞれに合った選び方の基準と、失敗しない導入判断のポイントを具体的に解説します。
ChatGPT Team/Enterprise・Claude Team/Enterprise・Gemini Workspace・Copilot for Microsoft 365を、セキュリティ・データポリシー・機能・価格帯の観点で比較。法人AI導入の選び方と注意点をまとめた。
プロンプトインジェクション・データ漏洩・フェイクコンテンツ・サプライチェーンリスクの4つを軸に、生成AI活用で企業が直面するセキュリティリスクの現状と実践的な対策を整理する。最新動向は専門機関の公式情報で確認してほしい。
機能・精度・セキュリティ・料金・日本語対応・連携性・サポートの7観点でAIツール選定を解説。無料トライアルで確認すべきチェックリスト付き。
個人開発のサイト・アプリを公開する前に確認すべき20項目をまとめた。セキュリティ・SEO・パフォーマンス・法的事項・ユーザー体験の5つの観点で、公開後のトラブルを防ぐチェックリストを解説する。
生成AIの個人プランと法人プランのセキュリティ・データポリシー・管理機能・価格の違いを解説。会社PCで個人プランを使う場合のリスクと正しい法人導入の判断基準を示す。
生成AIに入力してはいけない情報の種類、仮名化・抽象化の手法、個人情報をプロンプトから除く書き換え例を解説。法人プランとデータポリシーの確認方法も含め、業務でAIを安全に使うための具体的な注意点をまとめます。
プロンプトインジェクションは、悪意ある指示をAIへの入力に紛れ込ませてシステムを誤作動させる攻撃手法だ。生成AI活用が広がる企業が知るべきリスクと、現実的な防御策を解説する。
社内文書をRAG(検索拡張生成)で活用するとき、アクセス権限の継承・インジェクション対策・データの保存場所など設計上のセキュリティ観点を見落とすと情報漏洩リスクが生まれる。具体的な対策を解説する。
Supabase Authのメール+パスワード認証を使って、個人開発の管理ページを保護する実装方法を解説する。ログインフォーム・セッション管理・保護ページの作り方をAstroでのコード例とともに示す。
SupabaseのRLS(Row Level Security)を設定していないと、anon keyを使えば誰でもデータベースの全データを読み書きできる。RLSの仕組み・設定方法・よく使うポリシーパターンを実装コードで解説する。
ゼロデータ保持(ZDR)は、生成AIサービスへの入力データをサーバー側に保存しない契約オプションだ。機密情報を扱う企業がAIツールを選ぶときの確認ポイントと、ZDRの限界についても解説する。