#プロンプトインジェクション

4件の記事

最新動向

AIが自律的に攻撃を実行、Check Pointが報告

Check Pointの年次報告書によると、AIが攻撃の計画だけでなく実行までを担う事例が広がっている。メキシコ政府機関への侵入事例など具体的な数値も示された。

最新動向

ChatGPTにロックダウンモード、情報持ち出しを遮断

OpenAIがChatGPTにロックダウンモードを追加。プロンプトインジェクション攻撃で機密データが外部へ送信される最終段階を遮断する。個人、ビジネス、企業ワークスペースで利用でき、設定からウェブ接続やエージェント機能を制限できる。

最新動向

生成AIのセキュリティリスク最新動向と企業の対策

プロンプトインジェクション・データ漏洩・フェイクコンテンツ・サプライチェーンリスクの4つを軸に、生成AI活用で企業が直面するセキュリティリスクの現状と実践的な対策を整理する。最新動向は専門機関の公式情報で確認してほしい。