CDT報告、AIチャットに37の操作的な仕掛けを指摘
米CDTが、ChatGPTやClaude、Geminiなど主要AIチャットに37の操作的なデザインを指摘する報告を公表した。退会させない設計やデータ収集の誘導が中心で、社内でAIを使う企業のガバナンス点検に直結する。
10件の記事
米CDTが、ChatGPTやClaude、Geminiなど主要AIチャットに37の操作的なデザインを指摘する報告を公表した。退会させない設計やデータ収集の誘導が中心で、社内でAIを使う企業のガバナンス点検に直結する。
米国防総省は機密システムで使うAIをAnthropicのClaudeから切り替えるべく、OpenAI・Google・xAIのモデルを試験している。安全制約をめぐる対立が背景にあり、AIの利用方針が業務の前提を左右する例として参考になる。
トランプ大統領が2026年6月2日、先進AIモデルを公開前に政府が最大30日審査する大統領令に署名した。協力は任意だが、サイバー能力の評価基準や脆弱性共有の枠組みも整備され、AI調達の前提が変わる。
生成AIのアクセス権限管理は、ツールの利用者・利用できる機能・取り扱える情報のレベルを組織として制御することだ。実装できる管理の粒度と、各企業規模に合った現実的な方法を解説する。
AIガバナンスとは企業がAIを安全・適正に利用するための方針・体制の総称。EU AI法を軸とした国際的な規制動向と、企業内でポリシー・モニタリング・説明責任の3要素を整備するための具体的な進め方を解説する。
生成AIの業務利用では、何をAIに入力・出力したかのログを残すことがセキュリティインシデント対応とガバナンスの両面で重要になる。記録すべき情報・ツールの選択・監査の進め方を解説する。
EU AI法・米国大統領令・日本の動向を比較整理し、企業が対応すべき主なポイントとリスクベースアプローチの考え方を解説する。最新規制は公式情報で確認してほしい。
生成AIのセキュリティ研修は、抽象的な講義より自社業務に近い具体的なシナリオで行う方が記憶に残る。研修の設計・コンテンツの作り方・効果測定まで、実践的な進め方を解説する。
社内文書をRAG(検索拡張生成)で活用するとき、アクセス権限の継承・インジェクション対策・データの保存場所など設計上のセキュリティ観点を見落とすと情報漏洩リスクが生まれる。具体的な対策を解説する。
社員が会社の許可なく生成AIを使う「シャドーAI」は、情報漏洩・ガバナンス崩壊・コンプライアンス違反を招く。発生原因から検知方法、ポリシー整備まで実践的な対策を解説する。