生成AIツールのセキュリティ評価の見方と比較基準

結論

生成AIツールのセキュリティ評価は「何となく安全そう」という印象ではなく、5つの観点で具体的な確認を行う必要がある。データ保管場所・学習利用有無・認証方式・監査ログ・準拠規格の5点を整理した評価フレームを持つことで、情報システム部門への説明と承認取得が格段に速くなる。

---

なぜAIツールのセキュリティ評価が重要か

通常のSaaSツールと比較して、生成AIツールにはセキュリティ上の固有リスクがある。

固有リスク1：入力データの学習利用

通常のクラウドツールは入力データを処理・保存するが、生成AIツールは入力データをモデル学習に使用する可能性がある。一度学習に使われたデータは後から削除が困難で、他のユーザーの回答に意図せず反映されるリスクがある（厳密には確率的な反映だが、ゼロではない）。

固有リスク2：プロンプトインジェクション

悪意ある指示を含む外部データ（ドキュメント・Webページ等）をAIに処理させると、AIが意図しない動作をするプロンプトインジェクション攻撃が発生する可能性がある。

固有リスク3：ハルシネーション（幻覚）

AIが誤った情報を自信を持って回答するハルシネーションは、業務判断に悪影響を与えることがある。セキュリティとは少し異なるが、業務リスクとして認識が必要だ。

---

評価観点1：データ保管場所と転送経路

確認すべき内容

• データを保管するサーバーの所在地（国・地域・クラウドリージョン）
• バックアップデータの保管場所
• データ転送時の暗号化（TLS 1.2以上か）
• 日本国内でのデータ処理オプションの有無

法的観点

個人情報保護法では、個人データを第三者国に移転する場合に適切な保護措置が必要とされる。海外サーバーにデータが送信される場合は、法務部門との確認が必要だ。

EUのGDPRでは標準契約条項（SCC）の締結が必要な場合がある。グローバル展開する企業ではGDPRへの対応状況も確認ポイントになる。

---

評価観点2：学習データへの利用有無

プラン別のデータポリシーの典型的パターン

プランタイプ	典型的なデータポリシー
無料プラン	学習利用を許可している場合がある
有料個人プラン	オプトアウト設定が可能なケースがある
法人プラン（Team）	学習利用を除外していることが多い
エンタープライズプラン	DPAで詳細なデータ取り扱い条件を設定可

確認手順

1. 利用規約の「データの利用」「トレーニング」に関する条項を確認
2. 法人プランではDPA（データ処理契約・Data Processing Agreement）の提供有無を確認
3. データ保持期間と削除方法を確認
4. データアクセス権限（ベンダーの従業員はデータを参照できるか）を確認

---

評価観点3：認証・アクセス制御

チェック項目

機能	確認内容
SSO（シングルサインオン）	SAML 2.0・OpenID Connect対応の有無
多要素認証（MFA）	組織全体への強制適用が可能か
IPアドレス制限	特定のIPアドレス・VPNからのアクセスのみ許可できるか
RBAC（役割ベースアクセス制御）	管理者・一般ユーザーなどの権限分離が可能か
セッションタイムアウト	非アクティブ時のセッション自動切断設定
ゼロトラスト対応	CASB（クラウドアクセスセキュリティブローカー）との連携有無

SSOは退職者アカウントの即時無効化と新規ユーザーの一元管理に不可欠な機能だ。SSOを持たない法人プランは、人事異動・退職時のアカウント管理が手作業になるリスクがある。

---

評価観点4：監査ログと可視化

監査ログで取得できるべき情報

• 誰がいつ何にアクセスしたか（認証ログ）
• どのような入力・出力があったか（使用ログ）
• 管理者による設定変更の履歴
• データのエクスポート・削除の記録

監査ログはセキュリティインシデント発生時の原因調査と、コンプライアンス対応（内部監査・外部監査）の両方で必要になる。ログの保持期間と外部エクスポート方法も確認する。

監査ログの活用場面

• 情報漏洩事案発生時の調査：誰がいつそのデータを入力したかを特定
• 不審なアクセスパターンの検知：通常より大量のデータを短時間に入力したユーザーの把握
• コンプライアンス報告：定期的なセキュリティレビューのエビデンス

---

評価観点5：準拠規格と第三者認証

第三者機関による認証は、ベンダーのセキュリティ管理態勢を客観的に確認できる指標だ。

認証・規格	概要	評価ポイント
SOC 2 Type II	クラウドサービスのセキュリティ等を監査。TypeIは時点評価、TypeIIは6ヶ月以上の期間の継続的な評価	Type IIの取得が望ましい
ISO 27001 / ISMS	情報セキュリティマネジメントシステムの国際規格	認定登録証の有効期限を確認
ISO 27017	クラウドセキュリティに特化したISO規格	クラウドサービス固有の管理策を確認
ISO 27701	プライバシー情報管理に関する拡張規格	個人情報の取り扱いに関する管理を確認
CSA STAR	クラウドセキュリティアライアンスの認証	CSA CCM（クラウドコントロールマトリクス）への準拠
GDPR準拠	EU一般データ保護規則への対応	日本企業でもEU市民データを扱う場合は確認

認証の取得有無だけでなく、認証の有効期限と対象範囲（全サービスが対象か、一部のみか）も確認する。

---

情シスへの説明に使える比較フレーム

AIツールを情報システム部門に説明・承認申請する際に使える比較表フォーマットを示す。

評価項目	ツールA	ツールB	評価基準
データ保管場所	日本/米国	米国のみ	国内保管オプションがあるか
学習利用除外	法人プランで除外	要設定	法人プランで明示的に除外されているか
SSO対応	○（SAML対応）	✗	SAML/OpenID Connectの対応有無
多要素認証強制	○	△（ユーザー任意）	組織全体への強制適用が可能か
監査ログ	あり（1年保存）	あり（90日）	保持期間と外部エクスポート
SOC 2 Type II	取得済（2025年）	取得済（2024年）	最新の認証取得状況
ISO 27001	取得済	未取得	取得の有無と有効期限
DPA提供	あり	要交渉	データ処理契約の提供有無

このフレームを使ってツールを比較し、リスクと対応策をセットで情シスに提示することで、承認プロセスが円滑になる。

---

セキュリティ評価の実施手順

ツールのセキュリティ評価を進める際の標準的な手順を示す。

ステップ1：セキュリティ要件の定義

自社のセキュリティポリシーと扱うデータの機密性レベルを確認し、最低限満たすべき要件を定義する。

ステップ2：ベンダーへの情報収集

セキュリティホワイトペーパー・SOC 2レポート・ISMSの認定登録証を請求する。法人プランではDPAのドラフトを要求する。

ステップ3：チェックリストでの評価

5つの観点（データ保管・学習利用・認証・監査ログ・準拠規格）でチェックリストを埋め、リスクのある項目を特定する。

ステップ4：法務部門との確認

DPA・利用規約の法的確認を法務に依頼する。特に個人情報の海外移転に関する条項は法的確認が必要だ。

ステップ5：パイロット評価

限定的な環境（特定の部門・匿名化データ）でパイロット導入し、実際の運用でのリスクを確認してから本格導入を判断する。

---

まとめ

生成AIツールのセキュリティ評価は、データ保管・学習利用・認証・監査ログ・準拠規格の5観点で具体的に確認することが基本だ。「大手ベンダーだから安全」という判断は危険で、各観点の実態を確認した上で判断する必要がある。

生成AIとセキュリティでは、より基礎的なセキュリティの考え方を整理している。生成AIの個人向けと法人向けプランの違いと合わせて読み、適切なプラン選定の判断材料にしてほしい。

ツールのセキュリティ仕様は変更されることがあるため、導入前に各ベンダーの最新セキュリティドキュメントを確認してほしい。