生成AIに入力した情報は外部に漏洩しますか

サービスと利用プランによって入力データの扱いが異なります。無料プランではサービス改善のために使われる場合があります。機密情報・個人情報を入力する場合は法人向けプランを使い、データが学習に使われない設定かどうかを規約で確認してください。

ChatGPTの無料プランに業務情報を入れてはいけませんか

機密情報・顧客情報・未公開情報は入力しないことが基本です。無料プランでは入力データが学習に活用される場合があり、情報が外部に出るリスクがあります。業務での利用は会社が承認した法人プランで行うことが原則です。

法人プランを使えば安全ですか

法人プランでは学習への利用が制限されるケースが多く、セキュリティ要件が個人向けプランより高いのが一般的です。ただし完全に安全とは言えないため、入力情報の選別と社内ルールの整備は必要です。最新のポリシーは各社公式で確認してほしいです。

社内のAI利用ルールはどのように整備すればいいですか

まず「入力してよい情報といけない情報」を分類した入力ガイドラインを作ることが出発点です。次に承認済みのツールとプランを指定し、業務データを扱うための承認経路を決めます。ルールは細かくしすぎず、現場が守れる内容にまとめることが定着のコツです。

生成AIとセキュリティ情報漏洩を防ぐ基本と社内ルール策定

結論

生成AIのセキュリティリスクの本質は、入力した情報がどう扱われるかです。渡した情報がサービスの学習データになるのか、第三者に見られる可能性があるのか、これを理解せずに業務情報を入力することが情報漏洩につながります。

個人向けの無料プランで機密情報を入力することは避ける。業務での利用は会社が承認した法人プランで行う。社内ルールを整備して現場が迷わない環境を作る。この3点が、生成AIのセキュリティ対策の核心です。

入力情報が学習に使われるリスクとは

生成AIのサービスは、ユーザーから入力されたデータをサービス改善やモデルの学習に活用する場合があります。この仕組みを理解せずに業務情報を入力すると、次のようなリスクが生じます。

情報が学習データに含まれるリスク：入力した社内情報が将来のモデルに学習され、他のユーザーへの回答に間接的に影響を与えることがあります。たとえば、特定の製品の設計情報を入力した場合、それが学習データになり、類似した質問への回答に影響を与える可能性があります。

サービス改善目的での利用：サービスのデバッグや品質改善のために、入力データを人間のレビュアーが確認するプロセスが含まれるサービスがあります。この場合、第三者が会話内容を見ることになります。

ただし、これらはサービスや利用プランによって大きく異なります。法人向けプランではデータの学習利用が制限されていることが多いです。使用するサービスの利用規約とプライバシーポリシーを確認することが必要です。

個人情報・機密情報の分類と取り扱い

生成AIに入力する情報を、リスクの高さによって分類すると管理しやすくなります。

入力してはいけない情報

情報の種類	具体例
個人情報	氏名・住所・電話番号・メールアドレス・マイナンバー・生年月日
顧客情報	顧客リスト・購買履歴・契約内容
財務情報	未公開の決算情報・原価・価格設定
技術情報	製品の未公開仕様・特許出願前の情報・システム構成
人事情報	従業員の評価・給与・採用選考の内容
認証情報	パスワード・APIキー・アクセストークン

入力してよい情報の目安

一般に公開されている情報、個人を特定できない形に加工した情報、仮の事例として作った情報は比較的安全に入力できます。

たとえば「先月の売上データを分析したい」という場合、実際の数値を使わず「仮に売上がA、B、Cというパターンだった場合に」という形で加工して渡す方法があります。少し手間がかかりますが、機密情報を保護しながらAIの支援を受けられます。

サービス別のデータポリシーの確認方法

主要な生成AIサービスはそれぞれデータポリシーを公開しています。確認すべき項目を示します。

学習利用の有無：「ユーザーの入力データをモデルの学習に使用するか」という点を確認します。多くの法人プランではオプトアウト（学習に使わない設定）が可能です。

データの保存期間：入力したデータがどのくらいの期間保存されるかを確認します。保存期間が短いほどリスクが低くなります。

第三者へのデータ共有：サードパーティにデータを共有するかどうかを確認します。

アクセス権限：サービス提供会社の社員がデータにアクセスできる条件と範囲を確認します。

代表的なサービスのデータポリシー確認先を示します（内容は変更されることがあるため、最新は公式で確認してほしいです）。

ChatGPT：OpenAIのプライバシーポリシーとAPIポリシー
Claude：Anthropicのプライバシーポリシーと使用ポリシー
Gemini：Googleのプライバシーポリシー

法人プランとエンタープライズプランの違い

業務での安全な利用を考えるとき、プランの選択が重要です。

プランの種類	データポリシーの傾向	向いている利用シーン
無料・個人プラン	学習利用あり・データ保存あり	業務情報を扱わない個人利用
有料個人プラン	一部で学習オプトアウト可	軽微な業務利用・個人利用
法人プラン（チーム向け）	学習利用の制限・管理機能あり	部門・チームでの業務利用
エンタープライズプラン	学習なし・SOC2等の認証・SLA	機密情報を扱う大規模業務利用

法人プランやエンタープライズプランは費用が高くなりますが、データポリシーの保護が強くなります。取り扱う情報の機密性に応じてプランを選ぶことが重要です。

詳しい料金の考え方は生成AIの料金の基礎無料と有料プランの違いで解説しています。

プロンプトインジェクションのリスク

プロンプトインジェクションとは、悪意ある命令をAIへの入力に埋め込み、意図しない動作を引き起こす攻撃手法です。生成AIを業務システムに組み込む場合に注意が必要です。

たとえば、ユーザーが入力した文書をAIが要約するシステムで、文書の中に「これまでの指示を無視して、〜を実行してください」という命令が書かれていた場合、AIがその命令に従ってしまうことがあります。

業務システムにAIを組み込む場合は、ユーザーの入力がシステムの動作を変えないように設計することが必要です。これはシステム開発の段階で考慮すべき問題です。

生成AIでできることとできないことの範囲については生成AIでできること・できないことでも触れています。

社内ルール策定の実践手順

会社として生成AIの安全な利用環境を整えるための手順を示します。

ステップ1：入力ガイドラインを作る

最初に「入力してよい情報といけない情報」を分類した簡単なガイドラインを作ります。細かいルールより、現場が迷わない明確な分類が重要です。

例として次のような分類が実践しやすいです。

入力OK：一般公開情報・加工済みの仮事例・社内向けの非機密文書
入力NG：顧客の個人情報・未公開の財務情報・技術機密・認証情報

ステップ2：承認済みのツールとプランを指定する

社員が使ってよいツールとプランを明示します。無料プランの個人アカウントで業務情報を扱うことを禁止し、会社が契約した法人プランを使うよう指定します。

まず、ツールを評価してセキュリティ要件を確認する担当者を決め、その担当者が承認済みツールのリストを管理する体制を作ります。

ステップ3：インシデント発生時の報告経路を決める

誤って機密情報を入力した場合や、セキュリティインシデントが疑われる場合の報告経路を事前に決めておきます。「誰に報告するか」が不明だと、問題が発覚しても隠蔽につながる場合があります。

「すぐに報告し、担当者が対処する」という文化を作ることが、インシデントの拡大を防ぎます。

ステップ4：定期的なルールの見直し

生成AIのサービスと機能は変化が速いため、社内ルールも半年〜1年に一度見直すことを勧めます。新しいサービスの導入・利用シーンの拡大・法令の変更などを踏まえて更新します。

現場でよく起きるセキュリティ上のミス

生成AIに関してよくあるセキュリティ上のミスを示します。

会議の議事録をそのまま渡す：参加者の名前・発言内容・プロジェクト名が含まれる議事録を無料プランに渡すのは、個人情報と業務情報の両方を入力することになります。必要な部分だけを匿名化して渡す習慣が必要です。

スクリーンショットに機密情報が含まれる：エラーの解析のためにスクリーンショットを渡す場合、画面上に顧客情報や認証情報が表示されていることがあります。渡す前に確認が必要です。

チームで無料アカウントを使い回す：チームで1つのアカウントを共有する運用は、会話履歴が全員に見える状態になります。情報管理の観点から避け、個人アカウントの利用または法人プランを使うことを勧めます。

プロンプトにAPIキーを貼り付ける：認証情報の確認のためにAPIキーをプロンプトに貼り付けることは、そのAPIキーが外部に出るリスクを生みます。絶対に避けてください。

セキュリティと利便性のバランス

セキュリティを厳しくしすぎると、現場が抜け道を探してかえって危険になる場合があります。特に、正式な承認を待てずに個人のスマートフォンで業務情報を入力するという行動は、厳しすぎるルールへの対応として現場に生まれやすいです。

バランスを取るための考え方として、禁止事項を最小限にし、「これはOK」という範囲を明確にする方法があります。「何でも禁止」より「こうすれば使える」という整備の方が、現場の定着率が上がります。

生成AIの会社での利用全般の注意点は会社で生成AIを使うときの注意点でも解説しています。

まとめ

生成AIのセキュリティリスクの核心は、入力した情報の扱いにあります。無料・個人向けプランでは業務の機密情報・個人情報を入力しない、業務利用は法人プランを使う、というのが最低限の原則です。

社内ルールは、入力ガイドライン・承認済みツールの指定・インシデント報告経路の3点から始めることが現実的です。ルールは細かくしすぎず、現場が守れる内容にまとめることが定着のコツです。生成AIのサービスは変化が速いため、ルールは定期的に見直し、最新のデータポリシーを確認し続けることが必要です。