ハルシネーションを抑えるプロンプトの書き方

結論

ハルシネーションとは、AIが存在しない情報・誤った事実・架空の出典を自信ありげに生成する現象です。プロンプトに4種類の抑制指示を組み合わせることで、ハルシネーションの頻度と影響を大幅に下げることができます。ただし完全な防止は現時点では不可能であり、重要情報の最終確認は人が行う必要があります。

ハルシネーションとは何か・なぜ起きるかについては別記事で詳しく解説しています。本記事ではプロンプトによる抑制手法に焦点を絞ります。

---

ハルシネーションが起きやすい質問の特徴

抑制の前に、どのような質問でハルシネーションが起きやすいかを理解しておきます。

質問の種類	リスクの理由
最新の出来事	学習データの期限以降の情報はAIが持っていない
特定人物の詳細	マイナーな人物の情報は学習データが薄い
統計・数値	古い数値や四捨五入された数値を正確な数値のように述べる
法律・規制	改正後の最新状況を知らない場合がある
論文・書籍の引用	実在しない書籍・URLを生成することがある

これらの分野に関する質問では、プロンプトの抑制指示に加えて、外部ソースでの独立した検証が必須です。

---

抑制指示1：「わからない場合はわからないと言え」

最もシンプルで基本的な指示です。AIがあいまいな情報を「それらしく」埋めようとする傾向に対して、不確かな場合は正直に不知を表明させます。

以下の質問に答えてください。

【重要なルール】
- 正確に知らない情報については「わかりません」または「確認が必要です」と明示してください
- 推測で答える場合は「〜と思われます」「〜の可能性があります」と明示してください
- 「おそらく」「たぶん」のような曖昧な表現だけで断定しないでください

【質問】
{{ここに質問を入力}}

この指示の限界として、AIは「わかっているつもりで実際は誤っている」状態では不知を表明しません。この指示は「わかっていない自覚があるとき」には機能しますが、確信を持った誤情報には効きにくい点に注意が必要です。

---

抑制指示2：「根拠を示せ」

情報と根拠をセットで求めることで、根拠のない情報の生成を抑制します。ただし後述するように、示された根拠自体の検証は別途必要です。

以下の質問に答えてください。

【出力形式】
各主張について、以下の形式で回答してください：

主張：（結論・事実）
根拠：（その根拠となる情報源・データ・論拠）
確信度：（高 / 中 / 低）
注意事項：（根拠が不確かな場合や最新情報の可能性がある場合に明記）

根拠を提示できない主張は、主張として含めないでください。

【質問】
{{ここに質問を入力}}

「確信度」を3段階で示させることがポイントです。「確信度：低」の情報は独立したソースで確認するという判断基準になります。

なお、AIが示す出典（論文名・書籍名・URL）は架空の場合があります。示された出典を鵜呑みにせず、独立したソースで実在を確認してください。

---

抑制指示3：「推測と事実を区別して答えよ」

AIの出力は推測・可能性・事実が混在することがあります。それぞれを明確に区別して出力させる指示です。

以下の質問に答えてください。

【区別のルール】
回答は次の3種類に分類して出力してください：

■ 確認済みの事実
（学習データで確認できる、根拠のある情報）

■ 推測・可能性
（確実ではないが、根拠のある判断や推論）

■ 不明・要確認
（情報が不足している、または最新情報が必要な部分）

3種類すべてをラベル付きで出力し、推測を事実のように書かないでください。

【質問】
{{ここに質問を入力}}

このプロンプトは「構造化された不確実性の表示」と言えます。出力のどの部分が事実でどの部分が推測かが見えると、読み手が判断しやすくなります。

---

抑制指示4：「知識の範囲を先に宣言させる」

質問への回答前に、AIが「何を知っていて、何を知らないか」を先に述べさせる方法です。これにより、回答の信頼性の範囲が事前にわかります。

以下の質問に答える前に、まず次の点を答えてください：

1. この質問に答えるのに必要な情報を、あなたはどの程度知っていますか？
2. 知識の制限（学習データの時点・専門性の限界など）はありますか？
3. この質問に答える上で、外部ソースで確認すべき点はどこですか？

その上で、上記の制限を明示しながら質問に答えてください。

【質問】
{{ここに質問を入力}}

この手法は特に専門性の高い分野（法律・医療・税務・最新技術など）で有効です。「私の学習データは〇〇時点までです」「この分野の専門的な知識は限られています」という前置きが出てくれば、その後の情報の扱いを慎重にできます。

---

抑制指示の組み合わせパターン

4つの指示を組み合わせた強化版プロンプトです。重要度の高い調査・分析業務に使えます。

以下の質問に答えてください。

【ハルシネーション防止ルール】
1. 不確かな情報は「〜と思われます」「〜の可能性があります」と明示する
2. 知らない情報は「わかりません」と答える。推測で補わない
3. 各主張には根拠を添える。根拠のない主張は含めない
4. 推測と事実を明確に区別してラベル付きで出力する
5. AIの知識は学習データの時点で止まっている。最新情報が必要な場合はその旨を明記する
6. 出典・URLを示す場合は、実在確認が必要である旨を注記する

【質問】
{{ここに質問を入力}}

【出力形式】
- 確認済みの事実と推測を分けて記述する
- 不確かな部分は明示する
- 回答末尾に「外部ソースで確認すべき点」をリストアップする

---

ハルシネーション抑制の限界

プロンプトによる抑制には以下の限界があります。

確信を持った誤情報には効かない

AIが「正しい」と確信して生成する誤情報は、不知を表明させる指示が機能しません。これはAI自身が誤りに気づいていないためです。

存在しない出典の生成

「根拠を示せ」という指示に対して、実在しない論文名・書籍名・URLを生成することがあります。示された出典は必ず独立して実在を確認する必要があります。

最新情報は構造的に対応できない

AIの知識は学習データの時点で止まっています。それ以降の出来事・法改正・統計更新などは、どのようなプロンプトを使っても正確な情報が得られません。最新情報が必要な場合はAIに頼らずに一次ソースを参照してください。

---

ハルシネーションリスクを業務に組み込む手順

AIを業務で活用する際のハルシネーション対策は、プロンプトだけでなく運用フロー全体で考える必要があります。

ハルシネーション対策チェックリスト（業務利用時）

□ この質問は最新情報を必要とするか？
  → 必要なら一次ソースを別途確認する

□ 数値・統計・固有名詞が含まれるか？
  → 含まれるなら独立したソースで確認する

□ 法律・規制・専門知識が含まれるか？
  → 含まれるなら専門家または公式ドキュメントで確認する

□ 出典・URLが示されているか？
  → 示されているなら実在を確認してからリンクや引用に使う

□ 重要な意思決定の根拠に使うか？
  → 使うなら人による最終判断と記録を残す

このチェックリストをチームで共有し、AIの出力を業務に使う際の標準手順として定着させることで、ハルシネーションによるリスクを組織的に管理できます。

---

分野別のハルシネーション対策

分野によって推奨する対策の強度が異なります。

分野	リスクレベル	推奨対策
一般的な文章生成・要約	低	基本的な抑制指示のみ
市場調査・競合分析	中	根拠提示＋外部ソース確認
法律・規制関連	高	AIはドラフト作成のみ。専門家が確認
医療・健康情報	高	医師・公式ガイドラインで確認必須
財務・会計・税務	高	公認会計士・税理士が確認
最新ニュース・出来事	高	一次ソース（報道機関・公式発表）で確認

思った回答が出ないときの改善法では、ハルシネーション以外の出力品質の問題と対処法を解説しています。

---

まとめ

ハルシネーション抑制プロンプトの4つの基本指示をまとめます。

1. 「わからない場合はわからないと言え」→ 不知の表明を促す
2. 「根拠を示せ」→ 裏付けのない情報の生成を抑制する
3. 「推測と事実を区別して答えよ」→ 情報の確信度を可視化する
4. 「知識の範囲を先に宣言させる」→ 回答の信頼性の範囲を把握する

これらはすべて「AIの出力品質を検証しやすくする」ための手法です。AIを信頼するのではなく、検証可能にすることがハルシネーション対策の本質です。

プロンプトの書き方の基礎でプロンプト設計の基本から確認することもできます。