Claude ハルシネーション対策｜誤回答を防ぐ指示と確認
Claudeの説明は自然なのに、引用先が見つからない、資料にない数値が混じる。こうした経験から、仕事で回答を使う前に何を確認すべきか迷う人向けの記事です。調査・資料要約・コード作成で起こる誤りを分け、入力時の指示と回答後の照合を組み合わせる方法を整理します。
Claudeのハルシネーション対策は、資料に回答範囲を限定し、不明点の明示と原文の引用を求め、重要な主張を一次情報で照合することが基本です。誤回答をゼロにはできませんが、指示文と確認手順を組み合わせれば、根拠のない回答を見つけて修正できる。
Contents (7)
Claudeのハルシネーションはなぜ起きる？
ハルシネーションとは、事実と異なる内容や、渡した資料と矛盾する内容を、もっともらしく生成することです。文章の読みやすさや断定の強さだけでは、正しさを判断できません。
Claude公式ヘルプは、最新情報を把握していない場合や、事実に基づかない引用を示す場合があると説明しています。有料プランへの変更や、長く考えさせる指示だけで正確性が保証されるわけではありません。
まず、回答のどこが問題なのかを分けましょう。「正確に答えて」と繰り返すより、確認対象を絞りやすくなります。
| 誤りの種類 | 例 | 優先する対策 |
|---|---|---|
| 情報の古さ | 過去の料金を現在の料金として説明する | 公式ページの日付と条件を確認する |
| 根拠の創作 | 実在しない論文やURLを示す | 引用先を実際に開く |
| 資料との食い違い | 文書にない申請期限を補う | 原文の該当箇所を照合する |
| 計算・実装の誤り | 合計値やAPIの呼び方を間違える | 再計算やテストで確かめる |
これらは確認方法を選ぶための分類です。計算ミスを含め、すべての誤りが同じ原因で発生するとは限りません。
まず使う対策は「不明」と「資料の範囲」の指定
最初に整えるのは、Claudeへ渡す情報と、答えてよい範囲です。社内規程の要約なら、規程の本文・版・施行日を渡します。情報が欠けたときに、一般的な慣行で穴埋めさせないようにします。
公式のハルシネーション削減ガイドでも、不確実性の明示や、提供資料に基づく回答が対策として紹介されています。以下は日常業務向けに作成した指示文の例です。
以下の資料だけを根拠に質問へ回答してください。
資料に記述がない場合は「資料では確認できません」と示してください。
事実と推測を分け、推測にはその旨を明記してください。
結論ごとに、根拠となる見出し・ページ番号・短い原文を添えてください。
資料同士が矛盾する場合は、両方の記述を示して判断を保留してください。
資料：［本文または添付ファイル］
質問：［確認したい事項］
この指示でも、必要なページが欠けていれば正しく答えられません。「資料では確認できない」は、現実にも制度が存在しないという意味ではなく、今回渡した情報では判断できないという意味です。
複数の資料を渡す場合は「規程A・第3版」「通知B・発行日」のように識別名を付けます。最新版が不明なら、Claudeに選ばせる前に自分で版を確認しましょう。
原文引用で回答と根拠を対応させる
URLを末尾に並べただけでは、どの主張を支える出典なのかが曖昧です。資料を要約するときは、結論の前に関連する原文を抜き出してもらい、その引用から言える範囲を整理させます。
例えば「補助の対象は正社員」と書かれた資料から、「契約社員も対象」と推測していないかを確認します。短い引用だけでは例外条項が抜けることもあるため、前後の段落も読みます。
確認用の出力は、次の形が便利です。
| 回答中の主張 | 原文の所在 | 確認結果 |
|---|---|---|
| 申請期限は月末 | 規程A・4ページ・申請手続 | 期限の記述と一致 |
| 全従業員が対象 | 規程A・2ページ・対象者 | 雇用区分の例外があり修正必要 |
| 遅延申請も受理される | 該当箇所なし | 未確認として保留 |
この表は説明用の架空例です。実際には、Claudeが挙げたページと引用文が存在するかを利用者が確認します。引用の表示自体を、検証が済んだ証拠にしないことが大切です。
Web調査の回答を確認する5つの手順
Web検索を使った回答にも、読み違いや適用条件の抜けは残ります。公式ヘルプは、検索結果の引用先には回答で省かれた文脈が含まれることがあるため、元の内容を確認するよう案内しています。
- 確認したい主張を分ける。 料金・対象プラン・提供地域などを一つずつ取り出します。
- 引用URLを開く。 ページが実在し、想定した提供元のページであることを確認します。
- 原文の該当箇所を読む。 タイトルや検索結果の短い説明だけで判断せず、本文と注記を照合します。
- 日付と適用条件を確認する。 発表日と提供開始日、月払いと年払い、一般提供と試験提供を区別します。
- 未確認部分を残す。 根拠が見つからない主張は削除するか、保留と明示し、公開前に追加調査します。
「出典を3つ出して」と指定しても、3件が同じ発表を転載していれば独立した裏付けにはなりません。仕様は提供元の資料、統計は公表機関のデータなど、主張に適した一次情報を優先します。
出典が開けない場合は、同じ説明をClaudeに再生成させるだけで済ませず、元資料を別途探します。見つからなければ、確認できた範囲に回答を狭めます。
数値とClaude Codeは実物で確かめる
数値を扱う場合は、回答の計算過程に加えて、元データの単位・集計期間・分母を確認します。前年比と前月比、税込と税抜の混同は、計算式が正しくても誤った結論につながります。
- 元データと対象期間を固定します。
- Claudeに使用した値と計算式を示してもらいます。
- 電卓や表計算ソフトで再計算します。
- 差があれば、丸め・単位・欠損値の扱いを確認します。
Claude Codeで生成したコードも、説明を読むだけでは動作を確認できません。存在しないメソッド、利用中の版と違う引数、実行していないテストの成功報告などを分けて確認します。
確認の際は「変更ファイル、実行コマンド、終了コード、失敗内容、未実行項目を示してください」と依頼します。そのうえで実際の差分と出力を読みます。テストが通っても、そのテストが確認していない動作まで正しいとは判断できません。
誤回答を見つけたら根拠から修正する
誤りを指摘した後の謝罪や訂正文も、内容を確認する必要があります。単に「違う、やり直して」と伝えるより、誤った主張と正しい根拠をセットで渡すと、修正範囲が明確になります。
先ほどの回答の「契約社員も対象」という記述を再確認してください。
根拠資料の対象者欄は「正社員」となっています。
この箇所と関連する結論を修正し、変更前後と根拠を示してください。
確認できない適用条件は、推測で埋めず未確認としてください。
これは前述の架空例を使った訂正依頼です。修正後は、その一文だけでなく、表・要約・最終結論にも誤った前提が残っていないかを確認します。
別のAIや新しい会話で同じ質問をする方法は、食い違いを見つける補助になります。ただし、複数の回答が一致しても正解の証明にはなりません。最後は原資料や実行結果へ戻って判断します。
対策の効果を測り確認作業を続ける
プロンプトを変えた効果は、普段の業務で使う質問を固定して比べると判断しやすくなります。正解が明確な質問に加え、資料に答えがない質問や、資料同士で条件が異なる質問も含めます。
- 同じ資料と質問を用意し、期待する回答・根拠を人が決めます。
- 対策前後の指示文で回答を取得し、使用モデルと実施日を記録します。
- 誤った主張、存在しない引用、不明と答えるべき箇所の見落としを数えます。
- 回答の有用性と確認時間も比較し、実務に合う指示を採用します。
すべてを保留する回答では仕事が進まないため、誤回答の少なさと必要な情報への回答率を両方見ます。モデルや資料を変更した場合は、同じ質問で改めて確認します。
まずは「資料の範囲指定」「根拠の対応付け」「重要箇所の人による照合」を一つの作業に組み込むと、誤回答の発見から修正までを継続して実施できます。