株式会社renue
renueについて
renueは、AIで業務を実装する会社です
AIコンサルティングから図面AI・広告運用エージェント・コールセンターAIまで、実際に動いているサービスをご覧いただけます。renueが何をしている会社か、まずはサービス一覧からご確認ください。
ハルシネーションとは？
ハルシネーション（Hallucination）とは、生成AIが事実と異なる情報や、入力・参照資料から裏付けられない内容を、もっともらしく生成してしまう現象です。「幻覚」を意味する英語で、AIがあたかも正しいかのように嘘の情報を出力する様子を表しています。
ChatGPT、Claude、Geminiなどの大規模言語モデル（LLM）は、文脈に応じた次のトークン（文章を構成する単位）の確率を推定し、生成設定に応じて選択します。最大確率を選ぶ方法のほか、確率分布からサンプリングする方法もあり、常に最も確率の高い単語だけを選ぶわけではありません（生成方法の解説）。生成確率の高さは事実の正しさや参照資料への忠実さを保証するものではありません。検索・参照資料を使う構成でも根拠との照合が必要で、学習データにない情報や新しい推論をすべて捏造と呼ぶことはできません（富士フイルムBI）。
ハルシネーションの種類
| 種類 | 内容 | 具体例 |
|---|---|---|
| 内在的ハルシネーション | 入力・参照資料の情報を誤って扱い、資料と矛盾する内容を生成（資料への忠実性で分類） | 文書に「売上10億円」とあるのに「売上15億円」と要約 |
| 外在的ハルシネーション | 入力・参照資料から裏付けられない情報を追加。外部的に正しい情報の場合もあるため、事実の真偽と資料への忠実性は分ける（Maynezらの要約研究） | 実在しない論文の引用、架空の人物の経歴の捏造 |
なぜハルシネーションが起きるのか
1. 確率的な文章生成モデル
LLMは入力や生成済みの文脈に応じた次トークンの確率分布に基づいて文章を生成します。生成確率が高いことと、事実として正しいことは別であり、流暢でも事実や参照資料と合わない文章を生成し得ます。
2. 学習データの偏りと不足
最新情報や専門的・ローカルな情報で根拠が不足すると、誤った推測を事実のように示すことがあります。推測や、資料から導ける新しい推論それ自体を一律にハルシネーションと呼ばず、根拠への忠実性と事実の真偽を確認します。
3. プロンプトの曖昧さ
質問が曖昧だったり、回答を強制する（「必ず5つ挙げて」等）プロンプトでは、AIが情報を「作り出す」リスクが高まります（WEEL）。
ハルシネーションの5つの防止策
1. RAG（検索拡張生成）の導入
AIが回答する前に社内文書やナレッジベースから関連情報を検索し、その情報を使って回答を生成する仕組みです。RAGの原論文では対象タスクで比較モデルより事実性の改善が報告されています。ただし、元の「2026年に最も効果的」という比較の対象・評価条件は未確認です。対策の一つとして導入し、検索できた資料の適切さと回答の裏付けを評価します。
2. プロンプトでの制約付与
「提供された資料に基づいてのみ回答してください」「不明な場合は『わかりません』と回答してください」といった制約をプロンプトに含めることで、AIが情報を捏造するリスクを低減します。
3. 出典の明示を要求
「回答の根拠となるURLまたはデータソースを明記してください」と指示すると照合しやすくなりますが、URLや引用を出すだけでは根拠の存在や正しさを保証できません。架空のURL・引用や、リンク先が主張を支持していない場合も確認対象です。実際の資料を開いて、出典の実在・該当箇所・回答との対応を照合し、裏付けられない部分は不明と扱います（出典での検証方法）。
4. 人によるレビューの組み込み
AIの出力を最終的な情報として扱わず、必ず人間がレビューするワークフローを設計します。特に数値データ、固有名詞、法的事項については人的チェックが必須です。
5. 最新モデルの活用
最新のLLMではハルシネーション対策が改善されている場合があります。モデルの選定時にはハルシネーション率などの評価条件を確認しましょう。
ハルシネーションが問題になるケース
- 医療・法務：誤った医療情報や法的見解は深刻な被害につながる
- 金融：誤った財務数値に基づく投資判断
- 報道・コンテンツ：架空の引用や捏造された事実の公開
- 教育：学生が誤情報をそのまま信じるリスク
- 企業の社外コミュニケーション：AIが生成した誤情報を顧客に発信するリスク
よくある質問（FAQ）
Q. ハルシネーションは完全に防げますか？
2026年現在、完全に防ぐことは困難です。ただし、RAGの導入、プロンプトの工夫、人的レビューの組み合わせで大幅に低減できます。「ゼロにする」のではなく「リスクを許容可能なレベルまで下げる」アプローチが現実的です（ソフトバンク）。
Q. どのAIモデルがハルシネーションが少ないですか？
ハルシネーションの起こりやすさは、学習データ、検索連携、プロンプト、評価条件によって異なります。コーディング、文書要約、質問応答など、自社で使うタスクを用いて比較してください。
Q. ハルシネーションを検知する方法は？
AIの回答に含まれるファクト（固有名詞、数値、日付、URL）を外部ソースと照合する「ファクトチェック」が基本です。自動ファクトチェックツールも登場しており、RAGと組み合わせて回答の根拠を自動検証するアプローチが2026年のトレンドです。
まとめ
ハルシネーションには事実の誤りと参照資料への不忠実さがあり、外在的な情報が必ず事実として誤りとは限りません。現在の対策でも完全な防止は保証されないため、根拠との照合が必要です。RAGの導入、プロンプトでの制約、出典の明示要求、人的レビュー、最新モデルの活用の5つの対策を組み合わせて、リスクを許容可能なレベルまで低減しましょう。
renueでは、RAGを含むAIソリューションの構築や、ハルシネーション対策を組み込んだAI運用設計を支援しています。AI活用のご相談はお問い合わせください。