ChatGPTやMicrosoft Copilot、Gemini、Claudeなどの生成AIは、ここ数年で急速に普及しました。文章作成や情報収集、アイデア出しなど、さまざまな業務で活用されるようになり、「まずAIに聞いてみる」という方も増えています。
実際、生成AIは非常に便利なツールです。これまで数十分から数時間かかっていた調査が数分で終わることも珍しくありません。
しかし、生成AIには大きな特徴があります。
それは、「間違った情報でも、それらしく回答してしまうことがある」という点です。
この現象は「ハルシネーション」と呼ばれています。
生成AIを安全に活用するためには、ハルシネーションを完全になくそうとするのではなく、
・ハルシネーションを減らす方法を知る
・ハルシネーションが起きたときの確認方法を知る
この両方が重要です。
この記事では、生成AIのハルシネーションが発生する理由、発生を減らすコツ、そして実際に業務で利用する際の確認方法について解説します。
便利な生成AI、しかし回答が間違うこともある
いろんな情報をもたらしてくれる生成AIですが、間違いを提示することも珍しくありません。
間違うのは特定のAIの特徴なのでしょうか。
ChatGPTだけの問題ではない
生成AIというとChatGPTを思い浮かべる方が多いかもしれません。
しかし、ハルシネーションはChatGPTだけの問題ではありません。
Microsoft Copilot、Google Gemini、Claudeなど、現在利用されている生成AI全般で発生する可能性があります。
どのAIも非常に高性能ですが、100％正しい回答を保証するものではありません。
「どのAIなら嘘をつかないのか」を探すのではなく、「どのAIも間違える可能性がある」という前提で利用することが重要です。
AIの「もっともらしい間違い」をハルシネーションと呼ぶ
ハルシネーションの厄介なところは、明らかにおかしな情報を出すのではなく、「もっともらしい嘘」を作ることです。
例えば、
・実在しない法律
・実在しない補助金制度
・間違った申請期限
・存在しないWebページ
・古い制度を最新制度のように説明する
といったことがあります。
しかも、文章としては自然で読みやすいため、知識がない分野ほど騙されやすくなります。
生成AIを使う際は、
「自然な文章で書いてあるから正しい」
ではなく、
「根拠を確認するまでは仮情報」
という認識を持つことが大切です。
なぜ生成AIは間違えるのか
ではなぜ、生成AIは間違えるのでしょうか。
生成AIの仕組みを知ると、その理由がわかります。
AIは検索エンジンではない
生成AIをGoogle検索と同じように考えている方は少なくありません。
しかし、両者は仕組みが大きく異なります。
検索エンジンは情報を探して表示します。
一方、生成AIは大量の学習データを元に学び、過去の情報を元に「次に来る可能性が高い文章」を生成しています。
つまり、事実を探しているのではなく、過去データの学びから文章を生成しているのです。
そのため、事実確認が不十分なまま回答が作られる場合があります。
情報不足でも回答しようとする
人間同士の会話であれば、
「わかりません」
「今は判断できません」
という回答は自然です。
しかし、生成AIはユーザーの質問に答えようとする傾向があります。
情報が不足していても、推測を交えながら回答を作成してしまうことがあります。
質問が曖昧であるほど、その傾向は強くなります。
古い情報を回答してしまうこともある
特に注意したいのが、制度や法律、補助金、ソフトウェアのサポート期限などです。
これらは定期的に変更されます。
生成AIが過去の「古い情報」をもとに回答した場合、一見正しく見えても最新情報とは異なる場合があります。
ハルシネーションを減らすための質問のコツ
では、AIの間違い（ハルシネーション）を回避する方法についてお知らせします。
コツを覚えればハルシネーションの出現率を抑制できます。
回答の根拠や出典を提示させる
もっとも簡単で効果的なのが出典を求めることです。
例えば、
「小規模事業者持続化補助金について教えてください」
ではなく、
「小規模事業者持続化補助金について教えてください。根拠となる公式サイトや公募要領も提示してください。」
と質問します。
これだけでも回答品質は向上します。
質問内容を具体的にする
曖昧な質問は曖昧な回答を生みます。
例えば、
「デジタル化・AI導入補助金（旧：IT導入補助金）について教えて」
という質問では範囲が広すぎます。
一方で、
「2026年度のデジタル化・AI導入補助金について、補助率と補助上限額を教えて」
という質問なら精度は高くなります。
何を知りたいのかを明確に伝えることが重要です。
一度に複数の質問をしない
生成AIは複雑な質問にも回答できます。
ですが、質問が長く複雑化するほど誤回答が混ざる可能性も高くなります。
まず概要を確認し、その後に「詳細に」確認する方が確実です。
推測しないよう指示する
意外と効果的なのが以下の一文です。
「不明な場合は推測せず、不明と回答してください。」
生成AIは空欄を埋めようとする性質がありますので、あらかじめ上記のような条件を与えれば不要な推測を減らすことができます。
それでもハルシネーションはなくならない
生成AIの仕組みを理解すれば、「間違いを完全に抑制することはできない」とわかります。
ただ、間違いだらけの回答を提示されても困ってしまいます。
ここからは、生成AIとの正しい向き合い方、知っておくべきことをご説明します。
出典付きでも間違うことがある
出典を提示したからといって安心はできません。
AIが情報を誤解釈している場合もあります。
また、引用先が古い情報である場合もあります。
出典は確認の手がかりにはなりますが、正しさの保証ではありません。
存在しないURLや資料を作ることがある
ハルシネーションの典型例のひとつに、実際には存在しないURLや文書名を作成して回答するケースがあります。
URLを提示されたらクリックする前に確認し、公式サイト内に存在する情報かどうかを見極めることが重要です。
特に公的機関（省庁や役所など）のURLは置き換えられることが多くあり、気づいた時には情報がどこに掲載されていたか不明となることは多くあります。
AIが提示するのは比較的古い情報です。
URLをクリックしても確認できないこともあります。
複数のAIが同じ間違いをすることもある
「同じ事を別のAIでも確認したから大丈夫」とは限りません。
複数のAIが同じ誤情報を学習していれば、同じ間違いをする可能性があります。
AI同士の一致は参考にはなりますが、最終的な根拠にはなりません。
最終的に確認するのは「人」です。
実際にPHP脆弱性について質問してみる
生成AIがどの程度役に立ち、どの段階で注意が必要になるのかを、PHPの脆弱性対応を例に考えてみます。
例えば、
「PHP 7.4を利用しているWebサイトは安全ですか？」
という質問をしたとします。
生成AIは、
「PHP 7.4は古いバージョンのためアップデートを推奨します。」
という回答を返すでしょう。
ここまでは問題ありません。
サポート終了のリスクや脆弱性対応の必要性を理解するという意味では、生成AIは非常に有効なツールです。
しかし、その次に
「それではPHP8にアップデートすれば解決ですか？」
と質問すると話は変わります。
AIは一般論として、
「PHP8へのアップデートを推奨します。」
と回答するでしょう。
ところが実際の現場では、
・WordPressは対応しているか
・利用中のプラグインは対応しているか
・独自に開発したプログラムは動作するか
・サーバー環境に問題はないか
など、多くの確認事項があります。
つまり、
「PHPに脆弱性があるか」
という一般論については回答できても、
「自社のWebサイトをどのように更新すべきか」
という個別判断まではできないのです。
生成AIは調査や概要把握には非常に役立ちます。
しかし、脆弱性対応の要否やシステム改修の判断は、人間による確認が欠かせません。
重要な情報はどのように確認すればよいか
では、生成AIから得た情報はどのようにすれば信頼に足るものとなるのでしょうか。
ここでは確認の方法をチェックしていきます。
金額は公式情報で確認する
補助金や助成金、利用料金などの大事な数字は必ず公式情報を確認しましょう。
改めて検索すると、最新の情報が見つかることがあります。
数字の誤りは直接的な損失につながりますので、再度のチェックは大切です。
公式情報で日付を確認する
各種情報は、新しいほど正しいものです。
発表された日付、公開された日時、いずれにせよ「新しいもの」ほど参考にするべきものです。
生成AIから提示された情報（参考URL）を確認するときは、日付をチェックするようにしましょう。
全ての情報は原典を確認する
法律や制度については、官公庁や制度運営団体などの一次情報を確認することが重要です。
法律や制度以外の情報に付いても、出典（その情報元）を確認し、内容まで目を通しましょう。
要約記事や解説記事は参考になりますが、生成AIの提示する内容を鵜のみにしてはいけません。
最終確認は人の目で行うのがベストです。
生成AIを安全に活用する基本的な流れ
業務で生成AIを利用する際は、次の流れを意識すると安全です。
- 生成AIで概要を把握する
- 根拠や出典を確認する
- 公式情報を確認する
- 自社環境への影響を検討する
- 最終判断を人が行う
まとめ
生成AIのハルシネーションは、現在の技術では完全に防ぐことができません。
しかし、
・出典を提示させる
・質問を具体的にする
・推測を避けるよう指示する
ことで、出現率を下げることはできます。
また、補助金の金額や申請期限、法律、契約内容などの重要な事項については、必ず公式情報を確認することが重要です。
生成AIは非常に優秀なアシスタントです。
しかし、最終的な責任を持って判断する存在ではありません。
AIに任せるべき部分と、人が確認すべき部分を切り分けながら活用すること。
それこそが、生成AIを安全かつ効果的に活用するための最も重要なポイントです。
