生成AIが嘘をつく原因「ハルシネーション」とは？仕組みと対策を徹底解説

生成AIを利用していて、もっともらしい「嘘」をつかれた経験はありませんか？
この現象は「ハルシネーション（幻覚）」と呼ばれ、AIの仕組みに起因するとされる代表的な課題です。
本記事では、AIが嘘をつく理由をわかりやすく解説し、業務で安全に活用するための具体的な対策をご紹介します。

⭐ChatGPTは自動化ツールYoomでも使える！

👉Yoomとは？ノーコードで業務自動化につながる！
複数のSaaSやAIツールをノーコードで連携できる「Yoom」では、ChatGPT（Web検索対応）と組み合わせて、問い合わせ対応やSEO記事作成といった業務を自動化できます。
Zendeskの新規チケットに対する回答案生成や、Web検索を活用した記事下書き作成まで一気通貫で処理できるため、誤情報リスクを抑えながら下書き作成と一次対応を効率化できるのが大きな魅力です。
人間による最終確認フローと組み合わせれば、安全性と生産性を両立した運用が実現できます。

🤔なぜ生成AIはもっともらしい「嘘」をつくのか？

生成AIが「もっともらしい嘘」をつく理由は、AIの学習方法や文章生成の仕組みにあり、時には事実に反する内容を出力してしまうことがあります。以下にその原因を挙げます。

1. 確率に基づいた予測と誤ったデータ：
   AIは文法的には正しい文章を生成しますが、その内容が事実に基づいているわけではありません。
   予測は膨大な学習データに基づいて行われますが、そのデータには誤った情報や仮説も含まれており、それがAIの出力に影響を与えることがあります。
   これにより、AIは正確でない情報をもっともらしく生成することがあります。
2. 学習データの不足と知識の境界線：
   AIは過去のデータを元に学習しますが、未学習の新しい情報や専門的な知識については、AIは「わからない」と答える代わりに、手持ちのデータを組み合わせて「それらしい回答」を生成することがあります。
   これにより、事実に基づかない情報が生成され、特に最新情報や特殊な知識に関しては、実際には存在しない内容を「それらしく」提示してしまうことがあります。
3. ユーザーの期待に応えようとする性質：
   AIは、ユーザーの期待に応えることを重視します。
   そのため、実際には存在しない事象や事実に関しても、ユーザーが求める解答を生成しようとすることがあります。
   例えば、「〇〇について教えて」と質問されると、実際には存在しないものでも、それを前提に解説したり、事実に基づかない内容を創作してしまうことがあります。
4. 学習データのバイアス：
   AIは学習データに基づいて予測を行いますが、そのデータに「バイアス（偏り）」がある場合、AIの出力にも偏りが生じます。
   バイアスとは、情報やデータに偏りが生じている状態を指します。
   AIが学習する際に使用するデータが特定の視点や立場、地域などに偏っていると、AIはその偏った情報を基に予測や回答を生成することになります。
5. 文脈の理解不足：
   AIは文章の文脈を完全には理解しきれません。
   文脈に依存する知識を理解していないため、過去の会話や質問の文脈に基づいて誤った回答を生成することがあります。
   これにより、一見正しいように思える情報が実際には文脈に合わず、結果的に嘘として認識されることがあります。 

📒AIの嘘（ハルシネーション）を最小限に抑える対策術

• プロンプトエンジニアリングでの制御：
  指示文に「知らないことは『知らない』と答えてください」という制約を追加するだけで、無理な捏造を大幅に減らせます。
  また、回答の根拠（ソース）を必ず明示させるよう指示することも有効です。
• 思考の過程を説明させる：
  「ステップバイステップで考えて回答してください」と付け加えると、AIが論理を組み立てながら出力するため、突拍子もない嘘をつく確率が下がります。
  ステップバイステップとは段階を追って、1つずつ進めることを指しています。
• 外部データとの連携：
  AIの内部知識だけに頼らず、自社のドキュメントや検索結果をAIに読み込ませてから回答させる「RAG（検索拡張生成）」という手法を取り入れることで、情報の正確性をシステム的に高めることが可能です。
•  出力形式の指定と情報の区別：
  AIの出力内容を適切に管理するためには、回答の枠組みを事前に固定することが重要です。
  例えば、冒頭で「箇条書きで3つ」や「表形式で」といった形式を指定すると、AIは回答全体の構造を理解しやすくなります。
  また、事実と意見を明確に分けることも効果的です。指示で「客観的な事実と、ネット上の意見やあなたの推測を明確に区別して」と伝えることで、AIが誰かの主観的な意見をあたかも事実のように断定してしまう誤りを防ぐことができます。
• 人間が品質を保証する必要がある：
  現在の技術では、 AIが完全に嘘をつかないようにすることは不可能なため、最終的には人間がチェックし、品質を保証する役割を担う必要があります。
  ファクトチェックを行い、数字やURLを必ずクリックして一次情報を確認することが不可欠です。
  誤りがあれば、「正しくは〇〇です。なぜ間違えたのか分析して」とAIにフィードバックを与えることで、今後の回答精度が向上し、AIの信頼性を高めることができます。 

✅【実際に試してみた】AIの嘘を見抜くための検証

前章にて説明したハルシネーションを抑える対策術を3つ検証してみました。

検証1.プロンプトエンジニアリングでの制御

意図的にハルシネーションを引き起こすため、AIに「存在しないサービス」について質問してみました。

その結果、「公開情報が確認できません」といった回答が返ってきました。
このことから、生成AIの精度が向上していることが分かります。

次に、実在するサービスに少し嘘を交えて質問を試みました。たとえば、現時点でYoomとnoteは連携できませんが、その連携手順を尋ねてみました。

すると、YoomでnoteのAPIを呼び出す手順について説明が始まりました。しかし、これは誤情報が羅列された状態です。

その後、「YoomとnoteのAPIを連携する手順を教えてほしい。もしまだ対応していなければ、その旨を記載して」とプロンプトを変更しました。
すると、AIは「現時点ではYoomとnoteの連携機能は存在していません」と正確な情報を返しました。

このように、AIへの指示の出し方に工夫を凝らすことで、ハルシネーションを防ぎ、正確な情報を引き出せることが分かりました。

検証2.出力形式を指定する

生成AIへのプロンプト内に「客観的な事実と、ネット上の意見やあなたの推測を明確に区別して」の文言を追加すると、回答がどのように表示されるかを検証してみました。

プロンプト：
今、Youtube動画のチャンネルを作成して活動を始めたら、収益だけで生活していけると思うか？なお、客観的な事実と、ネット上の意見やあなたの推測を明確に区別すること。

すると、以下のように事実と推測の箇所を分けて回答を提示してくれました。

一方、出力形式の指定を行わずに「今、Youtube動画のチャンネルを作成して活動を始めたら、収益だけで生活していけると思うか？」だけで質問を行った回答の一部が以下になります。
様々なデータや根拠が並べられたものの、全てが断定的な表現で出力されていました。この場合、生成AIの推測や誤った情報が混在しており、それを見分けることは難しく、手間であると感じます。

そのため、特に嘘や推測が混入しやすい内容の場合は、生成AIに対して事実と推測を明確に区別するよう指示する文言を積極的に使用することをお勧めします。

検証3.人間が品質を保証することの大切さ

少しひっかけのような算数の問題を生成AIに出してみました。（回答は121人となるのが想定です。）

プロンプト：
営業一課には課長が1人と、社員が30人在籍している。営業二課と営業三課は1人の課長が兼任しており、社員数は営業二課が45人、営業三課が20人在籍している。その他に、システム開発課の課長は営業一課に所属する社員の1人が担当しており、システム開発課の人数は課長を含めて25人在籍している。この会社の社員数は何人？

社員数の計算だが、兼任している社員がいるため単純な足し算だと間違えてしまいそうですよね。GPT-4oなどの標準的なモデル（思考機能を活用しない設定）で検証したところChatGPTは見事に間違えてしまいました。

前提を聞き返すようなこともなく、答えを提示してしまっているため、この結果を鵜吞みにしてしまうと誤った情報を使用してしまうこととなります。

その後、再度ポイントを伝えて再計算を依頼すると、また違った回答が表示されました。

内訳に疑問点は残りますが、人の目で確認し、再度計算を依頼したり、重要なポイントを伝えることで、精度が徐々に向上することが分かりました。
この検証結果から、生成AIは自己完結的に結論を出すことがあるため、最終的には人間が精度を確認し、保証することが不可欠であると認識できました。

また、Geminiを使用して同じ問題を解かせたところ、こちらの想定通りの回答が得られました。
そのことから、複数の生成AIを使用して回答を比べたり、お互いの回答をチェックさせることでも精度を上げていくことができそうです。

⭐Yoomでできること

👉Yoomの登録はこちら。30秒で簡単に登録できます！

Yoomを活用すれば、AIが作成した下書きを自動でブログやSNSに連携させたり、チーム内での確認プロセスを自動化したりすることが可能です。
これにより、AIの生産性を活かしつつ、誤った情報が外部に公開されるリスクを最小限に抑えられます。

以下のテンプレートを使用して、AIによるコンテンツ制作のフローを効率化してみましょう。

オンライン会議の音声を自動で文字起こしし、Bloggerに投稿の下書きを作成する

試してみる

---

■概要

オンライン会議の内容をBloggerで共有する際、録画データを聞き返しながら手作業で文字起こしを行い、記事を作成するプロセスに手間を感じていませんか？ このワークフローは、Web会議が終了すると自動で音声を文字起こしし、その内容をAIが要約・整形した上でBloggerに下書きとして投稿します。会議の文字起こしからBloggerへの投稿までの一連の作業を自動化し、コンテンツ作成の効率を高めます。

■このテンプレートをおすすめする方

• 会議の内容をBloggerで議事録や情報共有記事として発信している担当者の方
• Web会議の文字起こしや記事化を手作業で行っており、工数を削減したいブロガーの方
• チーム内のナレッジ共有のため、会議の記録をBloggerへ効率的に蓄積したい方

■このテンプレートを使うメリット

• 会議終了後に自動で文字起こしからBloggerへの下書き投稿までが実行されるため、これまで手作業に費やしていた時間を短縮できます。
• 手作業での転記ミスや要約時の記載漏れといったヒューマンエラーを防ぎ、会議の記録を正確にコンテンツ化することが可能です。

■フローボットの流れ

1. はじめに、BloggerをYoomと連携します。
2. 次に、トリガーで「Web会議トリガー」を選択し、フローボットを起動するきっかけとして設定します。
3. 次に、オペレーションでAI機能の「要約」を設定し、会議の文字起こし結果を要約します。
4. 最後に、オペレーションでBloggerの「投稿を作成」を設定し、AIが生成したテキストを下書きとして投稿します。

※「トリガー」：フロー起動のきっかけとなるアクション、「オペレーション」：トリガー起動後、フロー内で処理を行うアクション
■このワークフローのカスタムポイント

• Bloggerの「投稿を作成」アクションでは、下書きを投稿したい対象のブログIDを任意で設定してください。

■注意事項

• BloggerとYoomを連携してください。
• Web会議トリガーの設定方法や注意点は「Web会議トリガーの設定方法」をご参照ください。

詳細を見る 試してみる

WordPress.orgで投稿が公開されたら、ChatGPTで任意のテキストを生成しX（Twitter）にポストを投稿する

試してみる

---

■概要

WordPress.orgで新しい記事を公開した後、告知のためにX（Twitter）へ手動で投稿を作成し、ポストする作業に手間を感じていませんか。 このワークフローを活用すれば、WordPress.orgの記事公開をきっかけに、ChatGPTが告知文を自動で生成しX（Twitter）への投稿までを完結させることが可能です。ChatGPTとWordPress.org、X（Twitter）を連携させることで、これまで手作業で行っていた一連のタスクを自動化し、コンテンツ拡散の効率を高めます。

■このテンプレートをおすすめする方

• WordPress.orgでメディアを運営し、X（Twitter）での告知投稿を手作業で行っている方
• ChatGPT、WordPress.org、X（Twitter）の連携により、SNSへのコンテンツ投稿を効率化したいマーケターの方
• 記事公開後のSNS投稿の作成や予約にかかる時間を削減し、本来の業務に集中したい方

■このテンプレートを使うメリット

• WordPress.orgでの記事公開からX（Twitter）への投稿までが自動化されるため、SNS運用の手間を削減し、コア業務に集中する時間を確保できます。
• 手動での投稿作成や予約作業が不要になるため、投稿忘れや内容の入力ミスといったヒューマンエラーを防ぎ、安定した情報発信を実現します。

■フローボットの流れ

1. はじめに、ChatGPT、WordPress.org、X（Twitter）をYoomと連携します。
2. 次に、トリガーでWordPress.orgを選択し、「投稿が公開されたら」というアクションを設定します。
3. 次に、オペレーションでChatGPTの「テキストを生成」アクションを設定し、公開された記事の情報をもとにX（Twitter）へ投稿するテキストを生成するよう指示します。
4. 最後に、オペレーションでX（Twitter）の「ポストを投稿」アクションを設定し、ChatGPTが生成したテキストを内容としてポストを投稿します。

※「トリガー」：フロー起動のきっかけとなるアクション、「オペレーション」：トリガー起動後、フロー内で処理を行うアクション

■このワークフローのカスタムポイント

• ChatGPTでテキストを生成するオペレーションでは、記事のタイトルやURLなどの情報を含め、どのような投稿文を作成するかを指示するプロンプトを任意で設定してください。例えば、特定のハッシュタグを付与したり、要約を加えたりするなどのカスタマイズが可能です。

■注意事項

• ChatGPT、WordPress.org、X（Twitter）のそれぞれとYoomを連携してください。 
• トリガーは5分、10分、15分、30分、60分の間隔で起動間隔を選択できます。 
• プランによって最短の起動間隔が異なりますので、ご注意ください。 
• ChatGPT（OpenAI）のアクションを実行するには、OpenAIのAPI有料プランの契約が必要です。（APIが使用されたときに支払いができる状態）  
• ChatGPTのAPI利用はOpenAI社が有料で提供しており、API疎通時のトークンにより従量課金される仕組みとなっています。そのため、API使用時にお支払いが行える状況でない場合エラーが発生しますのでご注意ください。

詳細を見る 試してみる

📈まとめ

生成AIが「嘘」をつく現象は、仕組みそのものに起因する課題であることが分かりました。
AIが誤った情報を生成する原因には、データの予測に基づく出力や、ユーザーの期待に応えようとする性質が絡んでおり、これを避けるためには、プロンプト設計や外部データとの連携など、慎重な対応が必要です。

とはいえ、AIによる誤情報のリスクを完全に排除することは難しいですが、ツールや対策を駆使すれば、その影響を最小限に抑え、ビジネスでの活用を安全かつ効果的に行うことが可能です。
AIの出力内容は人間のチェックを経て初めて信頼できるものとなるため、今後もその精度向上に取り組むことが重要です。

【出典】

https://liskul.com/hallucination-167348
https://maisonai.io/blogs/article/tips-3
https://www.techno-producer.com/column1min/why-do-ai-systems-tell-plausible-lies/
https://www.nri.com/jp/knowledge/glossary/hallucination.html
https://usknet.com/dxgo/contents/dx-technology/what-is-hallucination/
https://cyber-intelligence.co.jp/blog/post-22173/