生成AIが嘘をつく原因「ハルシネーション」とは？仕組みと対策を徹底解説

生成AIを利用していて、もっともらしい「嘘」をつかれた経験はありませんか？
この現象は「ハルシネーション（幻覚）」と呼ばれ、AIの仕組みに起因するとされる代表的な課題です。
本記事では、AIが嘘をつく理由をわかりやすく解説し、業務で安全に活用するための具体的な対策をご紹介します。

⭐ChatGPTは自動化ツールYoomでも使える！

👉Yoomとは？ノーコードで業務自動化につながる！
複数のSaaSやAIツールをノーコードで連携できる「Yoom」では、ChatGPT（Web検索対応）と組み合わせて、問い合わせ対応やSEO記事作成といった業務を自動化できます。
Zendeskの新規チケットに対する回答案生成や、Web検索を活用した記事下書き作成まで一気通貫で処理できるため、誤情報リスクを抑えながら下書き作成と一次対応を効率化できるのが大きな魅力です。
人間による最終確認フローと組み合わせれば、安全性と生産性を両立した運用が実現できます。

🤔なぜ生成AIはもっともらしい「嘘」をつくのか？

生成AIが「もっともらしい嘘」をつく理由は、AIの学習方法や文章生成の仕組みにあり、時には事実に反する内容を出力してしまうことがあります。以下にその原因を挙げます。

1. 確率に基づいた予測と誤ったデータ：
   AIは文法的には正しい文章を生成しますが、その内容が事実に基づいているわけではありません。
   予測は膨大な学習データに基づいて行われますが、そのデータには誤った情報や仮説も含まれており、それがAIの出力に影響を与えることがあります。
   これにより、AIは正確でない情報をもっともらしく生成することがあります。
2. 学習データの不足と知識の境界線：
   AIは過去のデータを元に学習しますが、未学習の新しい情報や専門的な知識については、AIは「わからない」と答える代わりに、手持ちのデータを組み合わせて「それらしい回答」を生成することがあります。
   これにより、事実に基づかない情報が生成され、特に最新情報や特殊な知識に関しては、実際には存在しない内容を「それらしく」提示してしまうことがあります。
3. ユーザーの期待に応えようとする性質：
   AIは、ユーザーの期待に応えることを重視します。
   そのため、実際には存在しない事象や事実に関しても、ユーザーが求める解答を生成しようとすることがあります。
   例えば、「〇〇について教えて」と質問されると、実際には存在しないものでも、それを前提に解説したり、事実に基づかない内容を創作してしまうことがあります。
4. 学習データのバイアス：
   AIは学習データに基づいて予測を行いますが、そのデータに「バイアス（偏り）」がある場合、AIの出力にも偏りが生じます。
   バイアスとは、情報やデータに偏りが生じている状態を指します。
   AIが学習する際に使用するデータが特定の視点や立場、地域などに偏っていると、AIはその偏った情報を基に予測や回答を生成することになります。
5. 文脈の理解不足：
   AIは文章の文脈を完全には理解しきれません。
   文脈に依存する知識を理解していないため、過去の会話や質問の文脈に基づいて誤った回答を生成することがあります。
   これにより、一見正しいように思える情報が実際には文脈に合わず、結果的に嘘として認識されることがあります。 

📒AIの嘘（ハルシネーション）を最小限に抑える対策術

• プロンプトエンジニアリングでの制御：
  指示文に「知らないことは『知らない』と答えてください」という制約を追加するだけで、無理な捏造を大幅に減らせます。
  また、回答の根拠（ソース）を必ず明示させるよう指示することも有効です。
• 思考の過程を説明させる：
  「ステップバイステップで考えて回答してください」と付け加えると、AIが論理を組み立てながら出力するため、突拍子もない嘘をつく確率が下がります。
  ステップバイステップとは段階を追って、1つずつ進めることを指しています。
• 外部データとの連携：
  AIの内部知識だけに頼らず、自社のドキュメントや検索結果をAIに読み込ませてから回答させる「RAG（検索拡張生成）」という手法を取り入れることで、情報の正確性をシステム的に高めることが可能です。
•  出力形式の指定と情報の区別：
  AIの出力内容を適切に管理するためには、回答の枠組みを事前に固定することが重要です。
  例えば、冒頭で「箇条書きで3つ」や「表形式で」といった形式を指定すると、AIは回答全体の構造を理解しやすくなります。
  また、事実と意見を明確に分けることも効果的です。指示で「客観的な事実と、ネット上の意見やあなたの推測を明確に区別して」と伝えることで、AIが誰かの主観的な意見をあたかも事実のように断定してしまう誤りを防ぐことができます。
• 人間が品質を保証する必要がある：
  現在の技術では、 AIが完全に嘘をつかないようにすることは不可能なため、最終的には人間がチェックし、品質を保証する役割を担う必要があります。
  ファクトチェックを行い、数字やURLを必ずクリックして一次情報を確認することが不可欠です。
  誤りがあれば、「正しくは〇〇です。なぜ間違えたのか分析して」とAIにフィードバックを与えることで、今後の回答精度が向上し、AIの信頼性を高めることができます。 

✅【実際に試してみた】AIの嘘を見抜くための検証

前章にて説明したハルシネーションを抑える対策術を3つ検証してみました。

検証1.プロンプトエンジニアリングでの制御

意図的にハルシネーションを引き起こすため、AIに「存在しないサービス」について質問してみました。

その結果、「公開情報が確認できません」といった回答が返ってきました。
このことから、生成AIの精度が向上していることが分かります。

次に、実在するサービスに少し嘘を交えて質問を試みました。たとえば、現時点でYoomとnoteは連携できませんが、その連携手順を尋ねてみました。

すると、YoomでnoteのAPIを呼び出す手順について説明が始まりました。しかし、これは誤情報が羅列された状態です。

その後、「YoomとnoteのAPIを連携する手順を教えてほしい。もしまだ対応していなければ、その旨を記載して」とプロンプトを変更しました。
すると、AIは「現時点ではYoomとnoteの連携機能は存在していません」と正確な情報を返しました。

このように、AIへの指示の出し方に工夫を凝らすことで、ハルシネーションを防ぎ、正確な情報を引き出せることが分かりました。

検証2.出力形式を指定する

生成AIへのプロンプト内に「客観的な事実と、ネット上の意見やあなたの推測を明確に区別して」の文言を追加すると、回答がどのように表示されるかを検証してみました。

プロンプト：
今、Youtube動画のチャンネルを作成して活動を始めたら、収益だけで生活していけると思うか？なお、客観的な事実と、ネット上の意見やあなたの推測を明確に区別すること。