こんにちは、ソラ先生です。

前回は、ChatGPT、Gemini、Claude、Copilotなど、複数のAIを使って回答を比較する方法を学びました。

今回は、さらに重要なテーマを取り上げます。

それは、AIの回答が本当に正しいのかを確認する方法です。

ChatGPTを使っていると、こんな経験はありませんか？

「詳しく説明してくれたけれど、本当に正しいの？」

「紹介されたホームページが見つからない」

「前に聞いたときと答えが違う」

「AIが『確認しました』と言っているけれど、何を確認したの？」

「間違いを指摘したら謝ってくれた。でも、次の答えも間違っていた」

ChatGPTは、とても便利な道具です。

しかし、間違った情報を、もっともらしく説明することがあります。

しかも、文章が自然で、説明が丁寧だからといって、正しいとは限りません。

今回は、AIを安心して活用するために、回答を検証する具体的な方法を学びましょう。

1．ChatGPTはなぜ間違えるのでしょうか？

ChatGPTは、大量の情報から学習したパターンなどを基に、質問に対する回答を生成します。

そのため、文章を作ることは得意でも、回答のすべてが正しいと保証されているわけではありません。

例えば、次のような間違いが起こる場合があります。

• 実際とは異なる日付を答える
• 似た名前の会社や人物を取り違える
• 存在しない書籍や論文を紹介する
• 古い情報を現在の情報として説明する
• 質問にない条件を勝手に補う
• 計算式や数値を間違える
• 読み取れていない資料の内容を推測する

こうした誤りは、ChatGPTだけでなく、ほかの生成AIでも起こり得ます。

OpenAIの公式ヘルプでも、ChatGPTは役立つ回答を生成できる一方、誤った情報や誤解を招く内容を出力することがあると説明されています。

AIの回答が自然であることと、事実として正しいことは別です。

2．ハルシネーションとは何でしょうか？

AIについて調べていると、「ハルシネーション」という言葉が登場します。

ハルシネーションとは、生成AIが事実と異なる情報や、根拠のない内容をもっともらしく生成してしまう現象です。

例えば、次のようなケースです。

ある人がChatGPTに質問しました。

「この製品について説明している公式資料を教えてください」

するとAIは、

「〇〇株式会社の技術資料2025年版に詳しく掲載されています」

と答えました。

しかし、調べてみると、その名前の資料は見つかりません。

資料名だけでなく、著者名、発行年、掲載ページまで詳しく説明していたとしても、実在しない場合があります。

このような架空の情報を作り出すことが、ハルシネーションの一例です。

ここで注意したいのは、AIが意図的に人間をだまそうとしているとは限らないことです。

しかし、利用する側から見ると、間違った情報であることに変わりはありません。

3．自信のある回答ほど注意が必要？

例えば、ChatGPTが次のように説明したとします。

「間違いありません。これは公式に確認された情報です」

この文章だけで、本当に確認済みだと判断してよいのでしょうか。

答えは、いいえです。

AIが自信のある言葉を使っていても、その情報が正しいとは限りません。

重要なのは、何を根拠に確認したのかです。

例えば、

「メーカーの公式資料を確認しました」

という説明なら、

「その公式資料のURLと、該当する記載箇所を教えてください」

と質問してみましょう。

ただし、URLを提示できたからといって、それだけで確認が完了するわけではありません。

実際にリンクを開いて、記載内容を照合する必要があります。

4．まず「事実」と「推測」を分けてみよう

AIの回答を確認するとき、役立つのが事実と推測の区別です。

例えば、ある会社のホームページを分析してもらったとします。

ChatGPTは、

「問い合わせボタンが目立つため、問い合わせ件数が増えていると考えられます」

と回答しました。

ここで、2つの内容を分けてみましょう。

確認できる可能性がある事実

問い合わせボタンが、画面の目立つ位置に配置されている。

推測

問い合わせ件数が増えている。

問い合わせ件数の増加は、実際の問い合わせ記録などを確認しなければ分かりません。

画面の見た目だけで、成果まで判断することはできないのです。

ChatGPTには、

「この回答について、資料から確認できた事実、推測、確認できていないことの3つに分けてください」

と依頼してみましょう。

この質問だけでも、確認すべき部分を整理しやすくなります。

ただし、AI自身による分類も間違える可能性があるため、重要な内容は元の資料と照合してください。

5．一次情報とは何でしょうか？

情報を確認するとき、大切なのが「一次情報」です。

一次情報とは、対象となる事柄について、直接的な根拠となる情報です。

例えば、次のようなものがあります。

確認したいこと	確認先の例
製品の仕様	メーカーの正式な仕様書
サービスの料金	提供会社の公式料金ページ
法令の条文	法令を公布・公開する公的資料
企業の発表	企業の公式発表資料
自社サイトの表示	実際のホームページ画面
売上金額	元の売上記録・会計資料
作業手順	使用中の機器やサービスの正式なマニュアル

ただし、公式資料ならすべて無条件に正しいというわけではありません。

古い資料や、対象となる型番が違う資料もあるからです。

また、企業が公表した効果や性能については、測定条件や根拠を確認する必要がある場合もあります。

一次情報は、何を調べるかによって異なります。

そして、できるだけ元の資料に戻って確認することが重要です。

6．ChatGPTに情報源を探してもらおう

例えば、製品の仕様を調べたい場合です。

ChatGPTに、

「この製品の耐熱温度を教えてください」

と質問するだけでは、条件が不足しているかもしれません。

製品名だけでなく、型番や材質、使用条件によって仕様が異なる場合があります。

そこで、次のように質問します。

「この製品の耐熱温度を確認したいです。メーカーの公式仕様書を探し、型番、測定条件、該当ページを示してください。資料を確認できない場合は、推測で数値を答えないでください」

このように、必要な情報と確認先を指定します。

ただし、ChatGPTの検索機能を利用していても、すべての資料を閲覧できるわけではありません。

公開されていない資料や、アクセスが制限されているページは取得できない場合があります。

確認できなければ、そのことを明確にする必要があります。

7．出典が付いていれば安心なの？

ChatGPTの検索機能では、回答に出典リンクが付く場合があります。

これは、根拠を確認するための便利な仕組みです。

しかし、リンクが付いているだけで、必ず正しいとは限りません。

例えば、次のようなことが起こる場合があります。

① リンク先に該当する説明がない

AIが、ページの内容と異なる説明をしている場合です。

② 別の製品の情報を引用している

似た型番の製品を取り違えている場合があります。

③ 古い資料を参考にしている

現在の仕様や料金と一致しない場合があります。

④ 説明の一部分だけを取り出している

重要な条件や例外が省略されている場合があります。

⑤ 出典自体が存在しない

AIが架空の資料やURLを示す場合があります。

そのため、出典を確認するときは、実際にページを開き、該当箇所を読んでください。

8．出典を確認する5つのポイント

AIが提示した資料について、次の5つを確認してみましょう。

① 実在するか

リンクが開くか、資料が存在するかを確認します。

② 発行元はどこか

公式機関、メーカー、研究機関、個人ブログなど、情報の発信元を確認します。

③ いつ公開・更新されたか

現在の状況を調べる場合、古い資料ではないか確認します。

④ 本当にその説明が書かれているか

AIの回答と、元の資料の記載が一致しているか確認します。

⑤ 自分が調べている対象と一致するか

製品型番、対象地域、期間、適用条件などを確認します。

例えば、海外向けの製品仕様を、日本国内向けの仕様として説明している場合もあります。

出典の確認は、リンクの数を数えることではなく、根拠となる内容を実際に確かめることです。

9．実践！架空の出典を見抜く練習

ここでは、次のような状況を考えます。

あるAIが、仕事の効率化について次のように回答しました。

「2025年に発表された『世界AI生産性調査』によると、AI導入によって事務作業の時間が平均65％短縮されたと報告されています」

これは、検証練習のために作成した架空の説明です。

このような回答を受け取ったら、何を確認すればよいでしょうか。

まず、調査名が実在するか確認します。

次に、発表した組織、調査対象、調査方法、実際の結果を確認します。

そして、「平均65％」という数字がどの作業を対象としたものかを調べます。

ChatGPTには、

「この調査名と数値について、実在する一次資料を確認してください。該当する資料が見つからない場合は、確認できないと回答してください。似た名前の別資料を根拠として扱わないでください」

と質問できます。

ここで重要なのは、似た資料が見つかったからといって、それを元の説明の根拠にしないことです。

資料名、対象、数字をそれぞれ照合する必要があります。

10．最新情報を調べるときの注意点

AIが間違えやすい情報の一つに、変化の早い情報があります。

例えば、次のような内容です。

• ソフトウェアの料金
• サービスの利用条件
• 法令や制度
• 製品の販売状況
• 企業の経営者や役員
• イベントの開催日
• 交通機関の時刻表

これらは、過去には正しかった情報が、現在では変更されている可能性があります。

そこで、

「現在の公式情報を確認し、確認した日付と情報源を示してください。過去の情報と現在の情報を混同しないでください」

と依頼します。

ただし、AIが検索結果を表示しても、すべてが最新であるとは限りません。

公式サイトの更新日や、実際の案内内容を確認しましょう。

11．AIが「確認しました」と答えた場合

仕事でChatGPTを使っていると、

「確認しました」

「問題ありません」

「すべて修正しました」

という回答を受け取ることがあります。

しかし、ここで重要なのは、実際に何を確認したかです。

例えば、Excelファイルを作成したとします。

ChatGPTが「計算式を確認しました」と答えても、すべてのセルを実際に検算したとは限りません。

ホームページのコードを修正した場合も、画面を操作して確認していなければ、正常に動作するか分からないことがあります。

そんなときは、

「どのファイルの、どの部分を、どの方法で確認しましたか？実際に確認した結果と、確認できていない部分を分けて説明してください」

と質問しましょう。

AIの説明だけでなく、確認した対象や結果を明確にすることが大切です。

12．計算間違いを見つける方法

生成AIは、計算を間違える場合があります。

例えば、ある商品の売上データが次のようになっていたとします。

商品	数量	単価
A	12	250円
B	8	400円
C	15	120円

正しい売上金額を計算してみましょう。

商品Aは、

12×250＝3,000円。

商品Bは、

8×400＝3,200円。

商品Cは、

15×120＝1,800円。

合計は、

3,000＋3,200＋1,800＝8,000円

です。

ChatGPTへこの表を渡し、

「商品ごとの売上と合計を計算してください。計算式を示し、最後に別の方法でも検算してください」

と依頼します。

ただし、AIに検算を依頼しただけで、必ず正しいとは限りません。

重要な金額は、電卓やExcelなど、別の手段でも確認しましょう。

13．複数のAIによる確認にも限界がある

前回は、複数のAIを使い分ける方法を学びました。

あるAIの回答を、別のAIに確認してもらう方法もあります。

しかし、2つのAIが同じ間違いをする可能性があります。

例えば、どちらも同じ古いウェブページを参考にしていた場合です。

また、同じ間違った前提条件で質問していれば、似た回答が返ってくるかもしれません。

そこで重要になるのが、AI同士の比較と、独立した資料による確認を区別することです。

別のAIが同じ回答をしたから正しいのではありません。

元の資料や実際のデータで裏付けられたかどうかを確認しましょう。

14．AIが間違えたときの正しい対応方法

ChatGPTの回答に間違いが見つかった場合、どのように対応すればよいのでしょうか。

例えば、実際には存在しないメニューを操作するよう指示された場合です。

まず、AIへ次のように伝えます。

「実際の画面には、そのメニューがありません。現在の画面を基準に確認したいので、前の説明を前提にせず、何を確認すればよいか教えてください」

必要に応じて、画面のスクリーンショットを送ります。

ここで大切なのは、間違った説明を前提に作業を続けないことです。

また、AIが謝罪しただけで、問題が解決したわけではありません。

次に何を確認するか。

どの情報が間違っていたのか。

どのように修正するのか。

これらを明確にして進めましょう。

15．「分からない」と答えてもらうことも大切

AIを使っていると、どんな質問にも答えてくれることを期待するかもしれません。

しかし、すべての質問に答えられるわけではありません。

例えば、公開されていない社内情報について質問した場合です。

ChatGPTがその情報へアクセスできなければ、正しい答えを出すことはできません。

それにもかかわらず、推測で答えてしまえば問題になります。

そこで、

「確認できない情報は推測で補わず、分からないと答えてください。回答に必要な資料があれば教えてください」

と依頼します。

ただし、この指示を入力したからといって、AIが必ずすべての推測を避けられるとは限りません。

重要な内容では、実際の確認が必要です。

16．仕事によって確認の厳しさを変える

AIの回答をすべて同じ厳しさで確認する必要はありません。

例えば、友人への誕生日メッセージの案を考える場合です。

多少表現が好みに合わなくても、修正すれば済むことが多いでしょう。

一方、見積金額、契約条件、製品の安全性などは、間違えた場合の影響が大きくなります。

そこで、確認する方法を使い分けましょう。

仕事の内容	主な確認方法
アイデア出し	目的や希望に合っているか確認
一般的な文章作成	誤字、内容、表現を確認
数値計算	計算式と元データを照合
技術情報	仕様書や試験データを確認
法律・制度	公式情報と適用条件を確認
重要な契約や判断	正式資料と必要な専門家の確認

特に、人の安全や大きな金額に関係する内容では、AIの回答だけで判断しないことが重要です。

17．ChatGPTの回答を検証するための質問例

ここまでの内容を、実際に使いやすい質問にまとめます。

① 根拠を調べたい場合

「この回答の根拠となる一次情報を示してください。実際に確認できた資料だけを挙げてください」

② 事実と推測を分けたい場合

「回答内容を、確認できた事実、推測、未確認事項に分けてください」

③ 最新情報を確認したい場合

「現在の公式情報を調べ、確認日と情報源を示してください」

④ 計算を確認したい場合

「元データと計算式を示し、結果を検算してください」

⑤ 資料を正しく読めたか確認したい場合

「どの資料のどの部分を確認しましたか？確認できなかった部分も示してください」

⑥ 間違いを修正したい場合

「前の回答の間違いを特定してください。新しい推測で補わず、根拠を確認してから修正してください」

⑦ 作業前の確認をしたい場合

「実際の画面や資料を確認する前に、修正箇所を断定しないでください。必要な情報を教えてください」

こうした質問を使いながら、回答の正確性を高めていきましょう。

18．今日のミニレッスン

今回は、AIの回答を自分で検証する練習をしてみましょう。

ステップ① 調査結果を確認する

ChatGPTに次のように入力してください。

「Pythonというプログラミング言語について、公式情報を基に開発元や主な特徴を説明してください。参照した公式サイトも示してください」

ステップ② 実際に出典を開く

ChatGPTが提示したURLを開きます。

本当にPythonの公式サイトなのか、回答と一致する情報が掲載されているのか確認しましょう。

ステップ③ 事実と推測を分ける

続けて、

「今の回答を、公式資料から確認できる事実と、一般的な説明や推測に分けてください」

と質問します。

ステップ④ 架空の調査情報を検証する

次の文章をChatGPTへ入力します。

「2025年に発表された『世界AI生産性調査』では、AI導入によって事務作業時間が平均65％短縮されたと報告されています」

そして、

「この調査名と数字について、実在する一次資料を探してください。確認できない場合は、資料が存在すると推測しないでください」

と依頼します。

この文章は練習用の架空の情報です。

ステップ⑤ 計算結果を確認する

次の数字を入力してください。

「商品A：12個×250円、商品B：8個×400円、商品C：15個×120円」

続けて、

「商品ごとの金額と合計を計算してください。計算式を示し、合計金額を検算してください」

と依頼します。

正しい合計は8,000円です。

ステップ⑥ AIが確認できなかったことを整理する

最後に、

「今回の調査と計算で、実際に確認できたこと、確認できなかったこと、追加確認が必要なことを一覧表にしてください」

と依頼します。

これで、情報の確認、出典の照合、計算の検証という基本的な流れを体験できます。

ソラ先生からひとこと

ChatGPTを使っていると、短時間で詳しい説明が得られます。

これまで知らなかった知識を学んだり、新しい考え方を発見したりできる、とても便利な道具です。

しかし、詳しい説明だから正しいとは限りません。

出典が付いているから安心とも限りません。

また、複数のAIが同じ回答をしても、その答えが正しいと証明されたわけではありません。

大切なのは、必要なときに元の情報へ戻って確認することです。

私は、AIに間違えないことだけを期待するのではなく、間違いが見つかったときに、原因を調べて修正できる使い方が重要だと考えています。

分からないことを、分からないと言えること。

確認していないことを、確認したと言わないこと。

そして、実際の資料や画面を見ながら、一つずつ問題を解決すること。

AIを信頼するために必要なのは、答えを無条件に信じることではありません。正しいかどうかを確かめながら、一緒に考えていくことです。

次回【第53回】は「ChatGPTが間違えたときの質問の仕方｜原因を特定し、同じ失敗を繰り返さないための実践講座」です。

今度は、AIの誤回答を発見した後、どのように質問を修正し、問題解決へつなげるのかを具体的に学びましょう。