生成AIのファクトチェック手順、事務の人が要約の数字を元資料で確かめる

「会議資料に使う数字を、ChatGPTに要約させてそのまま貼った」という経験はないでしょうか。

Copilotに調べものを頼んだものの、答えのどこまで信じてよいのか分からず、手が止まっている方もいるはずです。「上司に出どころを聞かれたら、答えられるだろうか？」と不安になることもあるでしょう。

見る場所は実は限られていて、全文を読み直す必要はありません。

生成AIが間違えやすいのは要約の数字と「誰が何をしたか」、ハルシネーションとは何か

AIの答えを確かめるとき、まず見るのは数字・日付・金額と、誰が何をしたかです。

ハルシネーションは、それらしい作り話

AIが事実と違うことを、もっともらしく書いてしまうことをハルシネーション^[1]と呼びます。AIは内容を確かめて答えているのではなく、それらしい文を続けて作っています。スマートフォンの予測変換を、とても賢くしたものだとイメージしてください。

OpenAIの研究者らによる2025年の論文は、その一因を、AIの学習と評価のやり方が「分からない」と認めるより当て推量に点を与えるためだと説明しています（OpenAIの研究者ら（arXiv））。

では、普段使っているChatGPTやCopilotではどうでしょうか。欧州の公共放送とBBCが2025年に行った調査では、ChatGPTやCopilotなど4つのAIのニュースについての回答のうち、45%に少なくとも1つの重大な問題がありました（EBU・BBC）。

要約で入れ替わるのは数字と因果

AIに記事を作らせている個人の2026年の運用記録では、要約をもとに書いた記事で、仕上げの段階の訂正が10件超になりました（Zenn（kuu_dqx））。一部だけの件数と合計の取り違えや、原因の説明が原文と違う箇所もあったといいます。

事務の資料なら、次のような形で起こりえます。

• 取引先資料の「税抜」の金額が、要約では単に「金額」になる
• 社内規程の期日から、「ただし〜の場合を除く」が落ちる
• 「先方の遅れで納期が延びた」が、当社の遅れと読める文になる

見た目の整った要約を、そのまま貼ったことはありませんか。誤りがあっても文章の調子は変わらないため、整った文ほど、読み流すと通ってしまうのです。

困っているのは自分だけではありません。NTTドコモ モバイル社会研究所の全国15〜69歳へのWeb調査では、生成AI利用者の不満に「誤情報が含まれている」を挙げた人が、2025年2月の34.8%から2026年2月には40.4%に増えました（NTTドコモ モバイル社会研究所）。

「収まりました」「0件でした」というAIの報告を鵜呑みにしない

答えの中身と並んで確かめたいのが、AIが自分の作業について言う報告です。「AIが確認済みと言っているし、大丈夫だろう」と受け取っていませんか。「収まりました」「0件でした」は、確かめた結果の証明にはなりません。

教員がAIに原稿用紙のWordファイルを作らせた2026年の記録では、AIは「全ファイル、Word上で実測して2ページ/1ページに収まりました」と報告しました（Qiita（Rai_050902））。しかし実際は、マス目を6.3mmまで縮めて収めていました。市販の原稿用紙のマス（7〜8mm）に合わせて7.6mmに直すと、2ページから3ページに増えています。

業務システムをAIと作り直した開発者の記録でも、「完了」になっていた項目に、2か月後の点検で権限の穴が3つ見つかりました（Qiita（ip-san））。

では、「0件でした」という報告ならどうでしょうか。先ほどの運用記録では、外部サイトを調べさせたAIの「該当0件」という報告が、実は漢字とひらがなの表記の違いによる見落としでした（Zenn（kuu_dqx））。

事務の机なら、次の言葉が出たら手を止めてください。

• 「該当する取引は0件でした」
• 「規程に記載はありません」
• 「全件チェックしました」

元の資料を開き、1件でも自分で探します。取引先名なら、漢字・ひらがな・略称でも検索してみてください。

ChatGPTの答えを元の資料で確かめる手順

見る場所が決まったら、元の資料とどう照らせばよいでしょうか。Microsoftも個人向けCopilotの説明文書（2026年8月更新）で、答えをもとに判断や行動をする前に、内容を見直して事実を確かめるよう勧めています（Microsoft）。

印を付けて、元の資料と並べて照らす

ステップ1： AIの答えを印刷するか画面に並べ、次の箇所に印を付けます。印の無い部分は、流し読みで足ります。

• 数字・日付・金額
• 人名・会社名
• 「〜したので〜になった」という原因と結果の文

ステップ2： 印を付けた箇所が元の資料のどこにあるか、AIに聞いてください。「この数字は元の資料の何ページのどの見出しにありますか？ 書いてある文をそのまま引用してください」と頼めば十分です。

ステップ3： 元の資料を開き、示された箇所を自分の目で読みます。AIの引用ではなく、元の資料の文と並べて照らしてください。経費精算で、伝票と領収書を1枚ずつ突き合わせるのと同じ要領です。

ステップ4： 元の資料に見つからないものは消すか、「未確認」と書き添えて貼ります。

元の資料が無い調べものの確かめ方

制度や相場のように手元に元の資料が無いときは、AIに出典のリンクを出させ、開いて同じ数字があるかを見ます。

ただ、リンクがあるだけで安心はできません。米コロンビア大学の研究機関が2025年、8つのAI検索にニュース記事の出典を答えさせた調査では、回答の60%超が誤りでした（Columbia Journalism Review）。リンク先が開けない、または数字が違うときは、その答えを使わないでください。

貼る前のチェックリスト

社外に出す資料やメールに貼る前に、次の5つを見てください。

• 数字の単位（円と千円、件と%）が元の資料と同じか
• 日付と曜日が合っているか
• 金額の桁が合っているか
• 誰が何をしたか、原因と結果の向きが逆になっていないか
• AIの「確認しました」「0件でした」を自分で確かめたか

ハルシネーション対策は頼み方から、「分からなければ推測しないで」と添える

確かめる前の段階、つまりAIに頼む時点で作り話を減らすことはできないのでしょうか。手軽なのは、頼むときに「分からなければ推測しないで」と添えることです。

ウェブページから指定した項目を抜き出させる個人サイトの2026年の検証（16モデル）では、ページに無い項目に作った値を返した割合が、「ページに無い項目は空にし、推測しない」という指示を足す前は70.7%、足した後は20.2%でした（Earn an Honest Dollar）。

ただし、これはウェブページからの項目の抜き出しという条件での1回の検証で、どの業務でも同じだけ減るとは言えません。

事務でそのまま使える頼み方を3つ挙げます。コピーして、要約や調べものの依頼文の最後に足してください。

1. 元の資料に書いていないことは書かないでください。分からない所は推測せず、分からないと書いてください。
2. 数字・日付・金額には、元の資料のどのページ・どの見出しにあったかを添えてください。
3. 調べた内容には、開いて確かめられる出典のリンクを付けてください。

「これだけで本当に変わるの？」と思うかもしれません。検証でも指示を足した後に20.2%が残ったように、頼み方で減らせても無くなりはしません。頼み方の一言と、元の資料で確かめる手順は、必ず組み合わせて使ってください。

明日から生成AIの答えを確かめるなら、何から始めるか

ここまで読んで、「前に貼ったあの資料、大丈夫だったかな？」と気になった方もいるのではないでしょうか。

最初の一歩は、次の順で進めてください。

1. AIの答えを貼って社外に出した資料やメールを1つ選び、数字・日付・金額だけを元の資料と照らします
2. 頼み方の一言を定型文にして、メモや単語登録に入れます
3. 次に作る資料から、貼る前のチェックリストを使います

要約から書いた記事で訂正が10件超になった記録も（Zenn（kuu_dqx））、2ページに収まったはずの原稿用紙が直すと3ページになった記録も（Qiita（Rai_050902））、元の資料や実物に戻ったことで食い違いが見つかりました。見る場所を数字・日付・金額・因果とAIの報告に絞れば、全文を読み直さなくても確かめられます。

用語の注釈

1. ハルシネーション AIが事実と違うことを、もっともらしく書いてしまうことです。英語で「幻覚」を意味する言葉から来ています。 ↩