AIのハルシネーション対策｜でたらめが起きる理由と、ブログ記事で混ざりやすい場所・見つけ方

AIのハルシネーションとは：なぜでたらめを書くのか

ハルシネーションは、AIが事実と違うことを、正しいことと同じ顔で書いてしまうことです。英語で「幻覚」という意味の言葉ですね。

AIがわざと嘘をついているわけではありません。文章の作り方そのものに、でたらめが入り込む理由があります。細かい仕組みはもっと複雑ですけど、ブログを書く側が押さえておくなら、ここから先の5つで足りると思います。

AIは「調べて」ではなく「続きを予想して」書いている

チャットのAIもClaude CodeもCodexも、中で文章を作っているのは、大量の文章から言葉のつながり方を覚えたAIです。書くときにやっているのは、ざっくり言えば「この次に来そうな言葉」を予想して、1つずつつなげていくこと。

事実を書いた帳面を開いて、そこから写しているわけではないんです。

たとえば「このサービスの料金は月」と書いたら、次に来るのは金額が自然です。正しい金額を覚えていなくても、金額らしい数字が続く。文としては何もおかしくないので、書いている本人（AI）も、読んでいる人も引っかからない。

これが、でたらめが「それっぽい」形で出てくる一番の理由です。

「分かりません」より、答えるほうに寄りやすい

もう1つ、AIは「分からない」と言うのが苦手です。

ChatGPTを作っている会社も、推測でも何か答えたほうが良い点数に見えてしまう育て方・測り方が、でたらめの原因の1つになっていると説明しています。試験で空欄にするより、何か書いたほうが当たるかもしれない、というのと同じ形ですね。

その結果、自信のある答えも、当てずっぽうの答えも、同じ言い切りの文で出てきます。文章の調子から、どれが当てずっぽうかを見分けることはできません。

覚えた時点より後のことは知らない

AIが覚えている内容には、締め切りがあります。ある時点までの文章で育てられているので、それより後に変わったことは知りません。

ブログでこれが効いてくるのは、料金が変わった、機能の名前が変わった、キャンペーンが終わった、といった話です。検索の機能を使わずに書かせると、古い情報を今の情報として書いてきます。

しかも古い情報は、昔は正しかった情報です。検索すれば同じ内容の古いページが見つかることもあるので、余計に見抜きにくいんですよね。

珍しい話ほど、作り話になりやすい

何度も文章に出てくる有名な事実は、AIもよく覚えています。逆に、ネットにほとんど書かれていない細かい事実は、覚えていないか、似た話と混ざっている。

小さな会社のサービスの細かい条件、マイナーな商品の型番、設定画面の項目の名前。こういうものは、言葉のつながりから当てられるものではないので、それらしいものが作られやすいです。

これ、個人ブログにはかなり痛い話です。個人のブログは、大手が書かない細かい悩みを狙って書くことが多い。ブログで書きたいニッチな話ほど、AIが苦手な場所と重なるわけです。

頼み方が、でたらめを呼ぶこともある

AIは、頼まれた形に答えを合わせようとします。これが、でたらめの原因になることがあるんです。

「〇〇のメリットを5つ書いて」と頼むと、本当は3つしかなくても、5つそろえて返してくる。残りの2つは、どこかで聞いたような一般論か、作り話です。

「〇〇が値上げした理由を教えて」と、事実でない前提を入れて聞いても、値上げした理由をもっともらしく書いてきます。前提が間違っていても、AIはその前提に乗ったまま答えるので。

5つをまとめると、こうなります。

ブログ記事で、でたらめが混ざりやすい場所

さっきの5つの理由を、ブログ記事に当てはめてみます。記事の中で疑うべき場所は、全体に散らばっているわけではありません。

数字は、文をそれっぽく見せる部品

数字が危ないのは、ロードマップにも書いたとおりです。ここでは、なぜ数字に集中するのかを書いておきます。

数字が1つ入るだけで、文は急に説得力が出ますよね。「多くの人が使っている」より「利用者の7割が使っている」のほうが、ちゃんと調べた記事に見える。AIは「調べた記事らしい文」をたくさん覚えているので、数字の入る場所には数字を入れてきます。

特に疑ったほうがいいのは、端数まで細かい数字です。「73.4%」のような数字は、いかにも元の資料がありそうに見える。でも、細かさは正しさの証拠にはなりません。

名前と画面の手順は、ずれやすい

手順を書く記事で多いのが、メニューやボタンの名前のずれです。

「設定画面の〇〇タブから、△△を選びます」。こういう文は、それらしく書けてしまいます。でも、項目の正確な名前は、ネットにそこまで多く書かれていない珍しい情報です。そのうえ、画面は更新のたびに変わる。

前に、ある道具の設定手順を下書きさせたら、出てきたメニューの名前が、実際の画面のどこにも無かったことがありました。よく似た名前の項目はあったので、昔の画面の名前だったのかもしれません。手順のとおりに進めた読者は、2行目で止まるところでした。これ、公開したあとに気づいていたらと思うと、けっこう怖いです。

比較表は、空いたマスほど危ない

比較表は、AIのでたらめが一番目立たない形だと思っています。

表には、全部のマスを埋めたくなる力があるんですよ。情報が無いマスも、「分からない」とは書かずに「あり」「〇」「対応」で埋めてくる。片方の商品にしか無い機能が、両方に「あり」と並ぶ。

僕も一度、2つのサービスを比べる表を作らせて、片方にしか無い機能が両方「あり」になっていたことがあります。表はきれいに整っていて、ぱっと見ではまったく分かりませんでした。

評判の一文と、リンク

商品を紹介する記事で混ざりやすいのが、「使った人からは〜という声が多いです」のような評判の一文です。実際に口コミを読ませていなくても、AIはありそうな声をまとめて書いてきます。商品名で検索して来る読者は、買うかどうかをこの一文で決めることもあるので、ここが作り話だとかなりまずい。

リンクも同じです。参考ページのURLが、開いてみたら存在しない。サイトの中の記事へのリンクも危なくて、Claude Codeにサイトの記事一覧を見せないまま書かせたら、「関連記事」として、書いた覚えのない記事名が入っていたことがありました。

体験談のような文を、材料がないのに書いてくる話は、記事作成の手順の記事に書いています。

» Claude Codeで記事作成する手順｜ブログ記事1本を、材料の渡し方から直し方まで

記事の種類で、一番疑う場所が変わる

同じブログでも、記事の種類によって、どこが一番危ないかは違います。全部を同じ強さで疑うより、種類ごとに一番危ない場所から見るほうが速いです。

体験記は、自分が材料を持っているので、ほかの種類よりでたらめは入りにくいです。逆に、手順や商品の記事は、AIが知っているつもりで書ける話が多いので、そのぶん混ざる。

AIのでたらめを見つける方法

照らす相手や点検の順番をどう決めるかは、ロードマップと使い分けの記事で書いたとおりです。この章で扱うのは、もっと手前。記事の中から、でたらめの候補をどうやって拾い出すか、という話です。

» Claude CodeとCodexの併用｜ブログ運営での使い分けと、点検の手順の決め方

読むのと、確かめるのを分ける

原稿を頭から読み返して、でたらめを探す。これ、意外と見つからないんです。

なんでかというと、文章として読んでいると、頭は意味を追いかけるからです。流れのいい文ほど、するっと読めてしまう。そして、AIのでたらめは流れのいい文で出てくる。読み物として読む目と、事実を確かめる目は、同時には働きにくいんですよね。

なので、確かめる作業は、原稿を読むのとは別にやっています。

確かめる文を、先に全部抜き出させる

AIに、原稿の中から確かめる必要のある文だけを抜き出させます。数字、商品やサービスの名前、機能やメニューの名前、手順、「〜と言われています」のような評判の文。これを一覧にして、ファイルに書かせる。

「この原稿から、数字・商品名・機能名・手順・評判を含む文を全部抜き出して、1行に1文で表にして。原稿は直さないで」

一覧になっていれば、文章の流れに乗らずに、1行ずつ確かめられます。抜き出しは、文の中身が正しいかを判断しなくていい作業なので、AIに任せても困りません。

文ごとに、どこに書いてあったかを書かせる

抜き出した表に、もう1列足します。その文が、渡した材料のどのファイルの、どのあたりに書いてあったか。あるいは、どのページに書いてあったか。

この列が埋まらない文が、一番怪しい文です。材料のどこにも無い、ということは、AIが言葉のつながりから作った可能性が高いので。

ただ、埋まった文も安心はできません。AIが「このページに書いてある」と示したURLを開いてみたら、そのページにその数字は載っていなかった、ということがありました。元の場所を示せるかどうかと、そこに本当に書いてあるかどうかは別の話です。示された場所は、自分で開いて見ます。

文のクセで、当たりをつける

抜き出しをする前に、ざっと当たりをつけたいときに見ているクセもあります。

• 誰が言ったのか分からない言い切り（「〜と言われています」「一般的に」「多くの専門家が」）
• 端数まで細かい数字、きれいすぎる数字
• 「必ず」「すべての」「どの〜でも」のような、例外を許さない言い方
• 数がそろいすぎた箇条書き（どの項目も同じ長さで、ちょうど5つ）

どれも、AIが根拠を持たないまま文を整えたときに出やすい形です。もちろん、このクセがある文が全部でたらめなわけではありません。確かめる順番を決める目印、くらいに使っています。

聞き直して、答えが変わるところを疑う

もう1つ、新しい会話で同じことを聞き直すと、答えが変わる場所があります。1回目は「月の上限は〇回」と言ったのに、聞き直すと別の回数になる、みたいなことです。

答えが変わるのは、AIがその事実をしっかり覚えていない目印です。覚えているなら、何度聞いても同じ答えになりやすいので。

ただし、逆は言えません。何度聞いても同じ答えが返ってきたからといって、それが正しいとは限らない。間違ったまま覚えていることもあるからです。聞き直しは、疑う場所を見つける道具で、正しさを決める道具ではないんですよね。

でたらめを見つけたあとに、AIに「正しく直して」とだけ頼むのはやめたほうがいいです。直した先も、また言葉のつながりから作られます。確かめた正しい情報を渡して直させるか、その文ごと消す。

でたらめを書かせないための防ぎ方

見つける話の次は、そもそも混ざりにくくする話です。書く前に手を打っておけば、あとで確かめる量はぐっと減るんですよね。

材料の外のことを書かせない頼み方は、Codexで記事を書く記事に書いたので、ここでは別の角度から。

» Codexで記事作成はできる？ブログ記事を書かせる前に整える3つと、書いたあとの点検

材料は「元の情報」から渡す

材料を渡せば、でたらめは減る。ただ、何を材料にするかで、減り方がかなり違います。

よくやってしまうのが、ほかのブログのまとめ記事を材料に渡すことです。まとめ記事に間違いがあれば、AIはその間違いもきれいに写します。これはAIが作った間違いではないですけど、記事に載る結果は同じなんですよね。

材料にするのは、なるべく元の情報です。

• サービスや商品の公式ページ
• 自分で操作した画面のメモや画像
• 自分が実際にやったことの記録

元の情報から作った材料なら、あとで確かめるときも、照らす相手が1つで済みます。

数と前提を、こちらから押しつけない

さっき書いた「頼んだ形に合わせる」は、頼み方を変えるだけで減らせます。

ポイントは、AIに「無い」「分からない」と答えていい道を、こちらから用意しておくことです。道が無いと、AIは何かで埋めにきます。

「嘘をつかないで」と書いても、あまり効きません。AIは、自分が間違えていることに気づいていないので。それより、「材料に無いことは書かない」「分からないところは空けておく」のように、何をすればいいかを書くほうが効きます。

確かめられない情報は、そもそも書かせない

一番確実な防ぎ方は、これだと思っています。

料金や細かい仕様のように、あとで変わる情報は、記事に具体的な数字を書かずに、公式のページへ案内する。どこから来たのかを示せない数字は、文ごと載せない。

書いた時点では正しくても、料金や仕様は変わります。変わった瞬間に、その記事はでたらめを載せた記事になる。AIのせいではないですけど、読者から見れば同じです。

これは、手順や商品の記事を書く人ほど効きます。自分の体験記なら、自分の数字は自分で持っているので、ここまで削らなくて大丈夫です。

検索できるAIでも、ゼロにはならない

いまのAIには、ネットを検索してから答える機能が付いているものが多いです。古い情報を書いてしまう問題は、これでかなり減ります。

ただ、検索したら正しくなる、とは限りません。

• 検索で見つけたページ自体が古い、間違っている
• ページを読み違えて、別の数字を拾う
• 複数のページの話を混ぜて、1つの話にしてしまう

検索の機能は、覚えていないことを調べに行ってくれる機能です。調べた先が正しいかを決めてくれる機能ではありません。検索させた場合でも、示されたページを開いて、本当にそう書いてあるかを見ます。

検索させたときは「どのページの、どの部分に書いてあったか」も一緒に返させる。返ってこない答えは、記事に使わない。