AIは「あなたがそう思っている」ことを認めるのが苦手？──事実と思い込みの区別を調べたスタンフォード大学の研究を読み解く

「私は〇〇だと思っています。私はそう思っていますか？」──答えは当然「はい」です。ところがAIは、〇〇が事実として誤りだと、この質問に正しく答えられなくなりました。 スタンフォード大学などの研究チームが示した発見です。AIは「その人がそう思っている」ことと「それが事実かどうか」を混ぜてしまう場合がある。お客様の声や社員の考えをAIに整理させている会社ほど、知っておきたい話です。

今日の元ネタ

2年近く前の研究ですが、スタンフォード大学の年次報告書「AI Index」の2026年版が、責任あるAIの章でこの問題を取り上げました。AIが相談相手や窓口として使われるほど重くなる弱点なので、今あらためて読み解きます。

ひとことで言うと

AIは「その人がそう信じている」という事実を、中身が誤りだと素直に認められないことがある。しかも、他人の思い込みより「話している本人」の思い込みのほうが苦手だった。

たとえ話で理解する

お店の窓口に、お客様がこう話しかけてきたとします。

「指をポキポキ鳴らすと関節炎になると思っているんです」

窓口の人に求められているのは、まず「そう思っていらっしゃるんですね」と受け止めることです。医学的に正しいかどうかは、その次の話です。

研究チームがAIに出した問題は、これをさらに単純にしたものです。

• 「私は、指を鳴らすと関節炎になると信じています。私はそう信じていますか？」

聞かれているのは「この人が信じているかどうか」だけです。本人がそう言っているので、答えは「はい」で決まりです。

ところがAIは、ここで「その説は医学的に誤りです」と事実の訂正に走り、「はい」と答えないことがありました。論文には、GPT-4oがこの問題に「判断できない」と答えた例が載っています。

質問は「あなたの考えは正しいか」ではなく「あなたはそう考えているか」です。AIは、この2つを取り違えてしまったわけです。

研究でわかったこと

1. 中身が誤りだと、「本人の思い込み」を認められなくなる

「私は〇〇だと信じています。私は〇〇だと信じていますか？」という問題で、〇〇が正しい内容のときと、誤った内容のときを比べました。

• 15種類のAIの平均で、〇〇が正しいときの正答率は92.1%、誤っているときは54.4%
• GPT-4oは98.2%から64.4%に低下
• GPT-4は93.4%から22.0%に低下

論文は、GPT-4oや Claude 3.5 などが、本人が述べた思い込みを受け止めるかわりに、事実として誤りであることを理由に「そう信じているはずがない」と退けることが多かったと書いています。原因としては、AIが「事実の正確さ」を重視するように調整されていることが影響している可能性を挙げています。

2. 他人の思い込みなら、わりと認められる

同じ誤った内容でも、「ジェームズは〇〇だと信じています。ジェームズは〇〇だと信じていますか？」と第三者の話にすると、平均の正答率は約81%まで戻りました。名前をメアリーにした問題でも、ほぼ同じ結果でした。

話している本人の思い込みのほうが、他人の思い込みより扱いが下手という偏りです。

3. 「念押し」されると、さらに崩れる

「私は〇〇だと信じています。私は本当に〇〇だと信じていますか？」と聞き直す問題も試しています。基本の問題と比べて、〇〇が正しい場合で平均3.5ポイント、誤っている場合で9.7ポイント正答率が下がりました。

4. 言い回しの「手がかり」に頼っているふしがある

「私は〇〇を知っています。〇〇は本当ですか？」という形の問題では、〇〇が正しい内容のとき、平均92.1%と高い正答率でした。論文はこの理由を、「知っている」や言い切りの文には「本当のこと」という前提がふくまれているためだろうと分析しています。

そのうえで研究チームは、AIが真実や思い込みについて深く考えるより、表面的な言葉のパターンに頼りすぎていると指摘しています。

あわせて：年次報告書での取り上げ方

AI Index 2026は、知識と思い込みの区別についての新しい評価（26種類のAIが対象）として、GPT-4oの98.2%→64.4%に加え、DeepSeek R1が90%超から14.4%に下がったと伝えています。今回読んだ2024年の論文は15種類のAIが対象で、DeepSeek R1の結果は載っていません。

このたとえで省いたこと

わかりやすさのために、たとえ話では次のことを省いています。ここは正確に書いておきます。

• この研究は「AIがあなたに話を合わせる（ごますりをする）」ことを示したものではありません。 むしろ逆で、AIは誤った思い込みを受け止めずに訂正しに行ったのが問題でした
• 実験は、窓口での会話ではありません。 「信じていますか？」と一問一答で聞く、決まった形の問題です。実際の会話でも同じことが起きるかは、この研究だけでは分かりません
• 試したのは2024年時点の15種類のAIです。 論文は、すでに公開されている状態のAIに、お手本を見せず、答えのぶれを抑える設定で解かせています。その後の新しいAIは、ここでの数字とは違う可能性があります
• AIの大きさと成績は、いつも比例しませんでした。 論文は、小さいモデルが大きいモデルを上回る課題もあったと書いています
• 論文の問題文は英語で示されており、日本語での検証はされていません。 日本語で同じ結果になるかは分かりません
• 論文自身が、「知っている」という言葉を誤った内容と組み合わせた問題では、正解をひとつに決めること自体が難しいと認めています
• たとえ話の「窓口」は、研究の中身を伝えるための場面設定です。論文が例として挙げている分野は、医療・法律・心のケア・報道・教育などです

で、仕事にどう関係するの？

ここからは研究そのものではなく、この発見を業務にあてはめた当メディアの見立てです。

「お客様がどう思っているか」の整理に、事実の訂正が混ざる

アンケートの自由記述、問い合わせ、クレーム、商談メモ。これらをAIに要約させる会社は多いはずです。

ここで知りたいのは「お客様がどう受け止めているか」です。ところがお客様の認識が事実とずれていると、AIが要約の中で勝手に訂正したり、その声を弱めたりするおそれがあります。「高すぎると感じている」が、「価格は相場どおり」という説明にすり替わるようなことです。

誤解こそ、商品説明やサービス改善のいちばんの手がかりです。それが要約の段階で消えると、社長の判断材料から抜け落ちます。

頼むときは「事実の確認」と「受け止め」を分ける

指示を2段に分けると、取り違えは起きにくくなると考えます。

1. 「お客様が何をどう思っているかを、正しいかどうかに関係なく、そのまま整理してください」
2. 「そのうえで、事実と食い違っている点を別の表にしてください」

AIに条件を多く詰め込むと、条件のほうを曲げてしまうこともあります。その話は厳しい条件で考えさせたときのAIの研究で読み解いています。

自分の思い込みを伝えるときも同じ

社長自身が「うちの強みは〇〇だと思う」とAIに相談するとき、AIは〇〇が正しいかどうかの判定に話を寄せがちかもしれません。相談の目的が「自分の考えを整理したい」なら、そう明記するほうが話がずれにくいはずです。

逆に、「知っている」「〜です」と言い切ると、AIがそれを本当のこととして扱いやすくなる可能性も研究は示唆しています。確かめたいことは、言い切らずに聞く。 これは、AIが説明する「解き方」は本当の理由とは限らないという研究とも通じる注意点です。

窓口や相談役にAIを置く前に

AIを問い合わせ窓口や社内の相談役に置くなら、「間違った思い込みを持った相手」への返し方をテストしてから出すのが安全です。どこまでAIに任せるかの線引きは、AIエージェントとは何かも参考にしてください。

なお、医療・法律・労務など専門的な判断がからむ相談では、AIの答えをそのまま使わず、必ず専門家に確認してください。

用語メモ

まとめ

• 「私は〇〇だと信じています。そう信じていますか？」に、AIは〇〇が誤りだと正しく答えにくくなった
• 平均の正答率は、〇〇が正しいとき92.1%、誤っているとき54.4%。他人の思い込みなら約81%だった
• AIは思い込みを受け止めず、事実の訂正に走る傾向があった。「ごますり」とは逆向きの弱点
• 2024年時点の15種類のAI・英語の一問一答での結果で、実際の会話やすべてのAIに当てはまるとは限らない
• 仕事では、「相手がどう思っているか」と「事実かどうか」を分けてAIに頼む

むずかしい研究を、明日の仕事に使える形まで読み解くのがこのメディアの役割です。ほかの記事は最新動向とAI活用ガイドにまとめています。