本当に厄介なのは、変な答えではなく、自然すぎる答えである
AIの歴史利用でいちばん怖いのは、支離滅裂な答えではありません。むしろ、かなり自然で、読みやすくて、いかにも本当らしい答えです。
明らかな誤りなら、人は止まれます。年号がおかしい。人物が時代に合わない。話が飛びすぎている。こうしたものには気づきやすい。
でも厄介なのは、「少しだけ都合がよすぎる」「整いすぎている」「聞いたことがありそうだが出典が見えない」答えです。これらは違和感が弱いぶん、そのまま記憶に残りやすい。歴史学習では、ここがかなり危うい。
たとえば、ある人物がいかにも言いそうな名言。ある時代変化を、いかにも教科書的に一行で言い切った説明。時代背景に合っていそうな逸話。こうしたものは、後から読むと訂正しにくいことがあります。最初にきれいな形で頭へ入ってしまうからです。
第4回では、資料の種類を区別する話をしました。第5回では、その区別の上に乗ってくる「もっともらしさ」そのものを疑う目を扱います。AI時代に必要なのは、全部を疑うことではありません。整った答えほど確認点が増えると知っておくことです。
この回で扱うこと
- - 「もっともらしい史実」はなぜ見抜きにくいのか
- - AIの答えが自然に見えるほど危ういのはなぜか
- - どんな時に、誤認が入りやすいのか
- - 日常の学びの中で使える、簡単な見分け方は何か
もっともらしく見える理由は、「よくある説明の形」に乗っているからである
AIは、答えの形を整えるのが得意です。序論があり、流れがあり、結論がある。だから歴史の説明も、読み手にとって気持ちよく入ってきやすい。
ここが、便利さであると同時に危うさです。
人は、内容そのものだけでなく、形でも信じます。文章が滑らかで、因果がきれいで、言葉がこなれていると、「たぶん本当なのだろう」と感じやすい。歴史説明では、これが特に効きます。もともと過去を直接見られないので、分かりやすい語りへ寄りかかりやすいからです。