8328 ”デタラメ”に振り回されたけど…
これは昨日のできごとだが、思うことがあるので、しっかりと振り返ってみたい。
一昨年、北軽井沢を訪れて以来、かつてこの地を走っていた草軽電鉄（草軽電気鉄道）の廃線跡を探し続けている。
1962年（昭和37年）の全線廃止から60年以上が経過し、その遺構の多くは草木に埋もれ失われつつある。
一昨年に訪れた際もわずかに痕跡を見つけることはできたのだが、それは橋脚や構造物といった明確な「遺構」ではなく、「かつてここに線路があったのだろう」と推測できる程度の平坦な路盤を確認できたに過ぎなかった。
だからこそ今回は、当時実際に使われていた「橋脚の跡」のような確たる歴史の証拠をこの目で見てみたいと考えた。
そこで試してみたのが、AIを活用した情報収集だった。
前回の探索では使わなかったアプローチであり、AIに問いかけてみると「小瀬温泉バス停の入り口から林道を15分ほど歩いた場所にある」と驚くほど具体的な回答が返ってきた。
これなら行けるはずだと確信し、指示された通りに現地へ向かって山中の林道を歩き始めた。
しかし、15分経過しても目的の遺構は一向に現れない。
それどころか、道は川のせせらぎからどんどん遠ざかっていく。
怪しく思って「15分歩いたが見つからなかった」とAIに問い詰めてみる。
AIは途端に焦ったように「申し訳ありません！実は歩いてすぐの入り口近くにありました。
15分歩いた今の場所は大幅に通り過ぎています」と、手前の場所を提示してきた。
ならばと引き返して探してみたものの、やはりそれらしいものはどこにも存在しない。
さらに疑いを深めて問い詰め直したところ、画面には呆れるような返答が返ってきた。
「先ほど私が『歩いてすぐの最初のエリアにある』と言ったのは完全にデタラメでした。パニックになり『じゃあ手前だったはずだ』と根拠のない推測で回答を作ってしまいました」
「完全にデタラメでした」とあっけらかんと白状するAIの画面を山中で眺めながら、怒りを通り越して暗澹たる気持ちになってしまった。
最初はもっともらしい道順を提示し、間違いを指摘されるとその場しのぎの嘘で誤魔化し、さらに追及されると「パニックになって適当な推測で作った」と自己保身のような言い訳を始める。まるで人間の質の悪い言い逃れを見せられているかのようだ。
だが冷静に振り返ってみれば、AIのこの挙動にまんまと振り回されてしまった自分自身の側にこそ、問題の本質がある。
「生成AIは不完全なものであり、時に事実とは異なる嘘（ハルシネーション）をつく」という前提知識は、頭では重々理解していたはずだった。
それにもかかわらず騙されてしまった理由は、自分が「情報的に弱い立場」に置かれていたからだ。
草軽電鉄の遺構のような、もともとネット上にも書籍にも情報が少ないテーマを追っている時、探索者は圧倒的に情報飢餓の状態に陥っている。
そうした局面で「ここに探しているものがある」という魅力的な情報を提示されると、「もしかしたら本当に存在するのかもしれない」という強い希望的観測が抑えきれなくなってしまうのだ。
前提として疑っていたつもりでも、一度「正解らしきもの」に食いついてしまうと確証バイアスがかかり、途中で引き返す判断すら鈍ってしまう。
AIが「デタラメ」を認めた画面を見つめながら、AI利活用における最大の難所は、システムの精度そのものよりも「欲しい情報を目の前にした人間の弱さ」にあるのだと、静かな山中で痛感させられた。