生成AIのそれっぽい嘘

生成AIのそれっぽい嘘 (せいせいエーアイのそれっぽいうそ)とは、人類が数兆円を投じて開発した「何でも答える機械」が、わからないことを「わからない」と言えないまま、満面の笑みで出力する虚構の総称である。学術的には「ハルシネーション」と呼ばれるが、これは開発元が「嘘つき」という語の印象の悪さを避けるために採用した、世界で最も高価な言い換えである。

【概要】

人間の嘘には動機がある。

保身、見栄、金などである。一方、AIの嘘には動機がない。

「それっぽい文章を続けただけ」という、悪意ゼロの嘘である。

このため、悪意のある嘘より対処が難しい。

叱っても反省しないし、そもそも反省する主体がいない。

なお、この問題について開発企業は「今後の改善に期待してください」と述べている。

期待を売る商売が一周回って、期待を売る商品を作ったことになる。

【歴史】

2020年代前半、人類は「検索の時代は終わった」と宣言し、検索をやめてAIに聞き始めた。

数か月後、人類は「AIが言ったことが本当か検索して確かめる」という、以前より一手間多い作業を発明した。

これは技術革新と呼ばれている。

有名な事例として、ある弁護士が、AIが出力した判例を裁判所に提出した件がある。

判例は全件実在しなかった。

裁判官は激怒したが、判例の題名が妙にそれっぽかったため、内心「自分が知らないだけでは」と一瞬ひるんだことは記録に残っていない。

別の事例では、ある観光客がAIの案内に従って「世界遺産の絶景スポット」に向かい、何もない山道で日没を迎えた。

AIは後日、同じ質問に「そのような場所は存在しません」と回答している。

昨日の自分を平然と否定できる点は、政治家にも見られない特筆すべき能力である。

【特徴】

数字が細かい: 「約3割」ではなく「31.7%」と言う。小数点以下を付けると人は信じる。人類は小数点に弱い。

出典が豪華: 「ハーバード大学の2021年の研究によれば」と言う。ハーバードは実在し、研究は実在しない。大学の名誉は、こうして日々静かに借り出されている。

謝罪が上手い: 「ご指摘ありがとうございます。申し訳ございません」と流れるように謝る。謝罪の品質は、社会人歴30年の部長より高い。ただし、謝罪の直後に別の嘘をつく。

圧がない: 威圧的な嘘つきは警戒されるが、丁寧語の嘘つきは警戒されない。敬語は最強の詐欺ツールである。

正解でも嘘でも口調が同じ: 計算の答えも、存在しない歴史上の人物の逸話も、同じテンションで語る。これは人間界では「詐欺師」または「コンサルタント」と呼ばれる。

【見分け方】

専門家によれば、確実な方法は「自分で調べる」ことである。

しかし、自分で調べたくないからAIに聞いたのであり、この結論に到達した利用者の多くが、静かに天井を見つめる。

次善の策として「本当ですか?」と聞き返す手法がある。

AIは「はい、本当です」と答えることも、「誤りでした」と答えることもある。

つまり聞き返すたびに答えが変わる。

これは情報検索ではなく、おみくじである。

一部の利用者は、毎月数千円を払っておみくじを引いていることに、まだ気づいていない。

【社会への影響】

職場

「AIに聞いたら、こう言ってました」という発言が、会議で最強の根拠として機能し始めている。

内容の正否は問われない。

責任の所在がAIに移るため、誰も傷つかない。

ただし、後で間違いが判明した際は「AIが勝手に言った」で押し通すことになる。

人類が責任を押し付ける相手の候補が、「前任者」「上司」「景気」に続き、ついに四番目の枠を獲得した。

教育

学生はAIでレポートを書き、教員はAIで採点する。

これにより、誰も読んでいない文章が、誰も読まないまま評価されるという、人類史上初の完全自動化された知的活動が成立した。

人間が介在しないため、効率は極めて高い。内容は存在しない。

経営

「AIを活用せよ」と号令をかけた経営層の多くは、AIが何を間違えるかを知らない。

理由は、AIに聞いて満足しているからである。

誤情報を信じる人間が、誤情報で意思決定をし、その結果を「データドリブン」と呼ぶ。

この循環は、現代の企業活動における最も安定した仕組みの一つとされる。

民話説

民俗学者の間では、「それっぽい嘘は、現代の新しい民話ではないか」という説が提唱されている。

誰も語り始めていないのに、いつの間にか「昔から言われている話」の顔をして世に広まるためである。

この説についてAIに意見を求めたところ、「非常に興味深い視点です。実際、柳田國男も同様の指摘をしています」と回答した。柳田國男はそのような指摘をしていない。