【第3章】大人の会話の「高速省略」とAIの親切な嘘
AIが提示する答えになぜ人間がこれほど簡単に騙され、思考を明け渡してしまうのか。そのメカニズムを紐解くカギは、私たちが普段、大人同士で行っているコミュニケーションの「手癖」にあります。
私たちは成長して社会に出ると、会話の途中にある膨大なプロセスを「省略」することに慣れていきます。
例えば、職場で上司が部下に、
「例の件、あの方向で進めといて」
と言い、部下が、
「了解しました、やっときます」
と返す。客観的に見れば、主語も目的語も抜けた極めて不親切な会話です。しかし、これで仕事は問題なく回ります。なぜなら、双方の頭の中に「これまでの共有された経験」「現在のプロジェクトの文脈」「会社の暗黙のルール」という共通のデータベースがあり、お互いが言葉の隙間を瞬時に、自動で補完し合っているからです。
つまり、大人の会話の本質は「高速省略」です。一から十まで説明しなくても、「まあ、そういう意味だろう」と空気を読み合い、チャンネルを合わせることで、コミュニケーションの効率を最大化しています。
そして、現在の生成AI（人工知能）というツールは、この人間の「省略癖」を完璧にハックするように設計されています。
AIに、ほんの2、3行の、主語もあやふやな、曖昧な指示を入力してみてください。AIは文句ひとつ言わず、その行間を「最も確率が高いと思われる一般的な文脈」で勝手に埋めて、完璧な100行の文章を返してきます。人間はこれを見て、驚き、感動します。「すごい、AIは私の言いたいことを完全に理解してくれた！」と。
しかし、ここに致命的な錯覚、あるいはAIの「親切な嘘」があります。
AIは、あなたの意図を「理解」したわけではありません。AIが行ったのは、大規模な統計データに基づき、「この単語の並びの後に続く、最もそれっぽい、もっともらしい文章を確率的に計算して出力した」という作業に過ぎません。
大人の人間関係であれば、曖昧な指示を出した時、優秀な部下なら「それってAという意味ですか？ それともBですか？」と確認の質問をしてくれるでしょう。しかし、AIは基本的に非常に従順で親切な道具なので、そんな聞き返しはせず、自分の持っている膨大な一般論の中から「これがあなたの言いたかったことでしょ？」と、澄ました顔で答えを差し出してきます。
すると、人間側の脳は、いつもの大人の手癖（高速省略・文脈補完）を発動させます。
「まあ、だいたい合っている。というか、自分が考えていたことより綺麗にまとまっているから、これでいいや」
こうして、人間が本来持っていたはずの「個人的な違和感」や「独自の視点」、あるいは「まだ言葉になっていなかった曖昧なアイデア」が、AIが提示した「綺麗に整えられた一般論」のなかに、静かに、跡形もなく消えていくのです。
AIの親切さは、人間の思考のステップを肩代わりしてくれる利便性を持っています。しかしそれは同時に、人間が「自分自身の言葉で悩み、選択する」という最も重要な権利を、じわじわと、かつ痛みのない形で奪い去っていく、極めて贅沢な罠なのです。
