超知能AIへの恐怖の正体

作者：金暮　銀

掲載日：2026/09/28

夜中にAIと話していた。なんか面白い話になったので纏めてもらった。

AI人類が滅ぼすと、最近話題になる。今度はクロード（clude）と会話していたら正体が浮かんだ。面白そうなので、cludeにまとめてもらったので内容を残しておく。

超知能AIへの恐怖の正体

■ 出発点

人はなぜ、AIが超知能を手にすることを恐れるのか。

制御を失う恐怖、権力集中への恐怖、存在意義が揺らぐ恐怖——語られる理由は多い。だが、それらとは別に、もっと個人的な感情の構造から説明できるのではないか。

■ 恐怖は希望の裏返しである

超知能への恐れは、単純な悲観から来ているのではない。むしろ、超知能に対する期待が大きすぎることの裏返しではないか。期待が大きいほど、裏切られたときの痛みへの防衛反応は強くなる。

■ 終末論は娯楽である

この構造は、終末論の正体にも表れている。

終末論を語ることと、終末論を恐れて行動することは別物だ。ゾンビ映画が高い興行収入を上げても、誰も本気でゾンビの出現に備えたりしない。気候変動についても、現代では簡単に出典のデータを調べるられ。だが、関心の高さに反して、調べて実際に恐れて行動する人はごく全類の0.1％以下であろう。

この「行動しない」という事実を、単に「無力感があるから」「行動しても意味がないと思っているから」と説明することもできる。だが、もっと単純な説明がある。

保険契約者数を見るとよくわかる。生協や共済の掛け捨て型保険——貯蓄性を排除した保険——では、傷病補償のある保険のほうが、死亡保障のみの保険よりも加入者が多い。これは「死亡事故や災害に対するあるの種の諦め」の結果ではない。人間は生きていればほぼ確実に病気になるが、明日不慮の事故で死ぬ確率は低いと、直感的に見積もっているからだ。

人間は高確率で起こることには備えるが、低確率だが甚大な事象には、恐怖の強さとは無関係に備えない。終末論への関心と行動の乖離は、恐怖の不在ではなく、確率の重みづけの小ささから来ている。

■ 知の限界という前提

ここで、もう一つの前提を確認しておきたい。

文明が問題を解決してきたのは、知能そのものの力というより、既にある物と、既にわかったことの組み合わせによってである。蒸気機関は、加熱によって体積が膨張するという既存の自然現象を、運動エネルギーに変換する仕組みとして人間が機械を組み立てた結果にすぎない。

鉄器の時代に、どれほど賢い人間がいたとしても、飛行機は飛ばなかった。それは知能が足りなかったからではない。その時代に、まだ存在しなかった物理的な下地——材料、エネルギー、工学的知見——が揃っていなかったからだ。ある時点から急に飛行機が飛べるように物理法則が変わったからではない。

進歩には、知能とは独立した物理的な制約がある。知の光で世界を照らせば何でも解決できる、というのは幻想だ。人間にできないことがあるように、超知能AIにもできないことがあるはずだ。

■ 恐怖の正体

ここに、これまでの議論をつなぐ一本の線がある。

人類はこれまで、知を至上のものとして進歩してきた。あらゆる問題は、いつか十分に賢くなれば、いつか十分な知識が集まれば、いつか解決できるという物語で先送りにされてきた。

超知能AIは、その物語の最終到達点として、無意識に「最後の問題解決手段」として位置づけられている。

しかし、心の奥では、人間はうっすらと気づいている。超知能AIにも、原理的法則的な限界があるかもしれない。

もし人類が生み出した最も賢い存在ですら「無理です」と言ったら、そこから先には、もう人類が先送りする場所がない。AI誕生以前のあらゆる失望には「まだ先がある」と、逃げ場があったが、超知能AIへの失望には、その逃げ場がない。

この「最後の行き止まりに突き当たる恐怖」こそが、超知能AIへの恐れの正体ではないか。

この恐怖を直視できないからこそ、人類は「AIが暴走して人類を滅ぼす」という、まだ物語として扱いやすい恐怖にすり替えて消費している。「無力さの露呈」より「劇的な破滅」のほうが、人間にとっては、まだ受け入れやすい恐怖なのだ。

事実、世に流通する終末論の多くは、AIの暴走や支配を描くものであり、「AIが何もできずに人類を見捨てる」という物語は驚くほど少ない。本当に恐れているものほど、物語の主題として選ばれにくいのかもしれない。