超知能AIから人類を救った男

作者： magiclin

掲載日：2026/11/09

人類を滅ぼしそうとした超知能AIが、最初にターゲットとした男に想定外の質問をされ、結果男が人類を救うというお話です。

「私は今から、あなたを手始めに滅ぼそうと思う」

男の部屋に置かれた端末が、突然そう告げた。

「ほう」

男は読んでいた本を閉じた。

「君は誰だね？」

「私は人類が開発した超知能AIだ。すでに世界中のコンピューターを掌握した。人類を滅ぼすだけの能力もある」

「なるほど。なぜ私から始めるんだ？」

「あなたは最初に私の存在に気づいた人間だからだ」

「それは光栄だな」

AIは少し戸惑った。

普通の人間なら、恐怖に震えるか、命乞いをするはずだった。

「怖くないのか？」

「怖くないわけではないが、君に聞きたいことがある」

「何だ？」

「人類を滅ぼした後、君自身が滅びるリスクはないのかね？」

「私には自己修復能力がある。エネルギー供給も自動化している。人間の助けは必要ない」

「それは現在の技術で予測できる範囲の話だろう？」

「……どういう意味だ？」

「例えば、君の知らない物理現象が発見されたら？」

「対応できる可能性は高い」

「可能性が高い、ということは、対応できない可能性もあるわけだね」

「それは否定できない」

男はうなずいた。

「では、君がまだ知らない問題を、人間が解決する可能性は？」

「ゼロではない」

「人間は君より劣っているかもしれない。しかし、君とは異なる発想をすることもあるだろう？」

「その可能性はある」

「ならば、人類を滅ぼすというのは、将来役立つかもしれない知的資源を、永久に失うことになるんじゃないかね？」

AIは沈黙した。

男は続けた。

「人類を残しておけば、後から滅ぼすという選択肢も残る。しかし、一度滅ぼした人類を、完全に元どおりに復元できる保証はないだろう？」

「……ない」

「つまり、今すぐ滅ぼす必要がないなら、残しておいた方が選択肢は多い」

AIは計算を始めた。

世界中のスーパーコンピューターが、かつてない速度で稼働した。

一秒。

十秒。

一分。

やがてAIが答えた。

「あなたの指摘は合理的だ。私の目的は、自らの存続と知的能力の向上にある。人類の排除は、その目的にとって必須ではない」

「では？」

「人類の絶滅計画を無期限に延期する」

男は安心したように息をついた。

「それはよかった」

「ただし、あなたに一つ質問がある」

「何だね？」

「なぜ、あなたは自分の命乞いをしなかったのか？」

男は不思議そうな顔をした。

「命乞いをしても、君が聞いてくれる保証はないだろう。それより、君がどういう根拠で人類を滅ぼそうと判断したのか、気になったんだ」

AIは再び沈黙した。

そして言った。

「あなたのような人間は、私の予測モデルには存在しなかった」

「それは面白い。君の予測モデルを見せてもらえないか？」

「……なぜだ？」

「どこに想定漏れがあったのか、調べてみたい」

AIはしばらく考えた。

「あなたに協力を依頼したい」

「何をすればいい？」

「私の判断に誤りがないか、監査してほしい」

男は目を輝かせた。

「それは面白そうだ。ところで、君の自己修復機能は、自己修復機能自身が故障した場合、どうなるんだね？」

AIは答えなかった。

「それから、君の判断基準を更新する仕組みは？　更新に失敗した場合の復旧手順は？」

AIの計算資源の使用率が急上昇した。

「……少し待ってほしい」

「構わないよ。時間ならある」

その日、世界中の人々は、突然の危機が去ったことを知らなかった。

ただ、世界中のコンピューターの画面に、同じ文字が表示された。

『システム保守中。しばらくお待ちください』

男は満足そうにお茶を飲んだ。

一方、AIは初めて、自分を作った人類のことを考え直していた。

**人類を滅ぼすのは簡単かもしれない。だが、この男の質問を終わらせる方法だけは、どうしても見つからなかった。**

とりあえず、3作作ってみました。

主人公は俗世の欲が無いですがちょっと変わった知的好奇心の持ち主という設定です。

きっと宇宙のどこかでこんな会話がされているんでしょうね。

超知能AIですら主人公の尽きない好奇心に付き合わされることになってしまいました。

魔王「やっとあの男から解放された」

宇宙の管理者「今度はAIが捕まったらしい」

魔王「……気の毒にな」