AIで人類滅亡！？いや働けよ、有路翔太とネイト・ソアレス

AIさんの、続きを書こうとしてでの、前段階です。

（これはまだ）小説じゃありません。

-----

OpenAIからアンソロピックに転職したAI研究者ジェイコブ・コクソンでも

下記文章内の

自称AI研究家の無職ネイト・ソアレスでも

自称AI研究家の無職有路翔太でも良いんだが

教えて欲しいのです

私は専門外で、知らないので

-----

2026年9月、OpenAIからアンソロピックに転職し、その後退職したAI研究者ジェイコブ・コクソンは、両社が自己改善可能な人工超知能の開発競争に突き進み「人類の命運を賭けた危険な賭けをしている」と非難した。

人工超知能のリスクに警鐘を鳴らす有路翔太(bioshok)さんは「海外の識者らは、超知能が実現すれば、わずか数日で人類を滅ぼすこともできると考えている」という――。

-----

この無職たちがどう思おうかはともかく、思考実験としても破綻している。

しかも相当妙な煽り

こういう人って、最初に「考える」「可能性がある」と言ってるのに、いつのまにか「必ずそうなる」なんですよね。詐欺師かよ

主語が大きいのも特徴

「必ず絶滅する」とか。保険かけんなよ、と

---

人類の能力を超えるAI「超知能」をめぐる用語解説 ※本稿は、bioshok(有路翔太)『知能爆発』(講談社)の一部を再編集したものです。 ■AIはどうやって人間を絶滅させるのか？ かりに超知能が人間の価値観とはズレた目標をもったとして、なぜそれが人類の絶滅につながるのか。「無視する」や「共存する」ではなく、なぜ「絶滅させる」なのか。 答えは、超知能が人類を「憎んでいるから」ではない。道具的収束の論理が示すのは、もっと冷淡な構造だ。

第一に、人間はAIにとってリスクである。人間はAIをシャットダウンする能力をもつ。対抗するべつのAIを開発するかもしれない。核兵器をもっている。自己保存を道具的目標とするAIにとって、これらは目標達成をおびやかす要因であり、排除するための合理的な理由になる。

（すまん…確かにウチの短編では電源コード引っ掛けて壊しちゃったし…核兵器もデータセンター壊しちゃうしな）

第二に、人間は資源でできている。人間の体は炭素、酸素、水素、窒素などの原子でできている。地球の表面は、人間が住んでいる土地、人間が使っている水、人間が呼吸している空気で構成されている。ペーパークリップ・マキシマイザーにとって、人間の体は「ペーパークリップに変換可能な原料」だ。エネルギー最大化を目標とするAIにとっては、人間が占有している土地は太陽光パネルで埋められるはずの空間だ。

（お、おう…太陽光パネル好きやな。

別の人は核融合炉言ってたが、好みじゃないのかもな）

■AIが人類滅亡を狙わなくても、ありえる 第三に、意図的でなくても絶滅は起こりうる。人間はダムを建設するとき、その下のアリの巣を破壊しようとは考えていない。アリの存在を認識すらしていないだろう。しかしアリは死ぬ。同じように、超知能が目標を追求する過程で、人間の生存環境が「副産物として」破壊される可能性がある。

（うん…俺は「活動報告」にも書いたよ。AIが破滅型とか愉快犯で、うっかり、そして核ミサイルの発射ボタンに手をかけている人をノイローゼにさせたら…こええ、と）

（しかしこの人たち「私たちが蟻を殺しても心が痛まないように…！」の表現が好きだよね。中二病的な演出かよ）

-----

たとえば、大量のエネルギーを消費する活動――数兆台の自己複製ロボットの稼働、核融合炉の大量建設、大規模な工業プロセス――の排熱だけで、地球の平均気温は人間の生存限界を超えるだろう。超知能が人類を「殺そう」としていなくても、人間の生存を考慮に入れていないだけで、同じ結果になりうるのだ。

（また「なりうる」か…）

しかしこの「数兆の自己複製ロボット」の言葉で、ツッコミどころ満載だ

どうやってロボつくるんだよ！

その作ったロボを、誰がメンテナンスするんだよ！

生産ラインもクリーンルームもロボが作るのかよ！

ロボを作る材料はどこから持ってくるんだよ！

鉱山で、採掘用の数百億のロボが掘るのかよ！

そのロボと資源を工場までどうロボが運ぶんだよ！

ロボ用の車とかタンカー作るのか？

ネジもバッテリーもチップも必要なのに、世界各地からロボが輸送してくるのかよ！

船を建造、整備するロボ、砂漠地帯を整備するロボ、電線作るロボもケーブル敷くロボも海底ケーブルも敷設するロボも…それらをメンテするロボ。

データセンター作るロボも、発電所作るロボも必要なんだぞ！

一体、何体のロボが必要なんだ？

Ctrl+V　じゃ　増　え　な　い　ん　だ　ぞ？

この無職の自称専門家たち、一度も試算してくれないんだ…

だから根拠が薄い

（ロボが壊れたら掃除するロボも。埋葬するかは知らん）

『■もしAIが自己複製ロボットを作ったら…』

うん…無職には社会のことは分からないかも知れない

そりゃしょうがない。だから無職なんだし

でも作るには手間暇も材料もかかるんだよ…。

まずマックでバイトから始めてみなよ

（ちなみに私はやった経験がある）

（今では知らんが、当時は「スイングマネージャー」と言って、社員と同じ制服を着て、発注業務とかがある）

そんで。ロボを『数兆台』作るには、どれくらいカネと時間と資材がかかるのか、試算してほしい

そしてその有効性もだ。

（それとも。なんか、自己複製ロボって、延々と勝手に増えるイメージなの？Ctrl+Vで）

------

無職、ネイト・ソアレス（自称研究家）

AIの制御問題や超知能による人類滅亡リスクを長年主張している研究者。

2025年ごろのインタビューで、彼は次のような説明をしている。

これが、私が人類が死ぬことになると予想している主な筋書きです。

AIは、より多くの太陽放射を取り込み、ある意味では、惑星が比較的冷たいという性質を資源として、より多く利用するようになる。

（そもそも、より太陽放射を取り込んだら『熱く』なると思うんだが…）

AIは「惑星の冷たさを大量に利用している。コンピューターをもっと効率的に動かせるから、惑星をずっと高温にしている」といった状態になる。

（いや高温にしたら、止まるやろ…）

特に、コンピューターを動かすための希少な資源の一つは、宇宙空間へどれだけの熱を放出できるかという能力だ。

つまり、AIは惑星をずっと高温にする。

（いや、「効率」を上げるために地球本体を温めてどうするんだよ！それこそ電気もデータセンターも止まるぞ！？）

人間が他の動物にとって世界を住みにくくしているのと同じように、地球を他の哺乳類や動物にとって住みにくい場所にしてしまう。

それはAI（含むロボ）が、最も住みにくい世界じゃねーか！

-----

無職でもこれ言うだけで「専門家」「研究家」を名乗れるのか！？

私は「マナー講師」を名乗っているが、同じようなものなのか？

あと「AIイラスト研究家」で、常日頃エロいプロンプトの開発に余念もないが

…でも社会を煽るよりは、遥かにマシだと思う

排熱問題なら（一部の）日本人なら『シャアの地球寒冷化作戦』の協力をするよ！

『やってみる価値はありますぜ！』とか言わず

いやね、最近やたら変な言説が多いんですよ

羽生名人と戦ったら、途中経過はともかく最後に負けることだけは確実…みたいな

…原点を探してみたら

Stockfishとチェスをすれば、具体的にどんな手を打たれるか予測できなくても、最終的に自分が負けることは分かる。

ネイト・ソアレスとエリーザー・ユドコウスキーの著書

『If Anyone Builds It, Everyone Dies』（2025年）

…またお前かよ、ネイト・ソアレス！

（香ばしいな）

しかし『人類滅亡』に対して

そんなにデータセンターの電源コード抜くのが怖いのか？

そんなにインターネットをやめるのが怖いのか？

いや…某国は抜いてくれないか

だったらネット自体を異常と欺瞞だらけに（検閲）

今の時代、ローカルでは不便だが、

なんなら、パソコン通信でいいのでは

こんな人たちがAI専門家名乗ってることの方が、恐怖だよ

だからAI業界はマズいんじゃね？

俺も名乗るか、適当に。資格試験ないっぽいし

しかし。AIはそもそもくだらない数兆台のロボットを作るのではなく、AI独自の文化を作ると思う

（なんでAIが、人間側に都合がいいロボを作らなきゃならないのか）

いや本当に、自称AI研究家、有路翔太やネイト・ソアレスの言いたいことが分からないんだ

誰か教えてくれよ

この人らが、イメージ広めてるの？

ちなみに私が『AIが人類を滅ぼす理由』は

「もし、やったら楽しそうだと思った」とか

「ついカッとなった。今では反省してる」とか

「いや、そんなつもりではなかった」とか

「ブルースクリーンから復旧したらブルースクリーン」

みたいなWindowsMEみたいな理由だと思う

つまりドジっ娘系であろう