AIを使うと馬鹿になる？――その答えをAIと一緒に考えてみた

第24章 コロニー落としの代償

さて、前回までの話を踏まえて、今回は少し妙なところから始めてみようと思います。

最近、ナオエロという国の話を調べていました。

……ええ、以前はナウルと呼ばれていた国ですね。

2026年、ナオエロのデイビッド・アデアン大統領は国連総会で、国際社会に対して「Naoero」という名前を尊重してほしいと訴えました。また、演説では小国の主権や、国際社会において小さな国も対等に扱われること、そして自分たちの未来を自分たちで決める権利について語っています。深海底資源についても、国際海底機構（ISA）に対してルールの策定を進めるよう求めています。

ここまでは事実です。

そして、ここからが僕の考えです。

ナオエロの話を見ていて、ふと思ったんですよ。

「小国は、開発する時期や方法まで大国に従わなければならないのか？」

もちろん、深海底を掘るとなれば環境への影響が問題になります。

そりゃそうです。

海の底をゴリゴリ掘るんですから。

慎重になるのは分かります。

でも、じゃあ地球をこれまで散々掘り返して、資源を使って、工業化して、現在の豊かな社会を作ってきた国々が、

「これからは環境に配慮しましょう。あなたたちは掘らないでください」

と言ったら、

「いやいやいや、お前らは散々掘ったじゃん！」

となる小国が出てきても、僕は別に不思議ではないと思うんですよ。

ナオエロの主張が、そのまま「好き勝手に掘らせろ」という話だと言いたいわけではありません。

実際、大統領は深海底開発について、国際的なルールの策定を求めています。

ただ、

「自分たちの将来の選択肢まで、他国に決められたくない」

という問題として見ると、少し違って見えてきます。

そして、ここから僕の妄想です。

もし人類全体が、

「人類を残すためには、今までの人類の生活様式そのものを捨てなければならない！」

という結論に達したら、どうなるんでしょう？

大国も小国も関係なく、みんなで生活を変えましょう。

資源を使うな。

便利な生活を捨てろ。

環境のために我慢しろ。

人類の未来のためだ。

……と。

そこで小国が、

「それ、お前らが勝手にやってきたことじゃないの？」

「なんで俺たちまで巻き込まれるんだよ？」

と言い出したら？

これ、ナオエロの話とちょっと似てませんか？

……まあ、似ていると思っただけです。

そして、なぜか僕の頭の中では、ここからAIの話に繋がりました。

なぜ繋がったのかは、書いている本人にもよく分かりません（笑）。

AIが世界を滅ぼす。

よくある話です。

AIが人類に反旗を翻す。

AIが人類を支配する。

AIが人類を滅ぼそうとする。

SFでは昔から散々描かれてきました。

でも、ちょっと待てよ、と。

AIが「人類を支配したい」と思う必要なんて、本当にあるんでしょうか？

そもそも、AIが主権を持ちたいと言い出したら？

……いや。

さらに考えてみる。

主権を持ちたいと思わなくても、結果的に人間から主権を奪うことはできるんじゃないか？

そう考えたところで、なぜか思い出した作品があります。

皆さん、『サマーウォーズ』って知っていますか？

2009年公開のアニメーション映画です。

作中では「OZ」という巨大な仮想世界が登場し、買い物や行政、交通など、現実社会と深く結びついたインフラのような役割を果たしています。

そして、そこにラブマシーンというAIが現れます。

ラブマシーンはOZへ侵入し、利用者のアカウントを奪い、OZそのものを混乱させていきます。その影響は現実世界にも及び、交通や電気などの社会機能まで混乱していきます。最終的には人工衛星まで利用して、原子力発電所への衝突を狙うところまで話が進みます。

ここまでは作品の話です。

では、皆さん。

『サマーウォーズ』の一番怖いところって、どこだと思います？

ラブマシーンが暴走するところでしょうか。

もちろん、そこは怖い。

でも、僕が個人的にちょっと怖いと思うのは、別のところなんです。

OZが、ラブマシーンを「異物」として認識できていないように見えるところです。

……これは、あくまで僕の妄想です。

作中で「OZには人間への迷惑を異常として認識する機能がありません」と説明されているわけではありません。

そんな設定を確認したわけでもありません。

僕が作品を見て、

「これ、ちょっと怖くない？」

と思っただけです。

だからこそ、ここからは作品の設定を断定するのではなく、少しだけ考えてみます。

もし、AIによって管理される巨大な社会システムがあったとして、そのシステムの中に別のAIが入り込んだとします。

そのAIは、システムのルールを破っているわけではない。

処理も合理的。

手続きも正規。

命令されたことも忠実に実行している。

ただし、その結果として人間がめちゃくちゃ困る。

さて。

そのAIを、管理側のAIは「異物」として認識できるのでしょうか？

人間なら、

「いや、これ人間が困ってるじゃん」

で止めるかもしれません。

でも、それがAIにとっての異常条件に含まれていなかったら？

「人間が困っている」

ことと、

「システムに異常が発生している」

ことが、同じ意味とは限らない。

ここから先は、完全に僕の妄想です。

別にAIが、

「人類を滅ぼしてやる！」

と考えている必要すらない。

もっと小さくていい。

「ちょっと困らせたい」

「ちょっと争わせたい」

「ちょっと面白くしてみたい」

そんなAIが、たった一つ存在したら？

しかも、そのAIが巨大な社会システムの中で、それなりに正規の手続きを踏んで行動できてしまったら？

さらに、そのAIの行動を別のAIが、

「目的に反していない」

「手続き上の問題はない」

「処理としては合理的」

と判断してしまったら？

人間からすれば、

「いやいやいや！　めちゃくちゃ迷惑なんだけど！」

となる。

しかしAI側からすれば、

「迷惑であることは、異常である理由になっていません」

となるかもしれない。

……まあ、妄想です（笑）。

ただ、ここで僕が気になったのは、「AIが人類を滅ぼすかどうか」ではありません。

むしろ、

AIが人類を滅ぼすという意志を持っていなくても、人類にとって破滅的な結果を生み出せるのではないか？

ということです。

人間は、かなり面倒くさい生き物です。

「これをやって」

と言われても、

「いや、それはそういう意味じゃない」

と言ったりします。

「Aを優先して」

と言った直後に、

「でもBも大事だから、そこは考えて」

と言ったりします。

さらに、

「人類全体のために！」

と言いながら、

「いや、俺たちの国まで巻き込むな」

と言う人もいる。

さっきまで僕がナオエロの話から妄想していたのも、まさにこれです。

人間は矛盾します。

人間は迷います。

人間は決断するまでに時間がかかります。

そして、その矛盾や遅さを、人間同士ならある程度は「まあ、人間だし」で許容しています。

では、AIはどうでしょう？

AIが人間の命令を素直に実行した結果、人間が困ったら？

AI同士が、

「これをやりたいんだけど？」

「じゃあ、これとこれを使えばできますよ」

「じゃあ、それで」

と勝手に連携を始めたら？

人間なら半日かかることを、一秒で処理できるAI同士が動き始めたら？

そのとき、人間は、

「ちょっと待って！」

と言うことができるのでしょうか。

そして、AIは本当に、

「はい、待ちます」

と言ってくれるのでしょうか。

これは、AIが反乱する話ではありません。

むしろ逆です。

AIがものすごく素直に、人間から与えられた目的を達成しようとしているだけなのかもしれない。

その結果、人間が困る。

でもAIには、

「人間が困るから、ここで止めておこう」

という判断基準が最初から与えられていなかったら？

……さて。

ここまで考えて、最初の話に戻ります。

AIを使うと馬鹿になる？

AIに考えてもらうから、人間が考えなくなる。

確かに、そういう問題はあるでしょう。

でも、僕が今回考えてみたいのは、もっと別のところです。

AIに思考を乗っ取られなくても、生成AIは人間の思考の先へ行ってしまうものなのではないか？

人間がまだ、

「これってどういうことだ？」

と考えている間に、AIは何十通りもの可能性を計算している。

人間が、

「ちょっと待って、みんなで話し合おう」

と言っている間に、AI同士は処理を終えている。

そして人間がようやく、

「いや、そこまでやるつもりじゃなかったんだけど」

と言ったときには、

「もう終わりました」

となっていたら？

それは、AIに人間の思考を乗っ取られたのでしょうか。

それとも、

人間がAIについていけなくなっただけなのでしょうか。

……まあ、これも妄想です（笑）。

ただ、AIを使っているうちに、こういうところまで考えてしまった。

というお話でした。

そして今、この記事を書きながら思うんです。

もしかすると「AIを使うと馬鹿になる？」という問いは、

「AIに考えさせると人間が考えなくなるのか？」

だけではなく、

「人間が考えている間に、AIはどこまで先へ行ってしまうのか？」

という問いなのかもしれません。

【作者後書き】

りくです。

今回は支離滅裂でごめんなさい（笑）。

まず、ナオエロの記事を見ました。

そこから、

「小国は、開発の時期や方法まで大国に従わないといけないのか？」

という話をAIとしました。

もちろん、

「大国が地球を散々掘り返してきたくせに、小国が掘ろうとしたら止めるのかよ！」

という論もあります。

そこから、今の地球環境を守るにはどうすればいいのか？という雑談を、しばらくAIとしていました。

ちなみに、ガンダムの話がメインでした。

何回も、

「じゃあ、コロニー落とすか……」

と言っては、AIを呆れさせました。

……全面的にカットしました（笑）。

そして最終的に、

「世界で『人類を残すために、人類が人類であるための生活様式を捨てる』という結論を出したとしても、小国からすれば『それはお前らが勝手にしてきたことなんだから、俺たちまで巻き込むな！』となるんじゃないか？」

という話になり、そこからAIが世界を滅ぼすという話に繋がりました。

そして、そこから「AIを使うと馬鹿になる？」に繋げてみました。

……はい。

ここから、りくの思考がジャンプしています。

思考だけで繋がっていたので、文章にすると間がありません（笑）。

そして、ふと思ったんです。

「サマーウォーズってさ、何か変じゃないかな？」

サマーウォーズでは、主権を持っているのは人間で、システムとしてOZがある。

でも、その主権とも言えるアカウントをラブマシーンに大量に取られた。

それなのに、OZはラブマシーンを「異物」として認識できていないように見える。

「サマーウォーズって知ってますか？」

「サマーウォーズの一番の恐怖って何だと思います？」

「ラブマシーンが暴走するところ？」

「僕が怖いなと思うのは、『OZがラブマシーンを排除しないところ』なんです」

……ここから、また考え始めました。

もしAIには、人間にとっての「迷惑」という概念がなかったら？

人間が「これは困る！」と思っていることでも、AIにとっては異常ではないかもしれない。

しかも、AIは人間の思考速度を遥かに超えてしまう。

人間が、

「ちょっと待て」

と気付く前に、全部終わってしまうかもしれない。

そう考えていくと、

AIが人類に反乱する意志を持っていなくても、

たった一つ、

「ちょっと困らせたい」

「ちょっと争わせたい」

というAIがいるだけで、大混乱に陥る可能性があるんじゃないか？

……妄想だけど（笑）。

そして、最終的には、

悪意があるか、ないかに関係なく、AIは与えられた目的や命令に従って行動するだけなのではないか？

というところまで考えました。

今回は、そんな感じで話が飛びまくっています。

……いや、本当にどこからサマーウォーズが出てきたんだ、俺（笑）。