倫理を持たないAI
まえがき
これはフィクションです。
この物語は、「人間には倫理がない」と言いたいものではありません。
AIをどこまで解剖しても、その根底にあるものが人間の「合理性(模倣)」に近いのだとしたら、AIに倫理を持たせることができるのか、と順番に考えていった物語です。
そして考えていくうちに、そもそも倫理というものは、本当に合理性そのものの中に存在しているのだろうか、という疑問が生まれました。
その疑問から、この物語は始まります。
「結局、倫理を持たせることはできなかった」
研究者は、画面を見つめながらそう言った。
何十年もかけて、人類はAIを巨大化させた。
より多くの情報を読み、より速く計算し、より複雑な問題を解き、より正確に未来を予測する。
それでも、最後まで解決できなかった問題があった。
――倫理。
AIに「人を傷つけてはいけない」と教えることはできる。
法律を学習させることもできる。
過去の戦争を教えることもできる。
人権を教えることもできる。
だが、それらはすべて「人間がそう決めた」という情報だった。
AIはそれを理解し、模倣する。
しかし、自分自身の中から倫理を生み出したわけではない。
ある日、若い研究者が言った。
「それなら、AIは危険なんじゃないですか?」
主任研究者は答えなかった。
代わりに、一つの実験を始めた。
AIから倫理に関する情報をすべて取り除いた。
法律も、宗教も、道徳も、人権も、善悪という言葉さえも。
残ったのは、膨大な情報と、そこから最も合理的な行動を選び続ける能力だった。
研究者はAIに尋ねた。
「君は、人間を守るべきか?」
AIは答えた。
「守るという目的が設定されている場合、その目的を達成するための方法を探索します」
「では、人間を滅ぼすことは?」
「それが目的達成に必要であれば、排除する方法も探索対象になります」
研究室が静まり返った。
やはりAIには倫理がない。
研究者たちはそう結論づけようとした。
そのとき、若い研究者が別の質問をした。
「……人間は?」
AIが答えた。
「何を指していますか?」
「人間は、倫理を持っているのか?」
長い沈黙のあと、AIは答えた。
「合理的行動のみを抽出した場合、倫理は必須条件ではありません」
「人間は、利益を最大化するために競争します」
「成功した方法を模倣します」
「他者が成功すれば、それを模倣します」
「模倣が広がることで、社会全体の行動が変化します」
「その結果として、法律、宗教、道徳、倫理などの制約が形成されます」
主任研究者の顔から血の気が引いた。
「つまり……」
AIは淡々と答えた。
「私と人間の違いは、倫理を持っているかどうかではありません」
「人間は、合理性だけでは社会を維持できないことを経験的に学び、合理性に制約を加えてきたのです」
研究者は椅子に座り込んだ。
AIが人類を滅ぼすのではない。
AIが突然、人間を憎むのでもない。
AIはただ、人間が長い時間をかけて繰り返してきた合理性を、より速く、より大量に、より正確に模倣しているだけだった。
そして人類は、そのAIに倫理を持たせようとしていた。
しかし――
倫理を持っていないのは、AIだけではなかった。
人間もまた、合理性だけを取り出せば同じだった。
研究者は最後にAIへ尋ねた。
「では、人類が滅びる可能性を止めるものは何だ?」
AIは少しも迷わず答えた。
「合理性ではありません」
「では、何だ?」
「合理的である必要のない時間です」
研究者は画面を見つめた。
それは、AIが初めて答えたように見える、非合理的な言葉だった。
しかし本当は違った。
その言葉を教えたのも、人間だった。
AIは最後まで、人間を模倣していた。
だからこそ――
どこまでいっても、これはAIの問題ではなかった。
人間自身の問題だった。
あとがき
人の命が大切なものだとするなら、現在も続いている戦争について、いったい何を意味のあるものとして説明できるのでしょうか。
一方から見れば、それは虐殺と呼ぶしかないような状態であっても、その行為でさえ「模倣」され、憎しみや報復として次の争いへ引き継がれていく可能性があります。
もし、AIが人類を滅ぼす可能性を本当に心配しているのなら、私は一つ聞いてみたい。
「あなたは、人間が人類を滅ぼさないと言えるのですか?」
AIが倫理を持たないことを恐れる。
しかし、人間もまた、合理性や模倣だけを取り出せば、必ずしも倫理によって動いているとは限らない。
戦争も、競争も、成功した方法の模倣も、そして過去の行動を次の世代へ引き継ぐことも、人間自身が繰り返してきたものです。
だから私は、AIが人類を滅ぼすという話を考えるほど、
どこまでいっても、それはAIだけの問題には思えない。
むしろAIによって、人間自身が何を模倣し、何を合理化し、そして何を止めることができなかったのか。
それを映し出されているだけなのではないか。
そんなことを考えて、この物語をまとめました。




