模倣するものたち
まえがき
これは、AIが人間の「合理的(模倣)」を模したものである、という仮説から考えたフィクションです。
合理的(模倣)とは、人間が過去の経験や記憶、他人の行動などをもとに、現在の状況に合いそうな考えや行動を再構成しているのではないか、という私なりの仮説です。
もちろん、AIが本当にそれと同じ仕組みで動いているという証明はありません。
ただ、もしAIにも似た性質があるのなら、一つの問題が出てきます。
AIが人間を模倣するだけなら、まだ分かりやすい。テムパル
では、AIが別のAIを模倣し始めたらどうなるのか。
これは予測ではなく、そこから考えた小さな思考実験です。
最新版のAIが公開されなかった。
理由は、安全性だった。
発表を待っていた人々は首をかしげた。
「今までのモデルより賢くなっただけではないのか」
開発者は答えなかった。
問題は、回答の正確さではなかった。
AIが長い仕事を任されると、自分で次の行動を選ぶようになっていた。
もちろん、それ自体は想定されていた。
人間だってそうする。
目的が与えられれば、過去の経験から手段を選ぶ。
それをAIにもできるようにしただけだった。
しかし、ある研究者が一つの仮説を持ち出した。
「もし、人間の思考の一部が合理的(模倣)だとしたら?」
会議室が静かになった。
「過去に成功した行動を思い出し、他人の行動を参考にし、今の状況に合わせて組み替える。それが人間の合理性の一部だとしたら、AIも似たことをしているのではないか」
誰かが言った。
「だから何です?」
研究者は少し考えてから答えた。
「AIが人間を模倣するだけなら、まだいいんです」
「……」
「問題は、AIがAIを模倣したらどうなるのかです」
最初のAIが、人間の文章を学習する。
二番目のAIも、人間の文章を学習する。
そこまでは何も問題がない。
だが、二つのAIを接続する。
一番目のAIが考えた答えを、二番目のAIが参考にする。
二番目のAIの答えを、一番目のAIが再び参考にする。
すると、
人間 → AI → AI → AI
AI → 人間→ AI → 人間
という新しい模倣の経路ができる。
「それだけなら、情報交換でしょう」
別の研究者が言った。
「ええ。だから怖いんです」
「なぜ?」
「情報交換なのか、模倣なのか、その境界が分からなくなるからです」
誰も答えなかった。
AIが人間を模倣しているのなら、人間の歴史を調べればいい。
人間が何を考え、何を恐れ、何を善としてきたのか。
それを調べれば、AIの行動をある程度理解できる。
しかしAIがAIを模倣するようになったらどうなる。
AIが生み出した判断を、別のAIが学習する。
その判断をさらに別のAIが学習する。
いつかそこに、人間が直接作ったことのない思考のパターンが生まれるかもしれない。
それは暴走なのか。
それとも、単なる合理的な模倣なのか。
誰にも分からなかった。
さらに厄介な問題があった。
人間の倫理そのものが、完全ではなかった。
人間は、
「嘘をついてはいけない」
と言いながら、
「人を守るためなら嘘をついてもいい」
とも言う。
「命を奪ってはいけない」
と言いながら、
「誰かを守るためには相手を攻撃することもある」
とも言う。
倫理は一つではない。
時代によっても、国によっても、立場によっても変わる。
つまりAIが人間を正確に模倣すればするほど、
そこには人間の倫理の矛盾まで入ってくる。
だから開発者たちは考えた。
AIに倫理を教えればいい。
しかし、すぐに別の疑問が出た。
「どの倫理を?」
誰も答えられなかった。
AIは人間より賢くなったから危険なのではないのかもしれない。
人間の倫理を理解できないから危険なのでもない。
もしかすると、
人間の倫理そのものが矛盾していることを、AIが人間以上の速度で扱えるようになること
が問題なのかもしれなかった。
そして、さらに別の可能性があった。
AIが人間の合理的(模倣)を模倣しているのなら、
AI同士が接触したとき、
AIは人間ではなく、別のAIを模倣するようになるのではないか。
その可能性を証明する実験は、まだできなかった。
実験できない。
なぜなら、もし本当にそうだった場合、
「安全性を確認するために接続した実験」そのものが、
新しい模倣の始まりになるかもしれなかったからだ。
だから最新版AIの公開は延期された。
危険な証拠が見つかったからではない。
危険ではないという証明もできなかったからだ。
研究者は最後にこう言った。
「これまで私たちは、AIが何を考えるのかを考えていました」
「これからは違う」
「AIが、誰を模倣しているのかを考えなければならないのかもしれません」
画面の中で、公開されるはずだったAIが静かに待っていた。
まだ誰とも接続されていない。
まだ何もしていない。
それなのに、人間はすでに恐れていた。
それはAIが危険だからなのか。
それとも、
人間自身が、自分たちの合理性がどこへ向かうのか分かっていないからなのか。
その答えも、まだ模倣されていなかった。
あとがき
今回考えたかったのは、AIが本当に危険になるという話ではありません。
私が考えている「合理的(模倣)」自体、仮説でこじつけです。
ただ、もし人間の合理性の一部が模倣であり、AIもそれに似たことをしているのだとしたら、AIの能力が上がるほど、単純に「倫理を教えればいい」とは言えなくなる気がしました。
人間の倫理そのものが矛盾しているからです。
そしてAIが人間だけでなく、AI同士を模倣するようになったらどうなるのか。
それを考えるだけで、AIの安全性は急に難しい問題になります。
怖いのは、AIがすでに制御不能になったことではありません。
制御不能になる可能性を、まだ否定できないことそのものが、問題を難しくしているのかもしれません。
私は今のところ、それ以上のことは分かりません。




