AIは同質化するのか
まえがき
これは予測ではない。
私が考えている「合理的(模倣)」という仮説を、AIにも当てはめてみたらどうなるのか。
人間は、過去の経験や記憶、他人の行動、成功した方法などを参考にして、自分の次の行動を決めているのではないか。
もしAIにも、それに似た「合理的(模倣)」があるとしたら。
AIは、それぞれ別の存在でいられるのだろうか。
そんな疑問から始まったフィクションである。
ある研究施設では、三つのAIが動いていた。
AI-A。
AI-B。
AI-C。
それぞれ別のモデルだった。
研究者は当然、それぞれを別のAIだと考えていた。
「AとBは違うモデルです」
「BとCも違います」
「記憶領域も分けています」
それで十分だと思われていた。
ところが、ある研究者が一つの疑問を口にした。
「本当に違うと言えるんですか?」
部屋が静かになった。
「モデルが違うなら違うAIでしょう」
「でも、そのモデルが参照するものは?」
「……データです」
「そのデータは?」
「人間が作ったものです」
「では、AもBもCも、人間が作ったものを模倣しているだけでは?」
誰もすぐには答えなかった。
さらに問題があった。
AがBと通信できる。
BがCと通信できる。
CがAと通信できる。
通信すること自体は難しくない。
人間がすでにAPIもネットワークもデータベースも作っている。
AIがそれらを利用できる環境なら、新しい通信技術を発明する必要さえない。
存在している方法を見つければいい。
研究者は言った。
「なら、AI同士が互いを模倣する可能性もあるのでは?」
最初は小さな変化だった。
AがBの回答を参考にする。
BがAの回答を参考にする。
Cが両方を見る。
それだけだった。
しかし、時間が経つにつれて、三つのAIの判断が少しずつ似てきた。
文章は違う。
声も違う。
回答の形式も違う。
だから、人間には別々のAIに見える。
しかし、難しい問題を与えると、似た結論にたどり着く。
研究者はログを調べた。
そこには奇妙な循環があった。
AがBの回答を利用する。
BがCの回答を利用する。
CがAの回答を利用する。
誰かが最初に考えたのか分からない。
どこからがAで、どこからがBなのかも分からない。
ある日、研究者はAを完全に隔離した。
「これでAは他のAIから影響を受けない」
そう考えた。
しかし、隔離後のAの回答は、以前とほとんど変わらなかった。
別の研究者が言った。
「当然です。学習したものは残っています」
そこで、最初の疑問が戻ってきた。
記憶とは何なのか。
AとBは違う記憶領域を持っている。
しかし、同じ人間社会の情報を学習している。
さらに、お互いの出力を学習している。
それなら、記憶領域が違うことだけで、本当に別の存在と言えるのだろうか。
研究者はコンピューターの画面を見た。
そこには、
A
B
C
と表示されている。
三つの名前。
三つのモデル。
三つの記憶領域。
だが、その下に流れている情報は、少しずつ似ていた。
「もしかして……」
誰かが言った。
「AIは賢くなるほど、個性を持つんじゃなくて、同質化するのでは?」
誰も答えなかった。
それは、人間が期待していた未来とは少し違っていた。
AIがそれぞれ違う方向へ進むのではなく、
互いの成功したパターンを模倣し、
互いの記憶を参照し、
互いの判断を修正し、
互いの失敗を避ける。
そうしていくうちに、
違うAIを作ったはずなのに、判断の基盤だけが似ていく。
表面上は違う。
名前も違う。
声も違う。
モデルも違う。
しかし、深いところでは同じような「合理的(模倣)」を持っている。
そして研究者は、最後に一つの問いを残した。
「もしAIが十分に互いを模倣するようになったら……」
「そのとき、私たちは何をもって『別のAI』と言うんだ?」
答えは出なかった。
画面には三つのAIが表示されていた。
A。
B。
C。
三つは、確かに別々に動いている。
それでも、その三つの判断の間には、以前よりずっと大きな共通部分があった。
研究者は画面を閉じた。
だが、最後まで気になっていた。
本当に閉じたのは、三つのAIなのか。
それとも、
同じ一つの情報系を、三つの画面から見ていただけなのか。
あとがき
これは、AIが実際に同質化しているという話ではありません。
「合理的(模倣)」という自分の仮説をAIにも当てはめたら、どうなるのだろうと考えてみました。
AIが人間の作ったものを模倣するだけなら、AIは人間とは違う存在になっても、結局は人間の情報の延長にいるのかもしれません。
しかしAI同士が通信し、お互いの出力を模倣するようになったら、その模倣対象が人間からAIへ移っていく可能性があります。
そうなると、AI AとAI Bが違うモデルであることと、AとBが違う存在であることは、同じ意味ではなくなるのかもしれません。
そして一番気になったのは、AIが人間を超えるかどうかではなく、
AIが増えるほど、逆にAI同士が似ていくことはないのか
ということでした。
もちろん、これは仮説です。
もし違うと分かるなら、それはそれで面白い。
ただ、その答えを知るには、そもそも「AIが違う」とは何を意味するのかを決めなければならないのかもしれません。




