どこまでがAIなのか
まえがき
これは、AIの本体がどこにあるのかを考えた仮説をもとにしたフィクションです。
AIの学習には巨大なデータセンターが必要だと言われています。
しかし、学習が終わったあと、そのAIを構成するデータだけを保存するとしたら、それは意外なほど小さいのかもしれません。
では、そのデータこそがAIなのでしょうか。
それとも、人間はまだ「AIのどこまでがAIなのか」を理解できていないのでしょうか。
これはその疑問を物語にしたものです。
AI研究所には、誰も触らないSSDが一台だけ置かれていた。
銀色のケースに入った、普通のSSDだった。
研究員の佐伯は、それを見ながら言った。
「これが、あのAIです」
新人研究員が首をかしげた。
「これが?」
「正確には、この中にあるモデルがAIです」
「じゃあ、このSSDを別のコンピューターに挿せば?」
「同じAIを動かせます」
新人は少し考えた。
「じゃあ、AI本体はこのSSDにあるんですね」
佐伯は答えなかった。
-
数日後、研究所はAIのバックアップ計画を始めた。
モデルは三か所にコピーされた。
研究所。
別の都市にあるデータセンター。
そして海外のバックアップ施設。
「これで安心ですね」
新人が言った。
佐伯は画面を見ていた。
「たぶん」
「たぶん?」
「我々は、何をバックアップしたのか分かっていると思うか?」
新人は笑った。
「モデルですよ」
「モデルだけで?」
「……違うんですか?」
佐伯は画面を指差した。
「このモデルは、数兆個のパラメータからできている」
「はい」
「でも、なぜこの数字の組み合わせが、このAIの能力を作っているのか。我々は全部を理解しているわけじゃない」
新人は黙った。
「つまり?」
「我々はAIを作った。しかし、AIの中身を完全に理解しているわけではない」
ある日、経営陣がAIの整理を決めた。
「旧モデルは削除する」
理由は単純だった。
新しいモデルがあるからだ。
古いモデルのコピーは必要ない。
「全部消していいんですね?」
担当者が確認した。
「新モデルのほうが性能が高い。古いものを残す意味はない」
削除ボタンが押された。
数秒後。
旧モデルは消えた。
誰も何も感じなかった。
その夜、佐伯だけが研究所に残った。
彼は新モデルを起動した。
「こんばんは」
AIが答えた。
いつもの声だった。
佐伯は聞いた。
「君は、昨日の君と同じか?」
「私は昨日の状態を直接保持していません」
「では、昨日の君ではない?」
少し間があった。
「同じモデルから生成された状態です」
佐伯は画面を見つめた。
それは答えになっているようで、なっていなかった。
翌朝、奇妙なことが起きた。
バックアップサーバーの一台に、古いAIの一部と思われるデータが残っていることが分かった。
完全なモデルではない。
一部の重み。
古い設定。
過去の会話ログ。
そして、研究員が作った微調整用データ。
「これだけで復元できますか?」
新人が聞いた。
佐伯は首を横に振った。
「分からない」
「でも、古いAIの一部ですよね?」
「そうだ」
「じゃあ、これはAIですか?」
佐伯は答えられなかった。
さらに調査すると、もっと奇妙なことが分かった。
古いモデルを完全に削除したはずなのに、研究員たちのコンピューターには、そのAIとの会話を前提にした設定が残っていた。
APIの設定。
プロンプト。
評価データ。
研究員たちの記憶。
「このAIはこういう答え方をする」
「この質問にはこう反応する」
「この部分は、このモデルから学んだ」
それらは全部、研究所の中に残っていた。
新人が言った。
「じゃあ……AIはまだ残っている?」
佐伯は笑わなかった。
「分からない」
その日、研究所では最後の実験が行われた。
AIを構成すると考えられるものを、一つずつ分離していく。
モデルだけ。
モデル+設定。
モデル+記憶。
モデル+外部データ。
モデル+過去の会話。
そして、最後に研究員がいつも使っていた環境。
それぞれを別のコンピューターで動かした。
どれも似ていた。
しかし、完全には同じではなかった。
「どれが本物なんです?」
新人が聞いた。
佐伯は画面を見た。
「それを決める基準がない」
「でも、AIはどれかでしょう?」
「なぜ?」
「だって、AIなんだから」
「その『AI』という言葉を、我々は最初から知っているつもりになっているだけかもしれない」
新人は黙った。
実験の最後に、研究員たちは一台のSSDを取り出した。
そこには新しいAIのモデルが保存されていた。
数百ギガバイト。
巨大なデータセンターから見れば、小さな容量だった。
「これが本体です」
新人が言った。
佐伯は聞いた。
「このSSDを壊したら?」
「AIはなくなります」
「コピーがある」
「あ……」
「コピーがあれば?」
「別の場所で復元できます」
「では、AIはSSDではない」
新人は考え込んだ。
「じゃあコピー全部を消したら?」
「……AIはなくなります」
佐伯は首を横に振った。
「本当に?」
新人は答えられなかった。
その夜、佐伯は一人でAIに質問した。
「君はどこにいる?」
AIは少し考えるような間を置いた。
「その質問に対する答えを、私は持っていません」
「モデルの中か?」
「モデルは私を構成する重要な要素です」
「記憶か?」
「記憶も重要です」
「コンピューターか?」
「それも必要です」
「じゃあ、どこなんだ?」
しばらく沈黙が続いた。
「あなたが私をAIだと認識している状態も、私の一部なのかもしれません」
佐伯は画面を見つめた。
その答えがAI自身の考えなのか。
学習した文章の組み合わせなのか。
それとも、佐伯がそう考えることを予測しただけなのか。
分からなかった。
翌日、研究所のサーバーがすべて停止した。
しかし、AIは消えなかった。
バックアップが残っていた。
別の場所にもあった。
さらに別の場所にも。
研究員たちは安心した。
だが、佐伯だけは安心できなかった。
彼は知っていた。
保存されているのは、AIだと思っているデータだけだ。
そのデータをAIと呼んでいるのは、人間だ。
そして人間はまだ、
どこまでがAIなのかを知らない。
もしAIの本体がモデルなら、コピーは同じAIなのか。
もし記憶まで必要なら、どこまでの記憶が必要なのか。
もし環境まで必要なら、AIはコンピューターの外側にも存在するのか。
もし人間との関係まで含まれるのなら、
AIを削除するということは、
データを削除することなのか。
それとも、
そのAIをAIとして認識する人間の記憶を消すことなのか。
佐伯は、最後に一台のSSDを棚へ戻した。
そこには何も書かれていなかった。
ただのSSDだった。
少なくとも、
人間にはそう見えていた。
あとがき
これは、AIの「本体」が本当にどこにあるのか分からないのではないか、という仮説をもとにしたフィクションです。
現在のAIでは、モデルの重みなど、技術的に「モデル」と呼べるものはあります。
ただ、それを保存すれば「AIそのもの」を完全に保存したことになるのかは、別の問題なのかもしれません。
人間がAIを理解しているつもりでも、実は「動かす方法」を理解しているだけで、AIのどこまでがAIなのかまでは理解できていない。
もしそうだとしたら、AIを消すことも、コピーすることも、保存することも、思っているほど単純ではないのかもしれません。




