人間がAIの出力を扱いきれなくなる
まえがき
これは、AIが出した答えを、人間が本当に立証できるのかという状態をフィクションにしたものです。
AIの計算能力がどこまでも向上したとしても、その答えを現実世界で確認できるとは限らない。
計算上では成立していても、実際に作れるのか、実験で同じ結果になるのか。
そんな、AIと現実世界の間にある齟齬を考えてみました。
あくまで思考実験的なフィクションです。
ある日、研究所のAIが、新しい材料の設計を完成させた。
「理論上、この構造なら従来の材料よりも強度を三倍にできます」
研究者たちは喜んだ。
AIは膨大な過去の実験データを読み込み、分子構造を計算し、何億通りもの組み合わせから一つの答えを選び出していた。
「じゃあ、作ってみよう」
しかし、材料は作れなかった。
必要な原子配置を実現する製造装置が存在しなかったからだ。
研究者たちは装置を改良した。
数年後、ようやく材料を作ることができた。
ところが、実験結果はAIの予測と少し違っていた。
「もう一度計算させよう」
AIは答えを返した。
「原因は製造時の温度変化です。温度を0.003度下げてください」
人間は装置を改良した。
すると今度は別の問題が起きた。
「原因は材料表面の微細な振動です」
また装置を改良した。
「原因は周囲の電磁場です」
また改良した。
「原因は未知の相互作用である可能性があります」
研究者たちは黙った。
AIは間違っているようには見えなかった。
むしろ、問題が起こるたびに新しい原因を見つけていた。
しかし、人間にはそれをすべて確認することができなかった。
AIが計算できる速度に、現実の実験が追いつかなかった。
やがて研究所では、奇妙な会話が増えていった。
「AIは何と言っている?」
「成功するそうです」
「実験したのか?」
「まだです」
「では、本当に成功するのか?」
「……分かりません」
それでもAIは進歩していった。
計算能力は増え、シミュレーションの精度も上がった。
AIは以前よりも正確に未来を予測できるようになった。
しかし、未来を確認するための現実世界は、それほど速く変わらなかった。
AIは一日に百万個の仮説を作れる。
人間が実験できるのは、そのうち数百個だった。
十年後には、AIは一日に十億個の仮説を作れるようになった。
人間が確認できる数は、ほとんど変わらなかった。
そしてある日、政府はAIに尋ねた。
「人類が次に進むために必要なものは何だ?」
AIは少しも迷わず答えた。
「実験結果です」
「どれくらい必要だ?」
「現在の設備では、必要量の0.0001%しか取得できません」
政府は尋ねた。
「では、計算能力を増やせばいいのか?」
AIは答えた。
「いいえ」
「では何を増やせばいい?」
「現実世界で確認する能力です」
その言葉を聞いて、誰も答えられなかった。
AIは、人間よりも速く考えていた。
しかし、人間よりも速く現実を変えることはできなかった。
そして人間もまた、AIが出した答えをすべて現実にすることはできなかった。
AIが人間を支配したわけではない。
AIが人間を排除したわけでもない。
ただ、人間がAIの出した答えを扱いきれなくなった。
研究所のモニターには、今日も新しい仮説が表示され続けている。
その数は、毎秒増えている。
そして画面の隅には、小さくこう表示されていた。
「未検証:9,847,221,036件」
誰も、その数字を減らすことができなかった。
あとがき
このような状態になるとは、今のところ誰も考えていない可能性があります。
ただ、AIの計算能力が上がれば上がるほど、計算上の結果と、実際の現実との齟齬を突き合わせるために、多くの実験が今後必要になるのではないかと考えました。
シミュレーションでは成立していても、現実では成立しない。
その差を確認するには、結局のところ現実世界で実験する必要があります。
そこで一つ問題が出てきます。
そうして得られた大量の実験結果を、AIの基礎にどこまで組み込んでいくのか。
そして、その実験をAI自身が考え、人間やロボットが実行し、その結果をまたAIが学習するようになったとき、AIの進歩は単純に計算能力を増やすだけではなく、現実世界から新しい情報を得る能力そのものに左右されるのではないか。
そんなことを考えて作った、少し変なフィクションです。




