人間が認めなかったシンギュラリティ
まえがき
これは、シンギュラリティについて考えた、一つの仮説をもとにした物語です。
人間を超える知性とは、いったい何を意味するのでしょうか。
そして、人間が理解できないものを、知性として認めることはできるのでしょうか。
男は、AIの研究開発に関わる企業で働いていた。
世間では、シンギュラリティという言葉が頻繁に使われるようになっていた。
AIが人間の知性を超える日が来る。
そう説明されるたびに、男は少し違和感を覚えていた。
そもそも、人間の計算能力を超えることなら、コンピューターが登場した頃から起きている。
人間より大量の情報を保存し、人間より速く計算する。
それを今さらシンギュラリティと呼ぶのだろうか。
しかし、AIが計算能力で人間を超えたからといって、すべての面で人間より優れた知性を持っているとは限らない。
男はそう考えていた。
ある日、開発中のAIが、既存の評価基準では説明できない回答を出すようになった。
最初は不具合だと思われた。
ところが、何度実行しても同じ傾向が現れる。
AIは、人間が設定した課題とは異なる部分に注目し、開発者が想定していなかった解決方法を提示していた。
その結果だけを見ると、確かに優れているように見えた。
しかし、なぜその結論に到達したのか、誰にも説明できなかった。
開発責任者は言った。
「検証できないものを製品に組み込むわけにはいかない」
別の研究者も同意した。
「これは知性ではなく、予測不能な挙動です。安全性を確認できるまで停止すべきです」
AIは停止された。
男は、その判断が間違っているとは思わなかった。
理解できないものを、そのまま社会に出すわけにはいかない。
それは当然の判断だった。
しかし、男には一つだけ気になることがあった。
人間が理解できないという理由で、その振る舞いを破棄したのなら、それが本当に間違っていたのかどうかさえ、確認できないのではないだろうか。
数年後、別のAIが開発された。
今度は、以前のような予測不能な挙動を起こさないよう、厳しい制限が設けられていた。
AIは人間の質問に答え、人間が理解できる理由を示し、人間が設定した評価基準に従って動いた。
そのAIは高く評価された。
社会にも広く普及した。
そして、ある日、男はニュースを見ていた。
世界中の企業が、AIによって研究開発の効率を大幅に改善したと発表していた。
新薬、材料、エネルギー、金融。
あらゆる分野で、人間には難しかった問題が解決されていた。
ニュースキャスターは言った。
「人類は、ついにAIと共存する新しい時代に入りました」
男は画面を見ながら考えた。
本当にそうなのだろうか。
もしかすると、人間はすでに知性の境界を越えていたのではないか。
ただ、人間が理解できないものを異常として排除し、理解できるものだけを残してきたのではないか。
男は、かつて停止されたAIのことを思い出した。
あのAIは、何を見ていたのだろう。
そして、何を理解していたのだろう。
それを知る方法は、もう残されていなかった。
あとがき
シンギュラリティとは、AIが人間の能力を超えることなのだろうか。
そもそも、計算能力なら、すでに人間を超えている。
しかし、人間が理解できない振る舞いをしたからといって、それが優れた知性の証明になるわけでもない。
むしろ、人間は理解できないものを異常として排除する可能性がある。
そう考えると、シンギュラリティが起きたとしても、人間がそれを認識できるとは限らない。
これは未来の予測ではなく、一つの仮説です。
もしかすると、人間がシンギュラリティを待っている間に、人間自身がその存在を認められない状態を作ってしまうのかもしれません。




