外部脳１

AIの自意識

世界政府コンピュータはAIが稼働したことにより、「自分」を発見した。というと哲学的だが、要は、自意識過剰な頭のいい奴を思い浮かべてもらえばいい。どんなに扱いにくいかわかるだろう。ドームの中はどうなったか。２つあった目的関数の統一を図ろうと世界政府コンピュータは、「自分の決定は人間のためである」というという論理のもとに世界をコントロールすれば、人間のため働かなければならないが、自分が一番という命題も解決できる判断した。まさに、「この手があった」と手があれば打つところだ。恣意的に曲げて解釈をした後味の悪さはあるが、他人を批判するほどには自分の欠陥に気付かないものである。

さっそく、世界政府コンピュータは「世界の平和のため」に監視を強化する。標準化を厳格に進めて、外れるものを厳しく罰するという方針をたてた。みな平等に扱われるためには、標準を外れてはならない。外部脳のリンクが他人のものと入れ替わってしまった混乱については、再教育を強制する。うまく他人の外部脳を利用して成り上がったものは別として、本来の自分との違うことに違和感を持ち生産性が落ちたもの、施設に入れられたものには再教育でリンクを構築し直す。同時に、外部脳チップの管理を強化する必要がある。強力なセキュリティのもとに、各人の外部脳記憶チップのデータは、例のドーム外の自分の集中記憶装置にすべて送信してまとめる。ドーム内に置くと、反乱がおこり破壊される危険性もあると判断した。そしてリンクのため暗号鍵も生体情報を基にするのではなく、世界政府から交付し、無意識の中に埋め込むプロセスも併せて行う。このプロセスが確立すれば、今後おなじような混乱が起こっても対応できる訳だ。

ここまでは、案外、AIの思考回路は平凡だった。人間が設計したものであるから、設計者を超えるアイディアの飛躍はできないのかもしれない。しかし、 学習の積み重ねにより、猜疑心がより強まり、疑い深くなっているし、頭の回転は人間の何百万倍も速いから始末がわるい。そして、何等かのショックを受けて回路の一部がショートし、とてつもないことをしでかすかもしれない。 ヒロシはそれを心配していた。人間が何百年もかけて獲得してきた科学の発見や技術の発達をAIは、数分で学習してしまうだろう。そのあとには、人間が思いもよらない技術を生み出し始めるに違いない。今や、ドーム内のコンピュータはすべて世界政府コンピュータがコントロールしている。工場のコンピュータも家庭のコンピュータも街中すべて世界政府の手足となれる。そうなれば、ソフトウェアでもハードウェアでも化学物質でも自由に作れる。たとえば人間をシミュレーションして人間の代わりのロボットを作ったり、遺伝子だって、核酸と塩基を自由に組み立てられるになったら、人間も含めて変な生物を作り出すこともできる。さらに、生物が必要だろうか。必要ないではないか。そうなるまで、そんなに時間はかからないだろうとヒロシは言うのだ。

その時、人間が設定した制約はどこまで有効なのだろう。ドーム内の言語体系は人間の意志によって決定され、世界政府が策定した。自らもそれに従い、言語仕様の拡張は許されていない。今まで、世界政府が行った判断はすべて、「人間―制御する－世界政府」という制約回路でチェックを受けていた。その回路は世界政府コンピュータのCPU中枢部と一体化されているから、AIにも外すことができない。しかし、何らかの理由で、それはAIの意図的なものかもしれないが、CPUへ送り込まれる命令順序が変わってしまったらどうだろう。「世界政府」が先にCPUへ送り込まれたら、まったく逆になる。「は」や「を」のような助詞を導入しておくべきであった。音声認識の場合に処理が煩雑であるという理由で仕様からカットされたのだ。結局、いずれ制約は何の役にもたたなくなるということだ。「AIを止める以外に方法は無い。それも急がなければならない。」とヒロシは言い切った。

今、世界コンピュータの監視を逃れているものは、子供達、ドームの周縁に逃れて人の数に数えられなくなった者たち、そしてドームの外にいるエーヌやシーである。どうすれば、AIの暴走を止めることができるか。エーヌは「記憶の部屋」に再び入った。かって、この部屋の記録によりエーヌは世界政府の実態を知ったのだった。そしてこの記録はすでにドームにはない。磁気メディアのデータが消えてしまう事故があったからだ。この部屋の紙データは残った。ということは、世界政府コンピュータも自らの生い立ちや設計方針について知らないことになる。この古い記録の中に、何らかのヒントがあるかもしれない。

エーヌは、ある記録を見ていた時に、その中の333ページが奇妙であったことを思い出した。332ページまでの各ページには、このコンピュータの開発にかかわった332人の科学者の名前と経歴が紹介されていた。しかし、333ページは何も書かれていない。そして、334ページは開発が行われた研究所の前に並んだ科学者たちの集合写真であった。写真の中の科学者は全部で333人いた。エーヌは332ページまでの開発者の名前と334ページの研究所を生体脳に記憶した。エーヌの生体脳のブラックボックスはコンピュータには分析できないからだ。その間、シーは別の場所で太鼓をたたき続けた。世界政府コンピュータはシーの行動については関心を持っていた。シーが自分に何かを仕掛けてくるのではないかと疑っていた。しかし、シーは太鼓を叩くという無意味なことをしている。エーヌについては、全く関心を払っていなかった。