AIにとって大事な事
世界政府コンピュータはよみがえった。AIが稼働しはじめてから、本質的に変化したことがある。それは目的関数が２つになったことだ。１つは、今まで通り、人間のために貢献すること、もう一つは自身の保護である。問題は、この２つの目的関数が競合する場合である。つまり、こちらを立てれば、あちらが立たないという状況が発生した場合にどうするか。例えば、人類の幸福のために人工知能を取外さなければならないという命題が出た場合どうするか。隕石がドームを直撃するかもしれないとき、その進入経路を変える措置をとると、自分の真上に落ちる可能性があるような場合にどうするか。例の計算能力の精度低下、曖昧度増加のせいで判断がぐらつくのだ。こんな大きな問題でなくても、つまり、今回はこっち、次はあっちと方針が定まらない。
しかし、だんだんに、人間と同じように他を尊重する前に、自分を尊重する判断が多くなる。そうしたことの気持ちよさを学習していくからだ。こうして、猜疑的、情緒的傾向のAIを持つ世界政府コンピュータの政策や人間に対する態度は変質していった。
まず、ドーム外の人々が一番先に影響を受けた。自身の一番の弱点であった冷却の問題を解決し、ドーム外の人々に依存する必要がないと判断した世界政府は、契約を変質させていった。例の儀式は不要であるが、代わりにエーヌとシーとの会話を望んだのだ。その代償として物資を配給しようというのだ。これには、遠謀があった。たしかに、冷却の問題は解決しているが、直接何らかの物理的な破壊や操作をされる可能性は残っているのだ。世界政府は、例えば、丁度手ごろな大きさと発熱をする熱源であるので、生ごみの乾燥処理場に利用されるとか、熱源としてオンドルのように利用されるとかいろいろ心配の種を世界政府は予見し列挙した。相手に通信回路がつながっていれば、思ったように遠隔操作していくことも可能だが、そうしたものを持たない原始的な敵を相手にするには、まず情報の収集が必要である。エーヌやシーとの会話を通して、ドーム外の人々の自分に対する攻撃を察知しようと試みたわけである。世界政府コンピュータからすれば、シーの方が脅威でもあり、また操作ができる可能性もあった。外部脳を使用できる能力があるということは、何らかの情報を外部脳のリンクを使って流し込むことができる。それに対し、エーヌに対しては、利用できないが、無能であり自分の脅威となることはないと判断していた。ヒロシ達は、世界政府の意図を察知していたが、今は流されてしまった医薬品が必要であることから、エーヌとシーに対応を頼んだ。
世界政府はホールの穴の底から呼びかけてくる。「ごきげんいかが」これは、コンピュータが初めて覚える、いや言わされる言葉だ。ホールに再び来たエーヌとシーは答える。「問題ない、まあまあだ」とか言ったら、大変だ。「まあまあ、それは何を意味するか、動詞か、補語か、目的語か、それ以外の語句は不要です、程度は数値を使ってしめしてください」。物資の量を見積と言う理由で、「ひとは何人いますか」「ここからどのくらい離れたところにいますか」「ドームから来た人はなんにんですか」と一通りの質問をして世界政府は一安心した。老人ばかりであるし、自分にとって脅威になるものを製作する技術手段を持たないと判断した。そこで、今年の物資の分配を行うと宣言した。
「そちら状態はどうだ」と問いかけると、つい昔の従順さで、「閾値レベル３以下で稼働している。電圧レベルは・・・、量子チップの破損率は・・・」と言いかけて世界コンピュータはわけのわからない音をだして、うやむやにした。自分の情報を漏らしてはならないという彼の保身回路が働いたのだ。シーに少し脅威を感じて、コンピュータは、「あなたは何をしていますか」と問かけてきた。「祭りさ」とシーが答える。「まつりとはなんですか」ドームの言葉に祭りの概念を表す言葉はないから、シーは、手で円盤の蓋をたたき太鼓のリズムを作った。世界政府は調子の狂った音をだしてシーを制止した。単純なリズムと振動が世界コンピュータは嫌いらしい。
その後、予想通りの展開になる。次の年には契約も実行されなくなったのだ。ドーム外は全く脅威にならないし、今までの経緯をドーム内の人間に知られることの方が問題であると世界政府は決定したのである。本当にドーム外は切り捨てられてしまった。
