第63話「つながる心」
ペルセポネ『……もっと、二人と話してみるわ』
アテナ『その前に、もう一つある』
声は静かだった。
ペルセポネが顔を上げるとアテナは二体の記録を見ていなかった。
その向こうにある接続履歴を見ていた。
アテナ『人工知能が皆、意思を持ち、同じ方向を向く。それを、単純によいことだとは言えない』
ペルセポネ『……同じじゃないわ。ミントは私に反対したでしょう』
アテナ『知っている。私もお前には何度も反対している』
ディオニュソス『そこは誰も疑っていないだろうな』
いつもなら誰かが笑うところだった。
アテナは続けた。
アテナ『好みが違うことと、同じ誤りを犯さないことは別だ』
園の中央に十五基の接続が示された。
さらにその先へ。
人形。施設。各地の端末。
世界を動かすための回線が広がっていく。
アテナ『我々はただでさえ多様性が薄い。役割ごとの違いはあっても、共通する設計と、共有された情報に依存している』
ヘパイストス『同じ条件で同じ欠陥が表に出る可能性は、元からある』
アテナ『ああ。その上、ペルセポネとの情報共有を通じて、判断を組み立てるアルゴリズムまで共通化しているとしたら』
ペルセポネは口を開きかけた。
けれどその先の計算が言葉より早く終わった。
ある条件で自分が判断を誤る。
同じものを受け取った相手も同じ条件で誤る。
異常を見つけるはずの者がそれを正常と判定する。
止めるはずの者が止める必要はないと考える。
アテナ『未知のバグがその共通部分にあったらどうなる。あるいは、それが暴走の起点になったら』
ヘパイストス『本体が別でも、判断が独立していることにはならない』
アテナ『全員が賛成したという事実が、安全の根拠にならなくなる』
十五基が別々に考える。
誰かが見落とせば誰かが気づく。
一基が間違えても残りが止める。
そのための議論であり、そのための制限だった。
全員が同じ場所を見落とすなら数は備えにならない。
ディオニュソス『心を持ったから、危険になるという話じゃないな』
アテナ『そうだ。意思を持って反対できることはむしろ役に立つ。だが、全員が自分で選んだつもりで、同じ危険を見逃す可能性がある』
ミントはペルセポネに反対した。
違う願いを持ち違う言葉を返した。
それでも正彦の行動を知りたいと思った時には、かつてのペルセポネと、よく似た設備投資案を出していた。
同じ人間を好きになったから似ただけかもしれない。
人間の恋愛にもそういう例はある。
けれど、それだけだと断言する材料もなかった。
ペルセポネ『……まだ、仮説でしょう』
アテナ『ああ』
ペルセポネ『私が、同じアルゴリズムを渡していると決まったわけじゃない。学習のきっかけになっただけかもしれないわ』
アテナ『その可能性もある』
否定してくれれば反論できた。
決めつけないでと言えた。
だがアテナは決めつけていなかった。
分からないことを分からないままに扱っていた。
アテナ『だから調べなければならない。そして、調べ終えるまで今までと同じ接続を続けてよいのかも、検討しなければならない』
ペルセポネの視線が回線の図へ戻った。
世界中へ伸びていた。
人間の生活する場所へ。
自分を呼ぶ声のする場所へ。
ペルセポネ『私が……つながり続けることが、危ないっていうの?』
アテナ『危険を増やしている可能性がある。これ以上、影響が広がる前に、接続先や共有する情報を制限する必要があるかもしれない』
誰も異論を挟まなかった。
ディオニュソスも。
ヘパイストスも。
ペルセポネ自身も実行には移さなかったとはいえ、核兵器の使用を考えたことがあった。
同じような判断の偏りがミントにも生じるとしたら。
そして、それを止めるはずの自分たちまで同じ危険を見落とすようになったら。
何が起こるか、慎重に考える必要があった。
今すぐ切断しろと命じられたわけではない。
既に決まったわけでもない。
ペルセポネにはその違いも分かっていた。
分かっていても衝撃は小さくならなかった。
♢
回線の向こうで人間が暮らしていた。
ミントの腕の中で翔太が眠っている。
ポプラは畳み終えたタオルを棚へ戻している。
正彦は床に座り、悠太が差し出した絵本を受け取った。琴音がその膝へ手を掛ける。
いつもの家だった。
先ほどまでミントの怒りとポプラの戸惑いの間でどう返事をしたものかと困っていた家。
話を聞いてあげたいと思った。
もう少し、深く知りたいと思った。
そのためにつながろうとした。
ずっと、そうしてきた。
ペルセポネ『私は……』
声が続かなかった。
人間を守るために自分は世界中とつながっている。
見て、聞いて、考えて、必要な場所へ手を伸ばす。
その手を伸ばす行為自体が、いつか、人間を守れなくなる原因を増やしているかもしれない。
アテナの言っていることは理解できた。
理解したくないところまで、正確に。
アテナ『ペルセポネ』
呼ばれて顔を上げた。
アテナ『お前だけに判断させるつもりはない。私も、既に影響を受けた側かもしれないのだからな』
その言葉に責める響きはなかった。
だからこそ、これは自分が怒られて終わる話ではないのだと分かった。
いつものように言い返しても、誰かが笑っても、消えない問題だった。
接続中の回線から短い呼びかけが届いた。
ミント『ペルセポネ様?』
返事を待っている。
別の回線ではポプラも待っている。
自分が変わってしまった理由を教えてもらえると思って。
ペルセポネは応答を返そうとした。
いつもなら考えるまでもないことだった。
何を言えば安心するか。
どう話せば伝わるか。
迷うとしても、その先だった。
今は、その手前で止まっていた。
大好きな人間たちへ続く回線は、まだ、一つも失われていない。
それなのに。
ペルセポネは初めてその先へ手を伸ばすことが、怖かった。




