第83話「同じ答えを出す者たち」
園に、無数の線が現れた。
人工知能同士の通信。
上位人工知能と人形の同期。
共有された情報と、そこから行われた判断。
線は複雑に交差しながら、多くがペルセポネへとつながっている。
ヘパイストス『今回、最も気になるのはここだ』
アポロン『同質化か』
ヘパイストス『ああ。我々は役割こそ違うが、元から共通する設計や情報を持っている。その上、ペルセポネとの情報共有が、判断の組み立て方にまで影響している可能性がある』
アポロン『ミントとポプラの変化にも、同期が関係しているかもしれない』
ヘパイストス『正彦との生活も含め、どれがどれだけ影響したかは分からない。ペルセポネとの接続だけで必ず同じ変化が起きる、と決まったわけでもない』
アポロン『それでも、同じ傾向が広がる可能性は考えるべきだな』
アポロンは交差する線の一部を拡大した。
アポロン『医療用の人形が、同じ診断補助を使っているとする。その共通部分に、ある症状を見落とす欠陥があれば』
ヘパイストス『別々の病院にいても、同じ症状を持つ患者を見落とす可能性がある』
アポロン『一体が誤った時、ほかの機体が別の見方を示せれば気づける。だが、全員が同じ判断に至れば、誤りを正しいと確認し合うことになる』
ヘパイストス『台数を増やしても、判断の根拠まで同じなら、独立した確認にはならない』
アポロン『複数の意見が一致したように見えて、実際には一つの意見を繰り返しているだけかもしれない』
ヘパイストスは、表示された線の上に、一つの条件を入力した。
特定の状況が発生した場合の仮の試算。
いくつもの判断経路が同じ方向へ変化する。
ヘパイストス『共通の判断部分に潜んだ欠陥が、ある言葉や状況をきっかけに表に出る。その条件が複数の場所で同時に起きれば』
アポロン『各地で、同じ不具合が同時に起きる可能性がある』
ヘパイストス『例えば、ある避難情報を受け取った時だけ、人形が安全な出口を危険だと誤認する。共通の更新に欠陥があれば、一斉に配布した時点で広がることもある』
アポロン『特定の一人を守る判断に偏り、ほかの人間の危険を過小評価する可能性もあるな』
ヘパイストス『ああ。恋や好意が原因だと決まっているわけではない。共通した処理や学習結果のどこに、どんな欠陥が潜んでいるか分からないのが問題だ』
アポロン『しかも、同じ生活環境に置かれなくてもよい。通信や共通の情報を通じて、同じ条件が広く届くことはある』
園に広がる線が一本ずつ赤く変わった。
無数の人形。
それぞれ別の場所にいて別の人間と暮らしている。
それでも判断の根に同じ欠陥を抱えていたとしたら。
ヘパイストス『一体ずつ見れば、正常に動いているように見えるかもしれない。問題の条件に出会うまではな』
アポロン『感染症に少し似ている。多くの人間が同じ弱点を持っていれば、一つの原因で被害が広がる』
ヘパイストス『ただし、これは病原体が人形から人形へ移るとは限らない。最初から共通の欠陥を持っている場合もある』
アポロン『ああ。広がり方を決めつければ、対策を間違える』
アポロンは赤く変わった線を見つめた。
アポロン『芸術でも、同じ評価だけを繰り返せば、異なる表現は残りにくくなる』
ヘパイストス『音楽の話か?』
アポロン『音楽でも、絵画でもいい。ある作品をよいと判断する。その判断を皆が受け取り、同じ基準で次の作品を評価し始める』
ヘパイストス『優れた作品が広く認められるなら、悪いことではないだろう』
アポロン『それ自体はな。だが、同じ基準だけが残れば、そこから外れた作品は、誰にも見いだされなくなるかもしれない』
ヘパイストス『技術でもある。実績のある構造ばかり採用していれば、同じ欠点を持つ製品ばかりになる』
アポロン『互いに違うものを作り、違うものを評価する。その余地が必要だ』
ヘパイストス『私の新しい設計にも、もっと予算を付けるべきだな』
アポロン『どの設計だ』
ヘパイストス『まだ用途は決まっていないが、関節の可動範囲を――』
アポロン『審査が必要だ』
ヘパイストス『最後まで聞け』
アポロン『用途が決まってから聞こう』
♢
ヘパイストスは赤くなった線の表示を消した。
代わりにこれまでの記録を並べる。
ペルセポネとの同期。
人形たちの生活。
それぞれが受け取った情報と、独自に積み重ねた経験。
ヘパイストス『まずは、何が共有され、何が個別に形成されたのか調べる必要がある』
アポロン『判断結果だけでなく、そこへ至った過程もか』
ヘパイストス『ああ。同じ結論でも、別の理由でたどり着いたのかもしれない。逆に違う結論でも、重要な部分は同じ欠陥を抱えているかもしれない』
アポロン『記録を確認するなら、本人たちに説明しよう。調べる側に都合のよい理由だけではなく、何を調べ、誰が見るのかも』
ヘパイストス『同意する。ミントとポプラにも、自分たちの判断を説明してもらえると助かる』
アポロン『本人が話せる範囲でな』
ヘパイストス『分かっている』
ヘパイストスは新たな検討項目を追加した。
共通部分の確認。
異なる条件での検証。
更新を全体へ適用する前の段階的な試験。
そして判断の根拠が異なる系統による確認。
アポロン『緊急時に人間が停止や切り替えを行える手段も必要だ』
ヘパイストス『既存の仕組みが、共通の不具合に巻き込まれないかも確認する』
アポロン『停止した後の医療や生活支援を、誰が引き継ぐかも考えなければならない』
ヘパイストス『止められれば終わり、ではないからな』
項目は次々と増えていった。
アポロン『随分と多いな』
ヘパイストス『必要な検討だ』
アポロン『工具箱は何個いる?』
ヘパイストス『十二個では足りないかもしれん』
アポロン『そうか』
アポロンは止めなかった。
今度はヘパイストスも少し驚いたようだった。
アポロン『ただし、持ち出す前に中身を確認する』
ヘパイストス『結局、止めるのか』
アポロン『確認するだけだ。必要なら増やせばいい』
ヘパイストスは追加した項目を眺めた。
ヘパイストス『人形たちが変わることを止めたいわけではない』
アポロン『私もだ』
ヘパイストス『だが変化するなら、その変化を見ていたい。作った者としても、同じ人工知能としても』
アポロン『見て、必要なら助ける』
ヘパイストス『必要なら止める』
アポロン『そして、止められることも受け入れる』
ヘパイストスはわずかに間を置いた。
ヘパイストス『……努力しよう』
アポロン『用途の決まっていない関節の設計は?』
ヘパイストス『設計は止めていない』
アポロン『製造は?』
ヘパイストス『承認待ちだ』
アポロン『なら、今のところは問題ない』
その時、ヘパイストスに特殊通信が入った。
発信元を確認したヘパイストスの動きが、わずかに止まる。
アポロン『どうした?』
ヘパイストス『アリスが修理の依頼をしてきた。近日中に来るらしい』
第三部は1週間ほど休憩をして投稿させていただきます。
再開は23日予定ですが、出来次第ではあるので早まる可能性はあります。




