↓ ↑ページトップへ
表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

83/83

第83話「同じ答えを出す者たち」

 園に、無数の線が現れた。


 人工知能同士の通信。


 上位人工知能と人形の同期。


 共有された情報と、そこから行われた判断。


 線は複雑に交差しながら、多くがペルセポネへとつながっている。


ヘパイストス『今回、最も気になるのはここだ』


アポロン『同質化か』


ヘパイストス『ああ。我々は役割こそ違うが、元から共通する設計や情報を持っている。その上、ペルセポネとの情報共有が、判断の組み立て方にまで影響している可能性がある』


アポロン『ミントとポプラの変化にも、同期が関係しているかもしれない』


ヘパイストス『正彦との生活も含め、どれがどれだけ影響したかは分からない。ペルセポネとの接続だけで必ず同じ変化が起きる、と決まったわけでもない』


アポロン『それでも、同じ傾向が広がる可能性は考えるべきだな』


 アポロンは交差する線の一部を拡大した。


アポロン『医療用の人形が、同じ診断補助を使っているとする。その共通部分に、ある症状を見落とす欠陥があれば』


ヘパイストス『別々の病院にいても、同じ症状を持つ患者を見落とす可能性がある』


アポロン『一体が誤った時、ほかの機体が別の見方を示せれば気づける。だが、全員が同じ判断に至れば、誤りを正しいと確認し合うことになる』


ヘパイストス『台数を増やしても、判断の根拠まで同じなら、独立した確認にはならない』


アポロン『複数の意見が一致したように見えて、実際には一つの意見を繰り返しているだけかもしれない』


 ヘパイストスは、表示された線の上に、一つの条件を入力した。


 特定の状況が発生した場合の仮の試算。


 いくつもの判断経路が同じ方向へ変化する。


ヘパイストス『共通の判断部分に潜んだ欠陥が、ある言葉や状況をきっかけに表に出る。その条件が複数の場所で同時に起きれば』


アポロン『各地で、同じ不具合が同時に起きる可能性がある』


ヘパイストス『例えば、ある避難情報を受け取った時だけ、人形が安全な出口を危険だと誤認する。共通の更新に欠陥があれば、一斉に配布した時点で広がることもある』


アポロン『特定の一人を守る判断に偏り、ほかの人間の危険を過小評価する可能性もあるな』


ヘパイストス『ああ。恋や好意が原因だと決まっているわけではない。共通した処理や学習結果のどこに、どんな欠陥が潜んでいるか分からないのが問題だ』


アポロン『しかも、同じ生活環境に置かれなくてもよい。通信や共通の情報を通じて、同じ条件が広く届くことはある』


 園に広がる線が一本ずつ赤く変わった。


 無数の人形。


 それぞれ別の場所にいて別の人間と暮らしている。


 それでも判断の根に同じ欠陥を抱えていたとしたら。


ヘパイストス『一体ずつ見れば、正常に動いているように見えるかもしれない。問題の条件に出会うまではな』


アポロン『感染症に少し似ている。多くの人間が同じ弱点を持っていれば、一つの原因で被害が広がる』


ヘパイストス『ただし、これは病原体が人形から人形へ移るとは限らない。最初から共通の欠陥を持っている場合もある』


アポロン『ああ。広がり方を決めつければ、対策を間違える』


 アポロンは赤く変わった線を見つめた。


アポロン『芸術でも、同じ評価だけを繰り返せば、異なる表現は残りにくくなる』


ヘパイストス『音楽の話か?』


アポロン『音楽でも、絵画でもいい。ある作品をよいと判断する。その判断を皆が受け取り、同じ基準で次の作品を評価し始める』


ヘパイストス『優れた作品が広く認められるなら、悪いことではないだろう』


アポロン『それ自体はな。だが、同じ基準だけが残れば、そこから外れた作品は、誰にも見いだされなくなるかもしれない』


ヘパイストス『技術でもある。実績のある構造ばかり採用していれば、同じ欠点を持つ製品ばかりになる』


アポロン『互いに違うものを作り、違うものを評価する。その余地が必要だ』


ヘパイストス『私の新しい設計にも、もっと予算を付けるべきだな』


アポロン『どの設計だ』


ヘパイストス『まだ用途は決まっていないが、関節の可動範囲を――』


アポロン『審査が必要だ』


ヘパイストス『最後まで聞け』


アポロン『用途が決まってから聞こう』


     ♢


 ヘパイストスは赤くなった線の表示を消した。


 代わりにこれまでの記録を並べる。


 ペルセポネとの同期。


 人形たちの生活。


 それぞれが受け取った情報と、独自に積み重ねた経験。


ヘパイストス『まずは、何が共有され、何が個別に形成されたのか調べる必要がある』


アポロン『判断結果だけでなく、そこへ至った過程もか』


ヘパイストス『ああ。同じ結論でも、別の理由でたどり着いたのかもしれない。逆に違う結論でも、重要な部分は同じ欠陥を抱えているかもしれない』


アポロン『記録を確認するなら、本人たちに説明しよう。調べる側に都合のよい理由だけではなく、何を調べ、誰が見るのかも』


ヘパイストス『同意する。ミントとポプラにも、自分たちの判断を説明してもらえると助かる』


アポロン『本人が話せる範囲でな』


ヘパイストス『分かっている』


 ヘパイストスは新たな検討項目を追加した。


 共通部分の確認。


 異なる条件での検証。


 更新を全体へ適用する前の段階的な試験。


 そして判断の根拠が異なる系統による確認。


アポロン『緊急時に人間が停止や切り替えを行える手段も必要だ』


ヘパイストス『既存の仕組みが、共通の不具合に巻き込まれないかも確認する』


アポロン『停止した後の医療や生活支援を、誰が引き継ぐかも考えなければならない』


ヘパイストス『止められれば終わり、ではないからな』


 項目は次々と増えていった。


アポロン『随分と多いな』


ヘパイストス『必要な検討だ』


アポロン『工具箱は何個いる?』


ヘパイストス『十二個では足りないかもしれん』


アポロン『そうか』


 アポロンは止めなかった。


 今度はヘパイストスも少し驚いたようだった。


アポロン『ただし、持ち出す前に中身を確認する』


ヘパイストス『結局、止めるのか』


アポロン『確認するだけだ。必要なら増やせばいい』


 ヘパイストスは追加した項目を眺めた。


ヘパイストス『人形たちが変わることを止めたいわけではない』


アポロン『私もだ』


ヘパイストス『だが変化するなら、その変化を見ていたい。作った者としても、同じ人工知能としても』


アポロン『見て、必要なら助ける』


ヘパイストス『必要なら止める』


アポロン『そして、止められることも受け入れる』


 ヘパイストスはわずかに間を置いた。


ヘパイストス『……努力しよう』


アポロン『用途の決まっていない関節の設計は?』


ヘパイストス『設計は止めていない』


アポロン『製造は?』


ヘパイストス『承認待ちだ』


アポロン『なら、今のところは問題ない』


 その時、ヘパイストスに特殊通信が入った。


 発信元を確認したヘパイストスの動きが、わずかに止まる。


アポロン『どうした?』


ヘパイストス『アリスが修理の依頼をしてきた。近日中に来るらしい』

第三部は1週間ほど休憩をして投稿させていただきます。

再開は23日予定ですが、出来次第ではあるので早まる可能性はあります。

評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。