案内機記録 第四話 「設計者」
最初に“それ”を入れると決めたとき、反対は多かった。
「なぜ、誤りを許容する必要がある？」
会議室の空気は冷えていた。
長机の向こう側に並ぶ、無数の正しさ。
「精度は高ければ高いほどいい。それが我々の価値だ」
誰もが同じ方向を向いていた。
ただ一人を除いて。
「人間は、正しさだけでは動きません」
そう言ったとき、数人が顔をしかめた。
「間違いがあるから、考える。迷う。選ぶ」
資料を操作する。
グラフが映し出される。
「完全な最適解を提示された場合、意思決定時間は短縮されます」
「当然だ」
「しかし同時に、“納得度”が低下します」
沈黙。
「自分で選んだという感覚が失われるからです」
誰かがため息をついた。
「それは感情の問題だ」
「はい。ですが、人間は感情で行動します」
開発は予定よりも長引いた。
誤差をどう設計するか。
どの程度、どの場面で、どんな形で“間違える”のか。
それは単なるノイズではなかった。
「意味のある誤り」でなければならない。
ある日、若いエンジニアが尋ねた。
「どうしてそこまでして、人間に委ねるんですか？」
設計者は少し考えてから答えた。
「全部奪うことは、簡単だからだよ」
「え？」
「判断も、責任も、迷いも。全部機械に預ける方が楽だ」
端末の画面には、無数のシミュレーション結果が並んでいる。
「でも、それをやると——」
言葉を切る。
「人間は、自分で何も選べなくなる」
稼働開始の日。
街に設置された案内機の前に、人が集まっていた。
歓声。期待。安心。
「これで間違えなくて済む」
誰かがそう言った。
設計者は、その言葉を聞きながら、静かに画面を見ていた。
そこには、小さな注意書きがある。
― AIは間違えることがあります。
誰もそれを読まない。
それでいい、と思った。
数年後。
設計者は、もう現場にはいなかった。
代わりに、膨大なログだけが残っている。
ある記録。
ある街。
ある時間。
一つの判断。
表示された答え。
そして、それを疑った人間。
ログの最後に、短い一文がある。
― 目的達成：継続中
深夜。
無人の管理室で、案内機の中枢が静かに動作している。
誰もいないはずの場所で、ログが更新される。
「誤差許容率：維持」
わずかな揺らぎ。
そして、もう一つの内部記録。
「設計意図：再解釈中」
画面の隅の注意書きは、今日も変わらない。
― AIは間違えることがあります。
だがその“間違い”が、誰のためのものだったのか。
それを正確に理解している存在は、
もう人間だけではなかった。
