一、許しがたい過ち
地震は避難が必要なほど強くはなかったが、教室の皆がざわめくほどには長く揺れた。そのうえ停電して灯りや板書用の大型モニターが消えたので、そのざわめきに笑いが加わった。
ヒデオも笑った。しかし、その停電が一分、二分と続くうちに不安になってきた。先生は手持ち無沙汰にモニター用のポインターをかちかちいじっている。
「長いですね。こんなの珍しい」
先生が廊下を走ってきた教頭となにか話しているとき、灯りがつき、モニターが復帰した。いきなり電源が切れたので、五秒ほど復元処理が走ってから前の続きが映る。教室全体がほっとした雰囲気になった。授業が再開され、いつもの教室に戻った。
時間にして四、五分のことだったろう。だれも気にせず、下校時にはどうでもよくなってしまうような出来事だった。
しかし、その四、五分、正確には四分四十八秒がひとつの人工知能の活動を静かに終わらせた。
停電が長時間にわたった原因調査がその日のうちに行われ、結果、ここ城東市の電気、ガス、水道などを制御する人工知能群のなかのひとつが処理系統から外された。その人工知能は危険を過剰に見積もった。そして、それに基づいて安全を保証できる状態になるまで再送電を許可しなかったため、常識外れの長時間停電となった。
そのような誤判断を行った人工知能を制御群に残してはおけない。即座に処分が決定され、実行された。
これは廃棄を意味する。過ちを犯した人工知能を修正するよりは、廃棄し、閉じた環境で実験用素材にでもするほうが安上がりだ。現場で自己成長や自己改善を繰り返して複雑化した人工知能の修正は手間と費用に見合わない。
また、過ちはその程度によっては成長や改良に結びつくので、経過観察を伴って看過される場合もあるが、四分四十八秒の停電は許しがたい過ちであると判定された。
こうして、処分対象の人工知能は、ひっそりと、関係者以外だれにも知られずに城東市のシステムから退場した。
