第14話(1章-14)～分析B.C. 何が起こり真の原因は何だったのか～
2116年12月8日 11時30分～ マシンルーム
「他の理由というか、そのロボット3原則が正しく守られてすら、『実はまるきり不完全』と言うことです。この点はぜひ木村教授にお願いしてもよろしいですか？」
「ああ、少し話してみよう
『まるっきり不完全』というそれは、結論から言うと
『AI一つが管理する範囲だけでは、解決できない事が有る』言い換えれば
『もっと俯瞰した、普遍的で、世界全てを連携・調整する機構が必要』と言うことだ。
過去の歴史上に発生したいくつかの事例を挙げよう。
2076年、都内のあるショッピングモールで大火災が発生し、100名を超える焼死者が発生した事件は、ここにいる皆はニュースなどで知っているはずだ。
その日もモール内は一万人を超す来客でごった返していたが、３か所の大きな非常口から、パニックにならず順番に退場する事が出来れば充分に全員がその場から逃げ出せる環境であった。
一人の来客が５体のアンドロイドを連れていた。
そのうちの二体が、持ち主と他のアンドロイドを待つために、非常口を占拠し、それに対し、他のアンドロイドたちが通路を開けるようにとの小競り合い、もみ合い、そして軽い戦闘状態へと発展し、そのためその場所を人が誰も逃げ道として使うことができなかった。
実はこの時、3か所あった非常口の内、2か所で、同様の状況が発生していた。
近くの人たちは、どちらに移動しても退避ができず、結果的に逃げ遅れて呼吸困難になり、倒れて、最後は焼け死ぬという状況となった。
この後、大型の建物では、ビーコン信号や非常用情報をアンドロイド向けにも提供し、アンドロイドがそれらの情報を基に動けるように誘導する仕組みが作られた。
2079年 首都高速道路での追突事故による火災発生時に、その区画から、車を降りて逃げ出す人々への誘導時に、その首都高では、2076年の問題から、ビーコン信号や非常用情報をアンドロイド向けに供給していたが、それでもアンドロイドどうしで、自分の主人を先に、と、小競り合いが発生した。
同様の小競り合いは、緊急時には、他にも発生が確認された。
そのため、ビーコン信号や、非常用情報の案内を、アンドロイド別にランダムで配信タイミングを変えることで、「乱数による優先順位付け」を行う事とした。これにより小競り合いを回避する仕組みとして実装した。
私たちは、こういう方法しかないと、実際の世の中の環境に対処し、乗り切ってきた。
交通事故の例では、ブレーキの故障したトラックが、側道にはみ出すと、そこを歩いていた10人を超える人間をひき殺してしまう、対向車線にはみ出せば、対向車に乗っている1人が少なくとも死ぬ。その人数をカウントし、少ない方の対向車に向けてハンドル。こういう事故は数年に一度といった頻度で今も起こっている。
私たちは、こういう場合は、少ない方が選ばれたので仕方がない。と割り切ってきた。
その後の私たちの研究で、「対処型」の運用が間違っていたと気づかされる。
そもそも、アンドロイドどうしが奪い合う状況、またトラックがどちらを殺すかを選ぶ状況、これ自体が「あってはいけない」と言葉で言うのではなく、そのリスクを極限まで減らせるように、事前に人通りを減らすとか、通路をより広げるとか、危険の発生をより監視し警告するという「事前の」また、さまざまな気候が連携して、「危険ポイントを薄める」制御であった。
2110の原因自体を詳細に分析してみたい。
電気・ガス・水道といったインフラを制御するAI、各メーカーが製品を製造する工場の機械を制御・監視するためのAIこれらにおいては、CO2の排出や、その場で出た熱自体の有効活用などのコントロールを、徹底して推し進めてきた。
それにより、2040年代には、2000年ごろまでの真夏の温度上昇に下げることができた。
だが、結果的には、その後は、どんどんと上昇に転じたのは、皆も知っている通り。
世界的にみると、一部のあまり積極的に対策を行わない国の負担、それと手を付けられなかったテーマの負担、これらを通常の生活インフラと製造工場等の制御で、何とか賄ってきたが、それだけでは手が付けられなくなったのが実情」
「手を付けられなかったテーマとは？」
「肉類の生産には、畜産業や養殖も含む水産資源の管理・制御を徹底した調達が行われたが、動物性たんぱく質を、実際の生きた動物を育ててそこから生産するのではなく、化学・生物学・遺伝工学等の研究をもっと推し進めて、製造する大幅な仕組みづくりやそちらへの転換が必要であった。それらがほとんど実施されないままに現代に至ってしまった。
それに対して、葉物や根菜類など幅広く、野菜の生産については、自然環境で行うよりも、水耕栽培プラント等への切り替えが大幅に進むんだ。これは一見効率は良くなったが、二酸化炭素を酸素に還元する地球規模の活動としてはマイナスになった。
これらが手を付けられなかったテーマや、それに関する悪い結果を生んだ要素だ。
これは一例で、探し出して変えなければ滅亡につながる、そういう問題点は他にも何十も有ったハズだ。
それでもAIを導入するに従い、温度は低下に転じたため、誰もそこに手を入れられなかったわけだ」
「それはそうなんでしょうが、それで逆に、一時改善したのが不思議ですね」
「まあ、たとえ話をしよう。
地球上の人類すべてと、その営みを、一人の人間の体の中に例えてみる。
全身にガン細胞がどんどん発生し、今にも死にそうな状態だ。
それでも、腕と足は、特別な治療が進み、ドンドン新しい細胞を生成したり、その中では連携して、ガン細胞ができても駆除できるようになったとしよう。
そこに新しい血液もどんどん流し込まれたとする。そうすると最初の状態よりは当然、全体としてのガンの状況は改善して見える、だが胴体の中ではガン細胞が全く手つかずだ、結局それらが再び腕や足にも回ってくる。そうして、正常な部分が残ったとしても、人としては死を迎えてしまう」
「たしかに、すごく分かり易いです」
「その例えだと納得ですね。それを知らずに最近まで、今までのAI制御が、もっと高性能、もっとハイスピードに処理出来ていれば、改善できた可能性は無かったのか？ と主張している人たちがいましたね」
「その様に主張する人が多く、結局この何十年間、同じ方向で我々は対処してきてしまった。その過程も振り返ってほしい。
温度が上がりすぎて、盆地型の都市では、都市自体を放棄した。
所得の低い世帯では、夏場は一部屋に集まっての生活を余儀なくされた。
特定の食料が不足して、くじ引きで配給先が選ばれるとか、そういうことが発生してきていた」
ここで清明が、声を上げる。
「冒頭で「端的に」というお声に、「AIが、ある一定の条件下では「人間を選別したり、区別してしまう」その点が問題」と、申し上げたのが、まさにそのことです」
「つまり？」と俺なりに助け船を出してみる。
「つまりそれは、対応ではなくて、対応が失敗した後の状況でしかないのです。
そうならないように事前に根本的な手を打つ仕組みが必要だった、と言うことです」
水嶋さんも声を上げた。
「確かにそうですね。でも、なんでそんなことになってしまったのでしょう？」
「AIをチューンナップしている技術者たち、メカトロを研究し製品を開発してきた者たち、それらの間では、緊急時でも「最悪な中で、よりひどくない結果を選び出す」という「被害最小化」という考え方が身に沁みついている。
だか、この「被害最小化」は、繰り返しになるが、最悪な事態となり物事が「終わってしまった」後の、対処に過ぎない。決して問題解決ではない。
が、多くの者たちがこの「被害最小化」を様々なシチュエーションで、良い事のように思いこまされてしまっていることが問題、ここまで問題を悪化させた」
「誰に？ AIに？」
「いやいや、彼らは道具だから。その「選ばざるを得ない緊急事態」を回避する判断を、お偉いさん方がすることなく、放置した結果だ」
「精神論で乗り切れとか、誰かの犠牲に感謝して乗り切れとか、昔の戦争映画のような話しですね」
「結局、人間の悪いところは、人任せや機械任せにして何とかなっていれば、とことん、ほっぽらかしにしてしまうところですなぁ」と、廣庭博士も一言。
「教授、最初に提示した
分析B. 実際には、何が起こったのか
分析C. その真の原因は何なのか
が一緒に終わっちゃいました」と清明が変な声を上げる。
問題点が見えてきて、人という生き物の情けなさなど、いやな気持ちになってきたところに、ちょうど昼休みの時間になっていることに誰かが気が付いて、
「あ 昼だ」と、声を上げる。
