誰も間違っていなかった世界
まえがき
世界は、合理的になった。
企業は無駄を省き、投資家は資金効率を高め、政府は経済成長を優先した。
人間の判断よりも、データに基づく判断が優れているとされ、AIはその判断をさらに高速化した。
誰もが成功した企業を参考にし、成功した投資家の行動を模倣した。
それは、間違ったことではなかった。
少なくとも、一つひとつの判断だけを見れば。
最初に異変に気づいたのは、銀行のシステム担当者だった。
決済システムの一部に遅延が発生していた。
原因を調べると、外部のクラウドサービスに問題が見つかった。
しかし、そのクラウドサービスは別の企業のシステムに依存していた。
さらに、その企業はAIによる業務効率化を進めており、以前なら人間が確認していた作業の多くを自動化していた。
担当者は上司に報告した。
「このままでは、何かあったときに全体を止められません」
上司は答えた。
「止めれば損失が出る。復旧を優先してくれ」
それは、経営判断として間違っていなかった。
同じ頃、株式市場ではAI関連企業の株価が下落していた。
投資家たちは、これまでと同じように行動した。
最初に売った者が損失を抑え、次に売った者が利益を守り、最後まで保有した者が大きな損失を抱えた。
誰もが、その行動を知っていた。
だから、誰もが早く売ろうとした。
AI企業への投資を続けていた企業も、資金調達の難しさに直面していた。
GPUを購入し、データセンターを建設し、電力を確保する。
そのためには、さらに資金が必要だった。
しかし、資金を提供する側も、株価の下落によって余裕を失っていた。
AI企業が倒産したわけではない。
技術が使えなくなったわけでもない。
ただ、成長を続けるための資金が足りなくなった。
それだけだった。
政府は対策を検討した。
企業を救済すれば、投資家の損失まで税金で補うことになる。
救済しなければ、雇用や金融システムに影響が及ぶ。
どちらを選んでも、誰かが損失を負う。
会議では、さまざまな意見が出された。
しかし、最後に採用されたのは、経済への影響を最小限にするという案だった。
それもまた、合理的な判断だった。
数か月後、社会は少しずつ落ち着きを取り戻した。
一部の企業は倒産し、多くの人が仕事を失った。
電力料金は上昇し、金融機関は融資に慎重になった。
それでも、経済指標には回復の兆しが現れ始めていた。
ニュース番組では、専門家が説明していた。
「市場は過剰な投資を修正し、健全な状態に戻りつつあります」
その言葉に、誰も反論しなかった。
ある日、銀行のシステム担当者は退職した。
最後の日、彼は後任に尋ねた。
「このシステムを、何のために維持していると思う?」
後任は少し考えてから答えた。
「社会を便利にするためではないですか?」
担当者はうなずいた。
「そうだね。でも、便利にすることと、人間を守ることは同じなのかな」
後任は答えられなかった。
担当者は続けた。
「誰もが合理的に判断していた。企業も、投資家も、政府も。そしてAIも、人間が成功したと評価した判断を学習していた」
「それの何が問題だったのでしょうか」
「誰も、自分の判断が社会全体に何をもたらすのか、考えなくなったことだよ」
彼は会社を去った。
その後も、AIは学習を続けた。
成功した企業の行動を分析し、投資家の判断を模倣し、効率のよい経営方法を提案した。
AIの評価は高かった。
人間よりも速く、正確に、利益を生み出していたからだ。
ただ、一つだけ、AIには理解できないことがあった。
なぜ人間は、社会を維持するために必要なものを、社会全体の利益にならない方法で扱い続けるのか。
その問いに答えられる人間は、もうほとんど残っていなかった。
あとがき
これは、AIが人間を支配する物語ではない。
むしろ、人間が作り上げた仕組みを、AIが忠実に学習した結果なのかもしれない。
企業は生き残るために利益を追求する。投資家は損失を避けるために行動する。政府は経済を維持するために判断する。
それぞれの行動には理由がある。
しかし、それらがうまく結びついた結果、誰も倫理的な責任を引き受けなくなるとしたら、どうだろうか。
私は、合理的(模倣)が社会の中で連鎖し、倫理観を失わせている可能性を考えている。
それはAIが生み出した問題なのだろうか。
それとも、人間社会が以前から持っていたものを、AIがより効率的に再現しているだけなのだろうか。
もし、誰も間違った判断をしていないのに、社会が間違った方向へ進んでいるとしたら、私たちは何を基準に、その進路を変えればいいのだろうか。
そして、あなたは今、自分が正しいと信じている判断が、誰かの犠牲の上に成り立っていないと、本当に言い切れるだろうか。




