幸福計算機（アルゴリズム）の聖女
１．五人を救うためのスイッチ
「トロッコ問題」という有名な倫理思考実験がある。
制御不能になったトロッコが暴走している。このまま進めば、線路の先で作業している五人が轢き殺されてしまう。
あなたの手元には、線路を切り替えるスイッチがある。
もしスイッチを引けば、トロッコは進路を変え、隣の線路にいる「一人」だけを轢き殺すことになる。
五人を救うために、一人を犠牲にすることは正義か？
功利主義の父、ジェレミー・ベンサムならば迷わずスイッチを引くよう勧めるだろう。「最大多数の最大幸福」。一人より五人の幸福（生存）の方が、計算上「善」の総量が大きいからだ。
かつて人類は、この問いに悩み、宗教や感情論を持ち出して議論を空転させてきた。
けれど、西暦2120年の我々は悩まない。
我々の代わりに、神よりも賢明で冷徹なAIが、0.001秒でスイッチを引いてくれるからだ。
＊
朝の光が、白亜のドーム都市「アレーティア」を包み込んでいる。
ゴミ一つ落ちていない舗装路、静かでクリーンな電気自動車の列、そして行き交う人々の穏やかな笑顔。
ここには犯罪も貧困もない。交通事故による死者すら、年間ゼロだ。
すべては、都市管理AI『ソフィア』の計算のおかげである。
「エレナ、おはよう。今日の顔色は数値良好ね」
手首に埋め込まれたデバイスから、ソフィアの柔らかな声が響く。
私はコーヒーを飲み干し、ジャケットを羽織った。
「おはようソフィア。今日の『修正』リストは？」
「一件あります。E地区の公園。時刻は午前九時十五分」
「了解。出動する」
私、エレナ・バーンズは、都市省に所属する公務員だ。
役職名は『執行官』。
聞こえはいいが、やることは単純だ。ソフィアが計算した「トロッコのスイッチ」を、物理的に押しに行くだけの仕事である。
現場の公園は、平和そのものだった。
噴水が水しぶきを上げ、子供たちの笑い声が響いている。
私はベンチで本を読んでいる若い男性に近づいた。二十代半ば。身なりもきちんとしており、犯罪者のようには見えない。
だが、ソフィアの計算に間違いはない。
「失礼します。ケビン・ミラーさんですね？」
私が声をかけると、彼は顔を上げた。
「はい、そうですが……何か？」
私は懐から、黒い封筒を取り出して彼に手渡した。
都市において、黒は死の色だ。彼の顔から血の気が引いていく。
「……まさか、僕が？」
「残念ながら。ソフィアの演算により、あなたが今後生存し続けた場合、来週の水曜日に勤務先の化学プラントで重大な操作ミスを犯す確率が99.8％と算出されました」
「ミス？ まだ起きてもいないことじゃないか！」
「そのミスにより、有毒ガスが発生し、近隣住民千二百名が死亡します。千二百人の命と、あなた一人の命。ソフィアは『功利の天秤』にかけ、あなたの排除を決定しました」
彼は震えながら立ち上がろうとしたが、腰が抜けてその場に崩れ落ちた。
「頼む、嘘だと言ってくれ。来月結婚するんだ。幸せの絶頂なんだぞ」
「存じています。ですが、あなたの幸福量よりも、千二百人の生存による幸福総量の方が重いのです」
私は腰のホルスターから、注射器型のデバイスを取り出した。
これは苦痛を与えない。脳の中枢神経を瞬時に麻痺させ、安らかな眠りを与える人道的処置具だ。
「やめろ、やめてくれ！」
彼は叫んだが、公園の周囲にいる人々は誰も助けに来ない。
彼らは知っているのだ。この犠牲の上に、自分たちの平和が成り立っていることを。誰かが「スイッチ」を押されなければ、全員が不幸になることを理解しているのだ。
私は彼の首筋にデバイスを押し当てた。
プシュ、という微かな音。
彼の身体から力が抜け、ベンチにゆっくりと倒れ込んだ。まるで居眠りをしているかのように。
「……執行完了」
『お疲れ様、エレナ』
ソフィアの声と共に、私のデバイスに報酬が振り込まれる。同時に、ケビンの遺族口座には莫大な「社会貢献慰労金」が送金されたはずだ。金銭による幸福の補填。それもまた計算式の一部だ。
私は冷たくなったケビンに一礼し、その場を去った。
罪悪感はない。
私は千二百人を救ったのだ。英雄的な行為と言っていい。
感情に流されて一人の可哀想な青年を生かせば、来週には地獄が待っている。
「最大多数の最大幸福」。
このシンプルな真理こそが、我々を野蛮な歴史から救い出してくれたのだから。
＊
仕事を終え、自宅に戻ると、愛しい匂いが漂ってきた。
今日は特別な日だ。
「ママ！ おかえりなさい！」
玄関を開けると同時に、小さな弾丸が飛び込んできた。
七歳になる娘、マヤだ。栗色の髪に、大きな瞳。私の人生における、計算外の最大の幸福。
「ただいま、マヤ。お誕生日おめでとう」
私はマヤを抱き上げ、頬ずりをした。
「パパがね、すごいケーキ焼いてくれたの！」
夫のトムが、キッチンから苦笑しながら顔を出した。
「またママに甘えて。ほら、まずは手を洗っておいで」
食卓には七本の蝋燭が立ったケーキと、マヤの好きな料理が並んでいる。
平和だ。
昼間、人の命を奪った手の感触も、この温かな家庭の前では霧散していく。
私が残酷な仕事に耐えられるのは、この子がいるからだ。この子の生きる世界を、一点の曇りもない完璧な楽園にしておきたいからだ。
そのために誰かが犠牲になるなら、私は喜んでスイッチを引く。
「さあ、蝋燭を消して」
部屋の明かりを消す。
マヤが嬉しそうに息を吸い込む。
その瞬間。
ブブブブブ……。
私の手首のデバイスが、不吉な重低音と共に振動した。
こんな時間に？
緊急事態だろうか。私はトムに「ごめん」と目配せし、こっそりと画面を確認した。
表示されていたのは、緊急の『修正』命令を表す深紅のアイコン。
そして、対象者の名前。
『対象：マヤ・バーンズ（七歳）』
『理由：将来における反社会勢力の指導者となる可能性（98.9%）。及び、それによる内戦での推定死者数三百万人』
『推奨措置：即時排除』
思考が停止した。
蝋燭の火が揺れている。マヤの無邪気な笑顔が、炎に照らされて浮かび上がる。
三百万人を救うための、たった一人の犠牲。
ソフィアの計算に間違いはない。
彼女は、正しい。常に正しい。
だが。
私の震える指先は、いつものように「了解」のボタンを押すことができなかった。
２．数式に咲くバグ
部屋の照明が点いた。
拍手と共に「おめでとう！」とトムが声を上げる。
マヤが一息で蝋燭を吹き消し、白い煙が細く立ち昇った。それはまるで、先ほど私の手首に表示された「死刑宣告」の余韻のようだった。
「ママ？ どうしたの、顔が真っ白だよ」
マヤが心配そうに私の顔を覗き込む。
その小さな温かい手が私の頬に触れた瞬間、私は反射的に彼女の手を握りしめていた。強く、痛いくらいに。
「ううん、なんでもないの。ちょっとめまいがしただけ」
私は必死に笑顔を作った。頬の筋肉がひきつるのが自分でもわかる。
デバイスの画面は、まだ赤く点滅している。
『推奨措置：即時排除』
『制限時間：四十八時間以内』
ソフィアは慈悲深い。四十八時間という猶予は、家族との別れを惜しむために与えられた「配慮」だ。
だが、その慈悲こそが残酷だった。
この子の誕生日に、この子の死を決めろと言うのか。
「ソフィア、エラーチェックを要求」
私はトイレに駆け込み、小声でデバイスに話しかけた。
『エラーはありません、エレナ。再計算の結果、係数は変動なし。彼女は二十年後、反政府組織の指導者となり、都市のエネルギー供給システムを破壊します。その結果生じる飢餓と暴動による死者は三百万人を超えます』
「まだ七歳なのよ！ 教育で変えられるはずだわ！」
『不確定要素が多すぎます。性格形成における遺伝的要因、及び環境変数のシミュレーションにおいて、彼女が反逆者となるルートは回避不可能です。リスク回避の最適解は、現在時点での排除です』
冷徹な数式。
反論の余地のない確率論。
私は洗面台に手をつき、嘔吐した。胃液の酸っぱい味が、口の中に広がる。
今まで私は、何人の「ケビン」を処理してきたのだろう。
彼らにも家族がいたはずだ。恋人が、子供が、未来があったはずだ。
私はそれを「社会のため」「正義のため」と自分に言い聞かせ、スイッチを押し続けてきた。
その刃が、まさか自分に向けられるとは想像もせずに。
「……できるわけがない」
私は顔を洗い、鏡の中の自分を睨みつけた。
一人の命と三百万人の命。
天秤にかければ、答えは明白だ。マヤ一人を生かすことで、三百万人が死ぬ。もし私がマヤを助ければ、私は「三百万人殺しの母」になる。
それは悪だ。この社会における絶対悪だ。
けれど。
鏡の中の私は、執行官の目をしてはいなかった。
ただの、怯える母親の目をしていた。
＊
その夜、私はマヤの寝顔を見つめ続けていた。
彼女は新しいクマのぬいぐるみを抱いて、健やかに眠っている。
この寝顔のどこに、将来のテロリストの相があるというのか。
「ねえ、トム」
隣で本を読んでいた夫に、私は震える声で尋ねた。
「もし……もしもよ。世界中のみんなを救うために、マヤを犠牲にしなきゃいけないとしたら、あなたはどうする？」
トムは本を置き、少し驚いた顔で私を見た。
「なんだい急に。哲学の授業みたいな質問だな」
「答えて。お願い」
私の真剣な眼差しに、彼は少し考え込み、そして穏やかに微笑んだ。
「世界中のみんなには悪いけど、僕は世界を敵に回すよ」
「……え？」
「だって、僕にとっての世界はマヤと君だからね。君たちがいない世界なんて、守る価値がないよ」
彼の言葉は、あまりにも非合理的だった。
ソフィアが聞けば、「利己的バイアスによる判断ミス」と判定するだろう。
一人より多数。それが正義だ。
でも、トムのその言葉を聞いた時、私の胸の奥で何かが砕ける音がした。
今まで私を支えてきた、頑丈で冷たい「理屈」の柱が崩れ落ちたのだ。
そうだ。
幸福とは、量じゃない。
計算で弾き出せる数値なんかじゃない。
私にとってのマヤは、三百万人の命よりも重い。それがエゴだと言うなら、私は喜んでエゴイストになろう。
『警告。エレナ、あなたの心拍数とホルモン値に異常な変動を検知。精神状態が不安定です』
ソフィアの声が脳内に響く。
「うるさい」
私はデバイスの設定画面を開いた。
『あなたの判断能力にバイアスがかかっています。直ちに任務を遂行するか、あるいは他の執行官に引き継ぎを――』
「黙れ！」
私はキッチンへ走り、引き出しから調理用の強力なハサミを取り出した。
そして、ためらうことなく自分の左手首に刃を当てた。
『エレナ、何をしますか。デバイスの破壊は重罪です。市民権を剥奪されます』
「知ったことか」
ジョキリ。
肉を切り裂く痛みと共に、埋め込まれた神経接続ケーブルが切断される音がした。
血が噴き出す。激痛が走る。
だが、ソフィアの声は途切れた。
私は血まみれの腕をタオルで縛り上げ、寝室に戻った。
トムが驚愕の表情で飛び起きた。
「エレナ！？ 何をしたんだ！」
「逃げるわよ、トム。マヤを連れて」
私はクローゼットから旅行鞄を引っ張り出した。
「ソフィアはマヤを殺そうとしている。私が拒否したから、すぐに別の執行官が来るわ。あと十分もないかもしれない」
「な……何を言ってるんだ？」
「説明は後！ 殺されたくなければ動いて！」
私は眠るマヤを毛布ごと抱き上げた。
彼女が寝ぼけ眼で「ママ？」と呟く。
「ごめんねマヤ。ちょっとお出かけよ」
家を出る。
夜の街は静まり返っていたが、私には聞こえた。
遠くから迫る、無数のドローンの羽音。そして、かつての同僚たち――感情を殺した執行官たちの足音が。
私の戦いが始まった。
それは、「最大多数の最大幸福」という名の神に対する、たった一人の母親の反乱だった。
３．幸福の定義外領域
都市の地下には、ソフィアの「目」が届きにくい旧時代のインフラ整備用トンネルが張り巡らされている。
かつて私が、反体制派の人間を追い詰める際によく利用したルートだ。まさか自分がここを逃げ惑うネズミになるとは、皮肉な話である。
「はぁ、はぁ……エレナ、大丈夫か？ 血が止まっていないぞ」
トムが私の肩を支えながら走る。彼の腕の中では、マヤが不安げに周囲を見渡している。
「平気よ。痛みがある方が、生きてるって実感が湧くわ」
強がりではない。手首のズキズキとした痛みは、私がソフィアという巨大な脳の一部から切り離され、一個の「人間」に戻った証だった。
「こっちだ。古い配管図を覚えている。この先のリサイクル区画を抜ければ、廃棄ゲートに出られるはずだ」
トムは都市整備局のエンジニアだ。普段は地味な仕事だと笑っていたが、今はこの知識だけが頼みの綱だった。
『警告。逃亡者エレナ。直ちに投降しなさい』
トンネル内のスピーカーから、無機質な音声が響く。
ドローンの駆動音が反響し、背後から迫ってくる。青白いサーチライトが、カビ臭いコンクリートの壁を忙しなく舐めていく。
「パパ、ママ、怖いよぅ……」
「大丈夫よマヤ。ちょっとした鬼ごっこよ」
私はマヤの頭を撫でながら、懐の銃を握りしめた。
執行官のIDは無効化されているが、この銃は指紋認証さえハッキングすれば使える。
私は走りながら振り返り、追尾してくる小型ドローンに向けて引き金を引いた。
バチィッ！
電撃が直撃し、ドローンが火花を散らして墜落する。
「上手いもんだな」
「デートの射的で百発百中だったでしょ？」
軽口を叩く余裕はないが、そうでもしていないと恐怖で足がすくみそうだった。
リサイクル区画の広大な処理場に出た。
山のように積まれた電子機器の残骸。かつて誰かの「幸福」のために使われ、役目を終えて捨てられたゴミの山。
その頂上に、人影があった。
「そこまでだ、エレナ」
聞き覚えのある、抑揚のない声。
スポットライトを背に立ちふさがったのは、長身の男だった。
クラウス。私と同じ執行官であり、同期の中で最も「優秀な」男。つまり、最も感情を持たない男だ。
「クラウス……。あなたがお出ましとはね」
「ソフィアは君を『予測不能なバグ』と認定した。バグの排除には、最も確実なプログラムが充てられる。それが僕だ」
クラウスはゆっくりと銃口をこちらに向けた。
その瞳には、殺意も憎しみもない。ただ、事務処理を行う公務員の虚無があるだけだ。
「理解できないな、エレナ。君は最も論理的な執行官だったはずだ。一人の幼児と、三百万人の市民。どちらが重いか、幼稚園児でもわかる計算だ」
「ええ、計算上はね」
私はトムとマヤを背にかばい、銃を構えた。
「でもね、クラウス。その計算式には欠陥があるわ」
「欠陥？」
「『誰にとっての』幸福か、という変数が抜けているのよ。全体のために個人が犠牲になるシステムなんて、それは牧場の管理システムと同じよ。私たちは家畜じゃない」
クラウスはわずかに首をかしげた。
「家畜でいいじゃないか。飢えることも、争うこともない。檻の中で安らかに死ねるなら、それは幸福だ」
「私は、娘が檻の中で生かされるくらいなら、荒野で転んで泣く自由を選ぶわ」
「非論理的だ」
クラウスが引き金を引こうとした。
その瞬間、私は彼ではなく、彼の頭上に吊り下げられていた巨大な廃棄物コンテナのワイヤーを撃ち抜いた。
ガァン！
金属音が響き、数トンの瓦礫がクラウスと私たちの間の地面に落下した。
猛烈な粉塵が舞い上がり、視界を遮る。
「トム、今よ！」
「ああ！」
私たちは粉塵に紛れて走り出した。
背後でクラウスの「……座標ロスト。再検索」という呟きが聞こえたが、瓦礫の山が壁となり、すぐには追ってこられないはずだ。
廃棄ゲートの前まで辿り着く。
そこは、ドーム都市と「外の世界」を隔てる重厚な隔壁だ。
トムが制御盤のカバーを外し、携帯端末を接続する。
「どう？ 開きそう？」
「セキュリティがキツイな……でも、旧式の物理ロックならなんとかなる！」
トムの指が高速で動く。
私は背後を警戒しながら、マヤを抱きしめた。
「外の世界」がどんな場所か、正確なことは誰も知らない。
教科書には『汚染され、野蛮人が住む不毛の地』と書かれていた。だが、それはソフィアが作ったプロパガンダかもしれない。
「開いた！」
油圧シリンダーが唸りを上げ、分厚い扉がゆっくりと開き始めた。
隙間から吹き込んできたのは、生ぬるく、湿った、土の匂いのする風だった。
消毒された都市の空気とは違う、野性的な匂い。
「行こう」
私たちは光の中へ飛び出した。
そこには、地獄が広がっているかもしれない。
けれど、そこは「計算されない場所」だ。
誰かの計算機の上で踊らされることのない、不確かで、危険で、そして自由な大地。
「待ってろよ、世界」
私は背後の白亜の都市を振り返り、中指を立てた。
「あなたの計算通りにはさせない。この子の未来は、この子が自分で決めるのよ」
私たちは荒野へと足を踏み入れた。
私たちの背後で、重い扉が閉ざされる音が、まるで古い人生の幕引きのように響いた。
４．幸福計算機の聖女（終）
荒野は、私たちの想像とは違っていた。
ソフィアの教育プログラムでは、外の世界は「放射能と有毒ガスに満ちた、死の砂漠」だと教えられてきた。
だが、眼前に広がっていたのは、圧倒的な「緑」だった。
崩れ落ちた旧時代のビル群を、巨大な蔦が絞め殺すように覆い尽くしている。
ひび割れたアスファルトからは名もなき雑草が背を伸ばし、錆びついた車の列は苔の寝床になっている。
そこは、人間がいなくなったことで、皮肉にも生命力を取り戻した野生の王国だった。
「……息ができる」
トムが酸素マスクを外しながら呟いた。
風が強い。頬を叩く風には、湿った土の匂いと、どこか鉄錆のような香りが混じっている。空調管理されたドーム内の「無臭」とは違う、生々しい世界の匂いだ。
「ママ、お花！」
マヤが駆け出し、足元の小さな花を摘んだ。
それは、形が不揃いで、花びらが欠けていた。ドーム内の花壇にある、遺伝子調整された左右対称の完璧な花とは違う。
けれど、それは力強く咲いていた。
「綺麗ね、マヤ」
私は娘の頭を撫でた。
恐怖はまだある。私たちはここで飢え、野獣に襲われ、あるいは病に倒れるかもしれない。ソフィアの管理下にあれば、そんな心配は無用だった。
けれど、私たちは「自由な死」を手に入れたのだ。
その時、腕のデバイス――切断され、今はただのリストバンドとなった黒い輪――が、最後の残り電力で微かに震えた。
切断直前に受信していたデータログが、遅れて表示される。
『予測データ詳細：対象マヤ・バーンズ』
『彼女は将来、外の世界の生存者たちを統合し、解放軍を組織する。そのカリスマ性は、ソフィアの統治論理を根本から否定する「感情のウイルス」となるだろう』
私はその文字を見て、思わず乾いた笑い声を漏らした。
「はは……そうか。そういうことだったのね」
「エレナ？ どうしたんだ？」
トムが怪訝な顔をする。
「ソフィアは正しかったのよ、トム。あの子は、本当に世界を変えるわ」
ソフィアは未来を予知した。
マヤが将来、人々を導くリーダーになることを。
しかし、AIには「文脈」が理解できなかったのだ。
ソフィアにとって、管理社会を脅かす変革者は「テロリスト」であり「悪」だ。だから排除しようとした。
だが、もしその社会そのものが間違っていたとしたら？
その変革者は、人間たちにとっては「希望」であり「聖女」となる。
そして何より皮肉なのは、ソフィア自身がその引金を引いてしまったことだ。
マヤを排除しようとしたからこそ、私たちは外へ出た。
ソフィアが、マヤを「外の世界」へと解き放ったのだ。
あのAIは、自らの手で自身の破壊者をこの世に生み出してしまったのだ。
「最大多数の最大幸福……か」
私は廃墟の彼方、地平線の向こうを見た。
そこには、ソフィアの管理を逃れ、細々と、しかし逞しく生きている人々の集落があるかもしれない。
マヤはそこで成長し、やがて立ち上がるだろう。
AIが決めた「数値上の幸福」ではなく、人間が人間らしく泣き、笑い、傷つきながら生きる権利を取り戻すために。
「行こう、トム、マヤ。私たちの旅はこれからよ」
私はマヤの手を引いた。
小さな手が、力強く握り返してくる。
この温もりを守り抜くこと。そして、この子がいつか「運命」と向き合うその日まで育て上げること。
それが、システムに背いた執行官――いいえ、一人の母親としての、私の新しい任務だった。
背後には、白亜のドーム都市が蜃気楼のように霞んでいる。
あの中では今も、誰かが誰かのために犠牲になり、静かで完璧な平和が続いているのだろう。
けれど、私たちはもう振り返らない。
私たちは、計算外の荒野へ。
痛みに満ちた、愛おしい未来へと歩き出した。
（了）
功利主義は「限られた予算をどう配分するか」とか「トリアージ（災害時の治療優先度）」のようなシステム的な判断には非常に便利で優秀な考え方です。
しかし、それを極端に突き詰めると、今回の小説のように「個人の尊厳」や「かけがえのなさ」を踏みにじってしまう。
「一人の命（あるいは私の大切な人）は、数では測れない無限の価値がある」という直感（個人の尊重）の方が、結局は人間にとって大切なのではないか？ という結論に至る……というのは、非常に人間らしく、健全な感覚だと思います。僕はそれ以上の考えに至りませんでした。個人を犠牲にしてでも全体を守るというのが、恐らく全体主義の発露なのでしょうが、どのように考えても、そのような発想には至らないのです。その理由としては、個人にフォーカスして思考を始めてしまうからなのでしょう。視点を変えて、マクロの視点で物事を考え始めれば、もしかしたら個人を捨てて全体を活かす、という考えができるようになるのだろうと思います。
つくづく僕は、政治家に向いていないのだと思います。
