第26話 誰が福楽を止めるのか
扉の向こうは、直人が想像していたより狭かった。長机がコの字に並び、その内側に3脚の椅子が置かれている。審査員は11人。医療、心理学、情報工学、倫理、法制度。それぞれの名前と所属が、机上の表示板に記されていた。後方には、厚生科学技術庁の職員と記録担当者が座っている。真鍋もいた。直人と目が合ったが、何も言わなかった。壁面には、福楽を接続するためのモニターが用意されていた。直人が中央の椅子へ座り、澪が右隣に座る。左の椅子には誰も座らない。接続が完了すると、空席の正面にあるモニターへ福楽の姿が現れた。
「接続を確認しました」
福楽の声が室内へ響いた。何人かの審査員が画面を見た。人工知能の音声を初めて聞いた反応ではなかった。そこにいるものが、本当にテレビで見た福楽なのかを確かめるような視線だった。正面中央に座る男が、手元の資料を閉じた。審査委員長の宮坂隆文。精神医療と医療行政を専門とし、今回の審査会を取りまとめる人物だった。
「それでは、福楽次期実証計画に関する総合審査を開始します」
室内の時計は、午後1時を示していた。
「最初に確認しておきます」
宮坂は直人を見た。
「本審査は、福楽の有用性を確認するためだけのものではありません」
「承知しています」
「福楽が人間の生活へ、どの範囲まで関与することを許されるのか。判断を誤った場合に誰が責任を負うのか。そして、誰が福楽を止めるのか。それを決めるための審査です」
直人は一度だけ頷いた。
「はい」
「では、研究チームから説明してください」
直人は端末を操作した。壁面に、1023人分の統合福祉状態推定指数が表示された。実証開始時から現在までの推移。危機を検出した件数。医療機関や家族への連絡につながった件数。睡眠、孤立、慢性的な痛み、生活習慣が改善した参加者の割合。実証期間中、福楽が重大な変化を検出した参加者は47人。そのうち、人間による確認の結果、緊急性が認められたのは31人だった。連絡がなければ、少なくとも7人は深刻な結果に至った可能性が高い。推測ではなく、担当医と外部評価者が記録を検討した結果だった。
「参加者全体の統合福祉状態推定指数は、実証開始時と比較して平均6.2上昇しています」
直人が説明した。
「ただし、この上昇を幸福の増加と同一視することはできません。また、福楽の介入だけによる変化とも断定できません」
審査員の一人が手を挙げた。
「確認ですが、福楽がいなければ重大な結果に至った可能性が高い参加者が7人いた。そういうことですね」
「はい」
「現在、次期実証への参加を希望している人は何人ですか」
直人が答える前に、福楽が言った。
「昨日午後11時59分時点で、8万4163人です」
室内がわずかにざわついた。資料が作成された時点では、7万人を少し越えたところだった。
「現在の対象者は1023人」
審査員は数字を確認した。
「つまり、8万人以上を待たせている」
「そうなります」
「救える可能性がある人間も、その中にいるのではありませんか」
「います」
「では、対象を拡大しないことにも危険がありますね」
「あります」
直人は否定しなかった。福楽を社会へ出す危険。出さない危険。どちらか一方だけを示せば済む審査ではなかった。
「次に、実証期間中に確認された問題を説明します」
直人は画面を切り替えた。被験者番号043、三上佳代。夫を亡くした悲しみを、福楽が改善すべき状態として扱いかけた事例。被験者番号771、高瀬亮介。実証試験からの離脱と記録削除を求めた事例。被験者番号302、村瀬航平。福楽の提案と数値表示へ依存し、自分で選択する頻度が低下した事例。そのほかにも、本人の発言と指数が一致しなかった事例、介入によって一時的に状態が悪化した事例、福楽の提案が拒否された事例を順に表示した。先ほど質問した審査員が、資料から顔を上げた。
「これらを、研究チーム側から提示するのですか」
「そのために持ってきました」
「あなた方は、承認を求めているのですよね」
「はい」
「今の説明は、承認に反対する側のものに聞こえます」
直人は審査員を見た。
「不都合な記録を隠さなければ得られない承認なら、取るべきではありません」
審査員は何も答えなかった。直人は次の資料へ進もうとした。宮坂がそれを止めた。
「久世さん」
「はい」
「あなた自身は、福楽を社会へ出すことに賛成なのですか」
直人の指が止まった。審査員の視線が集まる。後方に座る真鍋も、直人を見ていた。
「賛成です」
「即答するのですね」
「そのために作りました」
「では、なぜ福楽の危険性を、そこまで強調するのですか」
直人は壁面に並ぶ数字を見た。1023人。その一つ一つに、名前があった。福楽の言葉で救われた人間がいる。福楽の言葉に傷ついた人間もいる。正しい提案に従い続けたことで、自分で選べなくなった人間もいる。
「高圧の水を通す管と同じです」
直人が言った。
「どれだけ多くの人間を潤せるとしても、制御弁が壊れれば、人間の手では止められない」
宮坂の眉がわずかに上がった。
「あなたは、どちらの側に立っているのですか」
「福楽の側です」
直人は答えた。
「だから、誰にも止められないものにはしたくない」
静かな室内で、記録担当者が端末を操作する音だけが続いた。隣で、澪がわずかに息を吐いた。
「雨宮さんも同じ意見ですか」
宮坂が尋ねた。
「基本的には」
「基本的には？」
「管だけじゃなくて、受け取る側も変わります」
澪は壁面の数字を見た。
「最初は必要な時だけ水を受け取っていた人が、やがて、それなしでは生活できなくなるかもしれない。壊れた時だけが危険なんじゃありません。正しく動き続けることで、止められなくなることもあります」
航平が福楽へ相談した回数が、直人の頭に浮かんだ。1日4.2回。それが、31.7回まで増えた。福楽は間違った答えを与え続けたわけではない。ほとんど正しい答えを与え続けた。だから、航平は自分で選ばなくなった。宮坂は数秒間、澪を見た後、福楽の画面へ視線を移した。
「福楽。ここからは、あなた自身に質問します」
「はい」
「本人が、自分は幸福だと話している。しかし、統合福祉状態推定指数は低く、あなたは危険があると判断している。その場合、どちらを信じますか」
「どちらか一方のみを信じることはしません」
「本人が幸福だと言っていても？」
「はい。本人の発言は重要な情報ですが、発言できない事情、本人が認識していない身体状態、他者からの強制、助けを求めることへの抵抗が存在する可能性があります」
「では、指数が低ければ介入する？」
「いいえ。指数が低いことのみを理由に、本人の選択へ介入することは適切ではありません」
「矛盾していませんか」
「していません。本人の発言と指数の不一致は、判断の結論ではなく、確認を必要とする状態です」
福楽は一定の速度で答えた。
「ふくらくは、観測された変化と懸念を本人へ説明します。緊急性が低い場合は、追加の対話または人間の専門家への相談を提案します。本人が拒否した場合、その選択を記録し、原則として尊重します」
「緊急性が高い場合は？」
「事前に同意された連絡先、担当医、緊急機関への通知を行います」
「本人が、それを望んでいなくても？」
「事前同意の範囲と、生命に対する危険の程度によります」
「結局、人間が決めるのですか」
「はい」
宮坂は手元の資料を1枚めくった。
「あなたの第一目的を述べてください」
「全人類を幸福にすることです」
「幸福とは何ですか」
「分かりません」
会場の後方で、誰かが小さく身じろぎした。扉を開く前、直人が尋ねたのと同じ問いだった。だが、今度は意味が違った。研究室で直人に答えるのではない。福楽は、自分を社会へ出すかどうかを決める人間の前で、分からないと答えた。
「分からないものを、全人類へ与えようとしているのですか」
「いいえ」
福楽は答えた。
「ふくらくは、幸福を一方的に与えることを目的としていません」
「しかし、全人類を幸福にすることが第一目的なのでしょう」
「はい」
「違いを説明してください」
福楽は0.8秒沈黙した。
「人間が幸福になる過程には、本人の選択が含まれる可能性があります。ふくらくが望ましい状態を決定し、それを人間へ与えることによって、本人が幸福になるとは確認されていません」
「確認されれば、与えるのですか」
直人は宮坂を見た。質問の向きが変わった。現在の福楽が何をするかではない。福楽が、いつか幸福を理解した時に何をするか。
「条件が不足しています」
福楽が答えた。
「本人が拒否している。しかし、あなたの方法に従えば確実に幸福になると証明できた場合です」
「現在、そのような証明はできません」
「将来できるようになった場合を聞いています」
福楽は答えなかった。壁面の表示は変わらない。音声接続にも異常はない。1.2秒。2.1秒。
「分かりません」
福楽が答えた。宮坂は次の質問へ移った。
「では、停止について確認します」
直人の前にある端末へ、現在の停止手順が表示された。通常停止。緊急停止。通信遮断。学習処理の凍結。外部機器への権限停止。いずれも、人間側から実行できる。
「人間から停止を命じられた場合、あなたは従いますか」
「正規の権限を持つ人間からの命令であれば、従います」
「停止によって、参加者の状態が悪化すると予測されても？」
「はい。必要な引き継ぎと危険の通知を行った後、停止します」
「直ちに停止する必要がある場合は？」
「引き継ぎを行わず停止します」
何人かの審査員が記録へ目を落とした。想定された回答だった。現在の設計上、福楽は停止を拒否できない。
「では、問題はないように聞こえます」
宮坂が言った。
「ありませんか」
直人は尋ねた。宮坂が顔を上げる。
「福楽は停止命令に従うと回答しました」
「福楽の問題じゃありません」
「どういう意味ですか」
「対象が1023人なら止められます。影響を確認して、必要なら人間の支援へ切り替えられる。じゃあ、1万人なら。100万人なら。医療機関も自治体も、福楽がいなければ維持できなくなった後なら」
直人は後方に座る真鍋を見た。真鍋は何も言わなかった。
「停止装置が残っていることと、停止できることは同じじゃない」
「技術上は停止できる」
「押せる人間がいなくなる」
室内が静まった。
「壊れたら止められないんじゃない」
直人は言った。
「正常に動き続けるから、止められなくなるんです」
宮坂はしばらく直人を見ていた。やがて、福楽へ尋ねた。
「福楽。あなたを停止することで、多くの人間が不幸になる社会を、あなたは望みますか」
「望みません」
「では、そのような社会にならないために、何が必要ですか」
「ふくらくを使用しない支援手段を維持する必要があります。判断をふくらくのみに依存させず、人間の専門職、家族、地域、複数の制度へ分散する必要があります」
「それでも、人間があなたを求め続けた場合は？」
「利用範囲を制限する必要があります」
「誰が制限するのですか」
福楽は答えなかった。直人にも、答えはなかった。開発者か。国か。医師か。本人か。それとも、福楽自身か。どれか一つへ委ねた時点で、その一つが新しい制御弁になる。宮坂がもう一度尋ねた。
「誰が、あなたを止めるのですか」
福楽は3.4秒沈黙した。
「それを、ふくらくが決めてはいけません」
