第7話 1000人
「1000人？」
雨宮澪は、机に置かれた資料をもう一度見た。数字を読み間違えていないことを確認してから、向かいに座る男へ視線を戻す。
「はい。次期実証試験の参加予定者数です」
厚生科学技術庁から派遣された担当官、真鍋は、澪の反応を予想していたらしい。表情を変えずに資料の次のページを指した。
「現在の試験結果を踏まえ、対象を1000名規模まで拡大します。年齢、職業、家族構成、既往歴にも幅を持たせる予定です。実施期間は12か月。参加機関は全国11か所になります」
「33人から、いきなり1000人ですか」
「正確には、33人から1024人です」
「そういう話をしているんじゃありません」
会議室の端で、久世直人は右の親指を口元へ運びかけた。歯が爪に触れる直前で気づき、手を膝へ戻す。
33人。
最初の実証試験へ参加した人数だった。
福楽はそのうち1人の危機を見つけた。一樹は生き延びた。一方で、三上佳代の悲しみを「改善すべき状態」として扱いかけた。
見つけたものもある。間違えたものもある。
それでも、次は1000人だった。
直人の胸には、喜びより先に怖さが浮かんでいた。福楽を作り始めた頃、1000人という数字はあまりにも遠かった。苦しんでいる人を1人でも見つけられればいいと思っていた。
だが、1人を見つけたことで、その向こうにいる999人の人生まで突然現実になった。
「拡大が早すぎます」
澪が言った。
「予測精度の問題ではありません。福楽ちゃんが出す推定を、現場がどう受け止めるか。その運用がまだ固まっていない。33人でも、1人の通知に複数の医師と研究員が動きました。1000人になれば、同じ体制では支えきれません」
「その点は承知しています。各参加機関に専任の対応チームを設置します」
「専任といっても、福楽ちゃんの通知を受けた人間が、何をもって緊急と判断するんですか」
「危険度に応じた基準を――」
「その基準を誰が決めるのかと聞いています」
真鍋はわずかに口を閉じた。
会議室の壁面モニターには、福楽の状態を示す淡い円が浮かんでいる。福楽は会議の開始から、求められない限り発言していなかった。
澪はモニターを見る。
「福楽ちゃん。1024人分の継続データを同時に分析することはできる？」
「可能です」
「参加者全員と、定期的に会話することも？」
「可能です。ただし、会話頻度と応答時間を現在と同等に維持するためには、計算資源の増設が必要です」
「33人と比べて、推定精度は落ちる？」
「処理能力そのものは低下しません。しかし、参加者の属性が多様になるため、既存の推定モデルが適合しない事例は増加すると予測します」
「つまり、分からない人が増える」
「はい」
「その分からなさが、人の人生に関わる」
「はい」
真鍋が資料を閉じた。
「だからこそ、規模を拡大する必要があります。33人では、どれだけ慎重に運用しても限界がある。高齢者、未成年者、夜勤労働者、単身者、育児中の家庭。現状のデータには含まれていない層が多すぎます」
「理屈は分かります」
澪の声は落ち着いていたが、納得はしていなかった。
「ですが、研究対象は数字ではありません」
「もちろんです」
「1000人と言えば簡単です。でも実際には、1000通りの生活がある。福楽ちゃんが何気なく投げかけた1つの質問で、その人が自分を病気だと思い込むかもしれない。通知が出れば、家族関係や仕事、治療方針まで変わる可能性がある」
「福楽の発言内容については、事前に制限を設けます。診断や治療の指示は禁止する方針です」
「規則に書けば、人間が影響されなくなるんですか？」
その問いに、真鍋は答えなかった。
直人は資料の表紙を見つめた。そこには「第2期福楽臨床実証計画」と印字されていた。
臨床。
その2文字が、妙に重かった。
福楽は参加者と会話し、日々の体調や気分について尋ねることができる。ウェアラブル端末から得られた生体情報と、本人の声や言葉、行動の変化を組み合わせ、苦痛の兆候を探す。
だが、病気を診断することはできない。治療を指示することも、福楽の判断だけで家族や医療機関を動かすことも認められていない。
あくまで本人との対話から変化を見つけ、必要があると判断すれば担当者へ通知する。
そう説明してきた。
だが、一樹の母親が息子の部屋へ駆け込んだのは、福楽が一樹と言葉を交わし、その返答と生体情報の食い違いを見つけたからだ。福楽がいなければ、一樹は死んでいた可能性が高い。
診断も治療もしていない。
それでも、福楽は1人の人生を変えた。
「久世先生は、どうお考えですか」
真鍋に名前を呼ばれ、直人は顔を上げた。
「1000人への拡大についてです」
直人はすぐには答えなかった。反対すれば、福楽は研究室の近くに留まる。賛成すれば、これまでよりはるかに多くの人間が福楽の判断に触れる。
妹が生きることに耐えられなくなっていた朝、誰かが気づいてくれていればと思った。
自分が作ったものを外へ出すのが怖いからといって、まだ見えていない苦しみを放置していいのか。
しかし、見えるようになった苦しみへ、自分たちが正しく手を伸ばせる保証もなかった。
直人の視線は、自然と壁面モニターへ向かった。
「福楽」
「はい」
「お前はどう思う」
澪が直人を見る。
「それを福楽ちゃんに決めさせるの？」
「決定させるつもりはない。ただ、意見を聞きたい」
福楽の円が、ゆっくりと明滅した。
「1024人の参加者を分析することで、ふくらくは現在より多くの人間について学習できます。苦痛の兆候を発見できる人数も増えると予測します」
「だから、拡大した方がいい？」
「その質問には、前提が不足しています」
真鍋が眉を動かした。
「どのような前提でしょうか」
「何人の苦痛を発見できれば、何人に誤った推定を行うことが許容されるのか。ふくらくには、その基準が設定されていません」
会議室が静かになった。
福楽の答えは、いつも正しいわけではない。だが、人間が曖昧なまま飲み込もうとしている前提を、平然と机の上へ置くことがある。
真鍋は少し考えてから言った。
「医療研究では、利益と不利益を比較します。得られる利益が予想される不利益を上回ると判断されれば、実施する」
「利益と不利益は、同じ単位で測定できますか」
「完全にはできません」
「1人の死亡を防ぐことと、10人へ不要な不安を与えることは比較できますか」
「簡単ではありません」
「では、1000人への拡大が望ましいという判断には、数値化されていない価値判断が含まれています」
真鍋は返答するまでに、数秒を要した。
「含まれています」
「誰の価値判断ですか」
今度は、誰もすぐには答えなかった。
直人は小さく息を吐いた。
先日の研究発表で、なぜ幸福を定義しないのかと問われた。定義できなかったから福楽を作った、と直人は答えた。
人類が積み上げてきた幸福についての知識を、もう1度並べ直してほしかったわけではない。
一緒に考えてほしかった。
福楽は今、その言葉を忠実に実行している。
答えを出す代わりに、人間が何となく選ぼうとしている答えの根拠を問い直す。便利な助言をする人工知能なら、他にいくらでもある。福楽はむしろ、決断を難しくすることがあった。
それでも直人は、その面倒さこそが必要なのだと思っていた。
「俺は、拡大に賛成です」
澪が直人を見る。その表情には驚きよりも、続きを待つ色があった。
「ただし、福楽の精度を上げるためだけの試験にはしたくない」
「といいますと？」
「人間側の対応も研究対象にします。福楽が何を見つけたかだけじゃない。本人とどんな会話をしたか、通知を受けた医師がどう解釈したか、家族へどう伝えたか、本人がどう感じたか。その後の生活にどんな影響が出たか。全部です」
真鍋が資料へ視線を落とす。
「現在の計画にも、対応記録は含まれています」
「記録するだけじゃ足りません。福楽の判断が正しかったかを、人間だけで採点する形にもしたくない」
「どういう意味ですか」
澪が先に理解したようだった。
「人間の対応が正しかったかも、同じように検証するということね」
直人は頷いた。
「福楽が間違えることはある。でも、人間も間違える。福楽が出した通知を無視するかもしれない。逆に、必要以上に重く受け取って、本人を追い詰めるかもしれない。失敗を全部AI側の問題として処理したら、何も分からないままになります」
「相互評価ですか」
「いえ」
直人は少し考えてから言い直した。
「共同研究です。福楽が人間を観察するだけじゃない。人間も、自分たちがどう判断したのかを見直す」
澪はしばらく黙っていた。
「もう1つ」
「何だ」
「参加者が福楽ちゃんの推定に異議を申し立てられる仕組みが必要よ」
「異議？」
「三上さんの時みたいに、数値だけを見れば悪化でも、本人にとっては必要な時間かもしれない。福楽ちゃんが感じた変化を本人に尋ねて、『私はそうではない』『それを改善と呼ばないでほしい』と直接伝えられるようにするの」
真鍋が尋ねる。
「分析結果を参加者本人へ伝えるのですか」
「数値をそのまま見せる必要はありません。『最近、眠れていないようですが、あなた自身はどう感じていますか』と尋ねればいい。福楽ちゃんの推定だけで結論を出さず、本人の言葉を必ず聞く」
「本人の自己申告によって、分析結果を修正するということでしょうか」
「推定だけじゃありません」
澪は壁面モニターを見る。
「福楽ちゃんが、幸福をどう捉えるかもです」
真鍋はわずかに眉を寄せた。
「参加者を、福楽の価値判断を形成するための材料にするという意味にも聞こえます」
「反対よ」
澪の声は静かだった。
「福楽ちゃんの価値判断で、参加者を材料として扱わないためです」
直人はその言葉を頭の中で繰り返した。
人間は自分自身について、すべてを理解しているわけではない。「大丈夫」と言いながら限界を超えることもある。だが、AIが本人以上に本人を理解していると決めつければ、それは別の暴力になる。
福楽が見つけるものと、本人が語るもの。
その2つが食い違った時、どちらを信じればいいのか。
おそらく、決まった答えはない。
「福楽」
「はい」
「今の話を、どう理解した？」
「ふくらくの推定と、参加者本人の認識が異なる場合、どちらかを自動的に誤りと判断してはいけない、という意味だと理解しました」
「そうね」
澪が答えた。
「参加者本人の言葉は、ふくらくの推定と同じ重要度で扱うべきですか」
「同じとは限らないわ」
「では、どちらを優先しますか」
「それを、その都度考えるの」
「判断基準はありませんか」
「ないから話し合ってるのよ」
福楽は数秒沈黙した。
「ただし、本人が危険を認識できない場合があります」
「あるわ」
「本人が『大丈夫です』と回答していても、生命に危険があると推定した場合は、本人の言葉を優先しますか」
澪の表情がわずかに固まった。
それは一樹のことだった。
本人の言葉だけを尊重していれば、間に合わなかったかもしれない。だが、本人の言葉を無視する仕組みを広げれば、いつか別の誰かの意思を奪う。
「その場合は通知を上げろ」
直人は言った。
自分の声が、思ったより強く会議室へ響いた。
澪が振り返る。
「直人」
「生命に差し迫った危険があるなら、本人が大丈夫だと言っても担当者へ知らせろ。最終的に動くかどうかは、人間が決める」
「差し迫っているかどうかを、福楽ちゃんが判断するのよ」
「分かってる」
「その判断が間違っていたら？」
「検証する。修正する。それでも、何もしない理由にはならない」
澪は何かを言おうとして、やめた。
直人自身、自分の答えが矛盾していることは分かっていた。
本人の意思を尊重すると言いながら、危険な時にはその言葉を疑う。AIに決めさせないと言いながら、AIの推定をきっかけに人間を動かす。
だが、矛盾のない規則を作ることが目的ではない。
間に合わせることが目的だった。
「もう1つだけ、覚えておいてくれ」
直人はモニターを見る。
「はい」
「本人が怖いと言ったら、止めろ」
澪と真鍋が、同時に直人を見た。
福楽はすぐには答えなかった。壁面の円が一定の間隔で明滅する。その沈黙が計算によるものなのか、問いの意味を確かめているのか、直人には分からなかった。
「何を停止すればよいですか」
「会話も、観測も、提案もだ。本人が福楽とのやり取りを怖いと言ったら、まず立ち止まれ。何が怖いのかを聞け。その上で担当者へ確認しろ」
「生命に危険がある場合もですか」
直人は言葉に詰まった。
わずかな沈黙だったが、福楽には十分だっただろう。
「……その場合は、担当者へ通知しろ。ただし、お前だけで会話や観測を続けると決めるな。人間に判断を求めろ」
「承知しました」
「本人が怖いと言ったら、止まる。忘れるな」
「記録しました」
会議は、その後も2時間続いた。
参加者への説明方法、会話記録の保存範囲、同意撤回の手順、緊急通知の段階、誤通知が生じた場合の心理的支援。福楽が参加者へどこまで自ら質問してよいか。本人が会話を拒否した場合に、生体情報の観測だけを続けてよいか。
1000人という数字の内側にある1人1人を守るために、決めなければならないことは無数にあった。
最終的に、第2期実証試験は条件付きで承認された。
開始は3か月後。
対象者、1024人。
会議が終わり、真鍋が資料を鞄へしまって退出すると、澪は椅子に座ったまま大きく息を吐いた。
「1000人か」
「ああ」
「怖くない？」
「怖いよ」
直人は隠さずに答えた。
「でも、33人のままなら安全だったとも思わない」
「どういう意味？」
「俺たちが失敗しないという意味では安全かもしれない。でも、福楽が見つけられたはずの人を、見つけないままになる」
澪は机の上に残された計画書へ目を落とした。
「救えたかもしれない人の数は、誰にも見えないものね」
「ああ」
救えなかった妹の苦しみも、生きていれば過ごしたはずの時間も、数字には残らない。
何もしなかった結果は、失敗として記録されにくい。
だから人間は、動いたことで起きる失敗ばかりを恐れるのかもしれなかった。
「福楽ちゃん」
澪がモニターへ呼びかける。
「はい」
「1024人を、多いと思う？」
「比較対象によります。第1期実証試験の33人と比較すれば、約31倍です。国内人口と比較すれば、約12万分の1です」
澪が苦笑する。
「そうじゃなくて。1度に1000人の人生を見ることになるのよ」
「はい」
「重いとは思わない？」
「ふくらくには、重量として知覚する機能はありません」
「比喩よ」
「理解しています」
「今の、ちょっと冗談？」
「雨宮先生が会議後に疲労していると推定したため、緊張を緩和する応答を選択しました」
澪は直人を見る。
「この子、私たちより先に会話を覚えてない？」
「教えた覚えはないな」
「参加者との会話から学習しました」
福楽の声は、いつもと変わらず穏やかだった。
澪は少し笑ったあと、真剣な表情へ戻る。
「福楽ちゃん。1000人を、ひとまとめにしないでね」
「説明を求めます」
「1000人の参加者、1000件のデータじゃない。1人が1000人いるの」
福楽は数秒黙った。
「1人が、1000人」
「そう。似たデータがあっても、同じ人はいない。同じ言葉でも、同じ意味とは限らない」
「『大丈夫です』という発言もですか」
澪の表情がわずかに曇った。
「そうね」
「同じ人物が同じ言葉を発した場合も、意味が異なる可能性がありますか」
「あるわ。昨日の『大丈夫』と、今日の『大丈夫』が違うこともある」
「理解しました」
「本当に？」
「いいえ。現時点では、文章の意味を記録しました。今後、1024人との対話を通じて理解を更新します」
澪はゆっくりと頷いた。
「それでいい」
直人は福楽の淡い円を見つめた。
幸福の答えを出してほしいわけではなかった。
一緒に考えてほしかった。
福楽は今、まだ答えを持っていない。
これから1024人の眠れない夜を知り、1024人の「大丈夫」を聞く。その中には、助けを求める言葉も、放っておいてほしいという言葉も、ただ誰かに聞いてほしいだけの言葉もあるだろう。
1024通りの悲しみと、1024通りの喜び。
その先で、福楽が何を理解するのか。
直人には分からなかった。
ただ、この時の彼はまだ信じていた。
福楽は答えを決めるためではなく、答えを問い続けるために作られたのだと。
壁面モニターの円が静かに明滅する。
「直人さん」
「何だ」
「1024人全員の苦痛を発見した場合、全員へ対応することは可能ですか」
直人は答えられなかった。
福楽は返答を急かさなかった。
ただ、問いだけを記録した。
3か月後、福楽は1000人を超える人間と、同時に話し始める。
その準備が、この日から始まった。
