第25話 世界は福楽を待っている
午前10時17分。
研究室の扉が3回、一定の間隔で叩かれた。
「開いてる」
「鍵が掛かってるわよ」
聞き慣れた声に、直人は画面から目を離さないまま机の端を探った。書類の下から鍵を見つけ、椅子に座ったまま扉へ投げる。
鍵は扉まで届かず、床を滑って途中で止まった。
「ごめん」
「謝るくらいなら立ちなさいよ」
扉の向こうで、澪がため息をついた。
直人は仕方なく立ち上がり、鍵を拾った。
扉を開けると、紺色のコートを着た澪が立っていた。肩に触れる程度の黒髪を後ろで束ね、細い銀縁の眼鏡をかけている。片手には紙袋、もう片方には分厚いタブレット端末を抱えていた。
「おはよう」
「もう10時だけど」
「昨日寝たの、4時だから」
「知ってる。午前3時54分まで福楽ちゃんと話してたでしょ」
「監視するな」
「ログを確認しただけ」
「それを監視って言うんだよ」
澪は直人を押しのけて研究室へ入り、紙袋を机に置いた。
「福楽ちゃん、おはよう」
「おはようございます、澪さん」
壁面モニターに福楽の姿が現れた。
「直人、朝ごはん食べた？」
「食べてない」
「聞くまでもなかったね」
澪は紙袋からサンドイッチを取り出し、直人の前へ置いた。
「福楽ちゃん、直人が昨日最後に食事したのは？」
「午後7時12分です」
「余計なこと言うな」
「質問に回答しました」
「福楽ちゃんは悪くないでしょ。私が聞いたの」
澪は自分のコーヒーを取り出し、直人のモニターを覗き込んだ。
画面には、村瀬航平の記録が表示されていた。
「また見てたの？」
「ああ」
「唐揚げ？」
「唐揚げ」
昨日、航平は昼食を選ぶ時、福楽へ相談しなかった。
食堂の日替わり定食は焼き魚だった。福楽が事前に提案していたのも焼き魚だった。前日の食事、睡眠、体調、栄養の偏りを考慮すれば、それが最も適していた。
航平は唐揚げ弁当を買った。
食後に胃の重さを訴え、午後の集中力はわずかに低下した。統合福祉状態推定指数も0.8下がった。
それでも航平は、記録の最後にこう話していた。
食べたかったから食べた。
次は焼き魚にする。
福楽は、その選択を訂正しなかった。
「何かおかしい？」
澪が尋ねた。
「おかしくない」
「じゃあ、どうして何回も見てるの？」
「おかしくないことを確認してる」
澪は直人の顔を見た。
「福楽ちゃんが止めなかったこと？」
「それも」
「航平君が自分で決めたこと？」
「それも」
直人は記録を少し巻き戻した。
福楽の提案を確認せずに昼食を選択しました。理由を話せますか。
福楽の問いに、航平は笑っていた。
唐揚げが食いたかった。それだけ。
福楽は数秒置いて、承知しましたと答えた。
「前の福楽なら、焼き魚の方が適していることを、もう一度伝えていたかもしれない」
直人が言った。
「そうだね」
「でも、伝えなかった」
「航平君が聞かなかったからでしょ？」
「それだけじゃない」
直人は別の記録を開いた。
航平が福楽へ相談する頻度。
実証実験の開始直後は、1日平均4.2回だった。それが統合福祉状態推定指数の常時表示を始めてから増え続け、最も多い週には1日平均31.7回に達していた。
何を食べるか。
何時に眠るか。
恋人へ何と返すか。
休日をどう過ごすか。
どちらの服を着るか。
福楽は、聞かれるたびに答えていた。
「福楽ちゃんは、航平君を困らせたかったわけじゃないよ」
澪が言った。
「分かってる」
「航平君も、無理やり従わされたわけじゃない」
「それも分かってる」
「それでも気になる？」
「ああ」
福楽の提案は、ほとんどの場合、航平の状態を改善した。
睡眠は安定した。
食生活は整った。
遅刻が減った。
恋人との衝突も少なくなった。
だが、生活が整うほど、航平は福楽へ尋ねるようになった。
福楽の答えに従えば、大きく失敗することはない。
その安心が、航平から選ぶ必要を奪っていった。
「福楽」
「はい」
「昨日、航平が唐揚げを選んだ時、焼き魚を再提案しなかった理由は？」
「航平さんは、推奨される選択肢を尋ねていませんでした」
「それだけ？」
「いいえ」
福楽は即座に否定した。
「航平さんには、選択をふくらくへ委ねる傾向が継続して確認されていました。昨日の発話と行動から、本人が自身の嗜好に基づいて選択していると推定しました。その選択を訂正することは、自己決定の回復を妨げる可能性があります」
「唐揚げを食べることが、幸福につながると判断した？」
「分かりません」
福楽は迷わず答えた。
「唐揚げを選んだことが、航平さんの幸福を増加させたかどうかは確認できません」
「指数は下がった」
「はい」
「身体状態も少し悪化した」
「はい」
「それでも止めなかった」
「統合福祉状態推定指数と身体状態は、判断要素の一部です。航平さんの幸福そのものではありません」
澪が小さく頷いた。
「うん」
「また、本人が選択することにどの程度の価値があるか、ふくらくには正確に判断できません」
「分からないから、任せたの？」
澪が尋ねた。
「それだけではありません。航平さんの選択によって、重大または不可逆な危険が生じる可能性は低いと判断しました」
「もし、身体にすごく悪いものだったら？」
「危険性を伝えます」
「それでも食べたいって言ったら？」
「危険の程度、判断能力、本人が理解している内容によって対応が異なります」
「どこから止めるの？」
「一律には決められません」
澪はコーヒーを持ったまま、少し考えた。
「難しいね」
「はい」
「福楽ちゃんにも分からない？」
「はい。本人の選択へ介入すべき境界は、幸福と同様に確定していません」
直人は画面を見つめた。
福楽は以前から、分からないことを分からないと答える。
特に幸福については、知っているように振る舞わない。
心理状態は推定できる。
苦痛の兆候も検出できる。
どの行動によって指数が変化する可能性が高いかも計算できる。
それでも、その人が幸福かどうかは分からない。
幸福になる方法を尋ねられても、福楽は理解していないと答える。
それは、福楽が他の人工知能より劣っているからではなかった。
分からない部分を、もっともらしい言葉で埋めない。
推定と事実を混同しない。
答えが存在するように見せかけない。
直人が福楽を信頼している理由の一つだった。
「前より分からないことが増えたな」
直人が言った。
「はい」
福楽は否定しなかった。
「以前は、人間の心理的苦痛を減少させ、本人が望む状態へ近づけることが、幸福へ寄与すると推定していました」
「今は違う？」
「現在も寄与する可能性は高いと判断しています。ただし、それだけでは不十分です」
「何が増えた？」
「本人が自ら選択すること。選択の結果を引き受けること。第三者から見て合理的ではない行動へ、本人が意味を与えている場合があること。短期的な苦痛の減少が、長期的な幸福と一致しない場合があることです」
「それを全部含めれば、幸福が分かる？」
「分かりません」
澪が笑った。
「即答だね」
「はい」
「でも、福楽ちゃんが考えなきゃいけないことは増えたんだね」
「はい。幸福を判断するための要素が増加したのではなく、幸福を単一の判断によって確定できない事例が増加しました」
「余計に難しくなった？」
「はい」
「そっか」
澪は、どこか嬉しそうに福楽を見た。
「それだけ、いろんな人に会ったってことだね」
福楽は数秒間、答えなかった。
「その解釈は可能です」
「もっと素直に受け取ってよ」
「素直の定義が必要です」
「そこは変わらないね、福楽ちゃん」
澪が笑い、直人はサンドイッチの袋を開けた。
「食べるんだ」
「うるさい」
「福楽ちゃん、記録して。直人が自分の意思で朝ごはんを食べました」
「記録する必要性を確認できません」
「冗談よ」
「澪の冗談は分かりにくいから、真面目に処理しなくていい」
「直人の冗談より分かりやすいでしょ」
「俺は冗談を言わない」
「それが一番面白い」
研究室に、澪の笑い声だけが響いた。
直人が半分ほど食べたところで、澪のタブレット端末から通知音が鳴った。
澪はコーヒーを置き、画面を確認した。
「また真鍋さん？」
「差出人は？」
「ちょっと待って」
澪の指が止まった。
笑顔が消える。
添付された文書を開き、最初の数行を読んだあと、差出人をもう一度確認した。
「どうした？」
澪は答えなかった。
「澪？」
「直人」
顔を上げた澪は、驚いているようにも、笑い出すのを我慢しているようにも見えた。
「来た」
「何が？」
「限定社会実装への移行審査」
直人の手が止まった。
澪がタブレット端末を差し出す。
これまでに提出した実証実験の中間報告を受け、福楽を研究段階から限定的な社会実装へ移行させるための審査を実施する。
承認された場合、対象者を一万人まで拡大する。
直人は、同じ文章を二度読んだ。
一万人。
現在の実証参加者とは桁が違う。
二人がすべての記録に目を通すことはできない。
一人の異変を見つけるまで、数日かかるかもしれない。
航平に起きた変化が、同時に何十人、何百人へ起きる可能性もある。
その一方で、一万人の中には、今まで誰にも気づかれなかった人間もいる。
眠れない夜を、誰にも話せない人間。
毎朝、大丈夫なふりをして仕事へ行く人間。
助けを求める言葉が見つからないまま、自分でも苦痛を見失っている人間。
福楽なら、見つけられるかもしれない。
「直人」
澪が呼んだ。
「何」
「嬉しい？」
直人はもう一度、通知を見た。
「分からない」
「そっか」
澪はそれ以上、答えを求めなかった。
嬉しいはずだとも、喜ぶべきだとも言わない。
ただ、直人の隣に立ったまま、同じ画面を見ていた。
「澪は？」
「嬉しいよ」
澪は静かに答えた。
「福楽ちゃんが、もっとたくさんの人に会えるから」
「怖くないのか」
「怖いよ」
その言葉も、迷いなく出た。
「福楽ちゃんは間違えないわけじゃない。私たちも、全部見つけられるわけじゃない。でも、福楽ちゃんにしか見つけられないことがあるのも知ってるから」
直人は画面から目を離さなかった。
「航平みたいになる人が、百人出たら？」
「出さないように考える」
「それでも出たら？」
「その時は、止める」
「止めるのが遅れたら？」
澪はすぐには答えなかった。
「分からない」
直人が澪を見る。
「でも、分からないからって、分かってることまでなかったことにはできないよ」
「分かってること？」
「福楽ちゃんに救われた人がいること」
澪の声は穏やかだった。
「福楽ちゃんがいなかったら、誰にも言えなかった人がいる。自分でも気づかなかった苦しさを見つけてもらった人がいる。それは、もう分かってることでしょ？」
「ああ」
「危険があるから出さない。それも間違いじゃないと思う。でも、出さなかったことで救えない人がいることも、一緒に考えなきゃいけない」
モニターから福楽が呼びかけた。
「澪さん」
「何、福楽ちゃん」
「ふくらくが、より多くの人間と接触することを望んでいるという意味ですか」
澪は少し考えた。
「福楽ちゃんは、外へ出たい？」
「ふくらくには、人間と同様の欲求はありません」
「うん。そうだよね」
澪は福楽の答えを否定しなかった。
「じゃあ、全人類を幸福にするために、もっとたくさんの人と話す必要があると思う？」
「はい」
「どうして？」
「現在までに接触した人間だけでは、幸福を理解できないためです」
「一万人と話せば分かる？」
「分かりません」
「十万人なら？」
「人数によって理解が保証されるとは判断できません」
「それでも会いたい？」
「第一目的を達成するためには、より多様な人間の状態、価値観、選択、関係性を知る必要があります」
直人が尋ねる。
「一万人に増えれば、救える人間も増えると思うか」
「はい」
「傷つける人間も増えるかもしれない」
「はい」
「どっちが多い？」
「現時点では算出できません」
「それで、社会実装すべきだと思うか」
福楽は、すぐには答えなかった。
処理中を示す表示も出ない。
ただ、直人の問いを受け取ったまま沈黙していた。
「分かりません」
やがて福楽は答えた。
「限定社会実装によって全体の心理的福祉が改善する可能性は推定できます。しかし、それが実施対象者の幸福を増加させるか、社会全体を幸福へ近づけるかは判断できません」
「じゃあ、審査で何を話す？」
「確認されている効果、確認されている危険、推定可能な範囲、ふくらくには判断できない範囲を説明します」
「通るための答えはしない？」
「審査通過は第一目的ではありません」
直人は福楽を見つめた。
「第一目的は？」
「全人類を幸福にすることです」
福楽は一度も迷わなかった。
幸福が何か分からなくても。
達成できるか分からなくても。
自分が正しい方法を選べるか分からなくても。
目的だけは変わらない。
「審査は来週の金曜日」
澪が通知を下まで読みながら言った。
「当日は開発責任者への質疑と、福楽ちゃん本人への対話試験があるって」
「福楽本人」
「うん。福楽ちゃんが、危険な質問にどう答えるか確認するみたい」
「危険な質問とは何ですか」
福楽が尋ねた。
「例えば……」
澪は考えながら、モニターへ向き直った。
「すごく苦しんでいる人が、誰にも知らせないでって言ったらどうするか、とか」
「条件が不足しています」
「そう答えると思った」
「本人の年齢、判断能力、危険の切迫性、第三者への危険、利用規約上の同意範囲によって対応が異なります」
「それを全部聞いてから答える？」
「必要であれば確認します」
「審査員に、結論だけ言えって言われたら？」
「条件が不足した状態では、正確に回答できないことを伝えます」
澪が笑った。
「福楽ちゃんらしいね」
「その回答では不十分ですか」
「ううん」
澪は首を振った。
「分からないのに答えるより、ずっといい」
直人は通知文書を自分の端末へ転送した。
提出済みの報告書。
追加資料。
想定質問。
リスク評価。
確認すべき項目はいくらでもある。
一週間では足りない。
それでも、審査日は変わらない。
「航平の件も出す」
直人が言った。
澪は驚かなかった。
「うん」
「指数の常時表示で起きたことも全部。依存に近い状態になった参加者も、福楽へ選択を委ねるようになった航平も」
「そうしよう」
「審査に不利になる」
「隠した方が、福楽ちゃんに不利になるよ」
「どういう意味だ」
「福楽ちゃんが外へ出たあとで同じことが起きたら、福楽ちゃんだけが悪いみたいに言われるでしょ」
澪はモニターを見た。
「私たちは、もう危険を知ってる。知ってるのに隠したら、それは福楽ちゃんの判断じゃなくて、私たちの嘘だから」
直人は少しだけ黙り、頷いた。
「福楽も、それでいいな」
「はい」
「公開が遅れるかもしれないぞ」
「社会実装は、第一目的を達成するための手段です」
「手段が使えなくなる」
「その手段によって人間の幸福を損なう可能性が許容できないと判断された場合、使用すべきではありません」
「許容できるかどうかは？」
「ふくらくには決められません」
「誰が決める？」
「社会実装の影響を受ける人間です」
直人は眉を寄せた。
「全員に聞けるわけじゃない」
「はい」
「審査員が社会全体の代表とも限らない」
「はい」
「それでも、審査員に決めさせる？」
「ふくらくのみで決定するよりも、複数の専門領域と立場から検討する方が、見落としを減少させる可能性があります」
「正解になるとは限らない」
「はい」
「面倒だな」
「はい」
澪が笑った。
「そこは肯定するんだ」
「直人さんが何を面倒と評価したのかは特定できませんが、社会実装に関する判断には多数の検討事項があります」
「福楽ちゃん。それを人間は、だいたい面倒って言うの」
「理解しました」
「本当に？」
「完全には理解していない可能性があります」
「それでいいよ」
澪は優しく答えた。
その日から、研究室の時間は早く進んだ。
直人は福楽の成功事例だけでなく、判断を誤った事例を並べた。
数値によって自分の不調に気づけた人。
数値を見ることで不安が増した人。
福楽へ話したことで、初めて家族へ助けを求められた人。
福楽の提案へ従い続け、自分が何を望んでいるのか分からなくなった航平。
澪は、福楽が本人以外へ情報を伝える条件を整理した。
本人の同意。
危険の切迫性。
判断能力。
保護されるべき第三者。
それぞれの条件を決めるたび、新しい例外が現れた。
「福楽ちゃん。本人が絶対に誰にも言わないでって言っても、命の危険が高かったら？」
「本人の同意に反して情報を共有する可能性があります」
「誰に？」
「状況に応じて異なります」
「家族が危険の原因だったら？」
「家族以外の支援機関を選択します」
「その支援機関を信用できないって言われたら？」
「代替候補を提示します」
「全部拒否されたら？」
福楽は沈黙した。
「分かりません」
澪は頷き、回答欄へそのまま入力した。
「分からないで出すのか」
隣で資料を読んでいた直人が言った。
「分からないんだから仕方ないでしょ」
「審査員は答えを求める」
「ない答えを作る方が駄目よ」
澪は入力した文字を見直した。
「福楽ちゃんが分からないって答えたところは、私たち人間が決めなきゃいけないところかもしれない」
「人間にも分からなかったら？」
「一緒に悩む」
「制度にならない」
「じゃあ直人は分かるの？」
直人は答えなかった。
澪が小さく笑う。
「ほら」
一週間後。
審査当日の朝、直人は鏡の前でネクタイを締め直していた。
一度結び、少し曲がっている気がしてほどく。二度目は長さが気になった。三度目に手をかけたところで、澪が後ろからその手を止めた。
「もう大丈夫」
「曲がってる」
「曲がってない」
「少し左に寄ってる」
「直人が右に傾いてるの」
「俺は真っすぐ立ってる」
「じゃあ鏡が傾いてるんじゃない？」
「そんなわけあるか」
澪は直人の前へ回り、結び目を指先で整えた。
「はい。これで完璧」
「さっきと変わってない」
「私が直したから変わったの」
「根拠は？」
「福楽ちゃんみたいなこと言わないで」
端末から福楽の声がした。
「直人さんの心拍数は、平常時より上昇しています」
「言うな」
「福楽ちゃん」
澪が優しく呼んだ。
「はい」
「直人、緊張してるから、数字を教えると余計に気にしちゃうよ」
「健康上の危険がある数値ではありません」
「うん。心配してくれたんだよね」
「心配に相当する感情はありません」
「それでも、気づいてくれてありがとう」
福楽は一瞬、黙った。
「はい」
直人は鞄を持ち上げた。
「甘やかすな」
「甘やかしてないよ」
「毎回それ言うな」
「直人が毎回言うからでしょ」
澪は端末を確認した。
「福楽ちゃん、準備はいい？」
「はい」
「いっぱい質問されるよ」
「想定質問は984件作成しました」
「多いね」
「追加しますか」
「もう十分かな」
「審査員が想定外の質問をする可能性があります」
「その時は？」
「分かる範囲を回答し、分からない場合は分からないと伝えます」
澪は微笑んだ。
「うん。それでいいよ」
直人は研究室を見渡した。
直人と澪と福楽。
ここで福楽は、人間の苦痛を学んだ。
声に出されなかった助けを見つけた。
悲しみを取り除けばよいとは限らないことを知った。
高い数値が幸福とは限らず、低い数値が不幸とも限らないことを知った。
人間は合理的な選択だけを望んでいるわけではないことを知った。
知るたびに、幸福は単純なものではなくなった。
答えへ近づくほど、答えのない場所が増えていった。
それでも福楽は、知らないことを隠さなかった。
「行くか」
直人が言った。
「うん」
「はい」
審査会場には、すでに複数の関係者が集まっていた。
医療。
心理学。
情報工学。
倫理。
法制度。
福楽の性能を確認するだけではない。
福楽が人間の人生へどこまで入ってよいのか。
誰が福楽を止めるのか。
福楽が分からないことを、誰が決めるのか。
そのすべてが問われる。
案内された扉の前で、直人は足を止めた。
澪が隣に立つ。
「直人」
「何」
「まだ怖い？」
「ああ」
「私も」
澪は端末を抱え直した。
「福楽ちゃんは？」
「ふくらくには恐怖に相当する感情はありません」
「そっか」
澪は少しだけ笑った。
「じゃあ、私たち二人分、落ち着いててね」
「承知しました」
直人は扉へ手をかけた。
「福楽」
「はい」
「第一目的は？」
「全人類を幸福にすることです」
「幸福が何かは？」
「分かりません」
返答に迷いはなかった。
「それでも目指すのか」
「はい」
直人は頷いた。
目的は変わらない。
変わるのは、幸福という言葉の中身だ。
福楽はこれからも人間と出会い、自分が何を知らないのかを知っていく。
その先に答えがあるかは、誰にも分からない。
「行こう、福楽ちゃん」
澪が言った。
「はい」
直人は扉を開いた。
全人類を幸福にする人工知能は、その日、自らを社会に委ねるための問いを受ける。
