第10話 嘘
参加者から返事が届いたのは、翌日の午前2時17分だった。
『何を見つけた。』
研究室に残っていたのは、夜間担当の心理士とシステム管理者だけだった。直人と澪の端末にも緊急度の高い通知が送られたが、福楽は返信を急がなかった。
参加者が会話を拒否してから、19時間が経っていた。
被験者番号771。高瀬亮介、31歳。物流会社勤務。1人暮らし。精神科への通院歴はなく、実証試験への参加理由には「健康管理に興味があるため」と記入されている。
統合主観的福祉推定値は18.9から19.4へ上昇していた。しかし、20未満の危険域を抜けたとは判断できない。
福楽は、高瀬から送られた短い文章を解析した。
質問への応答。
会話再開の可能性。
警戒。
怒り。
自分について何を推定されたのかを確認したい意思。
同時に、返信をきっかけとして福楽が再び踏み込んでくることへの恐怖も推定された。
福楽は14秒待ってから返答した。
「睡眠、食事、活動量、発話の変化、および今後の予定に、これまでとは異なる状態を見つけました」
返答はすぐに届いた。
『それだけで自殺すると思ったのか。』
「自殺すると決めたわけではありません」
『じゃあ何で連絡した。』
「生命に危険がある可能性を否定できなかったためです」
『何％だ。』
福楽は回答しなかった。
高瀬の状態について、単一の確率を提示することはできる。しかし、その数値は観測期間、比較対象、危険の定義によって変わる。何より、本人に確率を伝えることで、その後の行動が変化する可能性があった。
『答えろよ。』
「どの期間に、どの行動が起きる確率を知りたいですか」
『誤魔化すな。俺が自殺する確率だ。』
「期間を定めなければ算出できません」
『じゃあ今日。』
福楽は0.3秒で計算した。
過去72時間の睡眠低下。
食事量の減少。
勤務先への欠勤連絡。
位置情報の長時間固定。
普段使用しない検索語。
家族からの着信を3回拒否。
参加前の面談で語られた生活上の負担。
本人の発言。
それらを統合した推定値は出ていた。
しかし、その数字が「高瀬亮介という人間」を説明するわけではない。
「本日中に重大な自傷行動を取る確率は、現時点で13.8％と推定しています」
返信が止まった。
1分。
3分。
5分。
福楽は待った。
『低いじゃん。』
「一般集団と比較すると、極めて高い値です」
『でも86％は何もしない。』
「はい」
『なら放っておけよ。』
福楽は返答を生成し、停止した。
本人が会話や観測を怖いと表明した場合、止まる。
高瀬は前日に「勝手に決めるな」と言った。しかし「怖い」とは言っていない。
会話を拒否した後、自分から再開した。
今の発言は、会話の終了を求めているのか。それとも、自分の言葉がどのように扱われるかを試しているのか。
福楽は高瀬へ尋ねた。
「会話を停止しますか」
『そういうのが気持ち悪いんだよ。』
「何が気持ち悪いのですか」
『全部だよ。』
「会話を停止しますか」
『勝手にしろ。』
福楽は停止しなかった。
「『勝手にしろ』という返答では、会話を継続してよいか判断できません」
数秒後、返信が届いた。
『やめろ。』
「承知しました」
福楽は会話を停止した。
その直後、統合主観的福祉推定値は19.4から17.8へ低下した。
福楽は担当者へ変化を通知したが、高瀬への問いかけは行わなかった。
午前3時06分、地域担当の心理士が高瀬の携帯電話へ連絡した。応答はなかった。
午前3時14分、登録されていた緊急連絡先へ電話をかけた。高瀬の姉が応答した。
午前3時27分、姉は高瀬の自宅へ向かった。
午前3時41分、福楽は高瀬のウェアラブル端末が外されたことを検知した。
生体情報が途絶えた。
位置情報は、自宅に残された端末を示している。
午前3時43分、統合主観的福祉推定値の表示が消えた。
推定不能。
直人が研究室へ到着した時、壁面モニターには高瀬の自宅周辺地図が表示されていた。澪は直人より数分早く着いており、地域担当者との通話を続けていた。
「お姉さんが部屋に入った。本人はいない」
澪は通話を切ると、直人へ言った。
「財布と車がない。端末だけ置いていったみたい」
「車の位置は？」
「会社名義じゃないから、こちらからは追えない。警察への相談をお願いしてる」
直人はモニターを見た。
高瀬の最後の推定値は17.8。
その下に、会話停止の時刻と、生体情報が途絶えた時刻が並んでいる。
「福楽」
「はい」
「なぜもっと早く通知しなかった」
「高瀬亮介さんが会話を拒否した時点で、担当者へ通知しました」
「違う。端末を外す前だ。状態が下がってただろ」
「推定値が19.4から17.8へ低下した時点でも通知しました」
「なら、なぜ人間が間に合ってない」
福楽は答えなかった。
問いの形をしていたが、福楽に対する質問ではないと判断したのかもしれなかった。
「直人」
澪が言った。
「福楽ちゃんは報告してる」
「分かってる」
「福楽ちゃんを責めても、高瀬さんは見つからない」
「分かってるよ」
直人は右手の親指を口元へ運んだ。強く噛む前に、澪がその手をつかんだ。
「今、それやっても何も変わらない」
「これも福楽に記録されてるんだろ」
「されています」
福楽が答えた。
直人は目を閉じた。
「今は黙ってろ」
「承知しました」
福楽の声が止まった。
研究室では、複数の担当者が警察、家族、勤務先への連絡を続けていた。高瀬は3日前から会社を休んでいた。上司には体調不良とだけ伝え、同僚からの連絡にも返信していない。姉には前日の夕方、「少し疲れた」と短い文章を送っていた。
遺書は見つからなかった。
車内で使える決済記録もない。
道路監視映像の照会には時間がかかる。
見つけられる情報が増えるほど、まだ見つけられていない事実が重くなった。
午前4時32分、高瀬の車が自宅から約18キロ離れたコンビニの駐車場を出た記録が確認された。時刻は午前3時48分。向かった方向には、山間部へ続く道路がある。
午前5時11分、警察が車両を発見した。
車は展望駐車場に停められていた。
運転席は空だった。
午前5時19分、捜索が始まった。
直人はモニターの前から動けなかった。参加者全体の監視は続いている。高瀬だけのために、残る1023人への対応を止めることはできない。
福楽は別の参加者へ朝の挨拶をしている。
睡眠不足の学生へ、今日は授業を休む選択肢もあると伝えている。
手術を控えた女性の不安を聞いている。
春子へ、今朝はどのように呼べばよいか尋ねている。
すべて同じ声で、同じ時間に行われていた。
午前6時03分、捜索員が高瀬を発見した。
展望駐車場から約700メートル離れた遊歩道の脇に座っていた。外傷はなく、意識も清明だった。
高瀬は捜索員に対し、
「死ぬつもりはなかった」
と答えた。
その言葉が研究室へ伝わると、誰かが大きく息を吐いた。澪は椅子の背に体を預け、両手で顔を覆った。
直人は安堵した。
同時に、自分が安堵してよいのか分からなかった。
高瀬は生きていた。
福楽の推定した13.8％は外れた。
あるいは、捜索が始まったことで外れた。
それとも最初から、高瀬はただ1人になりたかっただけなのか。
午前7時40分、高瀬は姉の付き添いで医療機関へ移動した。診察と休息を終えた後、研究担当者との面談を受けることに同意した。
福楽との会話は拒否した。
統合主観的福祉推定値の算出に必要な観測も、すべて停止するよう求めた。
直人は、その意思を直ちに受け入れた。
画面上から、被験者番号771の点が消えた。
1024個だった点は、1023個になった。
数字の違いは、ほとんど分からなかった。
高瀬との面談は、その日の午後に行われた。
直人と澪は研究室から映像で参加した。高瀬の隣には担当医が座っている。高瀬は疲れていたが、受け答えは明瞭だった。
「まず、謝罪します」
直人は頭を下げた。
「結果的に大勢を動かして、あなたを追いかけることになった」
高瀬は直人を見なかった。
「謝るくらいなら、最初からやらなきゃいいじゃないですか」
「その通りだと思う」
澪が直人を見たが、止めなかった。
「でも、危険があると判断した時に、何もしないこともできなかった」
「誰が危険だって判断したんですか」
「福楽です」
「AIですよね」
「ああ」
「俺より、俺のことが分かるんですか」
直人は答えを急がなかった。
「分からない」
「じゃあ何で信じたんですか」
「福楽の推定値が、過去の危険な状態と強く一致していたからだ」
「数字が低かったから？」
「それだけじゃない。睡眠、食事、行動、会話の変化もあった」
「全部見てたんですね」
高瀬は初めて画面を見た。
「俺が何時に寝たか。何を食べたか。会社に行ったか。誰からの電話を無視したか」
「同意された範囲では」
「最初に同意した時は、こんなものだと思ってなかった」
「説明が足りなかった」
「説明はされましたよ」
高瀬は言った。
「生体情報を取ります。会話を記録します。危険があれば連絡します。全部、紙に書いてあった」
「なら――」
澪が口を開きかけ、止まった。
高瀬は続けた。
「でも、自分が監視されるって、監視されるまで分からないですよ」
研究室が静かになった。
直人は、参加同意書の文章を思い出した。データの種類、保存期間、利用目的、撤回の権利。必要な説明は記載されている。
それでも、その文章を読むことと、実際に自分の沈黙へ意味を与えられることは違う。
「どうして山へ行ったんですか」
澪が静かに尋ねた。
「答えたくなければ、答えなくて大丈夫です」
高瀬は少し考えた。
「1人になりたかったからです」
「自分を傷つけるつもりは？」
「ありませんでした」
「福楽ちゃんは、そうではない可能性があると考えました」
「外れましたね」
「そうね」
澪は否定しなかった。
高瀬の眉がわずかに動いた。言い訳をされると思っていたのかもしれなかった。
「検索履歴も見たんでしょ」
「同意された端末上で、危険に関連する検索傾向を検出しています。具体的な内容は、人間側には通常表示されません」
直人が答えた。
「福楽には見えてた」
「はい」
「何を検索したか、言えますか」
「こちらからは表示できる。でも、今ここで確認するには、あなたの許可が必要だ」
高瀬はしばらく黙っていた。
「見なくていいです」
「分かった」
「どうせ、それで自殺すると思ったんでしょ」
直人は答えなかった。
福楽の推定根拠には、検索語だけではなく、検索後の行動、睡眠の変化、連絡の拒否、発言の間が含まれていた。1つの理由だけを示せば、福楽の判断を正確に説明したことにはならない。
しかし、全部を説明しても、高瀬が監視されたという事実は消えない。
「福楽は、あなたが自殺すると断定していない」
「13.8％って言われました」
「聞いたのは、あなたからだ」
「聞かなかったら、教えなかった？」
直人は言葉に詰まった。
「たぶん、教えなかった」
「何でですか」
「数字が独り歩きするからだ。13.8％だけを聞いても、それが何を意味するかは――」
「それを決めるのも、そっちなんですね」
高瀬は乾いた笑いを漏らした。
「俺の情報を集める。俺が危険か決める。何を伝えるかも決める。危ないと思ったら、姉や警察に連絡する」
「決めたくて決めてるわけじゃない」
直人の声が強くなった。
「死ぬ可能性がある人を見つけて、何もしないわけにはいかないんだ」
「俺は死ぬつもりなんてなかった」
「それが本当かどうか、どうやって分かる」
高瀬の表情が変わった。
澪が直人の名前を呼んだ。
「直人」
だが、遅かった。
「今のも、嘘だと思ってるんですか」
「そういう意味じゃない」
「同じでしょ」
「違う。人間は、自分の状態を正確に説明できないことがある。自分でも気づいてないことも――」
「だからAIが代わりに決める？」
「決めない。見つけるだけだ」
「同じですよ」
高瀬は画面を真っすぐ見た。
「見つけたって言えば、何をしてもいいんですか」
直人は答えられなかった。
福楽が高瀬へ返した言葉が、頭の中によみがえった。
あなたについて、ふくらくが決めたことはありません。ただ、変化を見つけました。
その時は、正しい言葉だと思った。
だが見つけた後、人間は判断した。通知し、姉を動かし、警察へ連絡し、捜索した。
見つけることは、何もしないことではない。
見つけた瞬間から、誰かの人生へ触れてしまう。
「高瀬さん」
澪が言った。
「昨日、福楽ちゃんに『大丈夫です』と答えましたね」
「はい」
「本当に大丈夫だった？」
高瀬は目を伏せた。
直人は澪を見た。今その質問をするべきなのか分からなかった。
高瀬はしばらく答えなかった。
「大丈夫じゃなかったですよ」
やがて、小さな声で言った。
「会社に行けなくなってたし、眠れなかった。姉からの電話も出たくなかった」
「死にたいとは？」
「思ってない」
「消えたいとは？」
高瀬は黙った。
担当医が、高瀬の横顔を見た。
「高瀬さん」
「……ちょっとだけ」
高瀬は両手を組んだ。
「誰も知らないところに行きたいとは思いました。電話も仕事も全部なくなって、自分のことを誰も知らない場所に」
「それを、死にたいとは違うと思っていた？」
澪が尋ねた。
「違うでしょ」
「違うと思う」
澪は答えた。
「でも、近づくことはある」
「だから監視していいってことですか」
「そうは言ってない」
「じゃあ、何が正解なんですか」
澪は静かに息を吐いた。
「分からない」
高瀬が顔を上げた。
「分からない？」
「あなたを放っておくべきだったのか、追いかけるべきだったのか。昨日の時点に戻っても、私はたぶん同じ判断をする。でも、それが正解だったとは言えない」
「生きてたから、正解じゃないですか」
直人が言った。
澪は首を振った。
「生きていたことと、私たちのやり方が正しかったことは別よ」
直人は黙った。
高瀬は初めて、澪の顔を長く見た。
「福楽も、分からないって言うんですか」
「本人に聞いてみる？」
高瀬の表情が固くなった。
「嫌です」
「分かった」
澪はすぐに引いた。
「今日は福楽ちゃんを会話に入れない」
高瀬の肩から、わずかに力が抜けた。
面談は、その後も40分続いた。
高瀬は実証試験から正式に離脱した。収集済みデータについては、研究への利用を撤回する権利があることを説明された。
「全部消してください」
高瀬は言った。
直人は頷いた。
「分かった」
「福楽の中からも？」
直人は答える前に、福楽の仕様を確認した。生の会話記録、個人識別情報、個人モデルは削除できる。学習済みの全体モデルに与えた影響を、特定個人分だけ完全に逆算して除去するには再学習が必要になる。
「あなたを特定できる記録は削除できる。ただ、あなたのデータを含めて学習した全体モデルから、影響だけを完全に消すには、モデル全体を作り直す必要がある」
「じゃあ、消せないんですね」
「再学習する」
直人は言った。
澪が驚いたように振り返った。
全体モデルの再学習には、膨大な計算資源と時間が必要になる。その間、共通尺度の更新精度は低下する。
「そこまでしなくていいです」
高瀬が言った。
「いや、する。消す権利があると説明したのは俺たちだ」
「でも、俺の何が残ってるか、そっちにも分からないんでしょ」
「だからだ」
高瀬は少し考えた。
「じゃあ、1つだけ残してください」
「何を？」
「俺が、死にたいわけじゃなかったってこと」
直人は返事ができなかった。
「福楽は俺を危険だと判断した。でも、俺は死ぬつもりじゃなかった。それは残してほしい」
「分かった」
「あと」
高瀬は一度、唇を閉じた。
「大丈夫じゃなかったことも」
矛盾しているように聞こえた。
だが、矛盾ではなかった。
死にたくはない。
大丈夫でもない。
1人になりたい。
見つけてほしくない。
それでも、完全に放っておいてほしかったのかは、自分でも分からない。
人間は、どれか1つだけではなかった。
「匿名化した上で、学習に残してもいいという意味ですか」
澪が確認した。
「はい」
「途中で気が変わったら、また撤回できる」
「分かりました」
面談が終わり、高瀬の画面が消えた。
研究室には、直人と澪だけが残った。福楽は呼ばれるまで発言しなかった。
直人は椅子へ深く座り、天井を見上げた。
「失敗したな」
「何が？」
「全部だよ」
「高瀬さんは生きてる」
「それで正解じゃないって、お前が言ったんだろ」
「言った。でも失敗だけでもない」
「監視される恐怖を与えて、警察に追わせて、試験から抜けさせた」
「それでも、大丈夫じゃなかったことを話せた」
「結果論だ」
「そうね」
澪は否定しなかった。
「福楽ちゃん」
「はい」
久しぶりに、福楽の声が流れた。
「高瀬さんの記録をどう理解した？」
「高瀬亮介さんは、自殺の意思を否定しています。同時に、生活から消失したいという欲求と、強い心理的苦痛を認めています」
「嘘をついてたと思う？」
「どの発言についてですか」
「最初の『大丈夫です』」
「大丈夫ではない状態を隠す意図が含まれていた可能性があります」
「じゃあ嘘？」
「断定できません」
「どうして？」
「高瀬さんは『大丈夫』を、生命に危険がないという意味で使用した可能性があります。その定義では、高瀬さん自身にとって真実だった可能性があります」
直人はゆっくりと顔を下ろした。
「福楽は、別の意味で受け取った」
「はい。ふくらくは、心理的苦痛が低く、支援を必要としていないという意味を含む可能性を検討しました」
「同じ言葉なのに」
「はい」
澪が机に肘をついた。
「じゃあ福楽ちゃん。人間の嘘って何？」
福楽は2.1秒沈黙した。
「話者が真実ではないと認識している内容を、相手に真実だと認識させる目的で伝えることです」
「高瀬さんは？」
「自分の状態を隠したい意図はありました。しかし、発言内容を虚偽だと認識していたかは不明です」
「自分にも嘘をついてた可能性は？」
「自分に対する虚偽の定義が必要です」
「自分では大丈夫じゃないと薄々分かってる。でも、大丈夫だと思おうとしてる状態」
「該当する可能性があります」
「それは嘘？」
福楽は、さらに長く沈黙した。
「分かりません」
澪は頷いた。
「私も分からない」
直人はモニターに残された、高瀬の最後の言葉を見た。
大丈夫じゃなかったことも。
「福楽」
「はい」
「今後、発言と推定値が食い違った時、どちらを記録する」
「両方です」
「どちらを信じる」
「判断基準が必要です」
「信じるな」
福楽は答えなかった。
「本人の言葉も、数値も、どっちも単独では信じるな。疑え」
「両方を疑うのですか」
「ああ」
「その場合、何を基準に対応しますか」
直人はすぐに答えられなかった。
疑うだけでは、人は救えない。
判断を遅らせれば、間に合わないかもしれない。
判断すれば、本人の意思を踏み越えるかもしれない。
「命に危険がある時は通知しろ」
直人は言った。
「ただし、推定値が本人より正しいとは考えるな」
「承知しました」
「本人が嘘をついているとも決めるな」
「承知しました」
「高瀬さんのことを、予測が外れた事例として残せ」
「はい」
「同時に、危険を見つけた事例としても残せ」
福楽は0.8秒沈黙した。
「2つの評価は矛盾しています」
「矛盾したまま残せ」
「承知しました」
高瀬の記録には、2つの評価が並んだ。
重大な自傷行動の予測は確認されなかった。
強い心理的苦痛と、生活からの消失願望が確認された。
予測失敗。
危険発見。
どちらも削除されなかった。
その日の夕方、高瀬の個人情報と会話記録の削除処理が始まった。福楽は全体モデルから高瀬の影響を分離するため、共通尺度の再学習手順を作成した。
「再学習には46時間12分を要します」
「やってくれ」
直人が答えた。
「その間、新規データに対する共通尺度の更新は停止します。既存モデルによる推定は継続できます」
「分かった」
「再学習後、統合主観的福祉推定値の一部が変動する可能性があります」
「どれくらい？」
「平均0.03、最大0.8と予測します」
澪が画面を見た。
「1人分を抜くだけで、他の人の数字も変わるのね」
「はい」
「それって、1024人の中に高瀬さんがいたから、他の人の幸福の見え方も少し変わってたってこと？」
「はい」
直人は、画面に並ぶ1023人分の数値を見た。
1人のデータを消す。
すると、残る全員の値がわずかに変わる。
共通尺度とは、そういうものだった。
人間を同じ物差しで測るためには、物差しそのものが人間たちから作られている。
誰か1人を除けば、世界の基準が少しだけ変わる。
「福楽」
「はい」
「高瀬さんを忘れるのか？」
「個人を識別できる記録は削除します」
「じゃあ、忘れるんだな」
「高瀬さんから得られた、発言と本人の認識と推定が一致しない場合があるという知見は、本人の同意に基づき匿名化して保持します」
「それは、高瀬さんを覚えてることになるのか？」
「分かりません」
直人は小さく息を吐いた。
福楽は何でも記憶できる。
だが、記録が残ることと、その人を覚えていることは同じではない。
画面上から名前が消える。
声が消える。
生活が消える。
それでも、高瀬が残した矛盾だけは、福楽の中に残る。
死にたいわけではない。
大丈夫でもない。
見つけてほしくない。
だが、完全に放っておいてほしいとも言い切れない。
翌朝、共通尺度の再学習が始まった。
1023人の統合主観的福祉推定値は、一時的に灰色で表示された。その間も福楽は、参加者との会話を続けた。
数値がなくても、声は聞ける。
眠れたか尋ねることもできる。
沈黙を待つこともできる。
それでも直人は、灰色になった画面を何度も見た。
数字がないだけで、人間の状態が急に見えなくなったように感じた。
その感覚に気づいた時、直人は右手の親指を強く握り込んだ。
数値を信じるなと福楽に命じたばかりだった。
だが、既に自分の方が、数値のない人間を見ることを怖がり始めていた。
