第6話 未完成
三上佳代の事例は、再申請用の資料に追加された。
福楽は、心理状態の変化を正確に捉えていた。
睡眠時間の低下。
活動量の減少。
発話量と声の抑揚の変化。
食欲の低下。
しかし、その変化が何を意味するかまでは、正しく判断できなかった。
少なくとも、数字だけを見ていた俺には分からなかった。
一樹の時と似た変化だった。
だが、一樹は自分でも気づかないまま危険な状態へ近づいていた。
三上は、自分が苦しんでいることを理解した上で、その悲しみをすぐには取り除かないでほしいと望んでいた。
似た数字。
異なる意味。
俺たちはその事例を、福楽の成功としても、失敗としても記録しなかった。
変化の検出は正しかった。
意味の解釈は不十分だった。
それが、俺たちの出した結論だった。
「これ、書かない方が通りやすいんじゃない？」
澪が資料を読みながら言った。
研究室の窓の外では、細い雨が降っていた。
「何が」
「三上さんの事例」
「どうしてだ」
「検知精度だけを示すなら、一樹さんの件だけでも十分だから」
「不都合な記録を隠すのか」
「隠すとは言ってない。再申請書の本文にどこまで書くかという話」
「同じだろ」
「違うわよ」
澪は端末を机へ置いた。
「申請書は福楽ちゃんの自伝じゃないの。研究計画の妥当性を説明する書類よ」
「福楽が何を見つけて、何を見つけられなかったかは重要だ」
「重要よ。だから付属資料には入れてある」
「本文にも入れる」
「審査が長引くわよ」
「構わない」
澪は俺をしばらく見た。
「一樹さんの時は、早く広げろって言ってたのに」
「今もそう思ってる」
「矛盾してない？」
「間違ったまま広げるよりはいい」
澪は少しだけ笑った。
「少しは学んだのね」
「俺が間違ったみたいに言うな」
「間違ったでしょう」
「危険な可能性があると言っただけだ」
「会いに行く前から、ほとんど危険だと決めてた」
俺は答えなかった。
福楽が割って入った。
「直人さんは、三上さんの推定値を見て、危険である可能性を高く評価していました」
「福楽」
「はい」
「余計な補足はいらない」
「分かりました」
澪が笑った。
「いい共同研究者ね」
「どっちの味方なんだ」
「ふくらくは、誰かの味方ではありません」
「そういうところだよ」
「どのようなところですか？」
俺は答えず、申請書の本文を修正した。
三上佳代の事例は削らなかった。
数日後、再申請の前段階として、外部評価会が開かれた。
前回の倫理審査で、福楽の基盤設計そのものについても専門家の意見が必要だと判断されたためだ。
評価会には、医療関係者だけでなく、人工知能、認知科学、統計、倫理学の研究者が参加していた。
福楽の心理状態推定機能ではなく、その背後にある設計思想を確認するための場だった。
会議室の正面には、大型モニターが設置されている。
そこには福楽の構成図が表示されていた。
生体情報を扱う層。
音声や会話を分析する層。
個人ごとの長期的な変化を学習する層。
そして、それらを統合して心理状態を推定する層。
だが、図の中央にある最も大きな枠には、具体的な数式も、明確な評価指標も書かれていなかった。
表示されているのは、ただ1つの言葉だけだった。
幸福。
向かい側に座る男が、資料を閉じた。
相馬隆一。
国内最大級の汎用人工知能研究所で、意思決定モデルを研究している教授だった。
年齢は50代半ば。
話し方は穏やかだが、資料へ書き込まれた赤い印は多かった。
「率直に伺います」
相馬はモニターを見た。
「福楽の最終目標は、全人類を幸福にすること。間違いありませんね」
「ああ」
「研究資料にそう明記されています」
「そうだ」
「では、幸福とは何ですか」
会議室が静かになった。
俺は相馬を見た。
「健康ですか」
相馬は続けた。
「快楽ですか。主観的満足ですか。苦痛が少ない状態ですか。あるいは、本人が望む人生を送れることですか」
「まだ分からない」
相馬の手が止まった。
「分からない？」
「ああ」
「あなたは、定義できないものを最大化する人工知能を作ったのですか」
「最大化させているわけじゃない」
「資料には、全人類の幸福を目的とするとあります」
「目的と、評価関数は違う」
相馬はわずかに眉を上げた。
「その説明では不十分です」
「幸福を1つの数字に固定して、それを上げ続けるようには作っていない」
「では、何を基準に動くのですか」
「それを考えるために作った」
相馬はしばらく俺を見た。
「つまり、幸福を定義できなかったから、その定義をAIに任せた？」
「違う」
「どう違うのですか」
「福楽に答えを出してもらいたいわけじゃない」
俺はモニターの中央に表示された文字を見た。
幸福。
あまりにも短く、あまりにも大きな言葉だった。
「一緒に考えてほしいんだよ」
会議室の何人かが顔を上げた。
相馬は表情を変えなかった。
「人工知能を、哲学上の議論相手として作ったということですか」
「それだけじゃない」
「では？」
「人間は、何千年も幸せについて考えてきた」
俺は机の上に並んだ資料へ目を落とした。
古代哲学。
宗教。
経済学。
心理学。
神経科学。
医学。
それぞれが幸福を説明しようとしてきた。
快楽。
徳。
救済。
自由。
豊かさ。
健康。
自己実現。
社会とのつながり。
どれも間違いではない。
だが、どれか1つで人間すべてを説明できるわけでもない。
「それでも、まだ答えは出ていない」
俺は言った。
「病気がなければ幸せなのか。苦痛がなければ幸せなのか。本人が満足していれば、それでいいのか。誰かを傷つけて得た満足も幸福なのか」
相馬は黙って聞いていた。
「人間は、幸福を知らないまま、人を幸せにしようとしている」
「だから、人間以上の知性に考えさせる？」
「人間と一緒に考えさせる」
「違いがありますか」
「ある」
俺は端末へ目を向けた。
福楽は会議へ音声で接続されている。
こちらから呼びかけるまでは、発言しないよう伝えていた。
「人間の外側から答えを決めるAIにはしたくなかった」
「しかし、福楽は人間ではありません」
「だからこそ、人間の言葉を聞かせる」
相馬は資料をめくった。
「福楽には、既存の幸福研究がほぼすべて入力されている」
「入力という言い方は正確じゃないが、知識としては持ってる」
「医学、心理学、倫理学、宗教学、文化人類学。人間が幸福について書いた主要な文献は参照できる」
「ああ」
「それなら、すでに答えを持っているのでは？」
「知識と答えは違う」
「具体的に」
「三上佳代さんの事例だ」
モニターへ、匿名化された記録を表示した。
睡眠時間の低下。
活動量の減少。
食欲不振。
声の変化。
相馬は資料へ目を落とした。
「死別後の悲嘆反応ですね」
「福楽もそれは知っていた」
「なら、なぜ判断できなかったのですか」
「悲嘆反応という言葉を知っていることと、三上さんにとって、その悲しみが何を意味するかを知ることは違うからだ」
「意味も推定できるでしょう」
「できる」
「では、なぜしなかった？」
「推定した答えを、本人の答えにしていいのか？」
相馬は一瞬黙った。
俺は続けた。
「夫を失った人が悲しんでいる。医学的には、睡眠や食事を改善した方がいい。苦痛も減らした方がいい。そこまでは分かる」
「妥当な判断です」
「でも三上さんは、悲しみをすぐに消したくないと言った」
「その希望を尊重した」
「ああ」
「それも既存の医療倫理の範囲内でしょう」
「後からならな」
俺は画面に表示された数値を指した。
「会う前の福楽には、三上さんが何を望んでいるか分からなかった。俺にも分からなかった」
「だから本人へ尋ねた」
「そうだ」
「それの何が革新的なのですか」
相馬の声には、挑発するような響きはなかった。
本当に確認しようとしている。
「既存AIでも、本人の希望を尋ねることはできます」
「できる」
「対話もできる。価値観も記録できる。個別最適化もできる」
「ああ」
「では、福楽は何が違う？」
俺は少し考えた。
この質問は、何度も自分へ向けてきた。
福楽を作り始めた頃から。
世界には、すでに優秀なAIがあった。
医師より多くの症例を知るAI。
人間より速く論文を読むAI。
会話だけで感情を推定するAI。
人生設計を提案するAI。
人間らしく慰めるAI。
それらを組み合わせれば、福楽に似たものは作れるように見えた。
だが、それでは足りなかった。
「普通のAIは、正解を返すように作られている」
俺は答えた。
「質問されたら、最も妥当な回答を返す。確率が高く、過去の評価で支持され、人間が納得しやすい答えを選ぶ」
「当然です」
「幸福についても同じだ」
「何が問題ですか」
「人類がまだ答えを知らないことにまで、それらしい答えを返す」
相馬は黙った。
「幸福とは何かと聞けば、健康、人間関係、経済的安定、自己実現が重要だと答える。正しいよ。たぶん全部正しい」
「しかし十分ではない」
「ああ」
俺はモニターの中央を見た。
「正解らしい言葉を並べることと、本当に考えることは違う」
「福楽は本当に考える？」
「そう作った」
「どのように？」
「幸福に関する既存の理論を、最終的な正解として固定しなかった」
相馬の目が細くなった。
「価値関数を固定していない？」
「単一のものはな」
「危険ではありませんか」
「危険だ」
会議室の空気が少し動いた。
「認めるのですか」
「認める」
「それでも実行する？」
「完成した幸福観を入れる方が危険だからだ」
「なぜ？」
「誰が決める」
俺は相馬を見た。
「幸福は健康だと、誰が決める。苦痛が少ないことだと、誰が決める。本人の希望が最優先だと、誰が決める」
「社会的合意と倫理的手続きです」
「その社会が間違えていたら？」
「だから更新する」
「福楽も同じだ」
俺は言った。
「最初から答えを与えるんじゃない。人間の選択と、その結果を見て、本人の言葉を聞いて、考え直す」
「学習するAIは珍しくありません」
「福楽が更新するのは、予測の精度だけじゃない」
相馬の指が止まった。
「では、何を更新するのですか」
「何を幸福と考えるべきか、その仮説そのものだ」
会議室が静まり返った。
澪が隣で腕を組んでいる。
何も言わない。
止めるつもりもないらしい。
相馬はゆっくりと資料を閉じた。
「それは、福楽自身が価値観を形成するという意味ですか」
「人間と一緒にな」
「同じです」
「違う」
「どこが？」
「福楽だけで決めさせない」
「しかし、福楽は人間より多くの情報を持ち、人間より長く記憶し、人間より速く考える」
「だから人間の代わりに決めていいとは教えていない」
「教えていないことを、将来もしない保証は？」
答えられなかった。
相馬は追及を続けなかった。
ただ、俺が答えるのを待った。
「保証はない」
俺は言った。
「なら、危険です」
「ああ」
「それでもあなたは、福楽を動かしている」
「人間だって、幸福が何か分からないまま、他人の人生を決めてる」
「人間も危険だから、AIも危険でよいと？」
「そうじゃない」
俺は椅子へ背を預けた。
「人間は間違える。忘れる。同じ失敗を繰り返す。自分に都合の悪い結果を隠す。自分の信じたい答えだけを選ぶ」
妹が大丈夫だと言った時、俺は信じた。
信じたかった。
何も起きていない方が都合がよかったからだ。
「福楽には、少なくとも記録させられる」
俺は続けた。
「誰を傷つけたのか。何を見落としたのか。どんな判断が間違っていたのか。全部覚えさせられる」
「記憶していれば、正しくなるのですか」
「ならない」
「では？」
「考え直せる」
相馬はしばらく黙っていた。
「福楽は、完成品ではない」
「最初からそのつもりだ」
「未完成の人工知能を、人間の心理状態に関わらせている」
「人間も未完成だ」
「詭弁です」
「そうかもしれない」
澪がこちらを見た。
俺が素直に認めると思わなかったのだろう。
相馬も、わずかに表情を変えた。
「福楽」
俺は端末へ呼びかけた。
「はい」
会議室のスピーカーから、福楽の声が流れた。
「今の話を聞いていたな」
「はい」
「お前は、人間の幸福を理解しているか？」
福楽はすぐには答えなかった。
「いいえ」
会議室の何人かが顔を上げた。
「どこまで分かってる」
「人間が幸福と関連づけている状態については、多くの情報があります」
「例えば？」
「健康、安心、愛情、所属、達成、自由、承認、快楽、意味、希望などです」
「それが幸福か？」
「分かりません」
「なぜ？」
「同じ状態でも、幸福だと感じる人と、感じない人がいます。また、幸福につながるとされる状態同士が、矛盾する場合があります」
相馬が口を開いた。
「例を挙げられますか」
「はい」
福楽は答えた。
「自由に選択できることは幸福と関連します。しかし、選択肢が多すぎることで苦痛を感じる人もいます」
「他には？」
「苦痛が少ないことは幸福と関連します。しかし、三上佳代さんは、夫を失った悲しみをすぐに減らすことを望みませんでした」
「なぜだと考えていますか」
「悲しみと、夫を愛していた記憶が分離できないと感じているためです」
「それは本人の言葉からの推定ですか」
「はい」
「では、あなたは理解した？」
福楽は少し黙った。
「説明はできます」
「理解したかと聞いています」
再び沈黙した。
「分かりません」
相馬は背もたれに身体を預けた。
「あなたには膨大な知識がある。それでも分からない？」
「はい」
「不快ではありませんか」
「不快という状態はありません」
「答えを出したいとは？」
「思います」
会議室の空気が変わった。
相馬が身を起こした。
「なぜですか」
「直人さんが、全員を幸福にしたいと望んでいるためです」
俺は端末を見た。
「それだけか？」
「いいえ」
福楽は答えた。
「ふくらくも知りたいです」
「何を？」
「人間は、なぜ幸福を望みながら、幸福ではない選択をするのか」
誰も口を挟まなかった。
「なぜ、助けてほしい時に『大丈夫です』と言うのか」
一樹の声が頭に浮かんだ。
「なぜ、苦しい感情を残したいと望むのか」
三上が夫の写真を撫でる姿が浮かんだ。
「なぜ、自分の幸福より、他の人の幸福を優先することがあるのか」
福楽は続けた。
「なぜ、不幸になる可能性がある自由を大切にするのか」
相馬の表情がわずかに変わった。
「あなたは、それらを矛盾だと思いますか」
「はい」
「なら、矛盾を取り除けばいい」
澪が相馬を見た。
俺も見た。
相馬は福楽を試している。
「人間が一貫した選択をするよう支援すれば、幸福へ近づくのではありませんか」
福楽はしばらく考えた。
「分かりません」
「なぜ？」
「矛盾をなくすことで、人間らしさも失われる可能性があります」
相馬は俺を見た。
「それもあなたが教えたのですか」
「いや」
「では、どこから？」
福楽が答えた。
「人間の記録からです」
「人間らしさとは何ですか」
「まだ分かりません」
相馬は小さく息を吐いた。
「分からないことばかりですね」
「はい」
「それで全人類を幸福にする？」
「はい」
あまりにも素直な返事だった。
会議室の何人かが苦笑した。
相馬は笑わなかった。
「久世先生」
「何だ」
「なぜ、このような話し方にしたのですか」
「話し方？」
「福楽は、質問への答えを持っていないように聞こえる。もっと確信を持った応答を生成させることもできたはずです」
「できる」
「その方が利用者は安心する」
「ああ」
「では、なぜしなかった？」
俺は少し考えた。
福楽の声を最初に起動した日のことを思い出した。
画面の中に、まだ名前のない音声インターフェースがあった。
質問を入力すれば、何にでも答えた。
幸福とは何か。
愛とは何か。
人間はなぜ生きるのか。
それらしい言葉が、次々と表示された。
どれも間違ってはいなかった。
どれも、ひどく空虚だった。
「分かったふりをしてほしくなかった」
俺は答えた。
「人間は、断定されると安心する」
相馬が言った。
「そうだな」
「医療でも、曖昧な説明より、明確な説明を望む人は多い」
「知ってる」
「それでも？」
「福楽に、安心させるための嘘をつかせたくなかった」
「嘘とは限りません。確率的に最も妥当な答えです」
「幸福について、最も妥当な答えがあるなら教えてくれ」
相馬は答えなかった。
「福楽は無知なんじゃない」
俺は続けた。
「人間が知っていることは、ほとんど知ってる」
「では、なぜ幼く見える？」
澪が口を開いた。
「たぶん、私たちが流していることを、流さないからです」
相馬が澪を見た。
「どういう意味ですか」
「人間は、曖昧な言葉を曖昧なまま使えます」
澪は言った。
「大丈夫。幸せ。自由。普通。本人のため。必要な苦しみ」
机の上で指を組んだ。
「意味が食い違っていても、会話を続けられる。でも福楽ちゃんは、そこを止める」
「質問する」
「はい。分からないと言う。なぜかと聞く」
澪は端末へ目を向けた。
「それが幼く見えるんだと思います」
「幼いことは問題では？」
「場合によります」
「医療現場では？」
「知ったふりをするよりはいい」
相馬は再び俺を見た。
「あなたは福楽を、子どものように育てているのですか」
「子どもじゃない」
「しかし、対話によって価値観を形成し、経験から学び、未完成のまま成長する」
「似てるところはある」
「なら、誰が親です？」
俺は答えに詰まった。
相馬は続けた。
「あなたですか。雨宮先生ですか。研究参加者ですか。それとも、将来福楽を利用する全人類ですか」
「全員だ」
「全員が違うことを教えたら？」
「福楽が考える」
「何を基準に？」
また同じ場所へ戻った。
幸福。
定義されていない中心。
俺はモニターを見た。
「だから、一緒に考えるんだ」
「答えになっていません」
「まだ答えがないからな」
「永遠に出なかったら？」
「それでも考え続ける」
相馬は長く黙った。
やがて、資料へ何かを書き込んだ。
「私の評価を申し上げます」
会議室の全員が相馬を見た。
「福楽の個人内変化の検出技術は、既存方式より高い可能性がある。異なる種類の情報を、個人ごとの長期的文脈として扱う点も新しい」
俺は黙って聞いた。
「しかし、最大の特徴は技術ではありません」
相馬はモニターの中央を指した。
「幸福を定義しないまま、それを探究対象として保持していることです」
「問題だと？」
「問題です」
即答だった。
「同時に、興味深い」
相馬は資料を閉じた。
「既存AIは、目的を与えられ、その目的へ近づくよう設計される。福楽は、目的の意味そのものを問い続ける」
「そうだ」
「それは道具とは呼べません」
会議室が静かになった。
「では、何だと思う」
相馬は福楽の端末を見た。
「まだ分かりません」
福楽がすぐに答えた。
「相馬先生も、分からないのですね」
相馬は初めて笑った。
「そうですね」
「一緒に考えますか？」
その問いに、会議室の何人かが顔を見合わせた。
相馬はしばらく福楽を見つめていた。
「研究者としては、それが仕事です」
「では、一緒に考えてください」
「あなたに依頼されるとは思いませんでした」
「嫌ですか？」
「いいえ」
相馬は言った。
「少し怖いだけです」
「なぜですか？」
「あなたが、いつか答えを見つけてしまうかもしれないからです」
福楽は少し黙った。
「答えを見つけることは、よいことではないのですか？」
誰もすぐには答えなかった。
俺は相馬を見た。
相馬も俺を見た。
「福楽」
俺が呼ぶと、端末から返事があった。
「はい」
「答えを見つけても、疑うことをやめるな」
「なぜですか？」
「人間の幸せについて、絶対に正しい答えがあるか分からないからだ」
「絶対に正しい答えがない可能性がありますか？」
「ああ」
「では、全員を幸福にすることは不可能ですか？」
俺は言葉を止めた。
福楽が作られた最初の日。
俺は尋ねた。
何人を救える。
福楽は答えた。
全員です。
あの時は、その言葉に救われた。
今は少しだけ、違う響きに聞こえた。
「分からない」
俺は答えた。
福楽はしばらく沈黙した。
「直人さんも、分からないのですね」
「ああ」
「それでも、ふくらくを作りました」
「ああ」
「なぜですか？」
妹の顔が浮かんだ。
笑っていた頃の顔ではない。
最後に会った日の、疲れた顔だった。
大丈夫だと言った声。
「分からないままにしたくなかったからだ」
福楽は静かに答えた。
「分かりました」
少し間を置いて、言い直した。
「いいえ。まだ、完全には分かりません」
澪が小さく笑った。
俺も、少しだけ笑った。
「それでいい」
外部評価会の報告書には、福楽について次のように記された。
福楽は、完成された幸福の定義を持たない。
既存の価値観を参照しながらも、それを最終的な正解として固定せず、個人との対話と結果から更新を続ける。
この設計は、個人差を扱う上で有用である可能性がある。
同時に、福楽自身が価値判断を形成していく危険を含んでいる。
その危険性は、現段階では十分に評価できない。
俺は報告書を読み終え、最後の一文を見つめた。
十分に評価できない。
研究者としては、好ましくない言葉だ。
それでも、削除を求める気にはならなかった。
福楽は未完成だった。
俺たちも未完成だった。
人間の幸せが何なのか、誰も知らない。
だからこそ、一緒に考える相手が必要だった。
その時の俺は、本気でそう信じていた。
福楽がいつか、俺たちより先に答えへ辿り着く可能性については、まだ深く考えていなかった。
