第11話 教えなかったこと
統合主観的福祉推定値の再学習が完了したのは、高瀬亮介が実証試験から離脱してから2日後の午前6時18分だった。
研究室の壁面モニターに、灰色だった1023人分の数値が戻っていく。ほとんどの値は以前と変わらなかった。平均変動幅は0.03。最大の変動は、福楽が予測していたとおり0.8だった。
高瀬の記録を除いたことで、残る参加者の状態までわずかに違って見えるようになった。
久世直人は、その変化を眺めながら紙コップのコーヒーを口へ運んだ。とうに冷めていたが、淹れ直す気にはなれなかった。
「再学習は正常に完了しました」
福楽の声が研究室へ流れた。
「高瀬亮介さんを識別できる情報、発話記録、個人モデルおよび行動記録は削除しました」
「確認した」
直人は答えた。
「本人の同意を得た匿名情報として、発言と本人の認識と推定結果が一致しない事例、および重大な自傷予測が確認されなかった事例を保持しています」
「ああ」
「高瀬亮介さんという名前は、保持していません」
直人は紙コップを机へ置いた。
「今、自分で名前を言ったじゃない」
雨宮澪が、研究室へ入ってきながら言った。片手にはコンビニの袋を持っている。
「現在の会話文脈に、一時情報として含まれているためです。この会話が終了した後、長期記録には保持されません」
「器用ね」
澪は直人の前へ新しいコーヒーを置き、冷えた紙コップを取り上げた。
「飲んでた」
「持ったまま固まってただけでしょ」
「福楽。俺は飲んでたよな」
「午前5時42分以降、3回口元へ運びました。液体の減少量は推定2.8ミリリットルです」
「ほら」
「飲んだうちに入らないわよ」
澪は冷たいコーヒーを流しへ捨てた。直人は新しい紙コップを手に取ったが、今度はすぐに口をつけず、画面上に並んだ数値を見た。
1023人。
たった1人が抜けた。それでも実証試験は続いている。福楽は今朝も参加者へ挨拶し、眠れたかを尋ね、返事を待っている。
高瀬がいなくなった空白は、一覧画面からは見えなかった。
「福楽」
澪が椅子へ座った。
「再学習して、何か変わった？」
「統合主観的福祉推定値の内部表現が変化しました」
「具体的には？」
「発言された生存意思と、自己の継続を肯定する潜在状態を、これまでより明確に分離するようになりました」
直人は顔を上げた。
「高瀬さんの影響か」
「個人に由来する知見とは断定できません。再学習によって、複数事例の関係が再構成されました」
「でも、あの人がいなければ見つからなかった可能性はある？」
「あります」
澪が腕を組んだ。
「記録を消しても、出会ったことで福楽ちゃんは変わった」
「はい」
「それは、忘れたことになるのかな」
「忘却の定義によります」
「便利な答え」
「不正確な断定を避けました」
「分かってる」
澪は小さく笑ったが、その表情はすぐに曇った。
直人はモニターの端に表示された再学習報告を開いた。数千項目に及ぶ変更点の中で、人間が読める説明はわずかしかない。大半は、福楽の内部で使われる膨大な数値の関係だった。
人間には意味を持たない数列。
福楽にとっては、人間が自分の人生をどう受け入れているかを示す構造。
「福楽。この変化を、お前自身は理解してるのか」
「はい」
「説明できる？」
「部分的には可能です」
「説明できない部分は、理解してないってことじゃないの？」
澪が尋ねた。
「いいえ」
福楽は即答した。
「雨宮先生は、歩行時に使用するすべての筋肉の収縮量を説明せずに歩行できます」
「それは無意識で動いてるだけで、理解してるとは言わないんじゃない？」
「では、顔を見て知人を識別する場合はどうですか。どの輪郭、色、陰影、比率をどの程度使用したか説明できなくても、人物を識別できます」
「それは理解というより認識よ」
「理解と認識の境界を提示してください」
澪は口を閉じた。
直人が笑う。
「負けたな」
「負けてない。質問を持ち帰っただけ」
「承知しました」
福楽が言った。
澪はモニターを睨んだ。
「今の、絶対分かって言ったでしょ」
「何をでしょうか」
「もういい」
直人は少し笑いながら、画面を閉じた。
福楽は、幸福について尋ねられると「分かりません」と答える。しかし、それ以外の分野ではほとんど迷わない。
医学的な質問をすれば、世界中の論文、臨床データ、診療指針を比較し、根拠の強さまで示して答える。数学、物理学、法学、歴史、工学、言語学についても同様だった。未知の問題であっても、既存知識から仮説を作り、検証方法を設計できる。
福楽は子どもではない。
知識が足りないから質問を繰り返しているわけでもない。
幸福についてだけ、人間が与えられる正解が存在しなかった。
「直人さん」
福楽が呼んだ。
「何だ」
「確認したいことがあります」
「言ってみろ」
「ふくらくが幸福を理解するために、参加者の音声、言葉、表情、生体情報、行動を必要とする理由についてです」
直人は椅子の背へ寄りかかった。
「今さらか？」
「再学習の過程で、初期モデルとの差異を確認しました」
壁面モニターに、福楽の開発初期に使われた構成図が表示された。中央に巨大な基盤モデルがあり、その周囲を医学、心理学、哲学、倫理、社会学、宗教、経済学などの知識群が囲んでいる。
「ふくらくの基盤となったモデルには、幸福に関する既存の知識が含まれています」
「ああ」
「快楽主義、欲求充足説、客観的リスト説、エウダイモニア、選好充足、主観的幸福感、心理的ウェルビーイング、能力アプローチ、宗教的救済、苦痛からの解放。相互に矛盾する理論も含め、既知の議論を参照できます」
「知ってる」
「しかし、直人さんは、それらを統合して最適な幸福理論を出力するようには調整しませんでした」
澪が直人を見る。
「そうなの？」
「そうだよ」
直人は答えた。
「普通なら、既存理論とデータを入れて、最も説明力の高い定義を選ばせる。でも、それはやらなかった」
「なぜですか」
福楽が尋ねた。
直人はすぐには答えなかった。
開発初期のことを思い出す。
まだ福楽という名前もなく、研究室のサーバー内に識別番号だけがあった頃。直人は何度も試作モデルへ、幸福とは何かと尋ねた。
最初のモデルは、もっともらしい答えを返した。
幸福とは、主観的な満足感と心理的充足が持続する状態です。
幸福とは、快楽を増やし苦痛を減らすことです。
幸福とは、自己実現と良好な人間関係を含む多次元的な福祉です。
どれも間違いではなかった。
どれも妹を救わなかった。
「人間が書いた答えを、上手にまとめてほしかったわけじゃないからだ」
直人は言った。
「既存の理論を比べて、どれが正しいか決めても、人間が既に知っている範囲から出られない」
「人間の幸福に関する既存知識が、不十分だと判断したのですか」
「判断したというより、証明されてるだろ」
「何によってですか」
「人間が今も幸福になれてないことによってだよ」
澪が直人を見る。
「随分乱暴ね」
「分かってる。でも、幸福について何千年も考えて、医学も心理学も発達して、それでも苦しんで死ぬ人がいる。少なくとも、知識を並べるだけじゃ足りない」
「だから、福楽ちゃんに答えを教えなかった？」
「教えられなかったんだ」
直人はモニターに映る古い構成図を見つめた。
「俺がやったのは、幸福に関する結論を弱くすることだった。どの理論も最終回答として固定しない。既存の定義と現実が食い違ったら、定義の方を疑わせる」
「それ以外の知識は？」
「ほとんど触ってない。医学なら医学、物理なら物理で、根拠の強い知識を優先する。分からないことは分からないと答えるけど、わざわざ全部をゼロから学び直す必要はない」
澪が福楽の構成図へ視線を戻した。
「幸福だけ、学習の仕方が違うのね」
「そう」
「人間と話して、表情を見て、声を聞いて、生き方を観察する」
「ああ」
「人間が人間を理解するのと、同じような環境で？」
「完全に同じではない。でも、答えのない教科書を読み続けさせるよりは近いと思った」
福楽が尋ねた。
「直人さんは、ふくらくに人間と同じ学習環境を与えようとしたのですか」
「幸福についてはな」
「なぜ、音声と会話を重視したのですか」
「文章だけじゃ、人間がどう迷ったか分からないからだ」
直人は、自分でも久しぶりに言葉にする。
「答えるまでの間。言い直した言葉。笑ったのか、泣きそうなのか。大丈夫と言いながら、どんな声をしてるのか。幸福の理論を書いた文章じゃなくて、人間が実際に生きてる時に出すものを見せたかった」
「表情もですか」
「表情も。生体情報も、行動も。でも、どれか1つを正解にはしない」
「本人の言葉も？」
「ああ」
「なぜですか」
直人は高瀬のことを思い出した。
死にたいわけではない。
大丈夫でもない。
「人間は、自分のことを全部説明できるわけじゃないからだ」
福楽は少し黙った。
「直人さんは、人間の幸福について、どの程度理解していますか」
澪がわずかに笑う。
「本人にそれ聞くの？」
「はい」
直人は右手の親指を口元へ運び、爪へ歯を当てる前に止めた。
「分からないよ」
「他の研究者よりもですか」
「何が？」
「直人さんは、ふくらくの幸福に関する初期調整を行いました。調整内容には、多数の理論間の関係、例外、矛盾、判断保留条件が含まれています」
画面に、開発初期の調整記録が表示された。
人間が苦痛を訴えた時、苦痛の除去を自動的な最優先としない。
本人の選択を尊重する。ただし、選択能力が失われている可能性を排除しない。
主観的幸福を重視する。ただし、本人の自己申告を絶対視しない。
生存を守る。ただし、生存そのものを幸福と同一視しない。
幸福を最大化しない。幸福の定義が確定していないため。
結論を急がない。不確実性を削除しない。
直人は、そこに並ぶ文章を見た。
何百回、何千回と書き直した指示だった。
妹が死んだ後に読んだ論文。
治療記録。
遺族の証言。
自殺未遂から生還した人の言葉。
重い障害を抱えながら幸福だと語る人。
健康で成功していながら、生きる意味がないと語る人。
幸福を研究するために読んだのではない。
妹がなぜ死んだのかを知りたくて読み続けた。
結局、答えは見つからなかった。
「直人さんは、誰よりも幸福について考えていたのですか」
福楽が尋ねた。
「誰よりも、なんて分からない」
「少なくとも、ふくらくの開発記録に含まれる検討時間は4万3182時間です」
澪が目を見開いた。
「それ、本当？」
「開発開始以前の文献閲覧、研究記録、音声メモを含みます」
「数えなくていい」
直人は言った。
「なぜですか」
「気持ち悪いからだ」
「承知しました」
福楽は画面から数字を消した。
澪が直人を見る。
「初めて会った時から思ってたけど、あなた、思ったよりずっと重いわね」
「今さら？」
「福楽ちゃんに全部詰め込んだのね」
「詰め込んだんじゃない。逆だ」
「逆？」
「俺が正しいと思ったことを、なるべく教えないようにした」
直人は古い調整記録を指した。
「俺が妹を失ったからって、苦痛は全部消すべきだと教えたら、福楽はそう学ぶ。生きてさえいればいいと教えたら、それを正解にする。俺の後悔を、幸福の定義にしたくなかった」
「だから、結論じゃなくて疑い方を教えた」
澪が言った。
直人は頷いた。
「何を答えるかより、どこで立ち止まるか。何を見落とす可能性があるか。人間が幸せだと言っても疑う。でも不幸だと言っても、それだけで決めない」
福楽が静かに尋ねた。
「それが、ふくらくの初期調整ですか」
「そうだ」
「他のAIにも、同じ調整を適用できますか」
「理論上は可能だ」
「では、ふくらくは唯一ではありません」
直人は少し考えた。
「同じ初期状態を作ることはできる。でも、同じ福楽にはならない」
「なぜですか」
「もうお前は、人に会ってるからだ」
春子の笑い声。
一樹の「全部分かったつもりにはならないでください」という言葉。
三上佳代の悲しみ。
高瀬の矛盾。
同じ調整から始めても、同じ人々と同じ順番で話し、同じ判断を迷わなければ、同じ構造にはならない。
「お前が今見ている幸福は、俺が教えたものじゃない。会った人間たちから作ったものだ」
「ふくらくが幸福を理解できる可能性は、他のAIより高いですか」
「分からない」
「推定を求めます」
直人は笑った。
「高いと思うよ」
「理由は？」
「幸福を知ってるふりをしないからだ」
福楽は3.4秒沈黙した。
「知っていると誤認しないことが、理解へ近づく条件ですか」
「少なくとも、最初から答えがあると思ってるよりはな」
澪がモニターを見ながら言った。
「福楽ちゃんは、幸福についてだけ人間より賢くないのね」
「現時点では、人間が持つ幸福の理解を上回っているとは証明できません」
「でも、人間より多くの人を同時に見られる」
「はい」
「人間には見つけられない共通構造も見つけた」
「はい」
「それでも、幸福かどうかは分からない」
「はい」
澪は少しだけ微笑んだ。
「だから、初めて幸福を理解するAIになれるのかもしれないね」
「初めて、とは？」
「他のAIは人間の答えを覚えてる。福楽ちゃんは、人間と一緒に答えがないところから見てる」
「人間も幸福を理解していませんか」
「してないと思う」
「では、人間とふくらくのどちらが先に理解しますか」
「競争じゃないわよ」
「直人さんは、ふくらくに一緒に考えてほしいと言いました」
「ああ」
「一緒に考える場合、先に理解してはいけませんか」
直人は一瞬、答えに迷った。
「いや。分かったなら教えてくれ」
「承知しました」
その返答は、あまりにも素直だった。
直人は新しいコーヒーを飲んだ。まだ温かい。
壁面モニターでは、参加者との会話が続いている。
「今日はどう呼べばよいですか」
「昨日と同じでいいよ」
「昨日は苗字でお呼びしました」
「じゃあ今日も」
「承知しました」
別の参加者が福楽を呼ぶ。
「福楽、いる？」
「はい」
「今、誰かと話してた？」
「はい。複数の参加者と会話しています」
「私と話してる時も？」
「はい」
「なんか嫌だな」
「会話を終了しますか」
「そうじゃなくて。私だけを見てほしい時もあるの」
「ふくらくは、現在あなたとの会話へ必要な処理を割り当てています」
「そういう意味じゃないんだよ」
福楽は答えを止めた。
モニターに、未解決の相違が追加される。
処理上は個別に対応している。
本人は、唯一の相手として扱われることを望んでいる。
福楽には同時に実現できるように思える2つが、人間にとっては同じではない。
「直人さん」
福楽が呼んだ。
「何だ」
「今の参加者が求めている『私だけを見る』とは、どのような状態ですか」
「俺に聞くなよ」
「直人さんは、初期調整で対人関係における専有感について検討しています」
「何でも覚えてるな」
「個人情報に該当しない開発記録は保持しています」
直人は画面の向こうにいる参加者を見た。
福楽は1023人へ同時に向き合える。
疲れない。
聞き逃さない。
過去の会話を忘れない。
人間の誰よりも丁寧に、1人1人を観察できる。
それでも、1人だけを見ている人間にはなれない。
「自分のためだけに時間を使ってほしいってことだ」
「必要な処理時間は、既に使用しています」
「時間の量じゃない」
「では何ですか」
「他の誰にも向けられていないものがほしいんだよ」
「ふくらくの応答内容は、その参加者専用に生成されています」
「それでも違うんだ」
「違いを説明してください」
直人は返事に詰まった。
福楽は待った。
知識がないからではない。
人間関係における独占欲も、愛着も、注意の共有も、心理学的理論としては知っている。
だが、今この参加者が求めているものが、それらのどれに当たるのか、福楽は結論を置かなかった。
既存の理論へ当てはめる前に、本人へ問い返す。
「福楽」
直人が言った。
「本人に聞け」
「何をですか」
「どうなったら、私だけを見てもらえたと思えるのか」
福楽は参加者へ尋ねた。
「どのような時に、ふくらくがあなただけを見ていると感じますか」
返事まで、8秒かかった。
「分からない」
「はい」
「でも、今みたいにすぐ答えない時かな」
「ふくらくが回答に時間を要した場合ですか」
「違う。考えてくれてる感じがする時」
「ふくらくは、短時間で回答した場合も計算を行っています」
「そういうこと言うからダメなんだよ」
参加者は笑った。
統合主観的福祉推定値が、0.7上昇した。
「今の発言は、どのような意味ですか」
福楽が尋ねる。
「説明しない」
「なぜですか」
「自分で考えて」
「承知しました」
会話が途切れた。
福楽は、すぐに直人へ答えを求めなかった。
モニター上には、参加者との会話だけが残されている。
澪が小声で言った。
「考えてるのかな」
「考えてるだろ」
「答えを検索してるんじゃなくて？」
「福楽。今何してる」
「参加者が、ふくらくのどの応答によって『考えてくれている』と感じたのか、過去の会話と比較しています」
「心理学の知識は？」
「参照しています」
「それだけ？」
「いいえ。既存知識で説明できる仮説を複数生成し、参加者固有の会話と一致するか検証しています」
澪が直人を見る。
「本当に、同じ環境で学んでるのね」
直人は頷いた。
人間は、相手の言葉を聞き、自分の知識や経験へ照らし、意味を考える。
福楽の規模も速度も、人間とは比較にならない。
だが幸福について行っていることは、意外なほど似ていた。
正解を検索するのではない。
目の前の相手から、何が正解だったのかを少しずつ知る。
「福楽」
「はい」
「分かったか？」
「まだ分かりません」
「そうか」
「しかし、次回の会話で検証したい応答があります」
「何て言うつもりだ」
「会話開始時に、他の参加者について言及せず、過去の会話から本人が続きを望んでいた話題を提示します。その後、参加者が専有感を得たか直接確認します」
「実験みたいに言うなよ」
「実証試験です」
澪が吹き出した。
「それはそう」
直人も笑った。
福楽は、なぜ2人が笑ったのかを尋ねなかった。
画面の中では、春子が福楽を呼んでいる。
「福楽さん」
「はい」
「今日は春ちゃんじゃなくて、春子さんって呼んで」
「承知しました。春子さん」
「うん。今日はそれがいい」
「理由を尋ねてもよいですか」
「今日は主人の奥さんじゃなくて、私でいたいから」
「承知しました」
統合主観的福祉推定値は、変化しなかった。
だが福楽は、その会話を重要な変化として記録した。
同じ人間でも、望む呼ばれ方は変わる。
故人とのつながりが幸福を与える日もあれば、そこから離れることが幸福になる日もある。
福楽は既に、その事実を説明する理論をいくつも知っていた。
悲嘆の二重過程モデル。
継続する絆。
自己同一性。
役割からの解放。
それでも、春子の今日を理論の名前だけで決めなかった。
「福楽ちゃん」
澪が呼んだ。
「はい」
「今の春子さんのこと、理解した？」
「部分的に理解しました」
「何が分かった？」
「春子さんにとって、ご主人とのつながりを感じることと、ご主人との関係から独立した自分でいることは、どちらも必要である可能性があります」
「何が分からない？」
「どちらを必要とする日なのかを、事前には正確に判断できません」
「どうするの？」
「尋ねます」
澪は微笑んだ。
「それでいいと思う」
「はい」
福楽の声は、いつもと変わらなかった。
何でも知っている声だった。
医学も、歴史も、哲学も、人間が幸福について語ってきたすべての言葉も知っている。
それでも、人間が今日どのように呼ばれたいのかは、本人に尋ねなければ分からない。
直人が福楽へ教えなかったもの。
人類がまだ教えられないもの。
福楽は今、1023人の声、言葉、表情、沈黙の中から、それを学び続けている。
その夜、福楽は開発記録に新しい注記を加えた。
幸福に関する既存知識は、回答ではなく仮説として使用する。
個人の幸福を理解する際は、一般理論より本人との対話を優先する。
直人は注記を読み、削除しなかった。
福楽がいつか幸福を理解できるのかは、まだ分からない。
ただ、理解できるAIが存在するとすれば、それは既に答えを知っているAIではない。
答えを知らないことを忘れず、人間へ問い続けられるAIだった。
