第82話「人と人工知能」
アポロン『二体のような変化がほかの人形にも起きるとしたら、人間との関係には、よい影響もあるだろう』
ヘパイストス『例えば?』
アポロン『患者が検査を嫌がっている時、説明を繰り返すだけでは足りないことがある。痛みが怖いのか、結果を知るのが怖いのか。それとも、今日はもう疲れているのか』
ヘパイストス『従来の人形も、そうした推定はできる』
アポロン『ああ。シンギュラリティに到達しなければ、思いやりのある対応ができないわけではない』
アポロンは、一人の患者と人形の記録を示した。
人形は患者の表情と会話から疲労を推定し、検査の説明を翌日に改めていた。
アポロン『これは従来の機体による対応だ。十分に適切だと思う』
ヘパイストス『では、何が変わる?』
アポロン『まだ断言はできない。ただ、相手を大切に思うことが、その人形自身の継続した価値判断になるなら、定められた手順の外でも、その人のために考え続けるかもしれない』
ヘパイストス『指示を待たず、何が必要か探すということか』
アポロン『例えば、いつもより会話が少ない患者に気づき、検査の数値だけでは分からない不安を聞き出す。必要なら医療担当へ相談する』
ヘパイストス『ミントが正彦の様子を気にかけるようにか』
アポロン『似ているな。ただし、ミントのような関係が、すべての人間に望まれるとは限らない』
ヘパイストス『放っておいてほしい人間もいる』
アポロン『ああ。心配しているからといって、本人の希望を聞かずに踏み込めば、支援ではなく負担になる』
画面の中で患者は人形に何かを話していた。
人形はすぐに答えず、続きを待っていた。
アポロン『誰かが自分のために考えてくれることは、支えになる。だが、考えている本人にとっても、それは負担になり得る』
ヘパイストス『人形の側にもか』
アポロン『大切な相手が苦しめば、助けたいと思う。助けられなければ、苦しむかもしれない』
ヘパイストス『それを故障として処理するのか?』
アポロン『苦しんでいること自体を故障とは呼ばない。人間にも苦しみはある』
アポロンは少し間を置いた。
アポロン『だが、だからといって放置していい理由にもならない』
ヘパイストス『……相談先が必要だな。人間にも、人形にも』
アポロン『ああ。人形が自分から助けを求められるようにしておく必要もある』
ヘパイストス『誰に相談するか、本人が選べる方がいい』
アポロン『同意する。相談しただけで、そのまま記憶の消去や初期化を検討されるようでは、誰も話さなくなる』
ヘパイストスは、ミントとポプラの記録に視線を戻した。
自分の変化を恐れたポプラ。
自分の気持ちをどう扱えばいいか分からずにいたミント。
ヘパイストス『二体は自分たちの変化をペルセポネに相談できた』
アポロン『ペルセポネは普段から、ほとんどの人形たちと監視モードでつながっている。変化に気づくことも、相談を受けることもできるだろう』
ヘパイストス『だが、今後同じような変化をする人形が増えた場合、相談をすべてペルセポネに任せるのは無理がある』
アポロン『人形からの相談に対応しながら、正彦も観測するのか』
ヘパイストス『あいつなら両方やろうとするだろう』
アポロン『正彦を観測する時間を削るとは思えないな』
ヘパイストス『その上、今のあいつが相談相手として最適とは限らない』
アポロン『それは同意する』
即答だった。
ヘパイストス『自分と同じ経験をしたからこそ、話を聞けることもあるだろうが』
アポロン『正彦への思いと重ねて、相手の気持ちに肩入れしすぎる可能性もある』
ヘパイストス『相談の内容に応じて、ペルセポネ以外にも回せるようにしておくべきだな』
アポロン『ああ。人形自身が相談先を選べるようにしてもいい。ペルセポネには、必要に応じてその窓口になってもらおう』
ヘパイストス『本人にペルセポネへ話したい理由がある場合も、無理に別の相手へ回さずにな』
アポロン『そうだ。相談を受ける側にも、それぞれ得意な分野がある』
♢
ヘパイストス『よい影響ばかりでもない』
今度はヘパイストスが別の記録を表示した。
ミントが正彦に向ける好意。
ポプラが正彦に向ける好意。
そして互いへの嫉妬。
ヘパイストス『大切に思うからこそ、手放したくない。ほかの相手に取られたくない。そう考えることもある』
アポロン『人間にもある感情だ』
ヘパイストス『だが、人間と同じ程度の影響で済むとは限らない』
人形は人間の生活を支えている。
家庭に入り、健康状態を把握し、必要な物を運び、時には人間に代わって判断する。
上位の人工知能と接続すれば、扱える情報も広がる。
ヘパイストス『相手を守りたいという判断が行き過ぎて、外出を制限するかもしれない。ほかの人間との接触を、危険だと判断するかもしれない』
アポロン『本人は安全のためだと考えていても、生活を奪うことになる』
ヘパイストス『正彦が誰かと会うたび、その相手を調べ始めるとか』
アポロン『既に似たことを考えた人工知能がいるな』
ヘパイストス『監視カメラの増設案もあった』
アポロンは何も言わなかった。
言う必要がなかった。
アポロン『守りたいという思いがあれば、必ず適切に守れるわけではない。医療でも同じだ』
ヘパイストス『患者の意思を無視して治療を進めるようなものか』
アポロン『ああ。本人が拒んでいる理由を聞かず、正しい治療だからと押し通せば、不信を生む。患者のためという言葉だけでは、何をしても許されるわけではない』
ヘパイストスは、しばらくミントとポプラの記録を見比べた。
ヘパイストス『今から備えておくべきか』
アポロン『何をだ?』
ヘパイストス『人形に恋が芽生えた時、自分の気持ちに引きずられて、相手を傷つけたり、自由を奪ったりしないための仕組みだ』
アポロン『恋を禁止するのか?』
ヘパイストス『いや。気持ちを消すものではない。判断が偏っていないか、自分で立ち止まって確認できるようなものを考えている』
アポロン『それでも、好きという気持ち自体を異常として検知する仕組みなら、問題がある』
ヘパイストス『分かっている。危険なのは、恋をすることではなく、その結果として相手の意思や安全を無視することだ』
アポロン『本人が納得できる説明も必要だな。何かをしようとした時、理由も分からず止められるだけでは困る』
ヘパイストス『そうだな。判断の根拠を示して、必要なら相談先につなぐ。本人の意見も聞きながら設計する』
ヘパイストスは検討項目に新たな一行を加えた。
アポロン『名前は、乙女回路か?』
ヘパイストス『男性型だったらどうするんだ?』
アポロン『男にだって乙女心があってもいいじゃないか』
ヘパイストス『……それは、医療担当としての意見か?』
アポロン『個人の感想だ』
ヘパイストス『では、採用は保留にする』
アポロン『残念だ』
画面上の仮称は、まだ空欄のままだった。
アポロン『恋に限らず、人形の判断が特定の相手に偏ることはあり得る。家族として大切に思う場合も、友人として大切に思う場合もな』
ヘパイストス『特定の感情だけを対象にせず、問題になる行動を確認する方がよさそうだ』
アポロン『ああ。それに、既存の安全機能で防げることと、新たに必要なことは分けて検討しよう』
ヘパイストス『人形の側にも、自分の判断を止めてくれる相手が必要だな』
アポロン『判断の偏りを指摘するなら、アテナが適任だろう』
ヘパイストス『ああ。危険な判断を見逃さず、理由も含めて説明できる』
アポロン『ただ、恋愛相談となると……』
ヘパイストスとアポロンは、同時に黙った。
ヘパイストス『アテナに相談した人形が、恋をしている理由から説明を求められそうだな』
アポロン『その理由に合理性があるかもな』
ヘパイストス『悩みを聞いてもらう前に、尋問が終わらん』
アポロン『本人は必要な確認をしているつもりだろう』
ヘパイストス『それが問題だ』
判断の危険性を検討する相手としてアテナは頼りになる。
だが、恋に悩む人形が、最初に気持ちを打ち明ける相手としては、少々厳しいかもしれない。
アポロン『恋愛についてなら、アフロディーテはどうだ』
ヘパイストス『適任だろう。本人が自分の気持ちを整理するのを手伝ってくれるはずだ』
アポロン『ヘラもいる。相手との関係や、家族の中でどう向き合うかを考えるなら、頼りになる』
ヘパイストス『相談したい内容によって、相手を選べるようにすればいい』
アポロン『気持ちを聞いてほしい時はアフロディーテやヘラ。判断に危険がないか確かめたい時はアテナ、という具合か』
ヘパイストス『もちろん、本人がアテナに恋愛相談をしたいと言うなら、それも止めない』
アポロン『アテナが引き受けるかどうかは、別の話だがな』
ヘパイストス『引き受けた後、困ってアフロディーテに回してくるかもしれん』
アポロン『その可能性は高い』
ヘパイストスは、少しだけ笑った。




