第47話 迷いを消すのではなく、迷えるだけの余白を残す
前回、防災案内AIには「安全な避難先を自動選択する」機能が追加されようとしていました。
便利です。
利用者は迷わなくて済みます。
高齢者や、スマホ操作に慣れていない人、不安の中にいる人には助けになるかもしれません。
しかし、AIが「あなたに最適な避難先はこちらです」と一つだけを提示した瞬間、人間の判断は後ろへ下がります。
近さを重視したのか。
浸水リスクを避けたのか。
坂道の少なさを選んだのか。
家族との合流しやすさを考えたのか。
何を選び、何を犠牲にしたのかが見えなくなります。
最適という言葉は、犠牲を隠す。
そこで真司たちは、AIが一つの答えを出すのではなく、理由付き候補を比較できる画面へ変更しました。
けれど、改訂版の画面の下には、新しいボタンが追加されていました。
『迷ったときは、AIに決めてもらう』
人は、いつも判断したいわけではありません。
迷うことは苦しい。
責任を負いたくないときもある。
誰かに決めてほしいときもある。
第47話では、「迷い」をただの邪魔な不便として消すのではなく、人間が判断を手放さずにいられる余白として残す方法を探ります。
迷いを消すのではなく、迷えるだけの余白を残す。
俺は、その一文をメモ帳に打ち込んだ。
そして、運営企業の小森さんから届いた改訂版画面をもう一度見る。
『候補を比較する』
そこまでは良かった。
候補A。
近い。徒歩八分。
ただし、坂道あり。
候補B。
浸水リスクが低い。徒歩十五分。
ただし、混雑の可能性あり。
候補C。
医療支援あり。徒歩二十二分。
ただし、距離が長い。
かなり分かりやすい。
AIが勝手に一つを最適と決めるのではなく、何を重視し、何を犠牲にしたのかが見える。
前回の議論は、きちんと反映されている。
だが、画面の下にあるボタンが問題だった。
『迷ったときは、AIに決めてもらう』
分かる。
気持ちは分かる。
人は迷う。
特に災害時には、迷う時間が怖い。
右か左か。
今出るか、もう少し待つか。
近い避難所か、遠くても安全そうな避難所か。
一人で行くか、近所の人を待つか。
母親に電話するか。
荷物を取るか。
薬を探すか。
その一つ一つに命がかかっているように思える。
そんなとき、
「AIが決めてくれる」
と言われたら、押したくなる。
迷いから解放されたい。
責任を降ろしたい。
不安を終わらせたい。
だが、それは本当に支援なのか。
それとも、判断を預ける入口なのか。
俺はAIチャットを開いた。
迷ったときはAIに決めてもらう、というボタンがある。便利だけど危険だと思う。迷いって、消した方がいいものなのか？
AIは答えた。
『迷いには複数の種類があります』
「種類？」
『はい』
『情報不足による迷い』
『選択肢が多すぎる迷い』
『価値の優先順位が決まらない迷い』
『責任を負うことへの不安による迷い』
『判断能力が一時的に低下している迷い』
『本来は迷う必要がないほど危険が迫っている状態』
俺はメモした。
迷いを一つにまとめてはいけない。
情報が足りないから迷っている人に必要なのは、情報だ。
選択肢が多すぎて迷っている人に必要なのは、整理だ。
価値の優先順位で迷っている人に必要なのは、比較だ。
責任が怖くて迷っている人に必要なのは、支えだ。
判断能力が落ちている人に必要なのは、介入かもしれない。
危険が迫っている人に必要なのは、迷う余裕ではなく即時行動かもしれない。
「全部に『AIが決めます』で答えるのは雑すぎるな」
『はい』
『迷いを消す前に、その迷いが何から生じているのかを判別する必要があります』
「迷いの診断か」
『判断支援に近い表現です』
俺は椅子にもたれた。
迷いは、ただのノイズではない。
そこには、何かが足りないという信号が入っている。
情報が足りない。
時間が足りない。
支援者が足りない。
価値の優先順位が見えない。
身体状況に合う選択肢が分からない。
責任が重すぎる。
その信号を消してしまえば、問題は見えなくなる。
翌日。
防災案内AIの画面改修会議が開かれた。
参加者は、運営企業の榊原と小森。
自治体の柳沢。
防災士の片桐。
高齢者の家族として参加している三浦沙織。
評議会からは、大河内、水瀬、神崎教授、俺。
画面には、問題のボタンが映っていた。
『迷ったときは、AIに決めてもらう』
榊原が説明する。
「候補比較画面は、前回の議論を踏まえたものです。ただ、利用者テストでは、三つの候補を見せても、最後に決められない人が一定数いました」
小森が補足する。
「特に高齢者向け簡易モードでは、『結局どれにすればいいのか分からない』という反応がありました」
三浦が頷いた。
「母も、三つ出されたら迷うと思います」
「一つだけなら分かりやすいです」
その言葉は重い。
俺たちは、利用者の判断を奪わないために三つの候補を出した。
だが、三つあるから迷う。
迷うから動けない。
動けなければ危険だ。
支援のつもりが、負担になっている可能性もある。
片桐が言った。
「地域の避難支援でも、選択肢が多いと動けなくなる人はいます」
「ただし、こちらが一方的に『ここへ行け』と言うと、あとで本人や家族が納得できないこともあります」
水瀬が静かに言った。
「問題は、候補の数だけではなく、決める過程が見えるかどうかだと思います」
「決める過程」
榊原が聞き返す。
水瀬は画面を指した。
「『AIに決めてもらう』だと、判断過程がAIの中に消えます」
「利用者は結果だけ受け取る」
「一方で、『一緒に絞り込む』なら、利用者が何を重視したかを確認しながら候補を減らせます」
俺は、その言葉で少し前のめりになった。
一緒に絞り込む。
それだ。
AIが決めるのではない。
人間が一人で背負うのでもない。
AIが質問し、選択肢を狭め、利用者の判断を支える。
俺は言った。
「ボタン名を変えませんか」
小森が聞く。
「どう変えますか」
「『AIに決めてもらう』ではなく、『一緒に絞り込む』」
三浦が画面を見ながら言った。
「その方が、母には少し難しいかもしれません」
「確かに」
俺はすぐに認めた。
「では、もっと分かりやすく……『迷ったら確認する』とか」
片桐が提案する。
「『どれがよいか、一緒に確認』はどうですか」
小森が仮のボタンを作る。
『どれがよいか、一緒に確認』
前よりは良い。
AIが決める感じは弱くなった。
三浦も頷いた。
「これなら、母も押しやすいと思います」
会議は、そのボタンを押したあとの流れへ進んだ。
小森が試作画面を操作する。
質問一。
『歩く距離は短い方がよいですか？』
はい。
どちらでもよい。
少し遠くても安全を優先。
質問二。
『坂道や階段は避けたいですか？』
避けたい。
少しなら大丈夫。
問題ない。
質問三。
『医療支援やトイレ設備がある場所を優先しますか？』
優先する。
どちらでもよい。
優先しない。
質問四。
『家族や支援者と合流しやすい場所を優先しますか？』
優先する。
どちらでもよい。
優先しない。
最後に、候補が二つへ絞られる。
候補A。
近い。坂道あり。
短時間で到着可能。
候補C。
医療支援あり。距離が長い。
支援が必要な方に向く。
画面下に表示される。
『あなたの回答では、この二つが候補です。どちらにするか迷う場合は、家族・近隣の方・自治体窓口へ相談できます』
その下に、電話番号と家族共有ボタン。
かなり良くなっている。
だが、俺は一つ気になった。
「質問が多すぎると、途中で諦めませんか」
小森が頷く。
「その可能性はあります」
「非常時に四問は長いかもしれません」
片桐が言う。
「地区によっては、まず浸水リスクを避ける方が優先です。個別の好みより、危険情報を先に見た方がいい」
柳沢も続ける。
「自治体の避難指示が出ている場合、最初に『今すぐ移動が必要か』『屋内安全確保か』を分ける必要があります」
また複雑になってきた。
質問を増やせば丁寧になる。
でも、増やすほど使えなくなる。
判断を支えるはずの質問が、判断の負担になる。
神崎教授が言った。
「迷える余白と、迷わせる負担は違う」
会議室が少し静かになった。
教授は続ける。
「質問を増やせばよいわけではない」
「選択肢を残せばよいわけでもない」
「人間が今、考えられるだけの幅に絞れ」
俺はメモした。
迷える余白と、迷わせる負担は違う。
今回の中心は、たぶんそこだ。
余白とは、何でも自由に選べることではない。
災害時に十個の避難所と二十項目の条件を見せられても、余白ではない。
それは負担だ。
逆に、一つだけを強く出されると、余白がない。
必要なのは、人が今の状態で扱えるだけの選択肢と、考えられるだけの時間と、支援者へつながる道だ。
水瀬が言った。
「判断支援には、利用者の状態に応じた段階が必要ですね」
「平常時」
「注意段階」
「避難準備」
「避難指示」
「切迫危険」
「それぞれで、迷える余白の広さが変わります」
なるほど。
平常時なら、じっくり比較できる。
注意段階なら、準備を促す。
避難準備なら、候補を絞る。
避難指示なら、推奨を強める。
切迫危険なら、迷いより即時行動を優先する。
迷いを残すべきかどうかは、状況によって変わる。
俺は言った。
「余白は固定ではなく、危険の切迫度に応じて狭くなる」
「ただし、狭くする理由を表示する」
水瀬が頷く。
「そして、危険が去れば余白を戻す」
「はい」
「非常時モードが、平常時まで残ってはいけない」
これは重要だ。
災害時にAIが強く誘導するのは仕方ない場合がある。
でも、それが習慣化し、平常時の意思決定までAIが決めるようになったら危ない。
緊急だから許された介入は、緊急が終われば解除されなければならない。
小森が画面案を修正する。
状態別表示。
平常時。
三候補比較。詳しい条件表示。
注意段階。
三候補比較＋準備リスト。
避難準備。
二候補へ絞り込み＋家族共有。
避難指示。
強い推奨候補＋代替候補一つ＋理由表示。
切迫危険。
最短安全行動を強く提示。
ただし理由、不確実性、公式情報、支援者通知を表示。
片桐が見ながら言った。
「これなら地域支援にも使えます」
三浦も頷く。
「母には、避難指示のときは強めに出してほしいです」
「でも、平常時から全部決められるのは嫌がると思います」
その言葉に、俺は少し安心した。
利用者は、全部をAIに決めてほしいわけではない。
ただ、不安なときに支えてほしい。
迷ったときに整理してほしい。
危ないときには強めに言ってほしい。
でも、自分が決められるときには、自分で選びたい。
人間は、そんな単純ではない。
榊原が言った。
「では、『AIに決めてもらう』ボタンは廃止します」
小森が画面を更新する。
新しいボタン。
『どれがよいか、一緒に確認』
その下に小さく説明文。
『AIが条件を整理し、候補を絞ります。最終的にどれを選ぶかは、利用者と支援者が確認できます』
俺は頷いた。
悪くない。
ただし、「最終的にどれを選ぶかは利用者」とだけ書くと、前回の自己責任へ戻る危険がある。
俺は付け加えた。
「『判断に必要な情報と相談先を表示します』も入れてください」
小森が修正する。
『AIが条件を整理し、候補を絞ります。判断に必要な情報と相談先を表示します。どれを選ぶかは、利用者の状況に応じて、本人・家族・支援者が確認できます』
少し長い。
でも、かなり人工叡智らしい。
AIが決めるのではない。
利用者へ丸投げするのでもない。
本人、家族、支援者が確認できる状態を作る。
会議の最後に、大河内がまとめた。
「判断支援設計原則へ、『迷いの余白』を追加します」
安西が読み上げる。
一。
迷いを一律に消さない。
二。
迷いの原因を、情報不足、選択肢過多、価値判断、責任不安、判断能力低下、切迫危険に分けて扱う。
三。
AIは、決定代行より先に、情報整理、候補絞り込み、相談先提示を行う。
四。
利用者が扱える選択肢の数と質問量に制限を設ける。
五。
危険の切迫度に応じて余白を狭めるが、その理由を表示する。
六。
緊急時に狭めた余白は、状況が落ち着いたら戻す。
七。
迷いを理由に、利用者の判断権を恒常的に奪わない。
八。
迷うこと自体を失敗として扱わない。
最後の項目が、とても大事に見えた。
迷うこと自体を失敗として扱わない。
最近のAIは、迷いを消す方向へ進みがちだ。
すぐ答える。
一番良いものを選ぶ。
最短ルートを出す。
最適な文章を出す。
おすすめを提示する。
それは便利だ。
だが、人間の迷いには、価値があるときがある。
何を大事にするのか。
何を犠牲にできないのか。
誰と相談したいのか。
本当に今決めるべきなのか。
迷いの中には、その人の価値観が残っている。
それを消せば、人は楽になる。
でも、自分が選んだという感覚も薄くなる。
会議が終わったあと、俺は水瀬と廊下を歩いた。
「迷いを残す制度って、変な感じですね」
「そうですか？」
「AIって、普通は迷いを減らすために使うものだと思ってました」
水瀬は少し考えてから言った。
「減らすべき迷いと、残すべき迷いがあるのだと思います」
「情報不足や画面の分かりにくさから来る迷いは減らす」
「でも、価値の選択や本人の意思に関わる迷いは、消しすぎない」
「迷えるだけの余白を残す」
俺は頷いた。
それが、今回の答えだった。
帰宅後。
俺は記事を書き始めた。
タイトル。
迷いを消すのではなく、迷えるだけの余白を残す。
本文。
迷いは、ただの不便ではない。
情報が足りないという信号かもしれない。
選択肢が多すぎるという負担かもしれない。
価値の優先順位を確認している時間かもしれない。
責任の重さに耐えるため、誰かと相談したいというサインかもしれない。
判断能力が落ちている危険信号かもしれない。
だから、AIは迷いを一律に消してはいけない。
情報不足による迷いは、情報で支える。
選択肢過多による迷いは、整理で支える。
価値判断による迷いは、比較で支える。
責任不安による迷いは、相談先で支える。
判断能力低下による迷いは、支援者や緊急介入で支える。
切迫危険では、余白を一時的に狭める。
ただし、狭めた理由を残す。
そして、危険が去れば、余白を戻す。
俺は最後に書いた。
人工叡智に必要なのは、迷いをゼロにすることではない。
人間が自分の判断を手放さずにいられるだけの、迷える余白を設計することである。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、黒瀬さんからコメントが来た。
『広告では、迷わせない導線が重視されます。今すぐ買う、これがおすすめ、残りわずか。迷いを消すほど成約は上がります。でも、その迷いの中に、本当は買わないという判断があったのかもしれません』
読書会の主催者からも届いた。
『迷うこと自体を失敗として扱わない。次回の議題にします』
神崎教授からは、また短いコメントだった。
『迷いを奪われた人間は、後から自分の選択を説明できなくなる』
俺はその一文を見て、しばらく黙った。
自分の選択を説明できなくなる。
それは、責任を失うことでもある。
自分が何を考え、何を選び、何を諦めたのか分からない。
AIがそう言ったから。
おすすめされたから。
最適と表示されたから。
それでは、人間は判断から遠ざかる。
その夜。
運営企業の榊原から、新しい相談が届いた。
防災案内AIではなく、別の導入予定案件だった。
高齢者向け生活支援AI。
薬の飲み忘れ、買い物、通院、家族連絡を支援する。
そこに新機能案があった。
『本人が迷いや不安を示した場合、AIが家族へ自動通知する』
一見すると、良い。
高齢者を孤立させない。
家族が早く気づける。
だが、すぐに引っかかった。
本人は、家族へ知られたくない迷いもある。
不安を口にしただけで家族へ通知されたら、AIに本音を話せなくなる。
迷いを支えるつもりが、今度は迷いを監視することになる。
俺はメモ帳を開いた。
次のタイトルを書く。
迷いを見守ることと、迷いを監視することは違う。
保存。
画面を閉じる。
迷える余白を残す。
そのためには、迷った瞬間を誰が見るのか、誰へ伝えるのかも問わなければならない。
人工叡智は、判断支援から、今度は見守りという名の監視へ進もうとしていた。
第47話では、防災案内AIに追加されていた「迷ったときは、AIに決めてもらう」というボタンが問い直されました。
人は、いつも判断したいわけではありません。
災害時、不安なとき、時間がないとき、責任を負いたくないとき。
誰かに決めてほしくなることがあります。
しかし、迷いをすべてAIが消してしまえば、人間は判断から遠ざかります。
今回、迷いには複数の種類があると整理されました。
情報不足による迷い。
選択肢が多すぎる迷い。
価値の優先順位が決まらない迷い。
責任を負うことへの不安による迷い。
判断能力が一時的に低下している迷い。
本来は迷う必要がないほど危険が迫っている状態。
それぞれ、必要な支援は違います。
情報不足には、情報を出す。
選択肢過多には、候補を整理する。
価値判断には、何を重視し、何を犠牲にするかを見せる。
責任不安には、相談先や共有機能を出す。
判断能力低下には、支援者や緊急介入を検討する。
切迫危険では、余白を一時的に狭める。
ただし、危険が去れば余白を戻す必要があります。
今回、防災案内AIのボタンは、
『迷ったときは、AIに決めてもらう』
から、
『どれがよいか、一緒に確認』
へ変更されました。
AIが決めるのではなく、条件を整理し、候補を絞り、本人・家族・支援者が確認できる形へ変えるためです。
今回の中心となる言葉は、これです。
人工叡智に必要なのは、迷いをゼロにすることではない。
人間が自分の判断を手放さずにいられるだけの、迷える余白を設計することである。
迷うことは、失敗ではありません。
その中には、自分が何を大事にしているのかを確認する時間が含まれています。
しかし、最後に新しい問題が現れました。
高齢者向け生活支援AIで、本人が迷いや不安を示した場合、AIが家族へ自動通知する機能が提案されたのです。
一見すると見守りです。
しかし、本人が家族に知られたくない迷いや不安もあります。
迷いを支えるはずのAIが、迷いを監視する存在になるかもしれません。
次回は、「迷いを見守ることと、迷いを監視することは違う」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
