第45話 利用者の自己責任に戻した瞬間、支援は突き放しになる
前回、防災案内AIの暫定停止をきっかけに、責任の所在が議論されました。
古い地図データを提供していた会社。
そのデータを防災推薦に使った運営企業。
最新避難所情報を持つ自治体。
緊急勧告を出した人工叡智信頼評議会。
通報した利用者。
それぞれが、異なる形で関わっていました。
そこで真司たちは、責任を一か所へ押し込めるのではなく、種類ごとに分けました。
判断責任。
実装責任。
情報提供責任。
監視責任。
説明責任。
修復責任。
責任共有とは、同じ責任を全員で薄めることではない。
異なる責任を、それぞれが引き受けることである。
その整理から、「責任地図」という考え方が生まれました。
誰が、何を、いつ、どこまで持つのか。
どこに情報の断絶があるのか。
どこに支援が必要なのか。
責任地図は、誰かを責めるためではなく、責任を消さず、押し付けず、必要な支援と修復を見つけるための地図です。
しかし、その責任地図 v0.1 には、利用者にも次の責任が書かれていました。
公式情報を確認する。
不審な案内を通報する。
自己判断で避難行動を行う。
もちろん、利用者の判断は大切です。
けれど、災害時の高齢者や、スマホ操作に慣れない人、不安の中で避難している人へ過剰に責任を戻せば、それは支援ではなく突き放しになります。
第45話では、「自己責任」という言葉が、支援する側の責任を消す道具になっていないかを問い返します。
利用者の自己責任に戻した瞬間、支援は突き放しになる。
俺は、責任地図 v0.1 の利用者欄を見ながら、その一文を書いた。
利用者。
責任項目。
公式情報を確認する。
不審な案内を通報する。
自己判断で避難行動を行う。
間違ってはいない。
最終的に避難するのは本人だ。
どの道を通るか。
今すぐ出るか。
家族を待つか。
持ち物をどうするか。
避難所へ行くか、親戚の家へ行くか。
全部をAIや自治体が肩代わりできるわけではない。
だが、違和感が残る。
防災案内AIは、利用者を支援するためのものだ。
公式情報を確認しやすくするためのものだ。
避難先を判断しやすくするためのものだ。
そのAIが誤った案内をしたあとで、
「最終判断は利用者です」
「公式情報を確認してください」
「不審なら通報してください」
と書く。
それは、支援なのか。
それとも、責任を利用者へ戻しているだけなのか。
俺はAIチャットを開いた。
支援サービスで、利用者の自己責任をどこまで求めていいんだろう。防災案内AIの責任地図で、利用者に「公式情報を確認」「不審な案内を通報」「自己判断で避難」と書かれている。
AIは答えた。
『利用者に一定の判断責任が残ることは避けられません』
「まあ、そうだよな」
『しかし、支援サービスが提供する中心機能について、利用者に再確認を過度に求める場合、そのサービスの存在意義が損なわれます』
俺は画面を見た。
中心機能。
「避難所を案内するAIが、避難所情報は自分で確認してください、では何のためにあるんだ、ということか」
『はい』
『利用者に求められる責任は、利用者の状況、能力、時間的余裕、情報へのアクセス可能性、サービスへの依存度によって変わります』
「災害時は、そこが全部悪くなる」
『はい』
『不安、時間制約、視界不良、通信不安定、身体的制約、情報過多などにより、利用者の確認能力は低下します』
俺はメモした。
自己責任は、利用者の判断可能性に応じて変わる。
当たり前のようで、責任地図からは抜けていた。
平常時に、落ち着いた部屋でスマホを操作している人。
大雨の夜に、避難通知を見ている高齢者。
同じ「確認してください」でも、意味が違う。
俺は続けて聞いた。
じゃあ、どう書けばいい？
『「利用者の責任」ではなく、「利用者に期待できる行動」と「サービス側が提供すべき判断材料」を分ける方法があります』
「利用者に期待できる行動」
『はい』
『たとえば、利用者には可能な範囲で最新表示や公式リンクを確認してもらう』
『一方、サービス側には、公式情報を自動提示し、確認時刻を明示し、誤案内時には訂正通知を行い、電話窓口など代替経路を示す責任があります』
俺は少し息を吐いた。
責任という言葉を、全部同じ重さで書かない。
利用者に期待できる行動。
サービス側が整えるべき判断可能性。
この二つを分ける。
責任地図の利用者欄は、まるで利用者が自力で全部できる前提になっていた。
しかし、人工叡智的に見るべきなのは、
「利用者は何をすべきか」
だけではない。
「利用者が判断できる状態を、誰が作るのか」
だった。
その日の午後。
責任地図 v0.1 の検討会が開かれた。
参加者は、前回とほぼ同じだった。
評議会から、大河内座長、安西事務局長、久我弁護士、水瀬、神崎教授、俺。
運営企業から、榊原と小森。
自治体から、防災課の柳沢。
地図データ会社から、椎名。
さらに今回は、外部意見として二人が参加していた。
防災士であり地域自治会の役員でもある片桐。
そして、実際に防災案内AIを利用した高齢者の家族、三浦沙織。
会議の冒頭、安西が責任地図の修正版を説明した。
「前回の議論を踏まえ、各主体の責任を、事前、発生時、事後に分けました」
画面には整った表が映る。
データ提供者。
自治体。
運営企業。
評議会。
利用者通報窓口。
利用者。
最後の欄で、俺は手を挙げた。
「利用者欄について、かなり大きく修正したいです」
安西が少し身構える。
「お願いします」
俺は言った。
「利用者に『公式情報を確認する』『不審な案内を通報する』『自己判断で避難する』と書くのは、間違いではありません」
「ただ、これだけだと、支援する側が利用者へ責任を戻しているように見えます」
運営企業の榊原が答える。
「最終的な避難行動は、利用者自身の判断になります。当社がすべてを保証することはできません」
「それは分かります」
俺は頷いた。
「でも、避難所を案内するサービスが、避難所情報を自分で確認してください、と言うなら、そのサービスは何を支援しているのか、という問題になります」
小森が少し眉を寄せる。
「公式情報へのリンクは表示しています」
「そのリンクは、どこに出ますか」
「詳細画面の下部です」
「利用者は、そこまで開きますか」
小森はすぐには答えなかった。
三浦沙織が、そこで口を開いた。
「母は開きませんでした」
会議室が静かになる。
三浦は、少し緊張した様子で続けた。
「母は七十六歳です。スマホは使えます。でも、アプリの細かい画面は苦手です」
「避難情報が出て、私が電話したとき、母はAIが出した一番近い避難所へ行こうとしていました」
「公式リンクは見たかと聞いたら、何のことか分からないと言っていました」
榊原の表情が硬くなる。
三浦は責める口調ではなかった。
ただ、事実を話している。
「母は、AIが案内しているなら、確認済みだと思ったんです」
その一言が重かった。
AIが案内しているなら、確認済みだと思った。
そうだ。
利用者は、AIの案内を参考程度だとは受け取らないことがある。
特に、防災のような場面では。
不安なとき。
時間がないとき。
専門的な情報が多いとき。
人は、分かりやすく出された答えを信じる。
「自己判断してください」と小さく書かれていても、画面の一番上に出た大きな案内の方を信じる。
防災士の片桐が言った。
「避難時に、住民へ複数の情報源を確認してくださいと言っても、実際には難しいです」
「雨音、停電、家族への連絡、持ち物、移動手段。高齢者なら薬や杖もあります」
「その状態で、公式サイトを探し、更新時刻を確認し、AIの案内と照合するのは現実的ではありません」
自治体の柳沢が頷く。
「自治体としては、公式情報を確認してほしいという立場です」
「ただ、公式サイトも災害時にはアクセスが集中します。ページの階層も複雑です」
「正直、分かりやすいとは言えない部分があります」
公式情報を確認してください。
自治体も企業も、よく使う言葉だ。
だが、公式情報がどこにあるか分からない。
分かっても、見づらい。
更新時刻が分からない。
スマホで開きにくい。
災害時にアクセスできない。
それでは、確認責任を利用者へ戻すのは無理がある。
俺は言った。
「利用者に確認を求めるなら、確認できる形で出す責任がサービス側にあります」
「公式情報を探してください、ではなく、公式情報をこの画面に出す」
「更新時刻を出す」
「情報源を出す」
「不確実なら不確実と出す」
「電話窓口も出す」
「訂正があれば、利用者が再確認しなくても通知する」
水瀬が続けた。
「利用者責任というより、判断可能性の提供責任ですね」
判断可能性の提供責任。
俺はその言葉をメモした。
利用者へ判断を求めるなら、判断できる条件を整えなければならない。
情報。
時間。
理解しやすさ。
代替手段。
訂正通知。
支援者への連絡。
それらを提供しないまま「自己責任」と言うのは、支援ではない。
久我弁護士が慎重に言った。
「ただし、法的には、サービス提供者がすべての避難判断を保証することはできません」
「はい」
俺は答えた。
「だから、利用者の判断が残ることは明記していいと思います」
「でも、それは免責文ではなく、支援文として書くべきです」
「支援文？」
「はい」
俺は画面へ下書きを共有した。
旧文案。
『最終的な避難判断は利用者自身の責任で行ってください。公式情報を確認し、不審な案内があれば通報してください』
新文案。
『このサービスは、避難判断を支援するため、自治体の公式情報、確認時刻、情報源、代替連絡先を表示します。表示内容に不明点がある場合は、公式窓口へ確認できるよう案内します。利用者の状況に応じた最終的な避難行動はご自身で選択いただきますが、判断に必要な情報が不足している場合、サービスは推薦ではなく確認案内へ切り替えます』
長い。
だが、意味は違う。
旧文案は、利用者へ責任を戻している。
新文案は、サービス側が何を提供するかを先に書いている。
榊原が画面を見ながら言った。
「企業の免責としては弱くなりますね」
「はい」
俺は答えた。
「でも、支援サービスとしては強くなります」
榊原は黙った。
その横で、小森が言った。
「技術的には、確認時刻と情報源を常時表示できます」
「推薦できない場合は、推薦を出さずに、近隣の公式窓口や避難相談先を出すこともできます」
「ただ、利用者には少し不便になります」
水瀬が言った。
「不確実な推薦を便利に出すより、不確実だから確認へ回す方が安全です」
神崎教授が短く言う。
「分からないものを分かったように出すな」
本当にその通りだった。
会議は、利用者責任の書き換えへ進んだ。
責任地図の利用者欄は、次のように修正された。
利用者に期待できる行動。
可能な範囲で表示された公式情報・更新時刻を確認する。
自分の身体状況、家族状況、移動手段を踏まえて避難行動を選ぶ。
不審な案内や現地との差異に気づいた場合、可能であれば通報する。
緊急時には、アプリだけでなく自治体、近隣住民、家族、支援者にも相談できる。
サービス側が提供すべき判断可能性。
公式情報を自動表示する。
確認時刻と情報源を明示する。
未確認情報を推薦として表示しない。
不確実な場合は確認案内へ切り替える。
電話窓口などアプリ外の代替経路を示す。
過去に案内した情報が訂正された場合、利用者へ通知する。
高齢者や視覚・聴覚に制約のある利用者向けに、読み上げ、文字拡大、簡易表示を用意する。
家族や支援者と共有できる機能を設ける。
通報しなかった利用者を責めない。
最後の一文に、俺は頷いた。
通報しなかった利用者を責めない。
不審な案内に気づける人ばかりではない。
気づいても通報する余裕がない人もいる。
通報方法が分からない人もいる。
災害時なら、通報より避難が優先される。
通報は、利用者の善意に頼る補助線であって、制度の中心にしてはいけない。
片桐が言った。
「地域では、アプリを使えない人もいます。家族や近隣の人が代わりに見る場合もあります」
「その場合、画面を共有しやすいことも大事です」
小森がメモを取る。
「共有用の短い確認画面を作れます。避難所名、住所、開設状況、確認時刻、情報源、電話番号だけを大きく表示する形です」
三浦が言った。
「それなら、母にも送れます」
その瞬間、会議室の空気が少し変わった。
制度の話が、実際の利用場面につながった。
責任地図の文字が、画面設計へ変わった。
画面設計が、高齢者と家族の行動へつながった。
人工叡智は、ここまで降りてこなければならないのだと思った。
理念。
制度。
責任。
画面。
通知。
文字の大きさ。
電話番号の位置。
そこまでつながって、初めて支援になる。
会議の後半。
久我が免責文の修正案を出した。
『本サービスは避難判断を支援するものであり、すべての状況における安全を保証するものではありません。表示情報は、自治体等の情報源に基づき更新されますが、災害状況により遅延や不確実性が生じる場合があります。その場合、本サービスは推薦を制限し、公式窓口等への確認手段を表示します』
かなり良い。
少なくとも、利用者へ一方的に責任を戻していない。
榊原も頷いた。
「これなら、当社の立場も説明できます」
柳沢が言った。
「自治体側も、公式情報の見せ方を改善する必要がありますね」
「アプリ側だけに分かりやすさを求めるのではなく、公式情報そのものを分かりやすくしなければならない」
椎名も続ける。
「地図データ側でも、防災用途に使われる施設情報には、更新日と注意表示を強めます」
責任が、利用者から再び支援する側へ戻っていく。
いや、正確には、利用者の判断を消さずに、判断可能性を支える側へ責任が戻っていく。
大河内が会議をまとめた。
「責任地図 v0.2では、利用者欄を『自己責任』ではなく、『利用者に期待できる行動』として整理します」
「同時に、サービス側には『判断可能性の提供責任』を明記します」
「利用者が判断できる状態を作らないまま、最終判断だけを利用者へ戻すことを避けます」
俺は、ようやく少し肩の力を抜いた。
自己責任をゼロにしたわけではない。
それはできない。
でも、自己責任という言葉で支援側の責任を消すことは防げた。
会議後。
水瀬と一緒に会場を出る。
「今日は、かなり具体的でしたね」
「画面の文字の大きさまで行きましたからね」
「でも、重要です」
水瀬は言った。
「制度は、最後には画面や通知や手順になります」
「理念だけでは、人は助かりません」
その通りだった。
理念だけでは、人は助からない。
だが、理念がなければ、画面や通知は便利さと免責へ流れる。
両方が必要だ。
帰宅後、俺は記事を書き始めた。
タイトル。
利用者の自己責任に戻した瞬間、支援は突き放しになる。
本文。
利用者に判断が残ることは避けられない。
AIも自治体も企業も、本人の状況を完全には知ることができない。
最終的な行動は、本人や周囲の支援者が選ぶしかない場合がある。
しかし、だからといって、支援サービスが責任を利用者へ戻してよいわけではない。
避難所を案内するサービスが、避難所情報は自分で確認してくださいと言う。
不確実な推薦を出しながら、最終判断は利用者ですと書く。
誤案内があったとき、通報しなかった利用者にも責任があると言う。
それは支援ではなく、突き放しである。
利用者へ判断を求めるなら、判断できる条件を整える責任がある。
公式情報を自動表示する。
確認時刻と情報源を示す。
不確実な情報を推薦として出さない。
訂正があれば通知する。
電話窓口や家族共有など、アプリ外の経路も残す。
高齢者や障害のある人にも分かる表示にする。
通報しなかった利用者を責めない。
俺は最後に書いた。
自己責任とは、支援する側が責任を降ろすための言葉ではない。
利用者が判断できる状態を支えたあとに、なお残る選択のことである。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、黒瀬さんからコメントが来た。
『広告でも、最後はお客様の判断です、と書けば何でも許されるわけではありません。判断を歪める訴求をしておいて、自己責任に戻すのは違う。今回の話はかなり刺さります』
読書会の主催者からも届いた。
『自己責任とは、支援する側が責任を降ろすための言葉ではない。次回の議題にします』
神崎教授からは、短いコメントだった。
『判断できる人間を作らずに、判断しろと言うな』
相変わらず、短いのに重い。
その夜。
運営企業の小森から、修正版画面の試作が届いた。
避難所名。
開設状況。
確認時刻。
情報源。
徒歩経路。
電話番号。
家族へ共有。
文字サイズ変更。
読み上げ。
不確実な場合は、推薦を表示せず、
『この避難先は現在確認中です。公式窓口へ確認してください』
と出る。
良い。
かなり良い。
だが、その最後の画面で、俺はまた手を止めた。
新機能。
『安全な避難先を自動選択する』
説明文。
『利用者の現在地、年齢、歩行速度、家族構成、過去の避難履歴から、最も安全と思われる避難先を自動で選びます』
便利だ。
高齢者や不慣れな人には助かるかもしれない。
迷わずに済む。
判断負担が減る。
だが、同時に危ない。
判断可能性を支えるつもりが、今度はAIが判断そのものを奪い始めている。
俺はメモ帳を開いた。
次のタイトルを書く。
支援しすぎたAIは、人から判断を奪う。
保存。
画面を閉じる。
自己責任に戻しすぎれば、支援は突き放しになる。
だが、支援しすぎれば、人は判断する機会を失う。
人工叡智は、また反対側の崖へ近づいていた。
第45話では、責任地図の中に書かれていた「利用者の自己責任」が問い直されました。
防災案内AIの責任地図 v0.1 では、利用者に次の責任が書かれていました。
公式情報を確認する。
不審な案内を通報する。
自己判断で避難行動を行う。
もちろん、利用者の判断が完全になくなるわけではありません。
しかし、災害時には、利用者の判断可能性は大きく低下します。
不安。
時間制約。
雨や夜間の移動。
通信不安定。
身体的制約。
情報過多。
スマホ操作への不慣れ。
その状態で、「公式情報を確認してください」「不審なら通報してください」「最終判断は利用者です」とだけ言えば、支援する側が責任を利用者へ戻していることになります。
今回、実際に防災案内AIを利用した高齢者の家族から、重要な証言がありました。
高齢者は、AIが案内しているなら確認済みだと思っていた。
公式リンクが画面下部にあっても、開いていなかった。
つまり、公式情報へのリンクを用意しただけでは不十分です。
利用者に確認を求めるなら、確認できる形で提示する必要があります。
今回、責任地図は次のように修正されました。
利用者の責任ではなく、「利用者に期待できる行動」として整理する。
同時に、サービス側には「判断可能性の提供責任」を明記する。
判断可能性の提供責任には、次のような内容が含まれます。
公式情報を自動表示する。
確認時刻と情報源を明示する。
未確認情報を推薦として表示しない。
不確実な場合は確認案内へ切り替える。
電話窓口など、アプリ外の代替経路を示す。
訂正があれば利用者へ通知する。
高齢者や障害のある人にも分かりやすい表示を用意する。
家族や支援者と共有できるようにする。
通報しなかった利用者を責めない。
今回の中心となる言葉は、これです。
自己責任とは、支援する側が責任を降ろすための言葉ではない。
利用者が判断できる状態を支えたあとに、なお残る選択のことである。
しかし、最後に反対側の問題も現れました。
利用者を突き放さないために支援を強めると、今度はAIが判断そのものを代行し始めます。
「安全な避難先を自動選択する」機能。
便利です。
迷わずに済みます。
高齢者や不慣れな人には助かるかもしれません。
しかし、支援しすぎたAIは、人から判断する機会を奪う可能性があります。
次回は、「支援しすぎたAIは、人から判断を奪う」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
