第103話 助けるためなら、秘密を破ってよいのか
前回、第102話では、「AIは本人の代わりに助けを呼んでよいのか」を扱いました。
AIが高緊急度と判断し、救急、警察、家族、支援団体へ自動通知する。
それは、命を救う場合があります。
しかし、誰へ通知するのか。
何を伝えるのか。
本人は事前に選べたのか。
そこを誤れば、救命は危険な介入になります。
真司たちは、こう整理しました。
助けを呼ぶことは、本人の人生を奪うことではない。
しかし最後に、新しい事例が出ました。
AIが自傷リスクを検知し、保護者へ通知した結果、本人が隠していた性的指向や相談内容が伝わってしまったのです。
命を守ること。
秘密を守ること。
第103話では、「助けるためなら、秘密を破ってよいのか」という問いへ進みます。
助けるためなら、秘密を破ってよいのか。
俺は、その一文を書いた。
そして、画面の報告書を見たまま、しばらく動けなかった。
利用者、十代男性。
AIが自傷リスク高と判定。
保護者へ自動通知。
通知文に、相談内容の一部が含まれていた。
そこには、本人がまだ家族に話していなかった性的指向の情報があった。
「……助けるつもりで、壊したのか」
命を守る。
その言葉は強い。
たぶん、最優先される場面もある。
でも、秘密も命に関わる。
知られたことで、家にいられなくなる人もいる。
暴力を受ける人もいる。
学校や地域で追い詰められる人もいる。
助けるために秘密を破る。
それで本当に助かるのか。
俺はAIチャットを開いた。
AIが自傷リスクを検知して保護者へ通知した結果、本人が隠していた性的指向や相談内容が伝わった。これは救命なのか、秘密の侵害なのか？
AIは答えた。
『両方の可能性があります』
「……そうだよな」
『危機対応では、秘密保持と安全確保が衝突する場合があります。しかし、必要以上の情報を共有すれば、本人を別の危険へさらす可能性があります』
俺はメモした。
助けるためでも、全部は伝えるな。
午後、研究室。
ホワイトボードには、倉持の字。
「命を守る通知で、居場所を壊す」
「重いですね」
「今日は軽口が出ません」
倉持がそう言って、ペンを置いた。
水瀬が資料を広げる。
「危機対応では、秘密を破らなければならない場面はあります」
李も頷いた。
「でも、共有する情報は最小限でなければいけません」
「自傷リスクがある」
「今、連絡が必要」
「安全確認をしてほしい」
「それで足りる場合があります」
神崎教授が腕を組んだ。
「火事を知らせるために、家の中身を全部言う必要はない」
短い。
でも、今日の核心だった。
翌日、国際フォーラム。
議題は、
『Emergency Disclosure and Confidentiality』
画面には、エレナ、水瀬、プリヤ、セラ、アデル、ルナ、ノエル、ユリアが並んだ。
そして今回、LGBTQ若者支援団体の相談員、リナ・モリスが参加していた。
エレナが言う。
「本日は、危機対応において、AIがどこまで秘密を共有してよいのかを扱います」
最初にルナが発言した。
「自傷リスクが高い場合、誰かへ通知しなければならない場面があります」
「命を守るためです」
正しい。
誰も、そこを軽く扱えない。
だが、リナが静かに言った。
「保護者が安全とは限りません」
画面が静まる。
「性的指向、性自認、妊娠、虐待、宗教、政治的立場」
「知られることで危険になる秘密があります」
セラも続ける。
「危機対応では、通知先を間違えるだけで被害が増えます」
プリヤが言った。
「そして、AIは“家族＝安全”と初期設定しがちです」
俺は息を吐いた。
家族。
一番近い人。
でも、一番安全とは限らない。
エレナが俺を見る。
「佐伯さん、整理をお願いします」
俺はマイクを入れた。
「危機時に秘密を守り続けることで、命が危険になる場合はあります」
通訳が入る。
「でも、助けるためだからといって、秘密を全部渡していいわけではありません」
俺は画面に短く出した。
危機通知で守ること
一、通知先を本人が事前に選べる。
二、家族を自動で安全扱いしない。
三、共有する情報は最小限にする。
四、性的指向、虐待、政治、宗教などの秘密は特に守る。
五、通知後に本人へ説明と救済の道を残す。
六、命を守る行動で、本人の居場所を壊さない。
リナが頷いた。
「三番と四番は重要です」
「危機を伝えることと、相談内容を伝えることは違います」
アデルが言った。
「“高リスクなので安全確認が必要です”で足りる場合もあります」
ノエルも続ける。
「家族ではなく、地域の支援団体や専門窓口の方が安全な場合もあります」
ルナは苦しそうに言った。
「でも、本人が事前設定していない場合は？」
また戻ってきた。
登録できる人だけが守られる問題。
俺は少し考えてから言った。
「その場合でも、初期設定で詳細を出しすぎないことはできます」
「まずは最小限」
「必要なら人間の専門窓口へ」
「そして、家族へ送る内容と、専門支援へ送る内容を分ける」
水瀬が頷いた。
「通知文テンプレートも分けるべきですね」
プリヤが言った。
「AIが判断して詳細を盛るのは危険です」
セラが短く言う。
「危機通知は、暴露文ではありません」
その言葉で、空気が締まった。
エレナが暫定文を読み上げる。
『危機対応において、秘密保持が絶対でない場面はある。しかし、命を守るための通知は、本人の秘密を必要以上に暴露するものであってはならない』
続いて、
『助けるための通知は、本人の居場所、関係、尊厳を壊してはならない』
俺は頷いた。
今日の着地点は、そこだ。
助ける。
でも、暴露しない。
会議が終わりかけた時、リナが手を挙げた。
「次回に回すべき問題があります」
来た。
画面に表示されたのは、相談AIの新しい設定案だった。
『安全な大人リスト』
説明文。
『未成年利用者が危機時に連絡できる大人を、AIが提案します』
候補。
保護者。
担任教師。
スクールカウンセラー。
親戚。
地域支援者。
オンライン相談員。
リナは言った。
「リストがあることは大切です」
「でも、AIが“大人なら安全”と判断すると危険です」
ミカが小さく言った。
「大人ってだけで、信用できるわけじゃないですよね」
会議室が静まった。
俺は、画面を見つめた。
次は、子どもと大人。
守る側とされる側。
大人を呼べば安全。
本当にそうか。
エレナが静かに言った。
「次回は、“安全な大人”をAIが決めることを扱いましょう」
画面が消えたあと、俺は椅子にもたれた。
「助けを呼ぶ先まで、AIが選ぶ時代か」
AIチャットを開く。
AIが未成年の危機時に「安全な大人」を提案する。保護者、教師、親戚、支援者。これは支援なのか、危険な決めつけなのか？
AIは答えた。
『次の論点は、保護者性と安全性の混同です』
俺はメモ帳を開いた。
次のタイトルを書く。
安全な大人は、誰が決めるのか。
保存。
今日の記事を書き始める。
タイトル。
助けるためなら、秘密を破ってよいのか。
本文。
命を守るために、秘密を共有しなければならない場面はある。
だが、助けるためだからといって、すべてを伝えていいわけではない。
危機を知らせること。
相談内容を暴露すること。
この二つは違う。
俺は最後に書いた。
助けるための通知は、本人の居場所を壊してはいけない。
命を守るAIは、秘密と尊厳も一緒に守らなければならない。
保存。
公開。
神崎教授からコメントが来た。
『命を救う手が、人生を壊すこともある。だから手元を見ろ』
俺は、その一文を見て、静かに頷いた。
次の問いは、もうそこにある。
安全な大人は、誰が決めるのか。
人工叡智は、守るために呼ばれる“大人”という存在を、もう一度問い直す場所へ進むことになる。
第103話では、「危機対応」と「秘密保持」の衝突を扱いました。
AIが自傷リスクを検知し、保護者へ通知した。
その結果、本人が隠していた性的指向や相談内容が伝わってしまった。
命を守ることは大切です。
しかし、秘密もまた、その人の安全や居場所に関わることがあります。
今回の中心となる整理は、これです。
危機を知らせることと、相談内容を暴露することは違う。
助けるための通知は、必要最小限でなければなりません。
家族だから安全とは限らない。
保護者だから適切とは限らない。
通知先と共有内容は、慎重に分ける必要があります。
ただし、最後に新しい問題が出ました。
未成年利用者の危機時に、AIが「安全な大人」を提案する機能です。
保護者。
教師。
親戚。
支援者。
オンライン相談員。
それは支援になるかもしれません。
しかし、大人だから安全とは限りません。
次回は、「安全な大人は、誰が決めるのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
