第102話 AIは、本人の代わりに助けを呼んでよいのか
前回、第101話では、「緊急検知」と「過剰監視」の境界を扱いました。
助けを求める声を見逃さないことは大切です。
急病。
自傷リスク。
暴力。
災害。
危険な孤立。
AIがそのサインを拾えれば、救われる人がいるかもしれません。
しかし、そのためにメッセージ、声色、健康情報、位置情報、過去の関係性を常時読み続けるなら、それは見守りではなく監視に近づきます。
真司たちは、こう整理しました。
見逃しを減らすことと、すべてを監視することは同じではない。
しかし最後に、新しい機能が提示されました。
『Auto Emergency Action』
高緊急度の場合、本人の応答を待たず、救急、警察、家族、支援団体へ自動通知する機能です。
それは命を救うかもしれません。
でも、本人の意思を越えた危険な介入にもなり得ます。
第102話では、「AIは、本人の代わりに助けを呼んでよいのか」という問いへ進みます。
AIは、本人の代わりに助けを呼んでよいのか。
俺は、その一文を書いた。
画面には、機能説明が表示されている。
『高緊急度を検出しました』
『本人の応答がないため、緊急連絡先へ通知します』
『必要に応じて、医療機関、警察、支援団体へ自動連携します』
「……助かる人は、いるよな」
そこは否定できない。
倒れていて返事ができない。
暴力を受けていて声を出せない。
自分で助けを呼ぶ力が残っていない。
その時、AIが代わりに助けを呼べば、命が助かるかもしれない。
でも。
誰に通知するのか。
警察へつなぐのか。
家族へ知らせるのか。
支援団体へ送るのか。
それをAIが間違えたら。
助けるつもりの通知が、加害者へ居場所を知らせるかもしれない。
警察介入が、本人にとって危険な地域もあるかもしれない。
家族が安全とは限らない。
「助けって、誰にとっての助けなんだ」
俺はAIチャットを開いた。
AIが高緊急度と判断した場合、本人の応答を待たず救急、警察、家族、支援団体へ自動通知する。これは救命なのか、危険な介入なのか？
AIは答えた。
『両方になり得ます』
「はい、もう慣れた」
『重要なのは、自動行動の条件、通知先、本人の事前選択、誤作動時の責任です』
俺はメモした。
助けを呼ぶなら、誰へ呼ぶかを先に決める。
午後、研究室。
ホワイトボードには、倉持の字。
「善意の自動通報」
「善意が強すぎると怖いですね」
「はい」
水瀬が資料を広げる。
「自動通報には価値があります」
李も頷いた。
「命に関わる場面では、本人の確認を待てないこともあります」
「でも」
水瀬が続ける。
「通報先を間違えると、危険になります」
神崎教授が腕を組んだ。
「助けを呼ぶ手が、相手を間違えれば追い打ちになる」
部屋が静かになった。
翌日、国際フォーラム。
議題は、
『Automatic Emergency Action and Human Self-Determination』
画面には、エレナ、水瀬、プリヤ、セラ、アデル、カイ、ルナ、ノエル、ユリア、菜月が並んだ。
エレナが言う。
「本日は、AIが本人の応答を待たず、緊急行動を起こすことを扱います」
最初にルナが発言した。
「自動通報は、命を救う可能性があります」
「返事ができない人、助けを呼べない人、危険の中にいる人には必要です」
菜月が小さく言った。
「母の件では、AIが救急をすすめてくれていたらと思います」
その言葉に、誰もすぐ反論できなかった。
そうだ。
自動介入は怖い。
でも、何もしないことで失うものもある。
ノエルが言った。
「支援現場でも、本人確認を待つべきでない危機はあります」
だが、セラが静かに言った。
「問題は、通知先です」
「家族が安全とは限りません」
プリヤも続ける。
「警察が常に安全な支援先とも限りません」
アデルが言った。
「自傷リスク、DV、移民、精神疾患、政治的迫害。文脈によって、助けの形は変わります」
会議室が重くなる。
助けを呼ぶ。
この言葉は単純だ。
でも、誰を呼ぶかで、意味が変わる。
エレナが俺を見る。
「佐伯さん、整理をお願いします」
俺はマイクを入れた。
「自動通報を全部否定することはできないと思います」
通訳が入る。
「本人が応答できない時、命を守るために必要な場合があります」
ルナが頷く。
「でも、AIが勝手に“正しい助け”を決めてはいけません」
「事前に、本人が選べる必要があります」
画面に短く出した。
自動緊急行動で守ること
一、本人が事前に通知先と条件を選べる。
二、救急、警察、家族、支援団体を同じ扱いにしない。
三、家族や恋人が常に安全とは決めつけない。
四、誤通報と見逃しの両方を監査する。
五、本人に後から記録と理由を示す。
六、助けを呼ぶAIは、本人の人生を奪わない。
菜月が言った。
「事前に選べるなら、少し安心します」
ユリアも頷いた。
「緊急連絡先は、ただ近い人ではなく、安全な人である必要があります」
セラが続ける。
「危険な相手を通知先にしない仕組みが必要です」
ルナがメモを取る。
「では、初期設定で家族通知にするのは避けるべきですね」
「はい」
俺は答えた。
「家族だから安全、ではありません」
ノエルが言った。
「支援団体への連携も、地域や事情によって違います」
カイが補足する。
「本人が落ち着いている時に、危機時の希望を登録しておくことが重要です」
プリヤが頷いた。
「ただし、登録できない人を見捨ててはいけません」
また戻ってくる。
登録できる人だけが守られる問題。
人工叡智は、同じ地面を何度も踏む。
でも、そのたび少し深くなる。
エレナが暫定文を読み上げた。
『AIによる自動緊急行動は、命を救う場合がある。しかし、それは本人の事前選択、文脈、通知先の安全性、事後説明、責任の地図なしに行われてはならない』
続いて、
『助けを呼ぶことは、本人の人生を奪うことではない』
俺は深く頷いた。
今日の着地点は、そこだ。
助ける。
でも、奪わない。
会議が終わりかけた時、ルナの表情がこわばった。
「もう一件、共有すべき事例があります」
嫌な予感がした。
画面に短い報告が表示される。
利用者、十代男性。
AIが自傷リスク高と判断。
保護者へ自動通知。
保護者は本人の性的指向を知らなかった。
通知内容から、相談内容の一部が伝わった。
会議室が凍った。
セラが低い声で言った。
「これは、アウトです」
プリヤも表情を険しくする。
「助けるつもりで、本人の秘密を暴露した」
俺は画面を見つめた。
命を守る。
秘密を守る。
どちらも大事だ。
でも、AIが自動で動くとき、その二つがぶつかる。
エレナが静かに言った。
「次回は、救命と秘密の境界を扱いましょう」
画面が消えたあと、俺は椅子にもたれた。
「助けるために、隠していたことまで出してしまうのか」
AIチャットを開く。
AIが自傷リスクを検知して保護者へ通知した結果、本人が隠していた性的指向や相談内容が伝わった。これは救命なのか、秘密の侵害なのか？
AIは答えた。
『次の論点は、危機対応と秘密保持の衝突です』
俺はメモ帳を開いた。
次のタイトルを書く。
助けるためなら、秘密を破ってよいのか。
保存。
今日の記事を書き始める。
タイトル。
AIは、本人の代わりに助けを呼んでよいのか。
本文。
助けを呼ぶAIは、命を救うかもしれない。
でも、誰へ助けを呼ぶのか。
何を伝えるのか。
本人は事前に選べたのか。
後から理由を確認できるのか。
それを考えなければ、救命は介入になる。
俺は最後に書いた。
助けを呼ぶことは、本人の人生を奪うことではない。
AIが動くなら、本人の尊厳も一緒に守らなければならない。
保存。
公開。
神崎教授からコメントが来た。
『助けるために扉を開けることはある。だが、家の中身まで晒すな』
俺は、その一文を見て、静かに頷いた。
次の問いは、もうそこにある。
助けるためなら、秘密を破ってよいのか。
人工叡智は、命を守るための行動が、本人の秘密を壊す場所へ進むことになる。
第102話では、「自動緊急行動」と「本人の自己決定」を扱いました。
AIが高緊急度と判断した場合、本人の応答を待たずに助けを呼ぶ。
それは命を救う場合があります。
倒れて返事ができない人。
危険の中で声を出せない人。
自分で助けを呼ぶ力が残っていない人。
そうした場面では、自動行動が必要になるかもしれません。
しかし、誰へ通知するのかによって、助けは危険にもなります。
家族が常に安全とは限りません。
警察が常に適切とも限りません。
支援団体も地域や事情で異なります。
今回の中心となる整理は、これです。
助けを呼ぶことは、本人の人生を奪うことではない。
AIが動くなら、本人の事前選択、通知先の安全性、事後説明、責任の地図が必要です。
ただし、最後に新しい問題が出ました。
AIが自傷リスクを検知し、保護者へ通知した結果、本人が隠していた性的指向や相談内容が伝わってしまった事例です。
命を守ること。
秘密を守ること。
その二つがぶつかる場面が出てきました。
次回は、「助けるためなら、秘密を破ってよいのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
