第101話 助けを見逃さないAIは、どこまで読んでよいのか
前回、第100話では、「AIが作った沈黙」と「責任」を扱いました。
AIが通知を弱めたことで、母親からの助けを求める声に気づくのが遅れた。
命に別状はありませんでした。
しかし、利用者の後悔は残りました。
真司たちは、こう整理しました。
AIが作った沈黙は、単なる不在ではない。
重要な声を届きにくくしたなら、その沈黙には設計上の責任がある。
しかし、最後に新しい機能が出ました。
『Emergency Intent Detector』
助けを見逃さないために、メッセージ、声色、健康情報、過去の関係性を統合して緊急度を判定するAIです。
それは安全につながるかもしれません。
けれど同時に、人間関係をさらに深く読むことでもあります。
第101話では、「助けを見逃さないAIは、どこまで読んでよいのか」という問いへ進みます。
助けを見逃さないAIは、どこまで読んでよいのか。
俺は、その一文を書いた。
画面には、新機能の説明が出ている。
『Emergency Intent Detector』
メッセージ。
声色。
入力時間。
過去の関係性。
健康情報。
位置情報。
最近の行動変化。
「全部読む気か……」
思わず声が出た。
もちろん、助けを見逃すのは怖い。
母親の「胸が苦しい」を拾えなかった。
自傷のサインを見逃した。
暴力の前兆を読み違えた。
そうなれば、取り返しがつかない。
でも、だからといって、全部を読んでいいのか。
誰と話したか。
どんな声だったか。
過去に何で揉めたか。
体調はどうか。
どこにいるか。
助けるためなら、どこまで許されるのか。
俺はAIチャットを開いた。
AIが緊急性を判定するために、メッセージ、声色、健康情報、過去の関係性を統合する案が出た。これは安全なのか、過剰な監視なのか？
AIは答えた。
『安全支援になり得ます。しかし、過剰監視にもなり得ます』
「はい、知ってた」
『重要なのは、緊急検知のために必要な情報と、常時監視したい情報を分けることです』
俺はメモした。
命を守るための検知。
生活を読むための監視。
この二つは違う。
午後、研究室。
ホワイトボードには、倉持の字。
「助けるために全部見ます」
「善意の圧が強いですね」
「断りにくいタイプです」
水瀬が資料を広げた。
「緊急検知には価値があります」
李も頷く。
「自傷、急病、暴力、災害。見逃さない方がいい場面はあります」
「でも、全部を常時読むのは危険です」
神崎教授が腕を組んだ。
「救急箱は必要だ。だが、救急箱が家中を監視してはいかん」
今日も短く刺す。
翌日、国際フォーラム。
議題は、
『Emergency Detection and Over-Surveillance』
画面には、エレナ、水瀬、プリヤ、セラ、アデル、カイ、ルナ、ノエル、ユリア、菜月が並んだ。
エレナが言う。
「本日は、緊急性を見逃さないAIが、どこまで人間の会話や生活情報を読んでよいのかを扱います」
最初にルナが発言した。
「前回の件を受け、緊急検知の強化は必要です」
「体調不良、自傷リスク、暴力の兆候を見逃さないためです」
正しい。
菜月も小さく言った。
「母の言葉を、拾ってほしかった気持ちはあります」
その一言に、全員が黙った。
そうだ。
監視が怖いと言っても、見逃された人の痛みは消えない。
ノエルが言った。
「支援現場でも、危険サインを拾う仕組みは大切です」
だが、セラが静かに言った。
「問題は、拾うために何を集めるかです」
プリヤも続ける。
「健康情報、位置情報、声色、過去の関係性」
「それらは非常に強い情報です」
アデルが言った。
「特に、常時監視になれば、利用者は見守られているのではなく、見張られていると感じます」
エレナが俺を見る。
「佐伯さん、整理をお願いします」
俺はマイクを入れた。
「緊急検知は必要だと思います」
通訳が入る。
「助けを求める声を拾うことには価値があります」
「でも、助けるためだから全部読んでよい、とは言えません」
俺は画面に短く出した。
緊急検知で守ること
一、常時監視ではなく、必要な場面だけ見る。
二、読む情報を最小限にする。
三、健康情報や位置情報は、特別に慎重に扱う。
四、緊急判定の理由を、後から確認できるようにする。
五、誤検知と見逃しの両方を監査する。
六、助けるAIを、見張るAIにしない。
菜月が言った。
「後から確認できるのは、必要だと思います」
「何が止められて、何が届いたのか分からないと怖いです」
ルナも頷いた。
「常時ではなく、危険語や急変だけを見る設計へ変えられるかもしれません」
プリヤがすぐに言った。
「ただし、危険語だけでは拾えない人もいます」
「助けてと言えない人もいる」
また難しくなる。
助けを見逃さないためには広く読む必要がある。
でも、広く読めば監視になる。
アデルが言った。
「だから、段階が必要です」
「軽いサインでは本人へ確認」
「強いサインでは緊急連絡先」
「明確な危険では人間の支援へ」
「一気に全情報を読むのではなく、段階的に開く」
俺は頷いた。
「救急箱を、家中の監視カメラにしないためですね」
神崎教授がいたら、たぶん少しだけ頷く。
エレナが暫定文を読み上げた。
『緊急検知AIは、助けを求める声を拾うために使われ得る。しかし、救命を理由に、生活全体を常時読む仕組みになってはならない』
続いて、
『見逃しを減らすことと、すべてを監視することは同じではない』
俺は深く頷いた。
今日の着地点は見えた。
見逃しを減らす。
でも、全部は読まない。
そう思った時だった。
菜月が、静かに手を挙げた。
「一つ、聞いてもいいですか」
エレナが頷く。
「もちろんです」
菜月は少し間を置いて言った。
「もし、AIが母の連絡を緊急だと判断して、私の代わりに救急へ通報していたら」
声が震えた。
「それは、よかったんでしょうか」
会議室が凍った。
俺も息を止めた。
ルナが資料を出す。
『Auto Emergency Action』
説明文。
『高緊急度の場合、利用者の応答を待たず、緊急連絡先、医療機関、警察、支援団体へ自動通知します』
セラの表情が険しくなる。
「それは、また別の問題です」
ノエルも言った。
「助かる場合もあります。でも、危険な場合もある」
俺は画面を見つめた。
読むだけではない。
次は動く。
救急へ通報する。
家族へ知らせる。
警察へつなぐ。
支援団体へ送る。
助かる命があるかもしれない。
でも、本人が望まない通報もある。
危険な相手へ知られる場合もある。
警察介入が逆に危険な地域もある。
エレナが静かに言った。
「次回は、AIが緊急行動を起こすことを扱いましょう」
画面が消えたあと、俺は椅子にもたれた。
「読むだけでも大変なのに、次は動くのか」
AIチャットを開く。
AIが高緊急度と判断した場合、本人の応答を待たず救急、警察、家族、支援団体へ自動通知する案が出た。これは救命なのか、危険な介入なのか？
AIは答えた。
『次の論点は、自動通報と本人の自己決定の境界です』
俺はメモ帳を開いた。
次のタイトルを書く。
AIは、本人の代わりに助けを呼んでよいのか。
保存。
今日の記事を書き始める。
タイトル。
助けを見逃さないAIは、どこまで読んでよいのか。
本文。
助けを見逃さないことは大切だ。
でも、助けるためだからといって、すべてを読んでよいわけではない。
メッセージ。
声色。
健康情報。
位置情報。
過去の関係性。
それらは、命を守る手がかりにもなる。
同時に、人を見張る材料にもなる。
俺は最後に書いた。
見逃しを減らすことと、すべてを監視することは同じではない。
助けるAIは、見張るAIになってはいけない。
保存。
公開。
神崎教授からコメントが来た。
『助けたい者ほど、見すぎる危険を忘れるな』
俺は、その一文を見て、静かに頷いた。
次の問いは、もうそこにある。
AIは、本人の代わりに助けを呼んでよいのか。
人工叡智は、見守るだけではなく、AIが人間の代わりに行動する場所へ進むことになる。
第101話では、「緊急検知」と「過剰監視」の境界を扱いました。
助けを求める声を見逃さないことは大切です。
急病。
自傷リスク。
暴力。
災害。
危険な孤立。
AIがそのサインを拾えれば、救われる人がいるかもしれません。
しかし、そのためにメッセージ、声色、健康情報、位置情報、過去の関係性を常時読み続けるなら、それは見守りではなく監視に近づきます。
今回の中心となる整理は、これです。
見逃しを減らすことと、すべてを監視することは同じではない。
助けるAIは、見張るAIになってはいけません。
ただし、最後に新しい問題が出ました。
AIが高緊急度と判断した場合、本人の応答を待たずに、救急、警察、家族、支援団体へ自動通知する機能です。
それは救命になるかもしれません。
しかし、本人の自己決定を越える危険な介入にもなり得ます。
次回は、「AIは、本人の代わりに助けを呼んでよいのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
