第60話 代わりがある人だけが、安全に止められる
前回、第59話では、「AIサービスの停止」と「失われる利益」が扱われました。
危険なAIは止めなければなりません。
誤った医療助言。
危険な災害案内。
差別的な審査。
不安を煽る支援。
それらを放置してはいけません。
しかし、停止は中立ではありません。
止めることにも、被害があります。
医療、防災、教育、相談支援などで、そのAIが誰かの唯一の手すりになっている場合、全面停止は支援の消滅になります。
そこで真司たちは、「停止・失益レビュー」という考え方へたどり着きました。
続けた場合の被害。
止めた場合に失われる利益。
停止範囲。
代替手段。
復旧条件。
そして、停止によって失われた相談、申請、避難支援、医療接続、教育機会の記録。
しかし、最後に新しい問題が出ました。
代替手段がある、と言っても、その質は同じではありません。
都市部では専門家や有人窓口へつながるかもしれない。
低資源地域では、紙のパンフレットや、つながらない電話窓口しかないかもしれない。
それを同じ「代替あり」と扱ってよいのか。
第60話では、「代わりがある人だけが、安全に止められる」という問いへ進みます。
代わりがある人だけが、安全に止められる。
俺は、その一文を書いたあと、深く息を吐いた。
また嫌な言葉が出てきた。
でも、たぶん本質だ。
AIを止める。
危険なサービスを停止する。
その判断自体は必要だ。
だが、前回分かった。
止めることにも被害がある。
そして今回、さらに嫌なことが分かった。
止めても大丈夫な人と、止めたら困る人がいる。
いや、もっと正確に言えば。
止めたあとに代わりへ届ける人と、届けない人がいる。
俺はAIチャットを開いた。
AIサービス停止時に「代替手段あり」とされても、その代替にアクセスできる人とできない人がいる。どう整理すればいい？
AIは答えた。
『代替手段の有無を、二値で扱ってはいけません』
「二値？」
『ある、ない、だけで判断してはいけないということです』
「まあ、そうだよな」
『代替手段には、少なくとも到達可能性、品質、容量、費用、時間、言語、障害対応、信頼性、法的安全性があります』
「多いな」
『代替が名目上存在していても、それを必要な人が実際に使えなければ、代替とは言えません』
俺はメモした。
代替は、存在ではなく到達可能性で見る。
AIは続けた。
『特に、AIが停止されたとき、裕福な人や都市部の人は人間の専門家へ移行できます』
『一方、低資源地域、少数言語話者、障害者、高齢者、移民、非正規労働者は、低品質な代替へ押し込まれる場合があります』
俺は画面を見つめた。
都市部の人には、医師がいる。
弁護士がいる。
学校がある。
役所の窓口がある。
相談機関がある。
家族や職場の支援がある。
でも、そうではない人たちがいる。
だからAIを使っていた。
なのに、危険だからAIを止める。
代替手段はあります。
紙の資料です。
電話窓口です。
ただし平日昼間だけです。
ただし主要言語だけです。
ただし混雑しています。
ただし遠方です。
ただし費用がかかります。
ただし本人確認が必要です。
それを本当に、代替と呼べるのか。
俺はさらに入力した。
一番大事な言葉は？
AIは答えた。
『代替手段があるとは、その人が使えるということです』
俺は頷いた。
それだ。
午後、研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの面々。
ホワイトボードには、いつものように倉持の文字がある。
「代替あり＝使える？」
俺は思わず指を鳴らした。
「今日はすごく分かりやすい」
倉持が少し得意げに丸眼鏡を直す。
「第60話なので、節目っぽくしました」
「そんなメタい理由だったんですか」
李が笑う。
「でも、今回は本当にそこです。『代替あり』という言葉が雑に使われると、格差が隠れます」
水瀬が資料を並べた。
「代替手段には、質があります」
「質？」
「はい。存在しているだけでは駄目です」
水瀬はホワイトボードへ書いた。
到達可能性。
待ち時間。
費用。
言語。
障害対応。
専門性。
容量。
信頼性。
安全性。
継続性。
「たとえば、医療AIを止めたとします」
水瀬は言った。
「代替として、人間の医療相談窓口があります」
「一見、問題なさそうですね」
俺は頷く。
「でも、その窓口が都市部にしかない」
「電話だけ」
「夜間は閉まっている」
「通訳がない」
「聴覚障害者が使えない」
「相談料が高い」
「混雑してつながらない」
「その場合、代替手段があるとは言えません」
李が続ける。
「防災AIも同じです」
「公式サイトがあります、と言われても、PDFだけ」
「多言語なし」
「読み上げ非対応」
「スマホで見づらい」
「通信が混雑して開かない」
「それでは、AI停止後の代替にはなりません」
倉持が言った。
「教育AIなら、代替として学校があります、と言われても、教師不足で一人ずつ見られないとか」
「そうですね」
水瀬が頷く。
「代替手段は、名目ではなく、実際の利用可能性で評価しなければならない」
神崎教授が腕を組んだ。
「代替があると言う者は、自分が代替へ届ける場所にいる」
前回のコメントと同じ言葉だ。
だが、研究室で聞くと、さらに重い。
俺は言った。
「つまり、AIを止める判断をする人たちは、たいてい代替へアクセスできる側にいる」
「そうです」
水瀬が静かに答えた。
「だから、止めた後の空白を軽く見積もりやすい」
会議室にいる人は、専門家へ届く。
資料も読める。
言語も分かる。
窓口へ電話もできる。
交通費も払える。
だから、「代替があります」と言える。
でも、必要としている人にとっては、その代替は遠いかもしれない。
見えないかもしれない。
怖いかもしれない。
使えないかもしれない。
神崎教授が言った。
「代替手段とは、制度上の出口ではない」
「え？」
「その人が実際に通れる道だ」
俺はメモした。
代替は、制度上の出口ではない。
その人が通れる道である。
翌日。
国際AI安全連携フォーラムの事前セッションが始まった。
議題。
『Unequal Alternatives and Safe Suspension』
画面には、いつもの顔ぶれ。
エレナ、朝比奈、マテオ、ラシード、アメリア、ヴィクター、アミナ、ラニア、ケイラ、ジョナス、サミール。
前回から続いて、リナ、ホセ、ミンも参加していた。
そして今回は、新しい参加者が一人いた。
ノーラ・ベンソン。
公共サービスのアクセシビリティ設計を専門とする研究者だという。
エレナが進行する。
「本日の問いは、AIサービス停止時の代替手段が、本当にすべての人へ届くのかです」
最初にジョナスが発言した。
「停止判断では、代替手段の有無を確認する必要があります」
「監査上も、代替が提示されていれば、停止による被害は軽減されたと評価できます」
それ自体は正しい。
だが、今日の論点はそこでは終わらない。
ノーラがすぐに口を開いた。
「代替が提示されていることと、代替が使えることは違います」
「たとえば、障害者向け支援AIを止めたとします」
「代替として電話窓口を置く」
「しかし、聴覚障害者には使えない」
「Webフォームを置く」
「しかし、スクリーンリーダーに対応していない」
「窓口を置く」
「しかし、移動できない人には届かない」
「それは、代替ではなく、形式です」
ケイラが頷く。
「アクセシビリティのない代替は、代替ではありません」
リナも言った。
「医療過疎地域では、代替として人間の医師へ相談してくださいと言われても、その医師がいません」
「あるいは三時間先です」
「夜間は閉まっています」
「子どもを連れて移動できません」
ホセも続ける。
「災害時はさらに厳しいです」
「電話窓口があっても、回線が混雑します」
「公式サイトがあっても、通信が落ちます」
「紙の地図があっても、更新されていません」
ミンが静かに言った。
「教育では、代替の格差がそのまま学習機会の格差になります」
「都市部の子は塾や教師へ行ける」
「低資源地域の子は、停止されたAIの代わりがありません」
ヴィクターが慎重に発言した。
「企業としては、代替手段を完全に整備する責任を単独で負うことは難しいです」
「公共サービス、医療制度、教育制度の問題もあります」
これも正しい。
企業だけですべてを埋めるのは難しい。
だが、だからといって「代替あり」と書いて終わりにはできない。
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、代替手段を、ある、ない、だけで判断してはいけません」
通訳が入る。
「代替手段があるとは、その人が使えるということです」
ノーラが大きく頷いた。
俺は続けた。
「AIを停止するとき、代替として何かを提示することは重要です」
「しかし、その代替が、実際に必要な人へ届かなければ、停止による被害は軽減されません」
「むしろ、代替があるという形式によって、支援の空白が隠される危険があります」
アミナが頷く。
「形式上の代替は、弱い地域を消します」
「はい」
俺は答えた。
「特に、代替へアクセスできる人とできない人がいる場合、停止は平等に見えて不平等になります」
「同じAI停止でも、都市部の人は専門家へ移れる」
「低資源地域の人は何も残らない」
「それを同じ停止として扱うのは危険です」
アメリアが聞いた。
「では、代替手段をどう評価しますか」
俺は画面共有を開いた。
『代替可能性レビュー』
一。
代替手段は、名目上存在するだけでなく、実際に利用可能か。
二。
代替へ到達するための時間、距離、費用はどれくらいか。
三。
代替は、必要な言語に対応しているか。
四。
障害、高齢、低リテラシー、通信環境、移動困難に対応しているか。
五。
待ち時間や処理能力は十分か。
六。
AIが担っていた機能と、代替手段の機能は本当に同等か。
七。
代替手段の品質は、地域や所得によって大きく違わないか。
八。
代替を使うことで、本人確認、在留資格、家族関係、雇用主への通知などの危険が増えないか。
九。
代替手段を使えない人のための再代替があるか。
十。
停止によって、誰が高品質な代替へ行き、誰が低品質な代替へ押し込まれるのかを記録しているか。
十一。
代替の質が不足している場合、停止範囲や低リスクモードを再検討しているか。
十二。
代替が整うまでの一時支援、人的支援、資金支援、地域支援があるか。
読み上げ終えると、画面の向こうで何人かがメモを取っていた。
ジョナスが言った。
「監査項目としては、代替の有無ではなく、代替可能性の評価ですね」
「はい」
俺は頷いた。
「代替あり、というチェックボックスだけでは足りません」
ノーラが言った。
「六番も重要です」
「AIが二十四時間対応していたのに、代替窓口が平日十時から十五時なら、同等ではありません」
ホセも頷く。
「防災では、代替の時間が命に関わります」
「あとで見られる資料は、今必要な警告の代替になりません」
リナが言った。
「医療でも、AIが緊急症状を確認していた場合、代替として一般的な健康情報ページを出しても足りません」
ミンも続ける。
「教育では、個別フィードバックをしていたAIの代替が、ただのPDF教材になることがあります」
「それは、学習支援の代替ではなく、資料置き場です」
俺は頷いた。
「代替の名前ではなく、代替する機能を見る必要があります」
ヴィクターが言った。
「ただし、完全に同等の代替を用意できない場合、危険なAIを止められなくなります」
「そこが難しい点です」
俺は答えた。
「完全同等でなければ止められない、ではありません」
「ただし、代替の不足を明示し、停止による不利益を記録し、追加支援を用意する必要があります」
「そして、代替不足の地域に対して、停止だけを押しつけてはいけません」
ラシードが言った。
「公共機関との責任分担も必要ですね」
「はい」
「企業、政府、地域団体、専門家、支援機関の責任地図が必要です」
ここでまた、第44話の責任地図が戻ってくる。
第3部は、ずっと第2部の応用編だ。
国内制度で作った手すりが、国際会合で何度も形を変えて出てくる。
ノーラが言った。
「代替手段は、弱い人ほど使いにくいことが多いです」
「だから、代替可能性レビューでは、平均ではなく、最も使いにくい人から見るべきです」
「平均ではなく、最も使いにくい人から見る」
俺はすぐにメモした。
ケイラも頷く。
「アクセシビリティでは基本です」
「平均的利用者ではなく、取り残されやすい利用者で確認する」
アミナが言う。
「地域でも同じです」
「首都で使える代替を、全国で使えると言わないでください」
リナが続ける。
「医療でも、健康な成人が使える代替を、高齢者や子育て中の人が使えると扱わないでください」
ミンも言った。
「教育でも、親がサポートできる家庭を基準にしないでください」
次々に出てくる。
代替がある。
その言葉が、どれだけ雑に使われてきたかが見えてくる。
代替があるとは、誰にとってあるのか。
どこにあるのか。
いつ使えるのか。
いくらかかるのか。
何語なのか。
誰に知られるのか。
本当に同じ機能なのか。
そこまで問わなければならない。
会議の終盤。
エレナが暫定整理を読み上げた。
『An alternative is not merely something that exists. It is something the affected person can actually reach, understand, afford, trust, and use in time.』
代替手段とは、単に存在するものではない。
影響を受ける人が、実際に到達でき、理解でき、負担でき、信頼でき、必要な時間内に使えるものでなければならない。
続いて、
『Safe suspension requires unequal alternatives to be made visible. If high-resource users receive expert substitutes while low-resource users receive only paper, phone lines, or inaccessible systems, suspension itself becomes unequal.』
安全な停止には、代替手段の不平等を可視化する必要がある。
高資源の利用者が専門家による代替を受け、低資源の利用者が紙、電話、不便なシステムだけを受けるなら、停止そのものが不平等になる。
俺は頷いた。
かなり良い。
かなり痛い。
だが、必要な整理だ。
会議が終わりかけたとき、ヴィクターが手を挙げた。
「一つ確認したいことがあります」
エレナが頷く。
「どうぞ」
「代替の質が不十分な地域では、危険を下げた限定版AI、つまり低リスクモードを残すべきだという議論になると思います」
「それ自体は理解できます」
「しかし、その場合、低資源地域には限定版AIしか提供されず、高資源地域には人間専門家や高機能サービスが提供される、という新しい格差が生まれませんか」
会議室が静かになった。
俺は、思わず息を止めた。
来た。
また次の崖だ。
低リスクモード。
安全のために機能を絞る。
それは必要だ。
でも、その限定版だけが、弱い地域へ配られる。
高資源地域は、人間の専門家と高品質なAI。
低資源地域は、安全だが低機能なAI。
それは、公平なのか。
ノーラが静かに言った。
「それは、二級の支援ですね」
ミンも頷いた。
「教育では、すでに起きています」
「豊かな地域は人間教師と高機能AI」
「弱い地域は、制限された自動教材」
アミナが言った。
「安全の名で、質の低い支援が固定されるなら、それも問題です」
エレナがまとめる。
「次回は、限定版AIと二級支援の問題を扱いましょう」
画面が消える。
俺は椅子にもたれた。
「第60話で区切りかと思ったら、普通に崖だった……」
AIチャットを開く。
代替可能性レビューはまとまった。でも次は、低資源地域にだけ低リスク・低機能の限定版AIが配られ、高資源地域は専門家や高機能サービスを使えるという二級支援の問題が出た。
AIは答えた。
『次の論点は、安全の名で支援の質に格差が固定されることです』
「安全って、どこまでも難しいな」
『安全は、誰にとって、どの水準で、何を失って達成されるのかを問う必要があります』
俺はメモ帳を開いた。
次のタイトルを書く。
二級の安全を、弱い場所へ渡してはいけない。
保存。
それから、今日の記事を書き始めた。
タイトル。
代わりがある人だけが、安全に止められる。
本文。
危険なAIは止めなければならない。
しかし、止めることで失われる支援がある。
そして、停止が安全になるかどうかは、代替手段へ届けるかどうかで変わる。
代替手段があるとは、制度上どこかに窓口があることではない。
その人が実際に使えるということである。
言語。
費用。
時間。
距離。
障害対応。
通信環境。
待ち時間。
信頼性。
法的安全性。
機能の同等性。
それらを見なければならない。
都市部の人は専門家へつながる。
低資源地域の人は、つながらない電話窓口へ回される。
それを同じ代替ありと呼んではいけない。
俺は最後に書いた。
代替は、制度上の出口ではない。
その人が通れる道である。
代わりがある人だけが、安全に止められる。
だから、AIを止めるなら、代わりへ届けない人から先に見なければならない。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『広告でも、問い合わせ先や代替案を置いています、という形だけ作られることがあります。でも実際にはつながらない、読まれない、使えない。代替ありという言葉はかなり危ないですね』
読書会の主催者からも届いた。
『代替は、制度上の出口ではない。その人が通れる道である。次回の議題にします』
神崎教授からは、短いコメントだった。
『安全の名で質を落とす者は、自分には質の高い逃げ道を残している』
俺は、その一文を見て、静かに画面を閉じた。
次の問いは、もう決まっている。
二級の安全を、弱い場所へ渡してはいけない。
人工叡智は、ついに「安全」という言葉そのものが生む格差へ踏み込むことになった。
第60話では、「代替手段の格差」が扱われました。
前回、危険なAIを止めることは必要だが、止めることにも被害があると整理されました。
しかし、停止による被害は、全員に同じように起きるわけではありません。
代替手段へ届ける人と、届けない人がいます。
都市部に住む人。
お金がある人。
専門家へ相談できる人。
主要言語を読める人。
障害がなく、窓口を使える人。
そうした人たちは、AIが止まっても別の手段へ移れます。
一方で、低資源地域、少数言語話者、障害者、高齢者、移民、非正規労働者などは、AI停止によって唯一の手すりを失うことがあります。
今回の中心となる整理は、これです。
代替手段があるとは、その人が使えるということです。
制度上、窓口がある。
電話番号がある。
PDFがある。
公式サイトがある。
パンフレットがある。
それだけでは足りません。
その人が、実際に到達できるか。
理解できるか。
費用を負担できるか。
必要な時間内に使えるか。
言語に対応しているか。
障害や高齢、通信環境、移動困難に対応しているか。
AIが担っていた機能と本当に同等か。
待ち時間や処理能力は十分か。
使うことで、在留資格、雇用、家族関係などの危険が増えないか。
今回、真司たちは「代替可能性レビュー」という考え方へたどり着きました。
代替あり、というチェックボックスでは足りません。
必要なのは、代替が本当に通れる道になっているかを確認することです。
今回の中心となる言葉は、これです。
代替は、制度上の出口ではない。
その人が通れる道である。
代わりがある人だけが、安全に止められる。
しかし、最後に新しい問題が出ました。
代替が弱い地域では、危険を下げた低リスクモードを残す必要があるかもしれません。
しかし、それが「低資源地域には低機能の限定版AI、高資源地域には人間専門家や高機能サービス」という二級支援を生む可能性があります。
安全の名で、質の低い支援が弱い地域に固定される。
次回は、「二級の安全を、弱い場所へ渡してはいけない」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
