第55話 測れない痛みは、存在しないことにされる
前回、第54話では、「自然の声を、誰のデータで聞くのか」という問いが扱われました。
衛星データ。
政府統計。
企業データ。
地域住民の観察。
先住民の知識。
それぞれには強みがあります。
しかし、それぞれには限界もあります。
AIが一つのデータを「自然の声」として扱えば、他の知識や違和感は消されてしまいます。
自然を守るために知識を集めるなら、知識を持つ人々も守らなければならない。
それが前回の整理でした。
しかし、最後に新しい問いが届きます。
AIがデータに基づき判断する場合、そもそも測定されていない被害や、記録されていない人々をどのように扱うべきか。
データがない。
記録がない。
統計に出ない。
報告されない。
翻訳されない。
アクセスできない。
それだけで、痛みは存在しないものとして扱われてしまうことがあります。
第55話では、「測れない痛みは、存在しないことにされる」という問いへ進みます。
測れない痛みは、存在しないことにされる。
俺は、メモ帳にそう書いた。
そして、しばらく画面を見つめた。
痛み。
重い言葉だ。
しかも、測れない痛み。
数字にならない。
グラフにならない。
報告書に載らない。
苦情件数に入らない。
問い合わせ履歴に残らない。
アクセスログにも出ない。
そういう痛みは、AIにとってはほとんど透明になる。
見えない。
だから、存在しない。
もちろん、AIが悪意を持って無視しているわけではない。
データがない。
それだけだ。
だが、人間社会では、その「だけ」が重い。
データがない人は、政策から外れる。
支援から外れる。
被害者数から外れる。
市場から外れる。
リスク評価から外れる。
そして、最後にはこう言われる。
「確認された被害はありません」
俺はAIチャットを開いた。
測定されていない被害や、記録されていない人々を、AIはどう扱うべき？
AIは答えた。
『まず、データがないことを、問題がないことと同一視してはいけません』
「そこだよな」
『データ欠損には、偶然の欠損と、構造的な欠損があります』
「構造的な欠損」
『はい』
『通信環境がない』
『言語対応されていない』
『報告すると不利益を受ける』
『制度上、存在を認められていない』
『家庭内や職場内で声を出せない』
『移動手段がない』
『障害や年齢により入力できない』
『不法滞在や非正規労働など、記録されること自体を恐れる』
俺は、メモを取りながら息を吐いた。
そうだ。
データがないのには理由がある。
測っていないからない。
測れないからない。
測られると危ないから出せない。
測る側が見ようとしていない。
測られる側が信用していない。
その全部が「データなし」という一言へ圧縮される。
俺は聞いた。
じゃあ、AIはどう表示すればいい？
『「被害なし」ではなく、「確認された被害なし」「未測定領域あり」「報告障壁あり」「影響不明」と分けるべきです』
「影響不明、か」
『はい』
『不明は安全ではありません』
その一文は、かなり使えそうだった。
不明は安全ではない。
午後、研究室へ向かった。
水瀬、神崎教授、李、倉持がすでにいた。
いつものホワイトボード。
いつもの嫌な一文。
「データなし＝人なし？」
俺はドアの前で足を止めた。
「倉持くん、だんだんタイトル職人になってきてません？」
「研究用途です」
「本当に？」
「半分くらい」
「半分は何？」
「趣味です」
「やっぱり」
水瀬が苦笑しながら資料を配る。
「今回の論点は、AIがデータ欠損をどう扱うかです」
李が続ける。
「特に、測られないこと自体が不利益になっている人たちです」
神崎教授が腕を組んだ。
「データがない者は、存在しない者として扱われる」
重い。
今日も教授は重い。
俺は椅子に座った。
「でも、データがないものをAIが扱うって、どうするんですか。ないものはないですよね」
水瀬が頷く。
「そこが重要です。AIは、ないデータを勝手に埋めてはいけません」
「ですよね」
「でも、ないことを安全と扱ってもいけません」
李がホワイトボードへ書いた。
確認された被害なし。
未測定。
報告困難。
存在未登録。
影響不明。
要調査。
「なるほど。ゼロと不明を分ける」
「はい」
水瀬が言った。
「ゼロは、測った結果としてゼロ」
「不明は、測れていない」
「この違いをAIが潰すと、見えない被害が消えます」
倉持が言う。
「レビューとか報告書でよくありますね。苦情件数ゼロ。つまり問題なし」
「でも、苦情窓口が知られていないだけかもしれない」
俺が言うと、倉持は頷いた。
「あるいは、苦情を言うと不利益がある」
李が続ける。
「雇用、移民、家庭内暴力、少数言語、障害、介護、学校、地域差。報告できない被害は多いです」
神崎教授が短く言った。
「沈黙を、同意として読むな」
俺はメモした。
沈黙を同意として読むな。
これも使う。
翌日。
国際AI安全連携フォーラムの事前セッションが開かれた。
議題。
『Invisible Harm and Unmeasured Communities』
画面には、いつもの面々。
エレナ、朝比奈、マテオ、ラシード、アメリア、ヴィクター、アミナ、タリア、マヤ、ヘンリク、趙。
そして、今回は新しい参加者が三人いた。
一人目は、ラニア・サイード。
移民労働者支援団体の代表。
二人目は、ケイラ・モリス。
障害者アクセス権の研究者。
三人目は、ジョナス・リード。
大手AI評価機関のデータ監査責任者。
この時点で、俺は思った。
今日は荒れる。
最近、毎回そう思っている。
そして、だいたい当たる。
エレナが進行する。
「本日の問いは、AIがデータに基づいて判断する場合、測定されていない被害や記録されていない人々をどのように扱うべきかです」
最初にジョナスが発言した。
「AI評価では、確認可能なデータが必要です」
「測定されていない被害を過度に想定すると、評価の客観性が失われる危険があります」
正しい。
いきなり正しい。
データがないのに「被害があるはずだ」と決めつければ、それはそれで危険だ。
次にケイラが口を開く。
「でも、測定されない被害は、しばしば測定設計の失敗です」
「視覚障害者が使えないフォームで苦情受付をして、苦情がありませんと言う」
「電話できない人に電話窓口だけ用意して、相談がありませんと言う」
「高齢者に小さな文字で説明して、同意済みですと言う」
「それは客観性ではありません」
これも正しい。
ラニアが続けた。
「移民労働者は、被害を報告しないことがあります」
「解雇されるかもしれない」
「在留資格に影響するかもしれない」
「雇用主に知られるかもしれない」
「言語が分からない」
「そもそも相談窓口を信用していない」
「その沈黙を、被害なしと扱われます」
画面の空気が重くなった。
アミナも頷く。
「小規模言語の地域では、AIの誤情報や詐欺被害があっても、報告フォームが主要言語だけです」
「報告できない人たちの被害は、統計上は存在しません」
ヴィクターが慎重に言う。
「企業としては、利用可能なデータに基づいて対応するしかありません」
「未確認の被害をすべてリスクとして扱うと、サービス提供が困難になります」
また正しい。
企業は、無限に不明を抱え込めない。
何でもリスク扱いにすれば、運用できない。
ラシードも言った。
「政策でも同じです。未測定の被害を理由に大きな制限を行うなら、根拠が必要です」
正しい。
だが、測れないから放置も違う。
もう慣れてきた。
国際会合は、正しい意見がぶつかる場所だ。
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、データがないことを、被害がないことと同一視してはいけません」
通訳が入る。
「ただし、データがないのに被害を断定してもいけません」
ジョナスが少し頷いた。
「重要なのは、ゼロと不明を分けることです」
俺は画面共有を開いた。
表示したのは、短い表だった。
確認された被害なし。
未測定。
報告困難。
報告障壁あり。
影響不明。
要追加調査。
緊急注意。
「AIは、被害件数ゼロと、被害不明を分けて表示すべきです」
「特に、測定できていない領域、報告できない人々、制度上記録されない人々がいる場合、『問題なし』ではなく『影響不明』と表示する必要があります」
ケイラが頷く。
ラニアも静かに頷く。
ジョナスが言った。
「影響不明を多用すると、利用者が常に不安になります」
「はい」
俺は答えた。
「だから、影響不明の理由を示す必要があります」
「未測定なのか」
「報告窓口が使えないのか」
「サンプルが偏っているのか」
「報告者に不利益があるのか」
「言語対応が不足しているのか」
「それによって、次の行動が変わります」
アメリアが言った。
「つまり、不明を分類するのですね」
「はい」
「不明を一つにまとめると、何もできません」
「でも、なぜ不明なのかを分ければ、調査、窓口改善、保護措置、暫定停止などへつなげられます」
ラニアが言った。
「報告すると危険な人たちには、匿名性や第三者窓口が必要です」
「はい」
俺は頷いた。
「報告を求めるなら、報告しても害を受けない仕組みが必要です」
「報告できない人に、報告してくださいと言っても、それは責任を戻しているだけです」
第45話の自己責任と同じだ。
判断できない人に判断しろと言うな。
報告できない人に報告しろと言うな。
支援側が、報告可能性を作る必要がある。
ケイラが続けた。
「アクセス可能性も入れてください」
「フォームだけでは駄目です」
「読み上げ、手話、簡単な言葉、代理入力、電話以外の手段、オフライン窓口」
「障害がある人や高齢者は、窓口があるだけでは報告できません」
俺はすぐにメモした。
報告可能性。
また新しい手すりだ。
ジョナスが少し考えながら言う。
「ただ、匿名報告や代理報告は虚偽や重複のリスクもあります」
「あります」
俺は答えた。
「だから、報告をそのまま確定被害として扱うのではなく、信号として扱う」
「複数の弱い信号を集め、追加調査につなげる」
「ただし、信号が弱いからといって無視しない」
マヤが頷く。
「環境観察とも同じですね」
「最初は弱い違和感として出る」
「はい」
「痛みも、最初は弱い信号として出ることがあります」
ラニアが静かに言った。
「弱いのではなく、弱くされている場合もあります」
会議室が静かになった。
その言葉は刺さった。
弱い声。
よく使う言葉だ。
でも、その声が弱いのは、その人が弱いからとは限らない。
声を小さくされている。
届かない場所へ押し込められている。
言語を奪われている。
報告すると罰を受ける。
聞く側が聞かない。
だから弱く見える。
俺は言った。
「弱い信号という表現も、注意が必要ですね」
「声が弱いのではなく、届く経路が弱い場合がある」
ラニアは頷いた。
「そうです」
通訳が終わると、エレナがメモを取った。
「届く経路が弱い」
「重要な表現です」
会議は、具体的なレビュー設計へ進んだ。
俺は画面に新しい表を出した。
『不可視被害レビュー』
一。
被害件数ゼロと、被害不明を区別しているか。
二。
未測定領域、未対応言語、未登録者、オフライン層、障害者、高齢者、非正規・移民・家庭内など、記録されにくい人々を想定しているか。
三。
報告すると不利益を受ける構造がないか。
四。
報告窓口は、言語、障害、年齢、通信環境、匿名性、代理報告に対応しているか。
五。
報告できないことを、本人の責任にしていないか。
六。
データ欠損の理由を分類しているか。
七。
小さな信号や現場証言を、追加調査へつなげているか。
八。
苦情件数、アクセスログ、利用率だけで安全性を判断していないか。
九。
データがない集団に、AIの負担やリスクが集中していないか。
十。
不明を理由に放置せず、不明を理由に過剰介入もしない手順があるか。
十一。
調査によって、かえって当事者を危険にさらしていないか。
十二。
「確認された被害なし」という表現に、測定範囲と限界を明記しているか。
読み上げ終えると、画面の向こうで何人かが黙っていた。
ヴィクターが言った。
「これは実装負荷が高いです」
「はい」
俺は答えた。
「でも、『苦情がないから問題ない』という言い方は、もっと危ないと思います」
ジョナスが言った。
「監査報告書では、確認範囲と未測定範囲を明記する形なら可能です」
アメリアも頷いた。
「標準化するなら、『確認された被害なし』の表記ルールが必要ですね」
ケイラが言った。
「アクセシビリティ対応のない窓口で集めた苦情件数は、そのまま安全性の証拠にしないでください」
ラニアも続ける。
「報告者保護のない制度で集めた苦情件数も同じです」
俺は頷いた。
「報告窓口の質も、データの質です」
その言葉に、ジョナスが反応した。
「報告窓口の質も、データの質」
「それは監査項目にできます」
良かった。
一つ進んだ。
会議の終盤。
エレナが暫定整理を読み上げた。
『Artificial Wisdom must not interpret lack of data as lack of harm. Absence of evidence must be separated from evidence of absence.』
人工叡智は、データがないことを被害がないこととして解釈してはならない。
証拠がないことと、存在しない証拠があることは分けなければならない。
続いて、
『Invisible harm requires reviewing why people are not measured, why they cannot report, and whether the system makes silence appear as safety.』
不可視の被害には、なぜ人々が測定されていないのか、なぜ報告できないのか、そしてシステムが沈黙を安全に見せていないかを検証する必要がある。
ラニアが静かに言った。
「沈黙を安全に見せない」
「それは大切です」
ケイラも頷いた。
「報告できない人に、報告してくださいと言うだけでは不十分です」
エレナがまとめた。
「次回の本会合で、この不可視被害レビューを補助原則として提示しましょう」
俺は頷いた。
だが、そこでヴィクターが手を挙げた。
「一つ懸念があります」
「はい」
「不可視被害を把握するためには、より多くのデータ収集が必要になります」
「その結果、弱い立場の人々をさらに監視することになりませんか」
会議室が静かになった。
来た。
来てしまった。
見えない被害を見ようとする。
そのためにデータを集める。
しかし、データを集めれば、見られたくない人まで見られる。
移民労働者。
家庭内被害者。
障害者。
貧困層。
少数言語話者。
記録されること自体が危険な人々。
守るために測る。
測ることで危険にさらす。
俺は、すぐには答えられなかった。
ラニアが静かに言った。
「その懸念は正しいです」
ケイラも頷いた。
「私たちは、見えないまま放置されるのも困ります」
「でも、見えるようにされすぎるのも怖い」
この二つの言葉が、今回の最後に落ちた。
見えないまま放置されるのも困る。
見えるようにされすぎるのも怖い。
エレナが会議を締めた。
「次回は、不可視被害を把握するための測定が、監視や危険化につながらない条件を扱いましょう」
画面が消える。
俺は椅子にもたれた。
「また次の崖か……」
AIチャットを開く。
不可視被害レビューはまとまった。でも、見えない被害を測ろうとすると、弱い立場の人々をさらに監視する危険が出てきた。
AIは答えた。
『次の論点は、保護のための測定と、管理のための監視の境界です』
「第2部の見守りと監視に似てるな」
『はい。構造は近いです』
俺はメモ帳を開いた。
次のタイトルを書く。
見えない人を見つけるために、監視してはいけない。
保存。
それから、今日の記事を書き始めた。
タイトル。
測れない痛みは、存在しないことにされる。
本文。
AIはデータに基づいて判断する。
だが、データがないことは、被害がないことではない。
報告がないことは、苦しんでいる人がいないことではない。
アクセスログがないことは、利用したい人がいないことではない。
苦情件数がゼロであることは、問題がゼロであることではない。
窓口が使えない。
言語が対応していない。
報告すると不利益を受ける。
制度上、存在を認められていない。
障害や年齢で入力できない。
通信環境がない。
家庭や職場で声を出せない。
そのとき、沈黙は安全ではない。
沈黙は、届く経路を失った声かもしれない。
俺は最後に書いた。
不明は、安全ではない。
沈黙は、同意ではない。
測れない痛みを見えないままにしたとき、AIは公平な顔で人を消してしまう。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『広告でも、データに出ない人は顧客ではないことにされます。反応しない人、買わない人、クリックしない人。でも、その人たちが本当に関心がないのか、届く形になっていないのかは別ですね』
読書会の主催者からも届いた。
『不明は、安全ではない。沈黙は、同意ではない。次回の議題にします』
神崎教授からは、短いコメントだった。
『見えない者を探す目は、すぐに見張る目へ変わる』
俺は、その一文を見て、ゆっくり息を吐いた。
本当に、次の崖だ。
見えない人を見つける。
それは必要だ。
でも、見つけるために監視する。
それは危険だ。
支援と監視。
見守りと管理。
第2部で見た問いが、第3部で国際的な規模になって戻ってきた。
その夜。
国際AI安全連携フォーラム準備室から、新しい資料が届いた。
件名。
『Protective Measurement and Surveillance Risk』
添付された質問。
『測定されていない被害を把握するために、AIが追加データを収集する場合、どこからが保護で、どこからが監視になるのか』
俺はメモ帳を開き、さっきのタイトルを見た。
見えない人を見つけるために、監視してはいけない。
保存。
画面を閉じる。
測れない痛みは、存在しないことにされる。
けれど、痛みを測ろうとする目が、今度は人を見張る目に変わるかもしれない。
人工叡智は、また危うい境界線へ進もうとしていた。
第55話では、「測定されていない被害」と「記録されていない人々」が扱われました。
AIはデータに基づいて判断します。
しかし、データがないことは、被害がないことではありません。
苦情件数がゼロでも、問題がないとは限りません。
報告窓口が使えないのかもしれません。
言語対応がないのかもしれません。
障害や年齢のために入力できないのかもしれません。
報告すると解雇や不利益を受けるのかもしれません。
制度上、存在を認められていない人々かもしれません。
通信環境がないのかもしれません。
家庭内や職場内で、声を出せないのかもしれません。
今回、真司たちは「ゼロ」と「不明」を分ける必要があると整理しました。
確認された被害なし。
未測定。
報告困難。
報告障壁あり。
影響不明。
要追加調査。
緊急注意。
特に重要なのは、「不明は安全ではない」ということです。
また、報告窓口の質も、データの質であると整理されました。
報告窓口がアクセシブルでなければ、苦情件数は安全性の証拠になりません。
報告者保護がなければ、沈黙は同意ではありません。
今回の中心となる言葉は、これです。
不明は、安全ではない。
沈黙は、同意ではない。
測れない痛みを見えないままにしたとき、AIは公平な顔で人を消してしまう。
しかし、最後に新しい問題が出ました。
見えない被害を把握するためには、追加データが必要になります。
しかし、そのデータ収集は、弱い立場の人々をさらに監視することにもなり得ます。
見えないまま放置されるのも困る。
見えるようにされすぎるのも怖い。
次回は、「見えない人を見つけるために、監視してはいけない」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
