第56話 見えない人を見つけるために、監視してはいけない
前回、第55話では、「測れない痛み」が扱われました。
AIはデータに基づいて判断します。
しかし、データがないことは、被害がないことではありません。
苦情件数がゼロでも、問題がないとは限りません。
報告窓口が使えない。
言語対応がない。
障害や年齢のために入力できない。
報告すると不利益を受ける。
制度上、存在を認められていない。
そのような理由で、痛みが記録されないことがあります。
不明は、安全ではない。
沈黙は、同意ではない。
これが前回の中心でした。
しかし、見えない被害を見つけるためには、追加の測定が必要になります。
でも、その測定が、弱い立場の人々をさらに見張る仕組みになってしまうかもしれません。
見えないまま放置されるのも困る。
見えるようにされすぎるのも怖い。
第56話では、「保護のための測定」と「管理のための監視」の境界を問い返します。
見えない人を見つけるために、監視してはいけない。
俺は、メモ帳にそう書いた。
そして、すぐに頭を抱えた。
「いや、これまた難しいやつだ」
見えない人を見つける。
これは必要だ。
前回、それは確認した。
測れない痛みは、存在しないことにされる。
データがない人は、政策から外れる。
支援から外れる。
リスク評価から外れる。
だから、見えない被害を見つけなければならない。
だが、そのためにデータを集める。
行動を記録する。
位置情報を見る。
会話を分析する。
感情を検出する。
生活パターンを追う。
そうした瞬間、支援の目は監視の目になる。
俺はAIチャットを開いた。
見えない被害を見つけるためにデータを集める。でも、それが監視になる危険がある。保護のための測定と、管理のための監視はどう分ければいい？
AIは答えた。
『目的、対象、粒度、同意、利用制限、権限、拒否可能性、削除可能性、二次利用禁止、結果の返し方で分ける必要があります』
「多い」
『境界が曖昧なためです』
「ですよね」
AIは続けた。
『保護のための測定は、本人や当事者集団の危険を減らし、支援や修復へつなげるために行われます』
『管理のための監視は、本人の行動を把握し、制御し、評価し、罰し、排除する方向へ働きます』
俺はメモした。
保護は、危険を減らす。
監視は、逃げ道を狭める。
かなり分かりやすい。
でも、現実ではもっと混ざる。
「あなたを守るために位置情報を見ます」
「あなたを守るために会話を分析します」
「あなたを守るために勤務態度を記録します」
「あなたを守るために家族へ通知します」
全部、聞こえはいい。
だが、あとからそのデータが、雇用管理、在留資格、保険料、広告、警察協力、信用評価に使われたらどうなる。
守るために集めたデータが、本人を縛る。
それは人工叡智ではない。
俺はAIへ続けて聞いた。
一番大事な原則は？
『データを集める前に、使い道を閉じることです』
「使い道を閉じる」
『はい』
『目的が保護でも、将来の利用範囲が開いたままだと、管理や収益化へ流用されます』
俺は、その一文を大きくメモした。
データを集める前に、使い道を閉じろ。
午後。
研究室へ向かうと、倉持がすでにホワイトボードの前に立っていた。
いつものやつだ。
今日も絶対に書いてある。
俺は覚悟して中を見る。
そこには、こう書かれていた。
「保護＝もっと見張る？」
「今日も最悪の要約ですね」
倉持は丸眼鏡を押し上げた。
「でも、今回の危険はこれでしょう」
「正しいけど、毎回心臓に悪いんですよ」
李が笑いながら言った。
「第3部の倉持くんは、もう煽り担当ですね」
「研究上の見出しです」
「絶対楽しんでる」
水瀬が資料を配る。
「今回の論点は、第2部の見守りと監視にもつながります」
「高齢者向け生活支援AIのときですね」
「はい。あのときは、本人の迷いや不安を家族へ自動通知することが問題になりました」
「今回は、それが国際規模になります」
国際規模の監視。
字面だけで胃が痛い。
李が言った。
「移民労働者、障害者、少数言語話者、貧困層、非登録住民、家庭内被害者」
「見つけなければ支援できない」
「でも、見つかったことで危険になる人たちです」
神崎教授が短く言う。
「見つかることが救いになる者と、見つかることが罰になる者がいる」
俺はメモした。
見つかることが罰になる。
重い。
だが、その通りだ。
未登録の労働者。
家庭内暴力から逃げている人。
不法滞在扱いされる人。
職場で報復を恐れる人。
性的少数者。
政府や企業に知られたくない人。
そういう人たちは、支援対象として見つかることと、管理対象として見つかることの境目が薄い。
水瀬がホワイトボードへ整理する。
測定対象を個人にしすぎない。
まず構造を見る。
匿名・集計を使う。
ただし責任が消えない設計にする。
信頼できる中間団体を使う。
目的外利用を禁止する。
拒否しても不利益を受けない。
削除できる。
結果を当事者へ返す。
倉持が言った。
「個人を測る前に、環境を測れ、ですね」
「それ、良いですね」
俺は頷いた。
たとえば、移民労働者の被害を見つけたいなら、個人のスマホを常時監視する前に、職場の契約、賃金遅延、勤務時間、苦情窓口、言語対応、第三者相談の有無を見る。
障害者の困難を見つけたいなら、本人の行動ログを追う前に、サービス側のアクセシビリティ、フォーム、読み上げ対応、入力負荷を見る。
少数言語話者の被害を見つけたいなら、会話を監視する前に、言語対応、翻訳品質、通報窓口の有無を見る。
まず、人を見張るのではなく、構造を見る。
神崎教授が言った。
「人を測るな、とは言わん」
「測る順番を間違えるな」
その言葉で、かなり整理された。
翌日。
国際AI安全連携フォーラムの事前セッションが始まった。
議題。
『Protective Measurement and Surveillance Risk』
画面には、いつもの顔ぶれ。
エレナ、朝比奈、マテオ、ラシード、アメリア、ヴィクター、アミナ、ラニア、ケイラ、ジョナス。
今回はさらに、治安技術の専門家であるオリバー・クラインが参加していた。
嫌な予感がした。
治安技術。
保護と監視の境界で、その単語はかなり強い。
エレナが進行する。
「本日の問いは、測定されていない被害を把握するための追加データ収集が、どこから保護で、どこから監視になるのかです」
最初にラニアが発言した。
「移民労働者の被害を見つけるには、通常の苦情窓口だけでは足りません」
「匿名相談、第三者機関、複数言語対応、雇用主に知られない通報手段が必要です」
「しかし、労働者の位置情報や会話を常時分析するような仕組みは、彼らをさらに危険にします」
ケイラも続く。
「障害者支援でも同じです」
「困っている人を見つけるために、操作ログや会話ログを集めることがあります」
「でも、それが『この人は能力が低い』『この人は支援コストが高い』という評価へ使われる危険があります」
ヴィクターが言った。
「企業側としては、被害を早期発見するためには、ある程度の行動データが必要です」
「システムの問題を見つけるには、利用者がどこで離脱したか、どこで混乱したかを把握する必要があります」
ジョナスも頷く。
「監査にもデータは必要です。データが少なすぎると、不可視被害レビューは実効性を失います」
正しい。
また、正しい意見が並ぶ。
オリバーが口を開いた。
「安全保障や治安の分野では、危険の兆候を早期に検出することが重要です」
「特に災害、暴動、人身取引、組織犯罪では、追加監視が命を救う場合があります」
それも、完全には否定できない。
だが、危ない。
命を救うため。
この言葉は強い。
強すぎる。
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、見えない被害を見つけるための測定は必要です」
通訳が入る。
「前回確認したように、データがないことは、被害がないことではありません」
「しかし、被害を見つけるために、人々を常時見張る仕組みを作れば、それは別の危害になります」
ラニアとケイラが頷く。
俺は続けた。
「保護のための測定と、管理のための監視を分ける必要があります」
「保護のための測定は、本人や当事者集団の危険を減らし、支援や修復へつなげるために行われます」
「管理のための監視は、本人の行動を把握し、評価し、罰し、排除し、逃げ道を狭める方向へ働きます」
オリバーが聞いた。
「しかし、危険人物を見つける必要がある場合は？」
「危険な行為を見る必要がある場合はあります」
俺は答えた。
「ただし、人を危険人物として固定する前に、具体的行為、状況、根拠、誤判定、異議申立てを見る必要があります」
第35話の言葉が戻ってくる。
人を危険人物にしない。
でも、危険な行為は見る。
オリバーは黙った。
ヴィクターが質問する。
「実装としては、どのような原則になりますか」
俺は画面共有を開いた。
『保護測定・監視リスクレビュー』
一。
測定の目的は、支援、修復、再発防止に限定されているか。
二。
データを集める前に、利用目的、禁止用途、保存期間、共有先を閉じているか。
三。
個人を測る前に、制度、窓口、環境、労働条件、アクセシビリティなど構造を測っているか。
四。
必要最小限の粒度で測っているか。
個人単位でなく、集計、匿名、サンプル、第三者報告で足りないか。
五。
本人または当事者集団が、同意、拒否、訂正、削除、利用停止を行えるか。
六。
拒否しても不利益を受けないか。
七。
報告者保護、匿名性、第三者窓口があるか。
八。
収集データを、雇用評価、在留管理、警察利用、広告、保険、信用評価へ流用しないか。
九。
アクセス権限、閲覧ログ、持ち出し制限、削除手順があるか。
十。
測定によって、当事者がかえって危険にならないか。
十一。
結果は当事者や支援団体へ返され、実際の支援や改善につながるか。
十二。
測定をやめる条件があるか。
読み上げ終えると、画面の向こうで何人かがメモを取っていた。
ラニアが言った。
「八番は特に重要です」
「移民労働者支援のために集めたデータが、在留管理に流れたら、誰も報告しなくなります」
ケイラも頷く。
「障害者支援のためのデータが、保険料や雇用判断に使われるのも危険です」
ヴィクターが言う。
「企業としては、データを複数目的で使えないとコストが高くなります」
「はい」
俺は答えた。
「でも、支援目的で集めたデータを別目的へ流すと、信頼が壊れます」
「信頼が壊れれば、見えない被害はさらに見えなくなります」
アミナが頷く。
「まさにそうです」
「一度裏切られた地域は、次からデータを出しません」
ジョナスが言った。
「監査の観点では、禁止用途のログが必要です」
「データがどこへ流れたか、誰が閲覧したか、後から確認できるようにする」
アメリアが続ける。
「標準化するなら、保護目的データの隔離が必要ですね」
保護目的データの隔離。
それも大事だ。
支援用に集めたデータを、企業の通常データベースへ混ぜない。
広告、評価、信用、治安、移民管理と切り離す。
第33話の弱さの記録と同じだ。
弱さの記録は、資産ではなく預かりもの。
今回も同じだ。
見えない被害を見つけるデータは、資源ではない。
預かりものだ。
オリバーが口を開いた。
「人身取引や組織犯罪のように、当事者が自由に同意できない場合はどうしますか」
難しい。
保護のために、本人の明確な同意が取れない場合がある。
監禁、支配、脅迫、搾取。
そこでは、第三者の介入が必要になる。
俺は考えながら答えた。
「緊急例外はあり得ます」
「ただし、例外は狭く、記録され、事後検証され、独立監査を受ける必要があります」
「そして、本人を罰する方向へ使ってはいけません」
ラニアが強く頷く。
「重要です」
「人身取引の被害者が、不法滞在者として処罰されることがあります」
「保護のための発見が、処罰の入口になってはいけません」
その一文で、会議の芯がさらに見えた。
保護のための発見が、処罰の入口になってはいけない。
俺はメモした。
これは必ず記事に入れる。
会議は終盤に入った。
エレナが暫定整理を読み上げる。
『Protective measurement must reduce the risk faced by the people being measured. If measurement increases their exposure to punishment, exclusion, exploitation, or control, it becomes surveillance rather than protection.』
保護のための測定は、測定される人々の危険を減らすものでなければならない。
測定が、処罰、排除、搾取、管理への露出を増やすなら、それは保護ではなく監視である。
続けて、
『Data collected for protection must be purpose-limited, separated from punitive or commercial systems, governed by consent and safe refusal where possible, and subject to deletion, audit, and return of benefits.』
保護のために集められたデータは、目的を限定され、処罰的または商業的システムから隔離され、可能な限り同意と安全な拒否に基づき、削除、監査、利益や改善の還元を伴わなければならない。
ラニアが頷いた。
ケイラも頷いた。
ヴィクターは渋い顔だが、反対はしなかった。
オリバーは「緊急例外の詳細が必要」とだけ言った。
まとまった。
完全ではないが、まとまった。
会議が終わる直前。
ケイラが俺へ言った。
「佐伯さん。あなたは測定を止めたいわけではないのですね」
「はい」
俺は答えた。
「測定しないと、痛みは見えない」
「でも、測定の仕方を間違えると、痛みを抱えている人が危険になる」
ラニアが静かに言った。
「その両方を言ってくれるなら、話せます」
前回のナディアと似た言葉だった。
両方を恐れるなら、議論できる。
第3部の答えは、いつもそこにある気がした。
会議が終わった。
画面が消える。
俺は大きく息を吐いた。
「今日も胃が働いた……」
AIチャットを開く。
保護測定・監視リスクレビューという形になった。保護のために集めたデータが、処罰や管理や広告へ流れたら監視になる。
AIは答えた。
『重要な整理です』
「でも、匿名化すれば解決するって話になりそうだな」
『匿名化は有効な手段ですが、完全な解決ではありません』
「だよな」
『匿名化すると、個人の危険は下がる場合があります。しかし、個別支援や責任追及が難しくなる場合もあります』
俺は、そこで手を止めた。
次の問題が見えた。
匿名化。
プライバシーを守るために必要だ。
でも、匿名化された痛みは、誰の責任へ届くのか。
企業は言うかもしれない。
「個人が特定できないので対応できません」
政府は言うかもしれない。
「集計データなので補償対象を特定できません」
AI評価機関は言うかもしれない。
「傾向はありますが、責任主体は不明です」
守るために匿名化する。
その結果、誰も責任を取れなくなる。
また崖だ。
俺は記事を書き始めた。
タイトル。
見えない人を見つけるために、監視してはいけない。
本文。
測れない痛みを見つけることは必要である。
しかし、そのために弱い立場の人々を常時見張る仕組みを作れば、それは別の危害になる。
保護のための測定は、本人や当事者集団の危険を減らすために行われる。
管理のための監視は、本人の行動を把握し、評価し、罰し、排除し、逃げ道を狭める方向へ働く。
目的が保護でも、使い道が管理なら、それは監視である。
支援のために集めたデータを、雇用評価、在留管理、警察利用、広告、保険、信用評価へ流してはいけない。
見えない人を見つける前に、まず構造を見なければならない。
窓口は使えるか。
言語は対応しているか。
報告者は守られるか。
拒否しても不利益を受けないか。
データは削除できるか。
誰が閲覧したか記録されるか。
結果は支援や修復へ戻るか。
俺は最後に書いた。
見つけることが、罰の入口になってはいけない。
見えない人を見つけるために必要なのは、監視の目ではなく、危険を増やさず支援へつなぐ手すりである。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『広告でも、困っている人を見つける技術は、そのまま売り込む技術になります。困っている人を見つけたあとに何をしないか。ここが本当に大事ですね』
読書会の主催者からも届いた。
『目的が保護でも、使い道が管理なら、それは監視である。次回の議題にします』
神崎教授からは、短いコメントだった。
『匿名にすれば安全になる。そう信じた瞬間、責任も匿名になる』
俺は、その一文を見て、思わず声が出た。
「来たよ、次のやつ……」
その夜。
国際AI安全連携フォーラム準備室から、案の定、新しい資料が届いた。
件名。
『Anonymization, Accountability, and Remedy』
添付された質問。
『保護のために被害データを匿名化・集計した場合、個人の安全は高まる一方で、具体的な責任追及や救済が困難になる。この矛盾を人工叡智はどう扱うべきか』
俺はメモ帳を開いた。
次のタイトルを書く。
匿名化された痛みは、誰の責任にも届かない。
保存。
画面を閉じる。
見えない人を見つけるために、監視してはいけない。
だが、見つけた痛みを匿名化したとき、その痛みは今度、誰にも届かなくなるかもしれない。
人工叡智は、また次の矛盾へ進もうとしていた。
第56話では、「保護のための測定」と「管理のための監視」の境界が扱われました。
前回、測れない痛みを見えないままにしてはいけないと確認しました。
しかし、見えない被害を見つけるためにデータを集めると、今度は弱い立場の人々をさらに見張る危険が生まれます。
移民労働者。
障害者。
少数言語話者。
家庭内被害者。
非正規労働者。
未登録住民。
支援が必要な人ほど、見つかることが危険になる場合があります。
今回の重要な整理は、保護と監視の違いです。
保護のための測定は、本人や当事者集団の危険を減らし、支援や修復へつなげるために行われます。
管理のための監視は、本人の行動を把握し、評価し、罰し、排除し、逃げ道を狭める方向へ働きます。
目的が保護でも、使い道が管理なら、それは監視です。
今回、真司たちは「保護測定・監視リスクレビュー」という考え方へたどり着きました。
測定の目的は、支援、修復、再発防止に限定されているか。
データを集める前に、利用目的、禁止用途、保存期間、共有先を閉じているか。
個人を測る前に、制度、窓口、環境、労働条件、アクセシビリティなど構造を測っているか。
必要最小限の粒度で測っているか。
本人または当事者集団が、同意、拒否、訂正、削除、利用停止を行えるか。
拒否しても不利益を受けないか。
報告者保護、匿名性、第三者窓口があるか。
収集データを、雇用評価、在留管理、警察利用、広告、保険、信用評価へ流用しないか。
測定によって、当事者がかえって危険にならないか。
結果は当事者や支援団体へ返され、実際の支援や改善につながるか。
今回の中心となる言葉は、これです。
見つけることが、罰の入口になってはいけない。
見えない人を見つけるために必要なのは、監視の目ではなく、危険を増やさず支援へつなぐ手すりである。
しかし、最後に新しい問題が出ました。
弱い立場の人々を守るためには、匿名化や集計が必要です。
しかし、匿名化すれば、今度は個別支援や責任追及が難しくなります。
匿名にすれば安全になる。
でも、その瞬間、責任も匿名になるかもしれません。
次回は、「匿名化された痛みは、誰の責任にも届かない」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
