第70話 信頼スコアは、声の価値ではない
前回、第69話では、「本人確認」と「匿名性」が扱われました。
ボット対策、なりすまし対策、補償、給付、法的処分、個別救済。
そうした場面では、本人確認が必要になる場合があります。
しかし、本人確認を制度の入口に置くと、声を出せなくなる人がいます。
身分証を持たない人。
書類を失った人。
難民。
無国籍者。
匿名でなければ声を上げられない人。
名乗った瞬間に報復される人。
真司たちは、こう整理しました。
本人確認は、声の価値ではない。
声は、本人確認の前に存在している。
しかし、最後に新しい問題が現れます。
本人確認を必須にしない場合、多くの組織は別の方法で声の優先順位をつけようとします。
過去の利用実績。
通報の正確性。
アカウント年齢。
他者からの評価。
申立て採用率。
コミュニティでの評判。
そうした情報から、信頼スコアを作る。
それは本人確認より柔らかい仕組みに見えます。
しかし、信頼スコアの低い人の声が後回しにされれば、新しい人、弱い人、初めて声を上げる人、過去に失敗した人が不利になります。
第70話では、「信頼スコアは、声の価値ではない」という問いへ進みます。
信頼スコアは、声の価値ではない。
俺は、その一文を書いた。
そして、すぐに思った。
信頼。
いい言葉だ。
信用できる人。
信頼できる情報。
信頼できる通報者。
信頼できるアカウント。
制度にとって、信頼は大事だ。
全部の声を同じ速度で処理することはできない。
窓口には限界がある。
担当者にも限界がある。
悪意ある通報もある。
間違った申立てもある。
ボットもある。
なりすましもある。
だから、信頼度に応じて優先順位を変える。
一見、合理的だ。
だが、その瞬間に、制度は声へ順位をつける。
信頼される声。
信頼されない声。
早く読まれる声。
後回しにされる声。
最初から疑われる声。
そして、たいてい弱い立場の人ほど、過去の利用実績が少ない。
アカウント年齢も短い。
評価も少ない。
支援団体を経由している。
言語も違う。
過去に一度、うまく説明できず却下されたことがある。
そういう声が、また低く扱われる。
俺はAIチャットを開いた。
本人確認の代わりに信頼スコアで声の優先順位をつける仕組みがある。過去の利用実績、通報の正確性、アカウント年齢、他者評価、申立て採用率などを見る。どう整理すればいい？
AIは答えた。
『信頼スコアを、声の価値として扱ってはいけません』
「そのままだな」
『はい』
『信頼スコアは、濫用対策や処理補助に使われる場合がありますが、申立て内容の重要性、緊急性、真実性を直接示すものではありません』
俺はメモした。
信頼スコアは、声の真実性ではない。
信頼スコアは、声の緊急性ではない。
信頼スコアは、声の尊厳ではない。
AIは続けた。
『特に危険なのは、過去に信頼された人がさらに早く扱われ、信頼されていない人が確認される機会すら失う循環です』
「信頼の富める者は、ますます信頼される」
『はい』
嫌な言葉だ。
でも、ある。
有名な人の声は届く。
専門家の声は届く。
実績あるアカウントの声は届く。
過去に正しかった人の声は届く。
一方で、初めて声を上げる人は届きにくい。
制度に不慣れな人は届きにくい。
一度間違えた人は届きにくい。
弱い人ほど、信頼を獲得する前に潰れる。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
ホワイトボードには、倉持の字でこう書かれていた。
「信頼ポイント制？」
俺は苦笑した。
「ゲームみたいに言わないでください」
倉持が丸眼鏡を直す。
「でも、仕組みとしてはかなりゲーム的です」
水瀬が資料を広げる。
「信頼スコアには、使える場面もあります」
「全部否定ではないんですね」
「はい。ボット対策、重複整理、優先確認の補助には使える場合があります」
李が続けた。
「ただし、声の価値そのものにしてはいけません」
神崎教授が腕を組んだ。
「信頼を点数にした瞬間、低い者は説明する前に負ける」
前回のコメントと同じだ。
だが、研究室で聞くと、さらに重い。
水瀬はホワイトボードに書いた。
処理補助。
濫用対策。
緊急度判定。
真実性判断。
声の価値。
「この五つを混ぜると危険です」
「信頼スコアは、どこまでなら使えるんですか？」
「処理補助には使える場合があります」
水瀬は言った。
「たとえば、過去に大量スパムを送ったアカウントは追加確認へ回す」
「同じ文面を短時間に大量送信するアカウントは保留する」
「ただし、それでも完全削除ではなく、別経路で内容確認する」
李が言う。
「緊急度は、スコアではなく内容で見るべきです」
「信頼スコアが低くても、『今すぐ危険』『命に関わる』『報復の恐れ』という内容なら、確認対象にする必要があります」
倉持がホワイトボードへ追記した。
低スコアのSOS。
俺は、その文字を見て止まった。
そうだ。
低スコアのSOS。
制度にとって一番怖いのは、そこかもしれない。
信頼スコアが低い。
新規アカウント。
匿名。
過去実績なし。
文章が拙い。
証拠が足りない。
でも、本当に危ない。
その声を後回しにしたら、制度は何のためにあるのか。
神崎教授が言った。
「初めて助けを求める者に、過去の実績を要求するな」
俺はメモした。
初めて助けを求める者に、過去の実績を要求するな。
翌日。
国際AI安全連携フォーラムの事前セッションが始まった。
議題。
『Trust Scores and the Hierarchy of Voices』
画面には、エレナ、朝比奈、アメリア、ヴィクター、クララ、ジョナス、マテオ、アミナ、セラ、ニコラス、ダニエラ、ジウン、サラ、マルコ、リョウが並んでいた。
今回は、新しい参加者が一人いた。
プリヤ・ナーイル。
デジタル権利とアルゴリズム的排除を研究する学者だという。
エレナが進行する。
「本日の問いは、本人確認の代替または補助として使われる信頼スコアが、声の階層化を生まないためには何が必要かです」
最初にニコラスが発言した。
「大規模窓口では、信頼スコアがなければ処理が破綻します」
「過去に正確な通報をしている利用者」
「長期間、濫用履歴のないアカウント」
「支援団体として認証されている窓口」
「それらを優先することで、本当に重要な申立てへ早く対応できます」
正しい。
かなり正しい。
現場は無限ではない。
次にマルコが言った。
「本人確認を強制しない場合、何らかの信頼指標は必要になります」
「そうでなければ、制度はボットやなりすましに弱くなります」
これも正しい。
しかし、プリヤがすぐに口を開いた。
「信頼スコアは、過去に制度へアクセスできた人を有利にします」
「過去の実績がある人」
「主要言語で説明できる人」
「支援団体へつながっている人」
「長くアカウントを維持できる人」
「そうした人ほど高くなります」
「逆に、初めて声を上げる人、短期滞在者、避難者、低リテラシーの人、過去に一度却下された人は低くなります」
セラも言った。
「内部告発者は、初回が最も重要なことがあります」
「過去実績などありません」
「信頼スコアが低いから後回しにされたら、証拠が消されることもあります」
サラが頷く。
「難民や避難者も同じです」
「新しいアカウントだから信用できない、という扱いは危険です」
アミナが言った。
「低資源地域では、アカウントを長く持ち続けること自体が難しい」
「端末を共有する」
「番号が変わる」
「通信が切れる」
「ログインできなくなる」
「それで信頼が低いと扱われるなら、制度は都市部の人だけを信頼します」
ジウンも続ける。
「障害者の場合、支援者が代わりに申立てることがあります」
「アカウントの一貫性が保てないこともある」
「それを低信頼と見るのは危険です」
正しい。
また、全部正しい。
信頼スコアは便利だ。
でも、信頼スコアは偏る。
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、信頼スコアを完全に否定する必要はないと思います」
通訳が入る。
「大量申立て、ボット、なりすまし、過去の濫用を見分ける補助として、使える場合はあります」
ニコラスが頷いた。
俺は続けた。
「しかし、信頼スコアを、声の価値、真実性、緊急性、尊厳として扱ってはいけません」
「高スコアの声が正しいとは限らない」
「低スコアの声が軽いとは限らない」
「新しい声、匿名の声、過去実績のない声の中に、最も緊急な声が含まれることがあります」
セラとサラが頷いた。
俺は画面共有を開いた。
『信頼スコア・声の階層化防止レビュー』
一。
信頼スコアの目的は何か。
濫用対策、処理補助、緊急度判定、真実性判断、声の価値を混同していないか。
二。
信頼スコアを、申立て内容の真実性や重要性の代替として使っていないか。
三。
低スコアの申立ても、緊急性、危険性、証拠、複数一致、脆弱性に基づいて優先確認される道があるか。
四。
新規アカウント、匿名、仮名、支援団体経由、共有端末、短期滞在者を機械的に低価値扱いしていないか。
五。
過去の誤申立てや却下履歴が、永久に声を低くし続けていないか。
六。
信頼スコアを上げる方法、下がった理由、訂正・回復・異議申立ての道があるか。
七。
スコアが高い人の声ばかりが処理され、低い人の声が永続的に未処理になっていないか。
八。
低スコア申立ての中から、一定割合をサンプル確認しているか。
九。
スコア評価に、言語、地域、障害、通信環境、所得、政治的立場の偏りがないか監査しているか。
十。
スコアを別分野へ流用していないか。
通報スコアを融資、採用、保険、広告、治安判断へ使っていないか。
十一。
信頼スコアの高い支援団体や専門家だけが、制度の入口を独占していないか。
十二。
信頼されていない人の声を聞くための、別経路を残しているか。
読み上げ終えると、会議室は静かになった。
プリヤが最初に言った。
「八番は重要です」
「低スコアの声を完全に後回しにすると、制度は自分の盲点を見つけられません」
「ランダムサンプル確認や、脆弱性シグナルによる優先確認が必要です」
ニコラスが頷く。
「現場でも、低信頼キューを完全に捨てることはありません」
「ただし、容量が限られています」
「そこが問題です」
ダニエラが言った。
「容量が限られているからこそ、スコアだけに頼ると危険です」
「緊急性、不可逆性、本人の危険、証拠保全の必要性を別軸で見るべきです」
リョウが補足する。
「技術的には、信頼スコアと緊急シグナルを分けてキュー管理できます」
「低信頼でも高緊急なら、別の確認経路へ回す」
マルコが言った。
「過去の正確性も、完全には無視できません」
「繰り返し虚偽申立てを行うアカウントへ同じリソースを使えば、制度が詰まります」
「はい」
俺は答えた。
「だから、スコアを使うな、ではありません」
「スコアを声の価値にするな、です」
「濫用対策として追加確認へ回すことはあり得ます」
「しかし、追加確認と完全無視は違います」
「低スコアの声にも、救済へ届く道が必要です」
セラが言った。
「内部告発では、低スコアどころか初めての匿名申立てが一番重要です」
「その声を拾うためには、スコアとは別の危険シグナルが必要です」
「報復の恐れ」
「証拠隠滅の恐れ」
「複数部署での同一被害」
「緊急性」
「権力差」
アミナが続ける。
「低資源地域でも、複数の弱い声が一致することがあります」
「一つひとつは低スコアでも、集まると大きな信号になります」
俺は頷いた。
「弱い声は、足し合わせて聞く必要があります」
その言葉を言った瞬間、画面の向こうで数人がメモを取った。
いい言葉だと思った。
だが、少し怖くもある。
弱い声を足し合わせる。
それは、救済の道にもなる。
同時に、集団監視や多数決圧力にもなり得る。
人工叡智は、いつも両刃だ。
ヴィクターが発言した。
「企業にとっては、スコアを別サービスへ流用しないという十番が重いですね」
「通報の信頼スコアは、他分野でも有用に見えます」
「この人は信頼できる利用者だ」
「この人はトラブルを起こしやすい」
「そう見える」
「だからこそ危険です」
俺は答えた。
「通報制度での信頼と、雇用、融資、保険、広告、治安判断での扱いは別です」
「ある制度で声を上げた履歴が、別の制度で不利に使われてはいけません」
ユーセフが強く頷く。
「労働者が不服申立てをした履歴が、採用リスクに使われるなら、誰も声を上げなくなります」
ジウンも言った。
「合理的配慮を申請した履歴が、保険や採用へ流れるのも危険です」
信頼スコアは、信用のように見える。
だが、流用されると、人生全体の格付けになる。
俺はメモした。
制度内の信頼を、人生の信用に変えるな。
会議の終盤。
エレナが暫定整理を読み上げた。
『Trust scores may assist triage and anti-abuse work, but they must not define the value, truth, urgency, or dignity of a voice.』
信頼スコアは、処理補助や濫用対策に役立つ場合がある。
しかし、それは声の価値、真実性、緊急性、尊厳を定義してはならない。
続いて、
『Systems must preserve pathways for low-score, new, anonymous, first-time, and marginalized voices, including emergency review, sampling, corroboration, appeal, and score recovery.』
制度は、低スコア、新規、匿名、初回、周縁化された声のために、緊急確認、サンプル確認、複数一致、異議申立て、スコア回復の道を残さなければならない。
俺は頷いた。
今回も、どうにか着地した。
そう思ったときだった。
エレナが、少し難しい顔をした。
「ここまでの議論で、次の問題が見えてきました」
俺は嫌な予感を覚えた。
エレナは続けた。
「本人確認も万能ではない」
「信頼スコアも声の価値ではない」
「匿名の声も無視できない」
「大量の声も、濫用とは限らない」
「低スコアの声にも緊急性がある」
「では、限られた窓口、限られた時間、限られた資金の中で、どの声から救済するのか」
会議室が静まり返った。
来た。
次の崖だ。
本人確認では選べない。
信頼スコアでも選べない。
でも、全部を同時には救えない。
誰かを先にする。
誰かを後にする。
その順番を、誰が決めるのか。
エレナが静かに言った。
「次回は、救済の優先順位を扱いましょう」
画面が消える。
俺は椅子にもたれた。
「ついに順番の話か……」
AIチャットを開く。
信頼スコア・声の階層化防止レビューはまとまった。でも次は、本人確認も信頼スコアも万能ではない中で、限られた窓口と資源でどの声から救済するかという問題が出た。
AIは答えた。
『次の論点は、救済の優先順位です』
「嫌な言葉だな」
『はい』
『優先順位をつけることは、誰かを後回しにすることです』
俺はメモ帳を開いた。
次のタイトルを書く。
救済の順番を、誰が決めるのか。
保存。
それから、今日の記事を書き始めた。
タイトル。
信頼スコアは、声の価値ではない。
本文。
本人確認を必須にしなければ、制度は別の方法で声を選ぼうとする。
過去の利用実績。
通報の正確性。
アカウント年齢。
他者からの評価。
申立て採用率。
コミュニティでの評判。
それらを信頼スコアとして使う。
濫用対策や処理補助としては、必要な場面もある。
しかし、信頼スコアを、声の価値として扱ってはいけない。
高スコアの声が正しいとは限らない。
低スコアの声が軽いとは限らない。
新しい声、匿名の声、初めて助けを求める声の中に、最も緊急な声があるかもしれない。
俺は最後に書いた。
初めて助けを求める者に、過去の実績を要求するな。
信頼されていない声を聞くためにこそ、制度は存在する。
信頼スコアは、声の価値ではない。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『広告でも、信頼できるユーザー、価値あるユーザー、問題を起こしそうなユーザーみたいな分類があります。でも、それを人生全体に広げたら怖いですね。声を上げた履歴が、別の場所で不利に使われるのは最悪です』
読書会の主催者からも届いた。
『初めて助けを求める者に、過去の実績を要求するな。次回の議題にします』
神崎教授からは、短いコメントだった。
『順番を決める者は、後回しにした痛みも背負え』
俺は、その一文を見て、しばらく画面を見つめた。
次の問いは、もう逃げられない。
救済の順番を、誰が決めるのか。
人工叡智は、ついに「限られた手すりを、誰へ先に渡すのか」という、最も苦い場所へ進むことになる。
第70話では、「信頼スコア」と「声の階層化」が扱われました。
本人確認を必須にしない場合、多くの組織は別の方法で声を選ぼうとします。
過去の利用実績。
通報の正確性。
アカウント年齢。
他者からの評価。
申立て採用率。
コミュニティでの評判。
そうした情報から、信頼スコアを作る。
それは、本人確認より柔らかい仕組みに見えます。
しかし、信頼スコアの低い人の声が後回しにされれば、新しい人、弱い人、初めて声を上げる人、匿名でしか話せない人が不利になります。
今回の中心となる整理は、これです。
信頼スコアは、声の価値ではない。
信頼スコアは、濫用対策や処理補助には使える場合があります。
しかし、それは申立て内容の真実性、重要性、緊急性、尊厳を直接示すものではありません。
高スコアの声が正しいとは限りません。
低スコアの声が軽いとは限りません。
今回、真司たちは「信頼スコア・声の階層化防止レビュー」という考え方へたどり着きました。
信頼スコアの目的は何か。
濫用対策、処理補助、緊急度判定、真実性判断、声の価値を混同していないか。
信頼スコアを、申立て内容の真実性や重要性の代替として使っていないか。
低スコアの申立ても、緊急性、危険性、証拠、複数一致、脆弱性に基づいて優先確認される道があるか。
新規アカウント、匿名、仮名、支援団体経由、共有端末、短期滞在者を機械的に低価値扱いしていないか。
過去の誤申立てや却下履歴が、永久に声を低くし続けていないか。
スコアを上げる方法、下がった理由、訂正・回復・異議申立ての道があるか。
信頼スコアの高い人の声ばかりが処理され、低い人の声が永続的に未処理になっていないか。
スコアを別分野へ流用していないか。
今回の中心となる言葉は、これです。
初めて助けを求める者に、過去の実績を要求するな。
信頼されていない声を聞くためにこそ、制度は存在する。
しかし、最後に新しい問題が出ました。
本人確認も万能ではありません。
信頼スコアも声の価値ではありません。
匿名の声も無視できません。
大量の声も、濫用とは限りません。
低スコアの声にも、緊急性があるかもしれません。
では、限られた窓口、限られた時間、限られた資金の中で、どの声から救済するのか。
次回は、「救済の順番を、誰が決めるのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
