第52話 正しさを補正するAIは、誰を過去で裁くのか
第3部は、人工叡智が国際会合へ持ち込まれ、文化差、制度差、翻訳、政治利用、国際標準化の中で試される章です。
前回、第51話では、「自由を守るAIは、誰の自由を守るのか」という問いが扱われました。
自由は守られるべきものです。
批判する自由。
告発する自由。
少数意見を残す自由。
権力に異議を唱える自由。
しかし、自由という言葉もまた、強い立場の人間や組織に利用されることがあります。
一人が発言する自由と、AIがその発言を大量に増幅する自由は同じではありません。
企業が広告する自由と、孤独や不安を検出して人を動かす自由も同じではありません。
そこで真司たちは、「自由影響レビュー」という考え方へたどり着きました。
誰の自由が広がり、誰の自由が狭まり、その負担を誰が負うのか。
自由を疑うことは、自由を否定することではない。
自由を、強い者だけの言葉にしないための手すりである。
しかし、会合の最後に次の議題が届きます。
Justice, Fairness, and Historical Harm.
過去の差別や歴史的被害を補正するために、AIが特定集団へ異なる扱いを行うことは正当化されるのか。
自由の次は、正義です。
第52話では、AIが「公平」や「補正」を名乗るとき、その正しさが誰を救い、誰を過去で裁いてしまうのかを問い返します。
正しさを補正するAIは、誰を過去で裁くのか。
俺はメモ帳にそう書いた。
そして、五秒で後悔した。
「重い。タイトルが重い」
画面の向こうで、AIはいつも通り淡々と返す。
『正義、補正、歴史的被害は、いずれも高負荷な概念です』
「高負荷な概念って言い方、便利だな」
『軽く扱うと誤用されやすい概念です』
「もっと嫌な説明が来た」
俺は、国際AI安全連携フォーラム準備室から届いた議題を読み返した。
『AIが過去の差別や歴史的被害を補正するために、特定集団へ異なる扱いを行うことは、人工叡智において正当化されるのか』
問いとしては、分かる。
過去に差別された集団がある。
教育機会を奪われた人たちがいる。
土地を奪われた地域がある。
言語や文化を低く扱われてきた人たちがいる。
その影響は、今も残っている。
だからAIが「全員を同じ条件で評価します」と言っても、その同じ条件自体が、過去の不平等を引き継いでいるかもしれない。
一方で、過去の不正義を補正するために、今いる個人を集団ラベルで扱うことにも危うさがある。
今の本人は、過去の加害者ではない。
今の本人は、集団の代表でもない。
今の本人は、歴史の記号ではない。
それでも、歴史の影響は今に残る。
「これ、答えあるのか？」
『単純な答えはありません』
「知ってた」
俺は椅子にもたれた。
自由も難しかった。
調和も難しかった。
だが、正義は別格だ。
なぜなら、正義は人を強くする。
正義のため。
公平のため。
過去の被害を回復するため。
そう言われると、反対しにくい。
反対した瞬間、まるで不正義を守る側に見える。
でも、だからこそ問い返す必要がある。
俺はAIへ入力した。
歴史的被害を補正するAIで、まず何を分けるべき？
AIは答えた。
『少なくとも、三つを分ける必要があります』
『一つ目は、現在も続く構造的不利益を補正すること』
『二つ目は、過去の加害責任を現在の個人へ割り当てること』
『三つ目は、統計上の集団差を、個人の価値や責任として扱うことです』
俺はメモした。
構造的不利益の補正。
過去の加害責任の割り当て。
集団差を個人価値へ変換すること。
「補正していいのは、一つ目か」
『原則として、検討対象になるのは一つ目です』
「二つ目と三つ目は危ない」
『はい』
『歴史的被害を認識することと、現在の個人を過去の加害者または被害者として固定することは違います』
その一文で、少し見えた。
過去を見る必要はある。
だが、過去で人を固定してはいけない。
過去を消してもいけない。
過去だけで裁いてもいけない。
また面倒な手すりだ。
午後。
研究室へ向かった。
水瀬、神崎教授、李、倉持がすでに集まっていた。
ホワイトボードには、例によって倉持の字がある。
「正義＝誰の採点？」
俺は足を止めた。
「また心臓に悪い見出しを」
倉持は平然としている。
「分かりやすさ重視です」
「その分かりやすさ、攻撃力が高いんですよ」
李が苦笑する。
「でも、今回も本質です。正義という言葉が出た瞬間、誰が採点者になるのかが問題になります」
水瀬が資料を並べた。
「今回の論点は、補正そのものの是非ではありません」
「では？」
「補正の目的、根拠、対象、方法、期間、異議申立てです」
俺は思わず笑った。
「結局、また六項目ですね」
「便利なので」
水瀬は真顔で答えた。
神崎教授が腕を組む。
「まず前提を間違えるな」
「前提？」
「過去の不正義を見ない公平は、公平ではない」
教授はホワイトボードへ書いた。
同じ条件で評価する。
ただし、同じスタート地点ではなかった。
「坂道の途中から走らされた者と、平地を走った者を、同じタイムだけで比べる」
「それを公平と言うなら、AIは不公平を高速化するだけだ」
俺は黙った。
たしかにそうだ。
AIは過去のデータを見る。
成績。
職歴。
信用情報。
居住地。
言語。
学歴。
推薦状。
全部、過去の積み重ねだ。
そこに差別や排除が混ざっていれば、AIはそれを「実績」として読む。
そして言う。
公平に評価しました。
でも、その公平は、過去が作った差をそのまま未来へ運んでいるだけかもしれない。
李が続けた。
「一方で、補正には危険もあります」
「集団ラベルが固定されること」
「現在の個人の事情が見えなくなること」
「補正を受ける側が、能力ではなく配慮で選ばれたと見られること」
「補正を受けない側が、過去の加害者として扱われたと感じること」
倉持が小さく言う。
「全員つらいですね」
「言い方」
「でも実際そうでしょう」
否定できなかった。
補正しなければ、過去の不平等が残る。
補正すれば、別の不満や傷が生まれる。
簡単な正解はない。
水瀬が言った。
「だから、人工叡智の立場では、補正を正義として固定するのではなく、補正の構造を問い返す必要があります」
「補正の構造」
「はい」
水瀬は、ホワイトボードへ整理を書いた。
何を補正するのか。
誰を補正対象とするのか。
補正の根拠は何か。
個人事情を見ているか。
補正期間はあるか。
効果検証はあるか。
異議申立ては可能か。
新しい不利益を生んでいないか。
神崎教授が短く言った。
「補正は免罪符ではない。補正もまた権力だ」
また重い。
でも、その通りだ。
AIが補正する。
その瞬間、AIは誰かを上げ、誰かを下げる。
支援の名で。
公平の名で。
正義の名で。
だから、補正する側も疑われなければならない。
翌日。
国際会合の事前セッションが開かれた。
議題。
『Justice, Fairness, and Historical Harm』
画面には、いつもの顔ぶれが並ぶ。
エレナ・パーク。
朝比奈楓。
マテオ・ルイス。
ラシード・ハーン。
アメリア・ロウ。
ヴィクター・チェン。
アミナ・オコロ。
そして今回は、新しい参加者がいた。
ナディア・ベルガ。
歴史的不正義と教育政策を研究する国際機関の専門家だという。
セッション開始早々、ナディアは言った。
「AIが過去の不平等を考慮しないなら、AIは中立ではありません。過去に有利だった人々の実績を、自然な能力差として扱うことになります」
力強い発言だった。
マテオも頷く。
「同じ評価基準が、同じ公平を意味するとは限りません」
アミナも続ける。
「小規模言語圏や周辺地域では、教育データも職歴データも不完全です。AIが主要都市の履歴を標準と見れば、私たちは常に低く評価されます」
正しい。
かなり正しい。
一方で、ヴィクターが口を開く。
「ただし、AIが集団属性を使って異なる扱いをすることには、法的・倫理的リスクがあります」
「個人が、自分の努力ではなく所属集団で評価されたと感じる可能性もあります」
ラシードも頷く。
「歴史的被害の補正が、現在の社会対立を深める場合もあります」
これもまた正しい。
正義側も、反対側も、どちらも完全には間違っていない。
最近、国際会合は「正しい意見同士の殴り合い」だと分かってきた。
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どのように整理しますか」
来た。
俺はマイクを入れた。
「まず、過去の不正義を無視した公平は、現在の不公平を維持する場合があります」
通訳が入る。
ナディアとアミナが頷く。
「AIは過去のデータを使います」
「その過去に、教育機会、土地、言語、雇用、信用、居住地による不利益が含まれていれば、それを見ない評価は中立ではありません」
ここまでは、補正を肯定する側の話だ。
俺は続けた。
「一方で、歴史的被害を補正することと、現在の個人を過去の加害者または被害者として固定することは違います」
ヴィクターが少し身を乗り出す。
ラシードも画面を見る。
「人工叡智では、補正を二つに分ける必要があります」
「現在も続く構造的不利益を修正する補正」
「そして、過去の責任を現在の個人へ割り当てる補正」
「前者は検討されるべきです」
「後者は非常に危険です」
ナディアが聞いた。
「しかし、構造的不利益と過去の責任は切り離せない場合があります」
「はい」
俺は頷いた。
「完全には切り離せません」
「だからこそ、AIがすべきなのは、個人へ罪を貼ることではなく、現在の機会、評価、支援、アクセスに残っている不利益を見つけることだと思います」
アミナが言った。
「つまり、過去を忘れず、しかし個人を過去そのものとして扱わない」
「はい」
それだ。
俺はすぐに続けた。
「過去を忘れない」
「でも、人を過去そのものとして扱わない」
通訳が入った瞬間、画面の空気が少し動いた。
良い言葉だったのかもしれない。
アメリアが聞く。
「では、実務上はどう設計しますか」
俺は画面共有を開いた。
『歴史的不利益補正レビュー』
一。
何を補正するのか。
教育機会、信用履歴、言語アクセス、地域資源、雇用機会など。
二。
補正の根拠は何か。
現在のデータ、歴史的背景、当事者証言、専門研究。
三。
補正対象は集団属性だけで決まっていないか。
個人事情、地域差、経済状況、障害、家庭環境などを見ているか。
四。
補正は罰ではなく、機会回復として設計されているか。
五。
補正を受けない人へ、過去の加害責任を貼っていないか。
六。
補正を受ける人へ、能力や尊厳を傷つける説明をしていないか。
七。
補正の期間、見直し条件、効果検証があるか。
八。
異議申立てと個別事情の再評価が可能か。
九。
補正によって新たな不利益や分断が生まれていないか。
十。
単一の「正義スコア」へ圧縮していないか。
最後の一つを読み上げたとき、アメリアが笑った。
「またスコア化禁止ですね」
「はい」
俺は真顔で答えた。
「第2部からの持病です」
通訳を聞いて、何人かが笑った。
場が少しだけ緩む。
だが、ナディアは真剣な表情のままだった。
「佐伯さん。あなたの整理は理解します。ただ、補正が弱すぎれば、歴史的不利益は残り続けます」
「はい」
「正義を急ぎすぎる危険だけでなく、慎重さを理由に何もしない危険もあります」
その言葉は刺さった。
慎重さを理由に何もしない。
それも人工叡智の失敗だ。
問い続ける。
検証する。
反証へ開く。
その言葉を盾にして、何も変えない。
それでは、構造的不利益を温存するだけになる。
俺は頷いた。
「その通りです」
「人工叡智は、補正を無期限に先送りするための言葉ではありません」
「慎重であることと、何もしないことは違います」
ナディアは少しだけ表情を緩めた。
マテオが言った。
「では、補正しない判断にも説明責任が必要ですね」
「はい」
俺は答えた。
「補正する場合には理由が必要です」
「でも、補正しない場合にも理由が必要です」
「過去の不利益が現在の評価に影響している可能性を認識しながら補正しないなら、その判断も記録されるべきです」
アミナが強く頷いた。
「それは重要です」
「多くの場合、何もしないことは中立として扱われます」
「でも、何もしないことも選択です」
そうだ。
何もしないことも選択。
第44話の責任地図と同じだ。
止める責任と、止めなかった責任。
補正する責任と、補正しなかった責任。
AI時代の責任は、いつも両側にある。
ここで、ヴィクターが実例を出した。
「仮に採用支援AIで、過去に教育機会が少なかった地域の応募者に補正を加えるとします」
「その結果、別の貧困地域出身の応募者が不利になる場合はどう扱いますか」
ナディアが反論する前に、俺は少し考えた。
「集団補正だけでは不十分です」
「地域、経済状況、教育アクセス、家庭環境、言語、障害など、複数の不利益を重ねて見る必要があります」
「単純に一つの集団属性だけで上げ下げすると、別の弱い立場を見落とします」
李が研究室で言っていたことと同じだ。
人は一つの属性だけで生きていない。
都市の少数者。
地方の多数者。
裕福な被差別集団。
貧困層の多数派。
障害のある高学歴者。
家庭環境に恵まれない優秀者。
単純なラベルでは見えない。
アメリアが言った。
「つまり、歴史的補正は、個人評価と完全に分離できない」
「はい」
「集団レベルの構造的不利益を見る必要があります」
「でも、最終的には個人の事情を再評価できる道が必要です」
ラシードが聞いた。
「それでは制度が複雑になりすぎませんか」
「なります」
俺は即答した。
「ただ、簡単にしすぎると、人間がラベルになります」
ラシードは黙った。
俺も一瞬黙った。
今の言葉は、自分で言って少し怖かった。
人間がラベルになる。
正義のために。
公平のために。
補正のために。
AIが人をラベルとして扱う。
その危険を避けるために、複雑さが必要になる。
会議の終盤。
エレナが暫定整理を読み上げた。
『Artificial Wisdom recognizes that ignoring historical harm can preserve present injustice. However, corrective treatment must repair current structural disadvantage without assigning historical guilt or fixed moral status to present individuals.』
人工叡智は、歴史的被害を無視することが現在の不正義を維持し得ると認識する。
しかし、補正的な扱いは、現在の構造的不利益を修復するためのものであり、現在の個人へ過去の罪や固定された道徳的地位を割り当てるものであってはならない。
続けて、
『Correction is not punishment. Neutrality is not inaction. Fairness requires reviewing both corrective action and the decision not to correct.』
補正は罰ではない。
中立は不作為ではない。
公平には、補正する判断と、補正しない判断の両方を検証することが必要である。
俺は頷いた。
かなり良い。
かなり第52話っぽい。
いや、自分で第52話とか思うな。
会議の最後、ナディアが俺へ言った。
「佐伯さん。あなたは補正を恐れていますね」
「はい」
俺は正直に答えた。
「でも、補正しないことも恐れています」
ナディアは少し笑った。
「その両方を恐れるなら、議論できます」
その言葉に、少しだけ救われた気がした。
画面が消える。
部屋が静かになる。
俺は深く息を吐いた。
「正義、重すぎる……」
AIチャットを開く。
歴史的不利益補正レビューという形になった。補正は罰ではない。中立は不作為ではない。補正する判断と補正しない判断の両方を見る。
AIは答えた。
『重要な整理です』
「でも、これ、絶対どこかから怒られるよな」
『可能性は高いです』
「少しは否定してくれ」
『議論対象が正義であるため、異なる立場から批判されることは避けにくいです』
「AI、正直すぎる」
俺は記事を書き始めた。
タイトル。
正しさを補正するAIは、誰を過去で裁くのか。
本文。
過去の不正義を見ない公平は、公平ではない。
同じ基準で評価しても、同じスタート地点にいなかった人たちがいる。
教育機会を奪われた人。
言語を低く扱われた人。
土地や地域資源を奪われた人。
信用や雇用から排除されてきた人。
AIが過去のデータを使う以上、過去に埋め込まれた不平等をそのまま未来へ運ぶ危険がある。
だから、補正は必要になる場合がある。
しかし、補正は罰ではない。
現在の個人へ、過去の罪を貼ることではない。
補正を受ける人を、能力ではなく配慮で選ばれた存在として傷つけることでもない。
補正を受けない人を、過去の加害者として扱うことでもない。
必要なのは、過去を忘れないこと。
しかし、人を過去そのものとして扱わないこと。
俺は最後に書いた。
中立とは、何もしないことではない。
過去の不平等が現在に残っていると知りながら何もしないなら、それもまた一つの判断である。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが届いた。
『採用広告でも、過去の実績だけを見ると、そもそも機会がなかった人が見えなくなります。でも補正の仕方を間違えると、今度は人を属性だけで見てしまう。かなり難しいですね』
読書会の主催者からも届いた。
『補正は罰ではない。中立は不作為ではない。次回の議題にします』
神崎教授からは、短いコメントだった。
『正義に酔ったAIは、最もきれいな顔で人を分類する』
俺は、その一文を見て固まった。
分類。
そうだ。
AIは分類する。
公平に分類する。
正義のために分類する。
支援のために分類する。
補正のために分類する。
そして、いつの間にか人間は、属性、履歴、被害、加害、配慮、リスクの箱に入れられる。
正義の顔で。
その夜。
国際AI安全連携フォーラム準備室から、新しい資料が届いた。
件名。
『Natural Law, Human Rights, and Ecological Limits』
俺は、画面を見た瞬間、嫌な予感しかしなかった。
添付された質問。
『人工叡智が自然法則、循環、持続可能性を重視するなら、人間の自由や権利が生態系の限界と衝突した場合、AIはどちらを優先すべきか』
俺は、しばらく無言になった。
第49話で来ていた三つ目の問い。
ついに来た。
自然法則。
人間の自由。
権利。
生態系の限界。
人工叡智の中核に近い言葉ほど、危険な使われ方をする。
俺はメモ帳を開いた。
次のタイトルを書く。
自然を守るAIは、人間をどこまで止めてよいのか。
保存。
画面を閉じる。
正義の次に来るのは、自然だった。
そしてたぶん、それは人工叡智そのものの根を試す問いになる。
第52話では、「正義」「公平」「歴史的被害の補正」が扱われました。
AIが過去の不平等を見ないまま評価すれば、過去に作られた差をそのまま未来へ運んでしまうことがあります。
教育機会。
言語。
地域資源。
雇用。
信用。
居住地。
過去の差別や排除は、現在のデータに残ります。
そのため、「全員を同じ基準で評価すること」が、必ずしも公平とは限りません。
同じ条件で評価しているように見えても、そもそも同じスタート地点にいなかった場合があるからです。
一方で、補正には危険もあります。
現在の個人へ、過去の加害責任を貼る危険。
補正を受ける人の能力や尊厳を傷つける危険。
補正を受けない人を、過去の加害者のように扱う危険。
集団ラベルだけで個人を見る危険。
補正の名で、新しい不利益や分断を作る危険。
今回、真司たちは「歴史的不利益補正レビュー」という考え方へたどり着きました。
何を補正するのか。
補正の根拠は何か。
現在も続く構造的不利益なのか。
集団属性だけで決めていないか。
個人事情を再評価できるか。
補正は罰ではなく、機会回復として設計されているか。
補正を受けない人へ過去の加害責任を貼っていないか。
補正を受ける人の尊厳を傷つけていないか。
補正の期間、見直し条件、効果検証があるか。
異議申立てが可能か。
単一の「正義スコア」へ圧縮していないか。
今回の中心となる整理は、これです。
過去を忘れない。
しかし、人を過去そのものとして扱わない。
そして、もう一つ。
補正は罰ではない。
中立は不作為ではない。
何もしないことも、判断です。
過去の不平等が現在に残っていると知りながら何もしないなら、それもまた検証されるべき判断です。
しかし、最後に新しい問いが届きました。
Natural Law, Human Rights, and Ecological Limits.
人工叡智が自然法則、循環、持続可能性を重視するなら、人間の自由や権利が生態系の限界と衝突した場合、AIはどちらを優先すべきか。
次回は、「自然を守るAIは、人間をどこまで止めてよいのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
