第51話 自由を守るAIは、誰の自由を守るのか
前回、第50話では、国際会合の事前質問として、「調和を重視する場合、社会秩序を乱す発言をAIが抑制してよいのか」という問いが扱われました。
調和は、異論の不在ではありません。
批判が消えることでもありません。
告発が黙らされることでもありません。
本当の調和とは、違う声が存在したまま、互いを破壊せず、調整と修正を続けられる状態です。
だから、調和を理由に、自由を黙らせてはいけない。
しかし、最後に新しい問題が現れました。
自由もまた、強者の言葉になる。
企業の自由。
国家の自由。
多数派の自由。
発信力のある人の自由。
その自由が、他者の尊厳、安全、生活基盤を傷つけることもあります。
自由を守るAIは、誰の自由を守るのか。
第51話では、「自由」という言葉の中に隠れている力の差を、国際会合の場で問い返していきます。
自由を守るAIは、誰の自由を守るのか。
俺は、メモ帳にそう書いた。
そして、すぐにため息をついた。
「自由」なんて、絶対に敵に回したくない言葉だ。
自由は大事だ。
表現の自由。
思想の自由。
移動の自由。
選択の自由。
批判する自由。
告発する自由。
それを守ることに、俺は反対したいわけじゃない。
むしろ、前回はそれを守るために、調和という言葉を疑った。
調和を理由に、自由を黙らせてはいけない。
そう書いた。
だが、神崎教授のコメントが頭に残っている。
『自由もまた、強者の言葉になる』
それが、ずっと引っかかっていた。
俺はAIチャットを開いた。
自由を守るAIは、誰の自由を守るのか。どう整理すればいい？
AIは答えた。
『自由を一つの概念として扱わず、主体、対象、影響、手段に分ける必要があります』
「また分ける」
『はい』
「最近、何でも分けてる気がする」
『複雑な価値を一語に圧縮すると、強い主体に有利になるためです』
俺は手を止めた。
強い主体に有利になる。
一語にすると、力の差が消える。
企業の自由も、個人の自由も、同じ「自由」に見える。
発信力のある人の自由も、攻撃を受ける人の自由も、同じ棚に置かれる。
でも現実には、全然違う。
AIは続けた。
『問いとしては、次のように分けられます』
『誰が自由を行使するのか』
『何をする自由なのか』
『誰に影響するのか』
『その自由は、他者の自由を狭めていないか』
『AIによって、その自由が増幅されていないか』
『不利益を受ける側に、拒否、反論、避難、異議申立ての手段があるか』
俺はメモした。
誰の自由か。
何をする自由か。
誰に影響するか。
AIが増幅しているか。
拒否できるか。
反論できるか。
逃げられるか。
「自由って、こうして見るとかなり厄介だな」
『自由は重要ですが、単独で完結する価値ではありません』
「自由だけでは足りない？」
『はい。尊厳、安全、責任、説明可能性、拒否可能性と結びつけて扱う必要があります』
人工叡智は、いつも一つの価値だけでは終わらない。
調和だけでも駄目。
自由だけでも駄目。
安全だけでも駄目。
尊厳だけでも駄目。
それぞれが必要で、それぞれが暴走する。
面倒だ。
でも、その面倒くささが、人間社会なのだと思う。
午後。
研究室で事前打ち合わせがあった。
水瀬、神崎教授、李、倉持。
そして俺。
ホワイトボードには、すでに倉持が大きく書いていた。
「自由＝誰の？」
「今日も直球ですね」
俺が言うと、倉持は無表情で答えた。
「前回、『調和＝黙れ？』が好評だったので」
「好評ではないです。胃に来ただけです」
李が笑った。
「でも、分かりやすいです。国際会合では、単語そのものが争点になりますから」
水瀬が資料を配る。
「今回の論点は、自由を制限するかどうかではありません」
「では？」
「自由の行使が、AIによって増幅されたとき、どこから他者の自由を侵害するのか、です」
増幅。
その言葉で、俺は少し分かった気がした。
一人が街角で叫ぶ。
それも自由だ。
でも、AIがその叫びを最適化し、翻訳し、拡散し、ターゲティングし、弱い人へ集中して届ける。
それも同じ自由なのか。
一人が企業を批判する。
それは大事だ。
でも、AIボットが百万人分の偽の怒りを作る。
それも自由なのか。
一人が自分の商品を勧める。
それも商売だ。
でも、AIが高齢者の不安を検出し、孤独な人へだけ不安を煽る広告を出す。
それも企業の自由なのか。
俺は言った。
「発言する自由と、増幅する自由は分けた方がいいですね」
神崎教授が頷く。
「そうだ」
教授はホワイトボードへ書いた。
発言の自由。
増幅の自由。
到達の自由。
拒否する自由。
逃げる自由。
「発言する自由は守るべきだ」
教授は続けた。
「だが、他人の時間、注意、安全、生活空間へ無制限に入り込む自由まで、同じ強さで守る必要はない」
倉持が小さく言った。
「通知欄を占拠する自由とか、最悪ですね」
「急に身近になったな」
俺が言うと、倉持は肩をすくめた。
「現代人の生活空間は、だいたい画面の中にもあります」
確かに。
AI時代の自由は、街頭演説だけではない。
画面。
通知。
おすすめ欄。
検索結果。
広告枠。
チャット画面。
そこへ入り込む自由。
そこから逃げる自由。
その二つがぶつかっている。
水瀬が言った。
「今回の回答では、自由を守ることと、増幅を管理することを分けましょう」
「発言そのものを消すのではなく、AIによる拡散、ターゲティング、反復、心理的最適化を制限する」
「第2部の広告利用ともつながりますね」
「はい」
水瀬は頷いた。
「心理的脆弱性を使った販売最適化を禁止した議論と同じです」
自由という言葉で隠されているが、構造は同じだった。
企業の表現の自由。
販売の自由。
広告の自由。
しかし、その自由が、弱さを検出し、判断力が狭まった人へ向けて最適化されるなら、それは単なる自由ではない。
他者の判断可能性を奪う自由だ。
翌日。
国際AI安全連携フォーラムの事前セッションが開かれた。
議題。
『Freedom and Harm in Human-AI Judgment』
画面には、前回と同じ顔ぶれが並んでいた。
自由権系NGOのマテオ・ルイス。
公共秩序重視の政策顧問、ラシード・ハーン。
国際標準化団体のアメリア・ロウ。
大手AI企業のヴィクター・チェン。
国際調整担当のエレナ・パーク。
日本側事務局の朝比奈楓。
そして、今回から新しく参加した人物がいた。
アミナ・オコロ。
地域社会とデジタル権利を扱う市民団体の代表だという。
エレナが進行する。
「本日の問いは、AIが自由を守るとき、誰の自由を、どの範囲で守るのかです」
通訳が入る。
俺は軽く頷いた。
ヴィクターが最初に発言した。
「AIサービスは、利用者が自由に意見を表明し、情報へアクセスし、創造的に活動するための基盤です」
「過度な制限は、イノベーションと表現の自由を萎縮させます」
企業側としては当然の意見だ。
マテオも頷いた。
「表現の自由は、政府や大企業への批判を守るために不可欠です」
「AIプラットフォームが過度に抑制すれば、弱い立場の人々の声が消される危険があります」
これも正しい。
一方で、ラシードは別の角度から言った。
「自由は重要ですが、無制限ではありません。ヘイト、偽情報、扇動は、共同体の安全を破壊します」
それも正しい。
正しい意見が三方向から殴ってくる。
第3部、毎回これだ。
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、人工叡智は自由を軽視しません」
「批判、告発、少数意見、異議申立ては、社会が自分を修正するために必要です」
マテオが頷く。
「しかし、自由という言葉を一つにまとめると、力の差が見えなくなります」
俺は続けた。
「一人の発言と、AIによって増幅された大量配信は同じではありません」
「発言する自由と、他人の注意や生活空間へ無制限に入り込む自由は同じではありません」
通訳が入った瞬間、ヴィクターの表情が少し変わった。
俺は続ける。
「AI時代には、自由の問題を少なくとも二つに分ける必要があります」
「発言する自由」
「そして、AIによって増幅し、到達し、最適化する自由です」
アメリアがすぐに反応した。
「つまり、content と distribution を分けるということですか」
「はい」
俺は頷いた。
「ただ発言が存在することと、それをAIが誰へ、どれくらい、どの文脈で届けるかは別です」
「後者には、より強い責任が必要です」
ヴィクターが言った。
「しかし、到達を制限することは、実質的な検閲になり得ます」
「なり得ます」
俺は認めた。
「だから、到達制限にも理由、範囲、期間、異議申立てが必要です」
「ただし、無制限の増幅を自由として扱うことも危険です」
「特に、AIが心理的脆弱性、怒り、不安、孤独、恐怖を検出し、それに合わせて情報を届ける場合、それは受け手の判断可能性を狭めます」
アミナがそこで口を開いた。
「私たちの地域では、その問題がすでに起きています」
画面の空気が変わった。
アミナは静かな声で続けた。
「大きな言語のコンテンツは監視されます。しかし、私たちの地域言語では、AI生成のデマや詐欺がほとんど放置されます」
「ある国の企業は、『自由な発信』だと言います」
「しかし、届く側には逃げ場がありません」
「高齢者は偽の医療情報を信じ、若者は偽求人に応募し、民族間の対立を煽る投稿が翻訳も検証もされないまま広がります」
俺は黙って聞いた。
自由を制限するな。
その主張は重要だ。
だが、自由な発信の被害を受ける側が、十分な保護を持たない場所もある。
マテオが少し表情を曇らせた。
「それは表現の自由の問題というより、プラットフォーム責任の問題ですね」
アミナは頷いた。
「はい。でも、企業はそれを自由の言葉で語ります」
ヴィクターが口を開く。
「当社も多言語対応を進めています。ただ、すべての地域言語を同じ水準で監視するには、技術的・人的制約があります」
アミナは静かに言った。
「それなら、自由に拡散する機能も同じ速度で展開しないでください」
その一言は強かった。
会議室ではない。
画面越しだ。
それでも、空気が止まった。
自由に拡散する機能は世界中へ出す。
だが、被害を抑える仕組みは主要言語だけ。
それは、自由ではなく責任の輸出漏れだ。
俺は思わずメモした。
自由の機能だけを輸出し、責任の機能を後回しにしてはいけない。
水瀬が聞いたら頷きそうな言葉だ。
エレナが俺へ視線を戻した。
「佐伯さん、この点は人工叡智原則にどう入りますか」
俺は少し考えてから答えた。
「自由の評価には、発信者側だけでなく、受け手側の判断可能性と防御可能性を含めるべきです」
「防御可能性？」
アメリアが聞く。
「はい」
「受け手が、拒否できるか」
「反論できるか」
「通報できるか」
「逃げられるか」
「別の情報源へアクセスできるか」
「AIがその情報をなぜ見せたのか確認できるか」
「それがなければ、強い側の自由だけが守られます」
ラシードが言った。
「それは社会秩序を守る立場にも近いですね」
「一部は近いと思います」
俺は答えた。
「ただし、目的が違います」
「社会秩序を守るためではなく、人々の判断可能性と尊厳を守るためです」
「権力者への批判を止める理由にはなりません」
ラシードは黙った。
マテオが少し笑った。
「また難しい中間ですね」
「はい」
俺は正直に答えた。
「でも、たぶん人工叡智は、簡単な陣営分けには向いていません」
ヴィクターが言った。
「企業としては、基準が曖昧だと運用できません」
「分かります」
俺は頷いた。
「だから、問いをチェックリスト化することはできます」
「ただし、それを単一スコアにはしない」
「またそれですね」
アメリアが少し笑った。
「第2部で何度も痛い目を見ました」
俺がそう言うと、通訳越しにも何人かが笑った。
場が少しだけ和らぐ。
俺は続けた。
「自由影響レビュー、という形が考えられます」
画面共有を開き、事前に用意したメモを表示する。
自由影響レビュー。
一。
誰の自由が拡大されるのか。
二。
誰の自由が狭まるのか。
三。
その自由は、発言、増幅、到達、ターゲティング、収益化のどれに関わるのか。
四。
AIによって規模、速度、心理的効果が増幅されていないか。
五。
受け手には、拒否、反論、通報、避難、異議申立ての手段があるか。
六。
弱い立場の人々へ、不均衡な負担が集中していないか。
七。
制限する場合、目的、根拠、範囲、期間、監査が明示されているか。
八。
制限しない場合、被害を受ける側の保護手段があるか。
九。
記録は未来の検証へ残されるか。
十。
自由という言葉で、責任を消していないか。
読み上げながら、俺は思った。
第2部で作った手すりが、全部ここへ来ている。
責任地図。
判断可能性。
弱さの利用禁止。
少数意見。
緊急停止。
透明性。
言葉は変わっても、根は同じだ。
ヴィクターは表を見ながら言った。
「これは企業にとってかなり重いです」
「はい」
俺は答えた。
「でも、AIが自由を増幅するなら、その自由の影響も見る必要があります」
アミナが頷いた。
「特に、小さな言語や地域では必要です」
マテオも言った。
「自由影響レビューに、政府からの削除要請も含めるべきです」
「はい」
俺は頷いた。
「国家の自由も、企業の自由も、個人の自由も、すべて問い返す対象です」
ラシードが静かに言う。
「国家の自由、ですか」
「はい」
「国家安全保障を守る自由」
「社会秩序を維持する自由」
「企業活動を規制する自由」
「それらも必要な場合があります」
「ただし、その自由が市民の批判や異議申立てを消すなら、問い返されるべきです」
言った。
また言ってしまった。
でも、今回は逃げずに済んだ。
会議の終盤、エレナが暫定合意案を読み上げた。
『Artificial Wisdom does not ask AI to protect freedom in the abstract. It asks whose freedom is expanded, whose freedom is constrained, and who bears the burden of amplified freedom.』
人工叡智は、抽象的な自由を守れとAIに求めるのではない。
誰の自由が広がり、誰の自由が狭まり、AIによって増幅された自由の負担を誰が負うのかを問う。
続けて、
『Freedom of expression must be distinguished from automated amplification, targeted manipulation, and unrestricted intrusion into others’ attention, dignity, and safety.』
表現の自由は、自動増幅、標的化された操作、他者の注意・尊厳・安全への無制限な侵入とは区別されなければならない。
悪くない。
かなり良い。
ヴィクターは「実装上の追加検討が必要」と条件付きで了承した。
マテオは「政府による検閲リスクを強く残すこと」を条件に了承した。
ラシードは「社会安全に関する例外を残すこと」を求めた。
アミナは「小規模言語と弱い地域への不均衡な負担」を明記することを求めた。
全員が完全には納得していない。
だからこそ、まともな合意に近い気がした。
会議が終わる直前。
アミナが俺に向けて言った。
「佐伯さん。あなたの人工叡智は、自由を疑いますね」
一瞬、責められたのかと思った。
だが、彼女の声は穏やかだった。
「それは、自由を嫌っているからではないと分かりました」
「自由を強い人だけのものにしないためですね」
俺は少しだけ言葉に詰まった。
「たぶん、そうです」
「たぶん？」
「まだ、考えながら話しています」
アミナは笑った。
「その方が信用できます」
通訳が入る。
俺は少し照れた。
国際会合で、考えながら話しています、と言ってしまう男。
基調セッション前から大丈夫なのか。
画面が消える。
俺は椅子にもたれた。
「疲れた……」
AIチャットを開く。
自由影響レビューという形になった。誰の自由が広がり、誰の自由が狭まり、誰が負担を負うのかを見る。
AIは答えた。
『重要な整理です』
「でも、自由を疑うって、反自由みたいに見えないかな」
『自由を疑うことと、自由を否定することは違います』
「それ、今日の一文にするか」
俺は記事を書き始めた。
タイトル。
自由を守るAIは、誰の自由を守るのか。
本文。
自由は守られなければならない。
批判する自由。
告発する自由。
少数意見を残す自由。
権力に異議を唱える自由。
それらを調和や秩序の名で黙らせてはいけない。
しかし、自由という言葉もまた、問い返されなければならない。
誰の自由か。
何をする自由か。
誰へ届く自由か。
AIによって増幅される自由か。
その自由によって、誰の尊厳、安全、生活基盤、判断可能性が狭まるのか。
一人が発言する自由と、AIがその発言を無限に増幅する自由は同じではない。
表現の自由と、他人の注意や生活空間へ無制限に入り込む自由は同じではない。
企業が広告する自由と、孤独や不安を検出して人を動かす自由は同じではない。
俺は最後に書いた。
自由を疑うことは、自由を否定することではない。
自由を、強い者だけの言葉にしないための手すりである。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんから、すぐにコメントが届いた。
『広告では、企業の表現の自由と、受け手が操作されない自由がぶつかります。発信の自由と増幅の自由を分けるのは、かなり重要だと思います』
読書会の主催者から。
『自由を疑うことは、自由を否定することではない。次回の議題にします』
神崎教授からは、短いコメントだった。
『自由の次は、正義が来る』
俺は画面の前で固まった。
「正義……」
嫌な予感しかしない。
その夜。
国際AI安全連携フォーラム準備室から、新しい議題が届いた。
件名。
『次回論点：Justice, Fairness, and Historical Harm』
添付された事前質問。
『AIが過去の差別や歴史的被害を補正するために、特定集団へ異なる扱いを行うことは、人工叡智において正当化されるのか』
俺は、しばらく画面を見つめた。
自由の次は、正義。
正義はたぶん、自由より厄介だ。
俺はメモ帳を開いた。
次のタイトルを書く。
正しさを補正するAIは、誰を過去で裁くのか。
保存。
画面を閉じる。
自由を守るAIは、誰の自由を守るのか。
その問いの先で、今度はAIが、過去の不正義を修正する未来へ踏み込もうとしていた。
第51話では、「自由を守るAIは、誰の自由を守るのか」という問いが扱われました。
前回、真司たちは、調和を理由に自由を黙らせてはいけないと確認しました。
しかし、自由もまた、強者の言葉になることがあります。
企業の自由。
国家の自由。
多数派の自由。
発信力のある人の自由。
それらがAIによって増幅されると、他者の尊厳、安全、生活基盤、判断可能性を狭めることがあります。
今回の重要な整理は、発言の自由と増幅の自由を分けることでした。
一人が発言する自由。
AIがその発言を大量に拡散する自由。
特定の心理状態の人へ狙って届ける自由。
他人の通知欄やおすすめ欄や検索結果へ入り込む自由。
それらは、同じ自由ではありません。
特にAI時代には、自由は「発言すること」だけではなく、「誰へ、どれくらい、どの文脈で、どんな心理的効果を狙って届けるか」に関わります。
今回、国際会合では「自由影響レビュー」という考え方が提案されました。
誰の自由が拡大されるのか。
誰の自由が狭まるのか。
その自由は、発言、増幅、到達、ターゲティング、収益化のどれに関わるのか。
AIによって規模、速度、心理的効果が増幅されていないか。
受け手には、拒否、反論、通報、避難、異議申立ての手段があるか。
弱い立場の人々へ、不均衡な負担が集中していないか。
制限する場合、目的、根拠、範囲、期間、監査が明示されているか。
制限しない場合、被害を受ける側の保護手段があるか。
記録は未来の検証へ残されるか。
自由という言葉で、責任を消していないか。
今回の中心となる言葉は、これです。
自由を疑うことは、自由を否定することではない。
自由を、強い者だけの言葉にしないための手すりである。
しかし、最後に次の論点が届きました。
Justice, Fairness, and Historical Harm。
過去の差別や歴史的被害を補正するために、AIが特定集団へ異なる扱いを行うことは正当化されるのか。
自由の次は、正義です。
次回は、「正しさを補正するAIは、誰を過去で裁くのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
