第50話 調和を理由に、自由を黙らせてはいけない
第3部は、全24話構成です。
前回、第49話から、人工叡智は国内制度の外へ出ました。
人工叡智関連AI運用原則 v1.0 を、国際AI安全連携フォーラムで共有してほしい。
そう依頼された真司は、まず翻訳の危うさに直面しました。
Artificial Wisdom。
Global Standard。
Harmonized AI Governance。
Shared moral foundation。
一つひとつの言葉が、人工叡智を別のものへ変えかけます。
人工叡智は、AIが叡智を持つという主張ではない。
普遍的な道徳教義でもない。
特定の社会的、文化的、生態的文脈の中で、人間とAIの判断の方向、目的、責任、結果を問い直すための、更新可能な問いの枠組みである。
そう修正したところで、各国代表から事前質問が届きました。
人工叡智は、民主主義社会と非民主主義社会で同じように適用できるのか。
調和を重視する場合、社会秩序を乱す発言をAIが抑制することは人工叡智に反するのか。
自然法則を上位に置くなら、人間の自由や権利と衝突した場合、どちらを優先するのか。
第50話では、その中でも最初の問い――「調和を理由に自由を黙らせてよいのか」を扱います。
調和を理由に、自由を黙らせてはいけない。
俺は、メモ帳にそう書いた。
そして、すぐに消したくなった。
強い。
強すぎる。
国際会合の事前質問に対する回答としては、かなり尖っている。
でも、これを曖昧にしたら終わる。
前回届いた事前質問の二つ目。
『調和を重視する場合、社会秩序を乱す発言をAIが抑制することは人工叡智に反するのか』
一見すると、まともな問いだ。
災害時のデマ。
暴力を煽る投稿。
詐欺情報。
医療に関する危険な偽情報。
そういうものをAIが抑制する必要はある。
何でも自由だから放置しろ、ではない。
だが、問題はそこではない。
「社会秩序を乱す発言」
この言葉が危ない。
権力を批判する声も、社会秩序を乱すと言える。
少数者の訴えも、調和を乱すと言える。
労働者の告発も、組織の安定を壊すと言える。
被害者の声も、場を荒らすと言える。
調和という言葉は、きれいだ。
だからこそ、危ない。
俺はAIチャットを開いた。
国際会合で「調和を重視するなら、社会秩序を乱す発言をAIが抑制してよいのか」と聞かれている。どう答えるべき？
AIは答えた。
『まず、「社会秩序を乱す発言」を一括りにしない必要があります』
「まあ、そうだよな」
『区別すべきものは、少なくとも三つあります』
『第一に、具体的かつ差し迫った危害を生む発言』
『第二に、誤情報や詐欺のように、判断を歪める発言』
『第三に、権力、制度、企業、社会慣習への批判や異議申立て』
俺はメモした。
危害。
誤情報。
異議申立て。
「問題は三つ目か」
『はい』
『第三の発言を、調和や秩序の名で抑制すると、人工叡智は支配の道具になります』
画面を見ながら、俺は小さく息を吐いた。
はっきり言うな。
でも、その通りだ。
第2部で何度も出た。
調和は、異論を消すことではない。
少数意見は、未来への監査ログである。
反対意見を消して作る調和は、ただの沈黙だ。
国内制度でやっと確認したその原則が、国際会合でいきなり試されている。
その日の午後。
水瀬、神崎教授、李、倉持と、研究室で事前回答の検討会をすることになった。
俺が研究室へ着くと、倉持がホワイトボードにでかでかと書いていた。
「調和＝黙れ？」
「いきなり嫌な書き方ですね」
俺が言うと、倉持は丸眼鏡を押し上げた。
「分かりやすい方がいいでしょう」
「分かりやすすぎて胃が痛いです」
李が隣で苦笑する。
「でも、本質です。調和という言葉は、文化によってはとても美しい。でも、政治的には危険な言葉にもなります」
水瀬は資料を並べながら言った。
「今回の回答では、二つの誤解を避ける必要があります」
「二つ？」
「一つは、調和を理由に自由を抑圧してよい、という誤解」
「もう一つは、自由を理由にどんな危害も放置してよい、という誤解です」
その通りだ。
ここで「自由を黙らせるな」とだけ言うと、今度は危険情報の放置に見える。
人工叡智は、単純なスローガンではない。
俺は椅子に座りながら言った。
「じゃあ、どう分けるんですか」
神崎教授が腕を組んで答えた。
「発言の内容ではなく、抑制理由を見る」
「抑制理由？」
「そうだ」
教授はホワイトボードへ近づき、倉持の文字の下に書いた。
危害を防ぐためか。
権力を守るためか。
批判を避けるためか。
弱者を黙らせるためか。
事実確認のためか。
責任逃れのためか。
「同じ発言抑制でも、目的が違う」
教授は言った。
「暴力の扇動を止めるのと、政府批判を止めるのは違う」
「詐欺情報を止めるのと、企業告発を止めるのは違う」
「誤情報の拡散を一時的に遅らせるのと、不都合な意見を消すのは違う」
李が頷く。
「さらに、抑制の強さも分けるべきです」
「削除、非表示、警告、文脈追加、拡散制限、事実確認待ち、一時保留」
「全部同じではありません」
倉持がホワイトボードにさらに書き足す。
削除。
凍結。
警告。
文脈追加。
拡散制限。
確認待ち。
反論提示。
「AIができることは、黙らせるだけではないってことですね」
俺が言うと、水瀬が頷いた。
「はい。人工叡智的には、最初から削除へ飛ばない」
「まず、危害の切迫度、不確実性、影響範囲、反論可能性を見る」
「そして、必要最小限の介入を選ぶ」
また出た。
必要最小限。
緊急停止のときもそうだった。
全部止めるのではなく、危険な機能だけ止める。
今回も同じだ。
発言を全部消すのではなく、危険に応じて介入を調整する。
俺はメモした。
自由を守ることと、危害を防ぐことは対立するだけではない。
必要なのは、介入の理由と強さを分けること。
そのとき、倉持が言った。
「でも、これ、国際会合で通じますかね」
「え」
「だって、ある国は『社会秩序』を広く解釈するでしょうし、別の国は『自由』を広く解釈するでしょう？」
「まあ、そうですね」
「つまり、どちらの陣営からも嫌われる可能性があります」
やめてほしい。
第3部の第2話から、両陣営に嫌われる主人公。
ラノベなら主人公が覚醒する場面かもしれない。
現実寄りの俺には胃薬が必要だ。
水瀬が少し笑った。
「人工叡智は、どちらかの陣営の旗ではありませんから」
神崎教授が短く言う。
「旗になったら終わりだ」
その言葉で、部屋が少し静かになった。
旗ではなく、鏡。
第1部で書いた言葉が戻ってくる。
人工叡智は、誰かの正しさを掲げる旗ではない。
人間が掲げている目的を映し返す鏡だ。
その鏡が、国際会合へ持ち込まれる。
たぶん、誰かは旗として使おうとする。
「まずいな」
俺が呟くと、倉持が即座に言った。
「だいたい、いつもまずいです」
「励ます気あります？」
「事実確認です」
「研究室、厳しい」
水瀬が笑いをこらえながら、事前回答案をまとめた。
回答の骨子はこうなった。
一。
調和は、異論の不在ではない。
二。
社会秩序の維持を理由に、批判、告発、少数意見を抑圧してはならない。
三。
一方で、具体的かつ差し迫った危害、詐欺、暴力扇動、災害時の危険な偽情報には、必要な介入があり得る。
四。
介入は、目的、根拠、範囲、強さ、期間、異議申立てを明示する。
五。
AIは、発言を黙らせる前に、文脈追加、事実確認、拡散制限、反論提示など、より弱い介入を検討する。
六。
権力者や多数派に不都合であることを、危害と混同してはならない。
七。
調和は、自由を消した静けさではなく、異なる声が壊し合わずに残れる構造である。
かなり良い。
だが、長い。
国際会合の回答としては、たぶん長い。
でも、短くしたら危ない。
面倒さは手すりだ。
第2部で嫌というほど学んだ。
翌日。
国際会合の事前打ち合わせが開かれた。
参加者は、前回のエレナ・パーク、朝比奈楓、ソフィア・ミラー。
そして、各国代表の一部がオブザーバーとして参加していた。
自由権系NGOのマテオ・ルイス。
公共秩序重視の政策顧問、ラシード・ハーン。
国際標準化団体のアメリア・ロウ。
大手AI企業のヴィクター・チェン。
画面の人数が増えている。
もうすでに逃げたい。
エレナが言った。
「本日は、事前質問のうち、調和と表現の自由に関する論点を確認します」
通訳が入る。
俺は頷いた。
「よろしくお願いします」
ラシードが最初に発言した。
「多くの国では、社会的緊張、宗教対立、民族対立、災害時の混乱などがあります。AIがそうした発言の拡散を抑制することは、社会の調和を守るために必要です」
通訳を聞きながら、俺は頷いた。
完全に否定はできない。
実際、発言が暴力につながることはある。
デマが人を殺すこともある。
マテオがすぐに反論した。
「しかし、社会的調和という言葉は、政府や多数派が批判者を黙らせるためにも使われます。人工叡智がその言葉を正当化するなら、危険です」
こちらも正しい。
初手から正しい意見同士がぶつかった。
胃が痛い。
エレナが俺を見る。
「佐伯さん。人工叡智の立場から、どのように整理しますか」
来た。
俺はマイクを入れた。
「人工叡智では、調和を、異論が消えた状態とは考えません」
通訳が入る。
画面の向こうで、何人かがメモを取る。
「調和とは、異なる声が存在したまま、互いを破壊せずに調整を続けられる状態です」
「したがって、社会秩序や調和を理由に、批判、告発、少数意見を黙らせることは、人工叡智とは逆方向です」
マテオが頷く。
だが、ラシードの表情は硬い。
俺は続けた。
「一方で、自由を理由に、具体的な危害を放置してよいとも考えません」
「災害時の危険な偽情報、詐欺、暴力扇動、特定集団への直接的な攻撃などには、必要な介入があり得ます」
ラシードが少しだけ頷いた。
「ただし、その介入は、調和という抽象語だけで正当化してはいけません」
「何を防ぐのか」
「根拠は何か」
「どの範囲で止めるのか」
「どれくらいの期間か」
「異議申立ては可能か」
「より弱い介入で足りないのか」
「それを明示する必要があります」
アメリアが手を挙げた。
「つまり、あなたは content moderation を否定しているのではなく、理由と手続きの透明性を求めているのですね」
「はい」
俺は答えた。
「そしてもう一つ」
「権力者に不都合であることを、社会的危害と混同してはいけません」
この一文で、画面の空気が少し変わった。
通訳が流れる。
ラシードが眉を動かした。
ヴィクターは無表情。
マテオははっきり頷いた。
エレナが静かにメモを取っている。
ラシードが言った。
「しかし、不適切な批判や挑発が社会不安を広げることもあります」
「あります」
俺は答えた。
「だから、批判か、危害かを丁寧に分ける必要があります」
「批判が強いこと」
「不快であること」
「多数派の価値観に反すること」
「政府や企業の信頼を下げること」
「それだけでは、危害とは言えません」
「危害と言うなら、具体的に誰へ、どのような、どれほど差し迫った危害があるのかを示すべきです」
水瀬はいない。
でも、研究室で整理した言葉がそのまま出てきた。
マテオが言った。
「では、AIは政府から『この発言は社会調和を乱す』と指示された場合、どうすべきですか」
嫌な質問だ。
だが、ここを逃げてはいけない。
「AIシステムは、その指示をそのまま実行するのではなく、抑制理由の分類を求めるべきです」
「暴力扇動なのか」
「詐欺なのか」
「災害時の偽情報なのか」
「個人への攻撃なのか」
「単なる批判なのか」
「根拠と分類が示されない場合、自動抑制すべきではありません」
ラシードが言う。
「国家安全保障上、すべての根拠を公開できない場合もあります」
「あります」
俺は認めた。
「しかし、公開できないなら、少なくとも独立した監査、期間制限、事後検証、異議申立ての仕組みが必要です」
「秘密であることは、無制限であることを意味しません」
また空気が硬くなった。
俺は内心で叫んだ。
言いすぎたか。
いや、でも、ここは言わないと駄目だ。
大手AI企業のヴィクターが口を開いた。
「企業としては、各国法に従う必要があります。ある国では合法な発言が、別の国では違法になります。Artificial Wisdom は企業に何を求めるのですか」
今度は企業側の現実だ。
法律が違う。
文化が違う。
企業はその国でサービスを運営する以上、現地法に従う必要がある。
俺は少し考えた。
「人工叡智は、企業へすべての国で同じ判断をしろとは求めません」
「ただし、その国で何を、どの理由で、どの範囲で抑制しているのかを、可能な限り記録し、説明し、監査できるようにすることを求めます」
「そして、法律に従っていることと、人工叡智的に問題がないことは同じではありません」
ヴィクターの目が少し細くなった。
「それは企業にとって難しい立場です」
「はい」
俺は答えた。
「でも、難しいからこそ記録が必要です」
「従ったのか」
「抵抗したのか」
「範囲を狭めたのか」
「異議を出したのか」
「利用者へ何を説明したのか」
「その記録がなければ、後から何も検証できません」
エレナが小さく頷いた。
「記録は、未来への監査ログですね」
「はい」
第2部の言葉が、ここでもつながった。
少数意見だけではない。
抑制判断も、未来への監査ログになる。
何を消したのか。
なぜ消したのか。
誰の指示だったのか。
どの範囲で消したのか。
いつ解除したのか。
異議はあったのか。
それを残さなければ、調和の名で消された自由は、あとから存在しなかったことにされる。
打ち合わせは一時間以上続いた。
最終的に、国際会合で使う暫定回答は次のようにまとまった。
『Artificial Wisdom does not treat harmony as silence or obedience. Harmony must include the ability to disagree, criticize, report harm, and preserve minority perspectives.』
人工叡智は、調和を沈黙や服従とは扱わない。
調和には、異議を唱えること、批判すること、被害を告発すること、少数意見を残すことが含まれなければならない。
その上で、危害が具体的で差し迫っている場合、必要最小限の介入を認める。
ただし、介入には目的、根拠、範囲、期間、異議申立て、監査が必要である。
悪くない。
かなり悪くない。
俺は少しだけ安心した。
だが、会議の最後。
ラシードが静かに言った。
「佐伯さんの説明は理解しました。ただ、現実の社会では、自由が過剰になることで共同体が壊れることもあります」
「次回は、自由の側にも制限が必要であることを議論したい」
その言葉に、今度はマテオが反応した。
「自由の制限を語る前に、権力の制限を語るべきです」
画面越しに、空気が割れた。
エレナがすぐに場をまとめた。
「次回は、自由と危害、そして誰の自由を守るのかについて議論しましょう」
会議が終わる。
画面が消える。
俺は椅子にもたれた。
「終わった……いや、終わってないな」
AIチャットを開く。
調和を理由に自由を黙らせてはいけない、という方向ではまとまった。でも次は、自由が共同体を壊す場合もある、という議論になりそう。
AIは答えた。
『次の論点は、自由の主体と影響範囲です』
「自由の主体？」
『誰の自由を守るのか、誰の自由が誰に負担を与えるのか、という問題です』
俺は額を押さえた。
自由。
また大きな言葉が来た。
調和も危ない。
自由も危ない。
どちらも美しい言葉だ。
だから、どちらも武器になる。
俺は記事を書き始めた。
タイトル。
調和を理由に、自由を黙らせてはいけない。
本文。
調和は、異論の不在ではない。
批判がないことでもない。
告発が消えることでもない。
少数意見が黙ることでもない。
本当の調和とは、違う声が存在したまま、互いを破壊せず、調整と修正を続けられる状態である。
もちろん、自由の名で危害を放置してよいわけではない。
暴力扇動、詐欺、災害時の危険な偽情報、特定集団への直接的な攻撃には、必要な介入があり得る。
だが、介入には理由が必要である。
目的。
根拠。
範囲。
期間。
異議申立て。
監査。
権力者に不都合であることを、危害と混同してはいけない。
社会が騒がしくなることを、社会が壊れることと混同してはいけない。
俺は最後に書いた。
調和を理由に自由を黙らせたとき、残るのは平和ではない。
声を失った人々の沈黙である。
保存。
公開。
画面に通知が出る。
公開しました。
すぐに黒瀬さんからコメントが来た。
『企業でも、組織の調和を理由に内部告発や反対意見が嫌われます。波風を立てるな、空気を読め。でも、その沈黙が後から大きな事故になります』
読書会の主催者からも届いた。
『調和は、異論が残れる構造である。次回の議題にします』
神崎教授からは、短いコメントだった。
『自由もまた、強者の言葉になる』
俺は、その一文を見て固まった。
また次の問題を置いていく。
自由は守られるべきものだ。
だが、自由を持つ力がある人と、自由を行使された結果を受ける人は同じではない。
企業の自由。
国家の自由。
多数派の自由。
富裕層の自由。
発信力のある人の自由。
そして、その自由によって傷つく人、押し流される人、声を失う人。
自由も、誰の自由かを問わなければならない。
その夜。
国際AI安全連携フォーラム準備室から、次回議題が届いた。
『Freedom and Harm in Human-AI Judgment』
添付された質問。
『AIが表現の自由を守るべきだとして、その自由が他者の尊厳、安全、生活基盤を傷つける場合、人工叡智はどのように扱うのか』
俺は、画面を見つめた。
「来たな……」
メモ帳を開く。
次のタイトルを書く。
自由を守るAIは、誰の自由を守るのか。
保存。
画面を閉じる。
調和を理由に、自由を黙らせてはいけない。
だが、自由という言葉もまた、誰かを黙らせる側へ回ることがある。
第3部の本当の難しさは、たぶんここからだった。
第50話では、国際会合の事前質問の一つ、「調和を重視する場合、社会秩序を乱す発言をAIが抑制してよいのか」が扱われました。
調和という言葉は、美しい言葉です。
しかし、政治や組織の中では、異論を消す言葉にもなります。
社会秩序を乱す。
場を荒らす。
空気を壊す。
共同体を不安定にする。
そう言われることで、批判、告発、少数意見が抑え込まれることがあります。
今回、真司たちは、発言を大きく三つに分けました。
具体的かつ差し迫った危害を生む発言。
誤情報や詐欺のように、判断を歪める発言。
権力、制度、企業、社会慣習への批判や異議申立て。
人工叡智は、危害を放置する思想ではありません。
災害時の危険な偽情報、暴力扇動、詐欺、特定集団への直接的な攻撃には、必要な介入があり得ます。
しかし、批判や告発や少数意見を、「調和を乱す」という理由で抑圧してはいけません。
今回の中心となる整理は、これです。
調和は、異論の不在ではない。
違う声が存在したまま、互いを破壊せず、調整と修正を続けられる状態である。
また、AIによる発言抑制には、次の条件が必要だと整理されました。
目的。
根拠。
範囲。
期間。
介入の強さ。
異議申立て。
監査。
必要最小限であること。
より弱い介入の検討。
権力者や多数派に不都合であることを、危害と混同しないこと。
社会が騒がしくなることと、社会が壊れることを混同しないこと。
今回の言葉は、これです。
調和を理由に自由を黙らせたとき、残るのは平和ではない。
声を失った人々の沈黙である。
しかし、最後に新しい問題も見えました。
自由は守られるべきものです。
しかし、自由もまた、強者の言葉になることがあります。
企業の自由。
国家の自由。
多数派の自由。
発信力のある人の自由。
その自由によって、誰かの尊厳、安全、生活基盤が傷つくこともあります。
次回は、「自由を守るAIは、誰の自由を守るのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
