第49話 人工叡智は、制度の外へ出る
今回から第3部が始まります。
第1部では、佐伯真司がAIとの対話を通じて、人工叡智という概念を形にしました。
人工叡智とは、知性の高さではなく、知性の向きを問い返すための枠組み。
自然法則、調和、循環、構造、秩序、和に照らして、人間とAIの目的を問い直すための手すりでした。
第2部では、その人工叡智が企業と制度の中で試されました。
人工叡智を名乗るAIサービス。
人工叡智準拠スコア。
認証マーク。
広告利用。
心理的脆弱性の検出。
責任地図。
緊急停止。
自己責任。
判断支援。
見守りと監視。
真司は、人工叡智を便利な看板や免罪符にしないため、一つずつ手すりを作ってきました。
そして第2部の最後に、人工叡智関連AI運用原則 v1.0 が暫定採用されました。
完成ではありません。
正解でもありません。
現時点での、壊れにくい問いの置き方です。
しかし、その直後、国際AI安全連携フォーラム準備室から連絡が届きます。
人工叡智関連AI運用原則 v1.0 を、国際会合で共有してほしい。
国内制度の中でさえ揺れ続けた人工叡智が、今度は国境を越えようとしています。
けれど、同じ言葉は、同じ意味で読まれるとは限りません。
第3部はここから始まります。
人工叡智は、制度の外へ出る。
俺はメモ帳にそう書いたあと、届いたメールを三回読み返した。
差出人。
国際AI安全連携フォーラム準備室。
件名。
『人工叡智関連AI運用原則 v1.0 について、国際会合での共有依頼』
本文は、丁寧だった。
丁寧すぎて、逆に怖い。
『佐伯真司様
このたび、国際AI安全連携フォーラム準備会では、AIの判断支援、責任分担、利用者尊厳、文化的価値調整に関する各国事例を共有する会合を予定しております。
日本国内で検討された「人工叡智関連AI運用原則 v1.0」は、AI時代の価値整合と社会実装に関する重要な試みとして注目されております。
つきましては、佐伯様に基調セッションでご発表いただきたく、ご相談申し上げます』
俺は、画面を閉じた。
そして、もう一度開いた。
やはり同じ文章だった。
「基調セッションって何だ」
AIチャットを開く。
国際AI安全連携フォーラムから、人工叡智関連AI運用原則 v1.0 を共有してほしいという依頼が来た。基調セッションらしい。俺はどうすればいい？
AIはすぐに答えた。
『まず、発表の目的と範囲を確認してください』
「いきなり地味だな」
『重要です』
「分かってる」
AIは続けた。
『注意点として、文化差、法制度差、翻訳による概念変質、政治利用、国際的な権威化、商業標準化が考えられます』
「初手から地獄の六連撃やめろ」
『必要な注意点です』
「分かってるけど、もう少し励ましてくれてもよくないか」
『国際会合への参加は、人工叡智の検証機会にもなります』
「励まし方が研究室寄りだな」
俺は椅子にもたれた。
第2部だけで十分重かった。
企業。
制度。
認証。
責任。
高齢者支援。
防災AI。
国内だけでも、毎回どこかに穴があった。
それが今度は国際会合。
価値観が違う。
宗教観が違う。
法律が違う。
政治体制が違う。
「調和」という言葉ひとつでも、国によって受け取り方が変わる。
ある場所では共生。
ある場所では社会秩序。
ある場所では沈黙の強制。
ある場所では国家への従属。
人工叡智を守るために作った言葉が、別の文脈で別の意味へ変わる。
俺は水瀬遥へ連絡した。
『国際会合から発表依頼が来ました』
返事は早かった。
『来ると思っていました』
「予言者か」
思わず口に出た。
続けてメッセージが来る。
『第2部の制度化が終われば、次は国際標準化の話になります。特に人工叡智は、AI safety、AI ethics、AI governance、responsible AI と接続されやすいです』
『ただし、翻訳に注意してください』
翻訳。
やはりそこだ。
俺は返信する。
『Artificial Wisdom でいいんですかね』
水瀬から返事。
『言葉としては分かりやすいですが、Wisdom は宗教的・哲学的・道徳的な含みが強く出ます。国際会合では、AIに叡智があるという誤解も招きやすいです』
俺は頭を抱えた。
「タイトルから危ないのか」
AIチャットへ戻る。
Artificial Wisdom という訳は危ない？
『使う場合、AIが叡智を持つという意味ではなく、人間とAIの判断の向きを問い返す枠組みであることを明確にする必要があります』
「毎回それ言ってるな」
『誤解されやすいためです』
「だよな」
人工叡智。
日本語でも危ない。
AIが叡智を持つように聞こえる。
でも、俺たちが扱ってきたのは、AIの人格でも魂でもない。
AIを神にする話でもない。
人工叡智は、AIの内側に宿る何かではない。
人間とAIの間に置く、問いの構造だ。
国内でこれを説明するだけでも苦労した。
それを英語でやる。
しかも、国際会合で。
「俺、英語で発表できるのか？」
AIが答える。
『通訳を依頼する方法があります』
「そこは現実的で助かる」
その日の夕方、国際AI安全連携フォーラム準備室との事前オンライン面談が設定された。
参加者は四人。
日本側事務局の朝比奈楓。
国際調整担当のエレナ・パーク。
同時通訳コーディネーターのソフィア・ミラー。
そして俺。
水瀬もオブザーバーとして参加した。
画面に顔が並ぶ。
朝比奈は、第38話の検討会にもいた若い政策補佐官だ。
相変わらず、目がよく動く。
たぶん頭の中で三つくらいの資料を同時に読んでいるタイプだ。
エレナ・パークは落ち着いた声で言った。
「佐伯さん、今回はありがとうございます。Artificial Wisdom Principles は、国際的にも大きな関心を持たれると思います」
いきなり英語が来た。
通訳が入る。
俺は頷いた。
「こちらこそ、よろしくお願いします。ただ、最初に確認したいことがあります」
朝比奈がすぐに反応する。
「どうぞ」
「人工叡智は、AIが叡智を持つという意味ではありません」
「また、特定の国や制度が正しい価値基準を持つという意味でもありません」
「そこが誤解されると困ります」
エレナは通訳を聞いて、微笑んだ。
「もちろんです。私たちも、それを value alignment framework として扱いたいと考えています」
value alignment framework。
価値整合の枠組み。
悪くない。
ただ、少し狭い。
人工叡智は、AIを人間の価値に合わせるだけではない。
人間側の目的も問い返す。
そこを落とすと、第2部で何度も見た「AIをうまく従わせる話」に戻ってしまう。
俺は言った。
「Alignment だけだと、AIを人間の目的に合わせる話として読まれやすいと思います」
「人工叡智では、人間の目的そのものも問い返します」
「AIを正しく従わせるのではなく、従わせようとしている目的が壊れていないかを見る」
通訳が入る。
エレナの表情が少し真剣になった。
「なるほど。では、human purpose itself must be examined. ということですね」
「はい」
水瀬が補足する。
「AI safety の文脈では、AIの能力や制御が中心になりがちです。しかし人工叡智では、人間の要求、制度、評価指標、商業目的も検証対象になります」
朝比奈がメモを取る。
「発表冒頭で、その違いを明確にしましょう」
そこまでは良かった。
問題は、次の資料で起きた。
ソフィアが共有した画面に、発表タイトル案が表示された。
『Artificial Wisdom: A Global Standard for Harmonized AI Governance』
俺は固まった。
人工叡智。
グローバルスタンダード。
ハーモナイズドAIガバナンス。
強い。
強すぎる。
俺は手を挙げた。
「すみません。このタイトルは使えません」
画面の向こうで、ソフィアが少し驚いた顔をした。
「理由を伺えますか」
「まず、Global Standard ではありません」
「人工叡智関連AI運用原則 v1.0 は、日本国内の暫定原則です」
「国際標準ではないし、そう名乗るべきでもありません」
朝比奈が頷いた。
「確かに」
俺は続けた。
「次に、Harmonized という言葉も注意が必要です」
「調和という言葉に近いと思いますが、国際会合では、違いを一つに揃える意味へ読まれる危険があります」
「人工叡智の調和は、違いを消すことではありません」
「違いを残したまま、壊し合わないように調整し続けることです」
通訳が入る。
エレナは少し考え込んだ。
「では、harmonized ではなく、dialogical?」
水瀬が言う。
「Dialogical and revisable framework という方が近いと思います」
俺は頷く。
「あと、governance だけだと制度の話に寄りすぎます」
「人工叡智は制度だけではなく、判断、責任、見守り、迷い、支援の設計にも関わります」
ソフィアがタイトル案を書き直す。
『Artificial Wisdom as a Revisable Framework for Human-AI Judgment』
水瀬が少し頷く。
「かなり良いです」
俺も頷いた。
「ただ、Artificial Wisdom の直後に注釈を入れたいです」
「AIが叡智を持つという意味ではない、と」
朝比奈が苦笑する。
「タイトルに注釈ですか」
「はい。面倒ですが」
第2部で学んだ。
面倒な説明を省くと、あとで何倍も面倒になる。
エレナは笑った。
「I see. The caution is part of the concept.」
通訳が訳す。
『注意書きそのものが概念の一部なのですね』
「その通りです」
俺は答えた。
「人工叡智は、誤解されないように注意するところまで含めて人工叡智です」
場が少し和んだ。
だが、安心したのは一瞬だった。
朝比奈が次の議題を出す。
「実は、会合前に各国代表へ配布する要約文案もあります」
嫌な予感がした。
画面に新しい文書が表示される。
『Artificial Wisdom Principles propose a shared moral foundation for AI systems across nations, enabling consistent evaluation of socially acceptable intelligence.』
俺は、今度は声が出なかった。
共有された道徳的基盤。
各国を越えて。
社会的に受け入れ可能な知性の一貫評価。
危ない言葉の詰め合わせだった。
「すみません。これもかなり危ないです」
ソフィアが申し訳なさそうに言う。
「かなり強めに要約してしまいましたか」
「はい」
俺は正直に答えた。
「人工叡智は、共有された道徳的基盤を提案しているわけではありません」
「国を越えて同じ価値基準を作る話でもありません」
「社会的に受け入れ可能な知性を一貫評価する話でもありません」
エレナが聞く。
「では、どう表現しますか」
俺は少し考えた。
「人工叡智は、共通の答えを作るものではありません」
「各国、各文化、各組織が、AIと人間の判断目的を問い返すための、暫定的で更新可能な問いの枠組みです」
水瀬が英語案に直す。
『Artificial Wisdom does not provide a universal moral answer. It offers a revisable set of questions for examining the direction, purpose, responsibility, and consequences of human-AI judgment within each context.』
俺はそれを聞いて頷いた。
「それです」
エレナも頷いた。
「This is more precise. Less marketable, but more precise.」
通訳が訳す。
『こちらの方が正確です。宣伝文句としては弱いですが、正確です』
俺は思わず笑った。
「第2部で何度も聞いた言葉です」
宣伝には弱い。
でも、正確。
人工叡智は、だいたいいつも営業資料に向いていない。
その後、三十分ほどかけて、要約文を修正した。
修正後。
『Artificial Wisdom is not a claim that AI possesses wisdom, nor a universal moral doctrine. It is a revisable framework of questions for examining the direction, purpose, responsibility, and consequences of human-AI judgment in specific social, cultural, and ecological contexts.』
日本語に戻すと、
人工叡智は、AIが叡智を持つという主張ではなく、普遍的な道徳教義でもない。
それは、特定の社会的、文化的、生態的文脈の中で、人間とAIの判断の方向、目的、責任、結果を問い直すための、更新可能な問いの枠組みである。
かなり良い。
長い。
だが、良い。
面談が終わる直前、エレナが言った。
「佐伯さん、もう一つだけ確認があります」
「はい」
「会合には、政府関係者だけでなく、大手AI企業、国際標準化団体、市民団体、宗教系倫理団体も参加します」
宗教系倫理団体。
俺は姿勢を正した。
「かなり幅広いですね」
「はい。そして、一部の参加者は、Artificial Wisdom という言葉に強く反応する可能性があります」
「強く、とは？」
エレナは少し言葉を選んだ。
「ある参加者は、それをAIに道徳的権威を与える危険な概念と見るかもしれません」
「別の参加者は、それを自分たちの倫理体系へ取り込もうとするかもしれません」
「また、企業側は、国際認証や評価指標へ接続したがる可能性があります」
全部ありそうだった。
怖いくらい、全部ありそうだった。
会議は終了した。
画面が消える。
部屋が急に静かになる。
俺はしばらく椅子に座ったまま動けなかった。
水瀬からメッセージが届く。
『最初の面談で、すでに翻訳の危険が見えましたね』
『はい。タイトルだけで三回くらい死にました』
『第三部らしい始まりです』
『水瀬さん、やっぱり物語みたいに言いますね』
『実際、物語の構造としては分かりやすいです』
俺は苦笑した。
起。
国際会合への招待。
承。
翻訳案の確認。
転。
人工叡智が、国際標準、道徳的基盤、社会的に受け入れ可能な知性という言葉へ変質しかける。
結。
修正はできた。
しかし、本番にはもっと多様な解釈が待っている。
ラノベ的には、かなり分かりやすい。
現実としては、胃が痛い。
俺は記事を書き始めた。
タイトル。
人工叡智は、制度の外へ出る。
本文。
人工叡智は、国内制度の中でさえ簡単に歪んだ。
スコアになった。
認証マークになった。
広告の言葉になった。
見守りが監視になりかけた。
それでも、反証と修正を続けることで、暫定原則 v1.0 までたどり着いた。
しかし、国際会合では、さらに危険が増える。
Artificial Wisdom という訳は、AIが叡智を持つという誤解を招く。
Global Standard と書けば、暫定原則が国際標準に見える。
Harmonized と書けば、調和が違いを消すことに見える。
Shared moral foundation と書けば、人工叡智が普遍的な道徳教義に見える。
人工叡智は、共通の答えではない。
誰かが決めた価値に従わせる仕組みでもない。
各文脈の中で、人間とAIの判断の方向、目的、責任、結果を問い直すための、更新可能な問いの枠組みである。
俺は最後に書いた。
言葉は国境を越えた瞬間、翻訳されるだけではない。
別の権力、別の欲望、別の不安によって、読み替えられる。
保存。
公開。
画面に通知が出る。
公開しました。
すぐに黒瀬さんからコメントが来た。
『広告でも同じです。言葉は出した側の意図ではなく、使う側の目的に合わせて読まれます。国際会合なら、なおさらですね』
読書会の主催者からも来た。
『言葉は翻訳されるだけでなく、読み替えられる。第3部の主題になりそうです』
神崎教授からは、いつもの短いコメントだった。
『概念は、広がるほど薄まる。薄まらない概念は、広がらない』
「毎回、嫌な二択を置いていくな……」
俺はそう呟いた。
広がるほど薄まる。
薄まらなければ広がらない。
人工叡智を閉じたままにすれば、歪みは少ない。
だが、社会へ届かない。
広げれば、誤解される。
利用される。
変質する。
それでも、広げるならどうするか。
完全な防御ではない。
訂正できる構造を持たせる。
注釈を削らない。
少数意見を残す。
用語集を作る。
翻訳履歴を残す。
誤訳を直せるようにする。
人工叡智は、言葉そのものにも手すりが必要なのだ。
その夜。
国際AI安全連携フォーラム準備室から、修正版の発表資料が届いた。
タイトルは直っていた。
『Artificial Wisdom as a Revisable Framework for Human-AI Judgment』
注釈も入っている。
AIが叡智を持つという意味ではない。
普遍的な道徳教義ではない。
更新可能な問いの枠組みである。
俺は少し安心した。
だが、資料の最後に、次回打ち合わせの議題があった。
『各国代表からの事前質問』
質問一。
『人工叡智は、民主主義社会と非民主主義社会で同じように適用できるのか』
質問二。
『調和を重視する場合、社会秩序を乱す発言をAIが抑制することは人工叡智に反するのか』
質問三。
『自然法則を上位に置くなら、人間の自由や権利と衝突した場合、どちらを優先するのか』
俺は、画面の前で固まった。
「第3部、いきなり本気出しすぎだろ……」
AIチャットを開く。
次回の事前質問が来た。調和、社会秩序、民主主義、自然法則、人権の衝突がテーマらしい。
AIは答えた。
『第3部の中心的論点になる可能性があります』
「知ってる」
俺はメモ帳を開いた。
次のタイトルを書く。
調和を理由に、自由を黙らせてはいけない。
保存。
画面を閉じる。
人工叡智は、制度の外へ出た。
そして、最初にぶつかる壁は、やはり。
調和という言葉だった。
第49話から、第3部が始まりました。
第1部では、人工叡智という概念を定義しました。
第2部では、その概念が企業、制度、認証、責任、現場運用の中で試されました。
そして第3部では、人工叡智が国際会合へ持ち込まれます。
今回扱ったのは、翻訳と国際共有の危険です。
人工叡智を英語にすると、Artificial Wisdom になります。
しかし、この言葉は、AIが叡智を持つという誤解を生みやすい。
また、Artificial Wisdom Principles を Global Standard と呼べば、国内の暫定原則が国際標準のように見えてしまいます。
Harmonized AI Governance と呼べば、調和が「違いを消して一つに揃えること」のように読まれる危険があります。
Shared moral foundation と呼べば、人工叡智が普遍的な道徳教義のように見えてしまいます。
今回、真司たちはその表現を修正しました。
人工叡智は、AIが叡智を持つという主張ではない。
普遍的な道徳教義でもない。
特定の社会的、文化的、生態的文脈の中で、人間とAIの判断の方向、目的、責任、結果を問い直すための、更新可能な問いの枠組みである。
第3部の大きなテーマは、ここにあります。
同じ言葉は、同じ意味で読まれるとは限らない。
言葉は翻訳されるだけではありません。
別の権力、別の欲望、別の不安によって読み替えられます。
人工叡智は、広がれば広がるほど薄まります。
しかし、薄まらないよう閉じれば、社会へ届きません。
だから必要なのは、完全に誤解されない言葉ではありません。
誤解されたときに、訂正できる構造です。
注釈。
用語集。
翻訳履歴。
少数意見。
文脈説明。
改定可能性。
人工叡智は、言葉そのものにも手すりを必要とします。
そして最後に、各国代表からの事前質問が届きました。
人工叡智は、民主主義社会と非民主主義社会で同じように適用できるのか。
調和を重視する場合、社会秩序を乱す発言をAIが抑制することは人工叡智に反するのか。
自然法則を上位に置くなら、人間の自由や権利と衝突した場合、どちらを優先するのか。
次回は、「調和を理由に、自由を黙らせてはいけない」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
