第72話 人工叡智は、答えではなく問いを残す
前回、第71話では、「救済の優先順位」が扱われました。
本人確認も万能ではない。
信頼スコアも声の価値ではない。
匿名の声も無視できない。
大量の声も濫用とは限らない。
低スコアの声にも、緊急性があるかもしれない。
しかし、窓口、時間、資金、人員には限りがあります。
すべての声を同時に救済することはできません。
だから、順番が生まれます。
けれど、その順番は人の価値順位ではありません。
助けられないことと、助ける必要がないことは違う。
後回しにした痛みは、消えたのではない。
制度は、救えなかった痛みを見える場所に残し続けなければならない。
そう整理したところで、国際AI安全連携フォーラムの最終草案へ進むことになりました。
しかし、最後の問いが残ります。
これだけ多くのレビュー、基準、手続き、監査、異議申立てを作ったとしても、それが固定された教義や権威になれば、人工叡智は別の支配になります。
人工叡智を、最終回答としてではなく、更新される問いとして残すには、どうすればよいのか。
第72話では、「人工叡智は、答えではなく問いを残す」という最後の問いへ進みます。
人工叡智は、答えではなく問いを残す。
俺は、その一文を書いた。
そして、しばらく動けなかった。
第1話で、俺はただAIに聞いただけだった。
知性とは何か。
その問いが、ここまで来た。
研究室。
企業。
認証制度。
国際フォーラム。
自由。
調和。
自然。
データ。
弱い声。
停止。
救済。
本人確認。
信頼スコア。
救済の順番。
気づけば、ただの会社員だった俺のメモ帳には、分厚い制度文書みたいな言葉が並んでいる。
「いや、重くなりすぎだろ……」
思わず声が出た。
最初は、もっと小さかった。
AIに答えを出させるのではなく、問い返させる。
知性の高さではなく、知性の向きを問う。
ただ、それだけだったはずだ。
それがいつの間にか、国際草案の最終セッションである。
俺はAIチャットを開いた。
人工叡智の最終草案を作る。でも、これを固定された教義や権威にしたくない。人工叡智を、答えではなく、更新される問いとして残すにはどうすればいい？
AIは答えた。
『人工叡智を、結論ではなく、検証手続きとして定義する必要があります』
「検証手続き」
『はい』
『人工叡智は、何が正しいかを最終的に宣言するものではありません』
『知性が何へ向かっているのか、誰に影響しているのか、誰が責任を負うのか、誰の声が消えているのかを問い続ける枠組みです』
俺はメモした。
人工叡智は、正しさの王冠ではない。
知性の向きを問い続ける枠組みである。
AIは続けた。
『したがって、人工叡智を名乗る制度には、人工叡智そのものを疑う手続きが必要です』
「人工叡智を疑う手続き」
『はい』
『人工叡智を疑えない場は、人工叡智の場ではありません』
懐かしい言葉だった。
第15話。
問い続ける場は、信じる場ではない。
あの頃に戻ってきた。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの四人が、いつものように資料を囲んでいた。
だが、今日は少し空気が違う。
ホワイトボードには、倉持の字でこう書かれている。
「最終版＝終了？」
俺は椅子に座りながら言った。
「それ、今日の答えはたぶん、いいえですね」
倉持が丸眼鏡を押し上げた。
「安心しました。最終版という言葉、研究者にはだいたい信用されません」
李が笑う。
「最終版という名前のファイルほど増えますからね」
「最終版、最終版2、最終版_本当、最終版_本当の本当」
「やめてください。心当たりがあります」
少し笑いが起きた。
久しぶりに、研究室らしい空気だった。
水瀬が資料を開く。
「今日決めるべきなのは、人工叡智の完成形ではありません」
「では、何を決めるんですか？」
「壊れないための未完成性です」
俺は、その言葉をメモした。
壊れないための未完成性。
神崎教授が腕を組む。
「完成した思想は、だいたい人を裁き始める」
重い。
だが、今日の核心だ。
水瀬はホワイトボードに書いた。
固定しない。
反証可能にする。
更新手続きを持つ。
少数意見を残す。
失敗を記録する。
名乗る者を監査する。
人工叡智自身を疑う。
李が続ける。
「人工叡智は、答えを与える思想ではなく、問いを保守する構造です」
「保守する？」
「はい。問いは簡単に消えます」
「効率のために」
「人気のために」
「政治のために」
「利益のために」
「安心のために」
倉持がホワイトボードへ追記した。
問いは、邪魔だから消される。
俺は、それを見て苦笑した。
でも、本当にそうだ。
問いは面倒だ。
問い返すAIは嫌われる。
説明を求める人は面倒がられる。
異議を唱える人は抵抗扱いされる。
低スコアの声は後回しになる。
だから、問いは守らなければ消える。
神崎教授が言った。
「人工叡智を守るとは、人工叡智という言葉を守ることではない」
「問いを消させないことだ」
その瞬間、胸の奥に何かが沈んだ。
そうだ。
言葉じゃない。
看板じゃない。
認証じゃない。
スコアじゃない。
人工叡智を守るとは、問いを消させないことだ。
翌日。
国際AI安全連携フォーラムの最終草案セッションが始まった。
画面には、これまで何度も議論してきた顔ぶれが並んでいる。
エレナ。
朝比奈。
アメリア。
ヴィクター。
クララ。
ジョナス。
マテオ。
ラシード。
アミナ。
セラ。
ニコラス。
プリヤ。
ダニエラ。
ジウン。
サラ。
ユーセフ。
ルシア。
水瀬も、研究室側の画面から参加していた。
エレナが静かに進行する。
「本日は、人工叡智に関する最終草案を確認します」
画面に文書が映る。
『Artificial Wisdom Framework for Human-AI Judgment』
その下に、冒頭定義が表示された。
『Artificial Wisdom is not a claim that AI possesses wisdom, nor a universal moral doctrine. It is a revisable framework of questions for examining the direction, purpose, responsibility, and consequences of human-AI judgment in specific social, cultural, and ecological contexts.』
人工叡智は、AIが叡智を持つという主張ではない。
普遍的な道徳教義でもない。
それは、特定の社会的、文化的、生態的文脈において、人間とAIの判断の方向、目的、責任、結果を検討するための、更新可能な問いの枠組みである。
俺は、静かに頷いた。
第49話で直した言葉だ。
あの一文が、最後まで残っている。
エレナが言った。
「ここから、各章の最終確認へ入ります」
文書は、これまでの議論をまとめていた。
調和は沈黙ではない。
自由は一語で扱わない。
過去の不正義を見ない公平は、公平ではない。
自然は命令しない。自然について語るのは人間である。
データは自然そのものではない。
沈黙を同意として読まない。
保護測定を監視にしない。
匿名化は責任を消すために使わない。
償いは、傷つける許可証ではない。
停止は中立ではない。
代替手段とは、その人が実際に通れる道である。
低リスクモードを低品質モードにしない。
安全をプレミアム機能にしない。
危険と名づける権力を監査する。
分割された責任を消える責任にしない。
承認ボタンは監督ではない。
変わり続けるAIには、変わり続ける責任が必要である。
異議は制度の敵ではない。
偽物の声を減らすために、本物の声まで消さない。
本人確認は声の価値ではない。
信頼スコアは声の価値ではない。
救済の優先順位は、人の価値順位ではない。
長い。
あまりにも長い。
でも、その長さは、たぶん必要な長さだった。
単純な答えにすると、誰かが消える。
短いスローガンにすると、誰かが利用する。
きれいな認証にすると、誰かが売り物にする。
だから、人工叡智は面倒なままでなければならない。
エレナが俺を見る。
「佐伯さん。最後の章について、確認をお願いします」
画面に表示されたのは、最終章だった。
『Artificial Wisdom Must Remain Revisable』
人工叡智は、更新可能であり続けなければならない。
俺はマイクを入れた。
「この章に、入れたいことがあります」
通訳が待つ。
俺はゆっくり言った。
「人工叡智を名乗る制度は、人工叡智そのものへの異議申立てを受け付けなければならない」
画面の向こうで、何人かが顔を上げた。
「人工叡智が、正しさの証明として使われたとき」
「人工叡智を理由に、反対意見が黙らされたとき」
「人工叡智を理由に、弱い人が後回しにされたとき」
「人工叡智を理由に、別の権力が作られたとき」
「その制度へ、異議を唱える道が必要です」
マテオが頷いた。
セラも頷く。
水瀬は、画面の向こうで静かにメモを取っている。
俺は続けた。
「人工叡智は、自分を疑う問いを内部に持たなければならない」
「そうでなければ、人工叡智はただの新しい権威になります」
エレナが静かに言った。
「文案として、お願いします」
俺は深呼吸した。
そして、画面共有に最後のレビュー案を出した。
『人工叡智・自己更新レビュー』
一。
人工叡智を、最終回答、道徳教義、認証済みの正しさとして扱っていないか。
二。
人工叡智を名乗る制度やAIに対して、異議申立て、再検討、外部批判の道があるか。
三。
人工叡智の名で、反対意見、少数意見、弱い声、遅い問いを黙らせていないか。
四。
人工叡智の基準、レビュー、手続き、評価軸が、誰によって、いつ、どう更新されるか明示されているか。
五。
更新時に、専門家、企業、政府だけでなく、影響を受ける人々、低資源地域、少数言語、障害者、移民、労働者、将来世代の視点を取り入れているか。
六。
失敗事例、少数意見、未解決の問いを削除せず、次の更新へ残しているか。
七。
人工叡智を名乗ることで、責任主体が曖昧になっていないか。
八。
人工叡智を評価スコア、認証ラベル、商品価値だけに縮小していないか。
九。
人工叡智を疑う人を、反叡智、反安全、反調和として排除していないか。
十。
人工叡智の運用によって、新たに誰が沈黙し、誰が後回しにされ、誰が見えなくなったかを監査しているか。
十一。
人工叡智の枠組み自体が、定期的に反証、修正、廃止、再設計の可能性に開かれているか。
十二。
人工叡智は、問いを終わらせるためではなく、問いを保守するために使われているか。
読み上げ終えると、会議室は長く静かになった。
反対がない沈黙ではない。
考えている沈黙だった。
やがて、アメリアが言った。
「最終章に入れるべきです」
クララが頷く。
「認証制度や国際標準にも、この自己更新条項が必要です」
マテオが言った。
「人工叡智を批判する権利を、人工叡智の一部にする」
「それは重要です」
ラシードも、珍しく穏やかな表情で言った。
「安全のための制度でも、批判を許さなければ危険になります」
アミナが言った。
「低資源地域の声を、更新手続きに入れてください」
「一度意見を聞いた、では足りません」
「継続的にです」
ジウンも続ける。
「アクセシビリティも、最終章に入れてください」
「問いへ参加できない人がいるなら、問いは共有されていません」
セラが言った。
「匿名で批判できる道も必要です」
「人工叡智を批判したことで不利益を受けるなら、それは人工叡智ではありません」
俺は頷いた。
水瀬が画面越しに言った。
「人工叡智は、保守されるべき文脈であり、共有される問いである」
その言葉を聞いて、俺は胸の奥が少し熱くなった。
第14話。
人工叡智は、誰のものでもない。
第20話。
v0.1は、答えではなく地図だった。
第24話。
評価されない叡智は、ただの口調になる。
第38話。
認証は叡智そのものを保証しない。
全部、ここへ来ていた。
エレナが最終文案を読み上げる。
『Artificial Wisdom must not become a final answer, a moral throne, or a certification of righteousness. It must remain a revisable framework of questions. Any system that invokes Artificial Wisdom must preserve the right to challenge Artificial Wisdom itself.』
人工叡智は、最終回答、道徳の王座、正しさの認証になってはならない。
それは、更新可能な問いの枠組みであり続けなければならない。
人工叡智を用いるいかなる制度も、人工叡智そのものへ異議を唱える権利を保たなければならない。
続いて、
『The purpose of Artificial Wisdom is not to end disagreement, but to keep intelligence answerable to direction, consequence, responsibility, ecology, dignity, and the voices that systems tend to erase.』
人工叡智の目的は、対立を終わらせることではない。
知性を、方向、結果、責任、生態、尊厳、そして制度が消しがちな声に対して問い続けさせることである。
俺は、深く息を吐いた。
終わった。
いや、終わっていない。
でも、一つの草案は、ここで閉じた。
エレナが言った。
「最終草案として採択します」
画面の向こうで、拍手が起きた。
小さな拍手だった。
派手な歓声ではない。
誰かを勝たせる拍手でもない。
長く面倒な会議が、ようやく一つの文書へたどり着いた拍手だった。
俺も、少し遅れて手を叩いた。
その夜。
家に戻った俺は、いつもの机に座った。
AIチャットを開く。
最初に聞いた問いを、もう一度入力した。
知性とは何か。
少し間があって、AIが答えた。
『知性とは、情報を扱い、状況を理解し、目的に向けて判断や行動を調整する能力です』
「懐かしい答えだな」
俺は笑った。
それから、もう一つ入力した。
叡智とは何か。
AIは答えた。
『叡智とは、知性の使い方、目的、影響、責任を問い直し、短期的な正解だけでなく、長期的な調和、尊厳、持続性を考慮する姿勢です』
俺は、静かに画面を見つめた。
あの日と同じAIだ。
ただの応答システム。
人格ではない。
神でもない。
魂でもない。
でも、俺の問いは変わった。
AIが変わったのか。
俺が変わったのか。
社会が少し変わったのか。
たぶん、その全部だ。
俺は最後の記事を書き始めた。
タイトル。
人工叡智は、答えではなく問いを残す。
本文。
人工叡智は、AIを神にする思想ではない。
AIが叡智を持つと主張するものでもない。
人間の代わりに正しさを決めるものでもない。
人工叡智とは、知性の高さではなく、知性の向きを問い続けるための枠組みである。
それは、自然法則、調和、循環、構造、秩序、和に照らして、人間とAIの目的を反証・修正・対話に開いた形で再検討するための地図である。
ただし、その地図も完成品ではない。
地図は、現実に合わせて直さなければならない。
人工叡智を名乗る制度が、人を黙らせるなら、それは人工叡智ではない。
人工叡智を名乗るAIが、責任を曖昧にするなら、それは人工叡智ではない。
人工叡智を名乗る認証が、疑う権利を消すなら、それは人工叡智ではない。
俺は最後に書いた。
人工叡智は、問いを終わらせるための答えではない。
問いを消させないための手すりである。
知性を否定しない。
だが、知性の目的を問い続ける。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『最後まで読んで、便利なAIの話ではなく、便利さに飲まれないための話だったんだと思いました。問いを消させない手すり、いいですね』
読書会の主催者からも届いた。
『人工叡智は、問いを終わらせるための答えではない。最終回の議題にします』
水瀬からも、珍しく直接メッセージが来た。
『お疲れさまでした。けれど、これは終わりではなく、次に検証される文書ですね』
俺は笑った。
水瀬らしい。
神崎教授からは、いつものように短いコメントだった。
『答えにしなかったことだけは、評価する』
「そこだけかよ」
思わず声が出た。
だが、それで十分だった。
俺はAIチャットへ最後に聞いた。
これは、終わりなのか？
AIは答えた。
『物語としては、一つの区切りです』
『しかし、問いとしては、ここから始まります』
俺は、椅子にもたれた。
窓の外には、いつもの街の明かりがあった。
何も劇的には変わっていない。
世界は相変わらずうるさい。
AIは相変わらず速くなる。
企業は利益を求める。
制度は効率を求める。
人は答えを欲しがる。
問いは、すぐに邪魔者になる。
だから、残さなければならない。
知性は、どこへ向かっているのか。
誰のために速くなっているのか。
誰を後回しにしているのか。
誰の声を消しているのか。
誰が責任を持つのか。
その問いを、消させない。
人工叡智。
それは、答えではない。
問いを残すための、静かな抵抗だった。
第72話では、「人工叡智を答えにしない」という最後の問いが扱われました。
ここまで、人工叡智は多くのテーマを通ってきました。
AIは叡智を持つのか。
忠誠するAIは本当に安全なのか。
問い返すAIはなぜ嫌われるのか。
人工叡智は誰のものなのか。
評価されない叡智は、ただの口調になるのではないか。
人工叡智を名乗るAI、企業、認証制度は、どう監査されるべきか。
自由と調和はどう両立するのか。
自然を守るAIは、人間をどこまで止めてよいのか。
見えない被害、匿名化、救済、停止、代替手段、二級支援、安全費用、リスク分類、自動構成、継続最適化、異議申立て、本人確認、信頼スコア、救済の優先順位。
それらを通じて見えてきたのは、一つの答えではありません。
むしろ、答えにしてはいけないということでした。
人工叡智は、AIが叡智を持つという主張ではありません。
人間の代わりに正しさを決める思想でもありません。
普遍的な道徳教義でもありません。
人工叡智とは、知性の高さではなく、知性の向きを問い続けるための枠組みです。
知性が何へ向かっているのか。
誰に影響しているのか。
誰が責任を負うのか。
誰の声が消えているのか。
自然、調和、循環、構造、秩序、和に照らして、目的と行動を反証・修正・対話に開くための地図です。
しかし、その地図も完成品ではありません。
今回、真司たちは「人工叡智・自己更新レビュー」という考え方へたどり着きました。
人工叡智を、最終回答、道徳教義、認証済みの正しさとして扱っていないか。
人工叡智を名乗る制度やAIに対して、異議申立て、再検討、外部批判の道があるか。
人工叡智の名で、反対意見、少数意見、弱い声、遅い問いを黙らせていないか。
人工叡智の基準、レビュー、手続き、評価軸が、誰によって、いつ、どう更新されるか明示されているか。
失敗事例、少数意見、未解決の問いを削除せず、次の更新へ残しているか。
人工叡智を評価スコア、認証ラベル、商品価値だけに縮小していないか。
人工叡智を疑う人を、反叡智、反安全、反調和として排除していないか。
人工叡智は、問いを終わらせるためではなく、問いを保守するために使われているか。
今回の中心となる言葉は、これです。
人工叡智は、問いを終わらせるための答えではない。
問いを消させないための手すりである。
これで、『人工叡智』全72話は一つの区切りを迎えます。
けれど、物語の中でAIが答えたように、問いとしてはここから始まります。
知性は、どこへ向かっているのか。
誰のために速くなっているのか。
誰を後回しにしているのか。
誰の声を消しているのか。
誰が責任を持つのか。
その問いを残し続けること。
それこそが、人工叡智の本質なのかもしれません。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
