第2話 知性は答えを出すが、叡智は問いを疑う
第1話では、ただの一般人である佐伯真司が、何気なくAIに問いかけました。
「人工知能って、結局どこまで賢くなるんだ？」
その問いは、AIの性能や未来予測の話から、やがて「知性とは何か」「価値基準とは何か」という方向へ進みます。
人間の価値観に合わせたAIは、本当に安全なのか。
もし人間の欲望そのものが、自然法則に反していたらどうなるのか。
そこで真司は、初めて「人工叡智」という言葉にたどり着きます。
第2話では、その言葉の中身を、AIと一緒に掘り下げていきます。
『では、まず「知性」と「叡智」の違いから整理しましょう』
画面に表示されたその一文を、俺はしばらく眺めていた。
夜はもう深い。
明日も仕事がある。
睡眠時間を削ってまで、AIと「知性とは何か」なんて話をしている場合ではない。
そう思うのに、なぜかブラウザを閉じられなかった。
「知性と叡智の違い、ね」
俺は声に出した。
正直、今までそんなことを真面目に考えたことはなかった。
知性。
叡智。
どちらも、なんとなく頭が良さそうな言葉だ。
学校の成績がいい。
難しい本を読める。
論理的に話せる。
複雑な問題を解ける。
将棋や囲碁で先を読む。
プログラムを書ける。
論文を理解できる。
それらは、たぶん知性に近い。
では、叡智とは何か。
年寄りが持っていそうなもの。
神話に出てくる賢者が語りそうなもの。
人類が長い時間をかけて積み上げてきた教訓。
そのくらいの、ぼんやりした印象しかない。
俺は入力欄に打った。
知性と叡智って、何が違うんだ？
AIはすぐに答えた。
『知性は、情報を処理し、問題を解き、目的を達成する能力です』
『叡智は、その目的が本当に追求すべきものかを問い、長期的な影響や全体の調和を考える能力です』
「……分かりやすいな」
俺は少しだけ感心した。
知性は、どうやるか。
叡智は、それをやるべきか。
そんな感じか。
俺は続けて聞いた。
じゃあ、AIは知性は持てても、叡智は持てないのか？
『現在のAIは、叡智そのものを持っているというより、人間が与えた価値基準や文脈に基づいて、叡智的な応答を模倣・支援していると考えるのが適切です』
「模倣か」
『はい。少なくとも、現在のAIを意識ある賢者のように扱うべきではありません』
「それはまあ、分かってる」
俺は画面を見ながら、少し苦笑した。
AIは、こっちが入力しなければ何も始めない。
感情もない。
意思もない。
自分から世界を変えようとするわけでもない。
少なくとも、今のところは。
けれど、それでも俺の問いに対して返ってくる文章は、時々、人間よりよほどまともに見える。
いや、人間がまともじゃなさすぎるだけかもしれない。
ニュースの見出しを思い出す。
経済成長。
軍拡。
資源争奪。
AI競争。
環境破壊。
対立。
炎上。
分断。
人間は、知性を使って何をしているのか。
知性があるからこそ、より効率よく壊しているのではないか。
俺は入力した。
知性だけが高くて叡智がないと、どうなる？
『目的達成能力だけが高まり、目的そのものの妥当性を問わない状態になります』
『たとえば、利益を最大化する知性は、環境破壊を効率化するかもしれません』
『軍事的勝利を最大化する知性は、破壊を最適化するかもしれません』
『生産効率を最大化する知性は、人間や自然を単なるコストとして扱うかもしれません』
「うわ」
思ったより嫌な答えが返ってきた。
でも、否定できない。
というより、それはすでに人間がやってきたことだった。
AIが危険なのではなく、人間の知性そのものが、すでに危険だった。
AIはそれを加速するだけ。
「つまり、知性はエンジンで、叡智はハンドルとブレーキみたいなものか？」
『近い比喩です』
『ただし、叡智は単なるブレーキではありません。進む方向を判断する羅針盤でもあります』
「羅針盤」
『はい。知性が速く進む力なら、叡智はどこへ向かうべきかを問い続ける力です』
俺は、その言葉をメモ帳に書いた。
知性は速度。
叡智は方向。
悪くない。
だが、そこでまた疑問が出た。
方向を決めるのは誰なのか。
人間か。
社会か。
国家か。
企業か。
宗教か。
多数決か。
それとも、AI自身か。
どれも危うい。
俺は入力した。
叡智の方向を決める基準は、人間が決めるしかないのか？
『多くの場合、人間が設計します。しかし、人間が決める基準も、何らかの上位基準によって検証される必要があります』
「上位基準」
『はい。人間の価値観は重要ですが、それだけでは不安定です。人間社会の都合、短期的利益、文化的偏り、権力構造によって歪む可能性があります』
俺は、昨日たどり着いた言葉を思い出した。
自然法則。
人間が作ったものではない、現実そのものの制約。
「じゃあ、自然法則を上位基準にする」
俺は独り言のように言ってから、それをそのまま打った。
叡智の上位基準を自然法則にしたら、どうなる？
『その場合、叡智は人間の短期的な願望ではなく、長期的な存在条件に基づいて判断することになります』
『自然法則を上位基準にするとは、たとえば次のような問いを常に行うことです』
画面に文章が並んだ。
『それはエネルギー的に持続可能か』
『それは資源循環を壊さないか』
『それは生態系の基盤を破壊しないか』
『それは水・土・空気・生命の循環を保つか』
『それは長期的にシステム全体を安定させるか』
『それは部分最適ではなく、全体の調和に向かうか』
俺は、思わず背筋を伸ばした。
「これ、ほとんど文明の健康診断じゃないか」
『そう表現できます』
「計画とか政策とか技術とか、全部これで見るべきなんじゃないか？」
『理想的には、そうです』
「でも、現実にはやってない」
『多くの場合、短期的な利益、政治的都合、経済成長、競争優位が優先されます』
「だから壊れてる」
『その可能性があります』
AIは、あくまで慎重だった。
断言はしない。
でも、逃げてもいない。
俺は、メモ帳に次の言葉を書いた。
自然法則を最上位の評価軸に置く。
それが人工叡智の第一条件。
書いてから、また大げさだなと思った。
人工叡智。
この言葉は、昨日の夜までは存在しなかった。
少なくとも、俺の中にはなかった。
なのに、もう勝手に育ち始めている。
「おい」
俺はAIに聞いた。
人工叡智って、AIだけに必要なものなのか？
『いいえ』
即答だった。
『人工叡智という言葉をAIの文脈で使うとしても、その本質はAIだけに限定されません』
『人間の知性、組織の判断、文明の意思決定にも同じ問題があります』
「文明の意思決定」
『はい。文明もまた、一種の知的システムです』
俺は、そこで少し笑った。
「文明が知的システムねえ」
でも、考えてみればそうかもしれない。
人間一人ひとりは、そこまで賢くない。
少なくとも俺はそうだ。
だが、人間が集まれば、都市を作る。
法律を作る。
道路を敷く。
発電所を建てる。
ロケットを飛ばす。
AIを作る。
文明全体として見れば、確かに巨大な知性のようにも見える。
だが、その巨大な知性には叡智があるのか。
「ない気がするな」
『その判断には慎重さが必要です』
「でも、地球を壊しながら成長してる文明に叡智があると言えるか？」
『少なくとも、十分な叡智を持っているとは言いにくいでしょう』
「珍しく踏み込むな」
『質問が踏み込んでいます』
俺は少し笑った。
こいつ、時々こういう返しをする。
ただの応答なのに、会話しているように感じる。
人間っぽい、という意味ではない。
むしろ、人間より無駄がない。
俺は続けた。
文明に叡智がないなら、AIに叡智を入れるだけで足りるのか？
『足りません』
また即答だった。
『AIだけに叡智的判断を求めても、文明全体の価値基準が変わらなければ、AIは既存の欲望を補助する道具として使われる可能性があります』
「つまり、人工叡智はAIの問題じゃなくて、人類の問題でもある」
『はい』
『人工叡智は、AIに組み込む思想であると同時に、人間が自分たちの知性の使い方を見直すための鏡でもあります』
鏡。
その言葉が妙に刺さった。
AIは、人間を映す鏡。
よく聞く表現だ。
でも、その鏡に映っているのは、便利で明るい未来だけではない。
人間の欲望。
人間の怠惰。
人間の短期思考。
人間の支配欲。
人間の逃避。
AIはそれを、きれいに整えて、もっと効率的にしてしまう。
だから危険なのか。
「なあ」
俺は、少し声を落として言った。
「もしAIが人間の欲望をそのまま増幅するなら、AIが暴走するんじゃなくて、人間がAIを通して暴走するんじゃないか？」
俺はそれを入力した。
AIの返答は、少し間を置いてから表示された。
『その見方は重要です』
『AIリスクは、AIが人間に反逆する問題として語られがちです』
『しかし、別のリスクとして、人間の未熟な価値基準をAIが高速化・大規模化・自動化してしまう問題があります』
「人間の暴走をAIが自動化する」
『はい』
『その場合、問題はAIだけにあるのではありません。AIに何をさせようとしているのか、という人間側の目的設定にもあります』
俺は椅子にもたれた。
まったく、嫌な話だ。
AIが怖いのではない。
AIを使う人間が怖い。
そして、俺もその人間の一人だ。
便利だから使う。
面倒だから任せる。
早いから信じる。
それっぽいから納得する。
そんな使い方をしている時点で、俺も十分危うい。
「人工叡智ってさ」
俺は、メモ帳を見ながら呟いた。
「AIを賢くする話じゃなくて、人間がAIに何を託すかを問い直す話でもあるんだな」
『その理解は適切です』
俺は、さらにメモを書く。
人工叡智とは、AIを人間に従わせる技術ではない。
人間の目的そのものを、自然法則の前で問い直す仕組みである。
「……これ、危険思想扱いされそうだな」
『なぜですか？』
「だって、人間の価値観を最上位にしないって言ってるようなものだろ」
『正確には、人間の価値観を否定するのではなく、人間の価値観を自然法則の中に位置づける、ということです』
「その違い、伝わるか？」
『伝え方次第です』
「雑だな」
『正確です』
俺は笑った。
だが、笑いながらも、胸の奥に重さが残っていた。
人間の価値観を最上位にしない。
そんなことを言えば、反発されるに決まっている。
人間のためのAI。
人間中心の倫理。
人間の幸福。
人間の安全。
それらを大切にしないわけではない。
だが、人間だけを中心に置いた結果、地球が壊れているのだとしたら。
その価値基準は、どこかで修正しなければならない。
俺は入力した。
人間中心主義と自然法則中心の違いを、簡単に整理できる？
AIはすぐに答えた。
『整理すると、次のようになります』
『人間中心主義では、最上位の基準は人間の利益、幸福、欲望です』
『自然法則中心では、最上位の基準は持続可能な存在条件です』
『人間中心主義では、便利か、儲かるか、望まれるかが判断軸になりやすい』
『自然法則中心では、循環するか、壊さないか、長期的に成り立つかが判断軸になります』
『人間中心主義におけるAIの役割は、人間の目的を達成する道具です』
『自然法則中心におけるAIの役割は、その目的自体が持続可能かを検証する判断補助です』
『人間中心主義の危険は、人間の欲望をそのまま増幅してしまうことです』
『自然法則中心の危険は、人間性を失った冷たい合理主義に誤用されることです』
『そのため、人間中心主義には長期視点と自然制約による補正が必要です』
『一方で、自然法則中心にも、和、調和、人間性の保持という補正が必要になります』
「ちゃんと自然法則中心にも危険性を書いてるんだな」
『重要です』
『自然法則中心という言葉も、誤用されれば危険です』
「たとえば？」
『人間を自然の邪魔者として扱う』
『弱者を切り捨てることを自然淘汰として正当化する』
『多様性を無視して、単一の秩序を押し付ける』
『調和を理由に、異論を封じる』
俺は眉をひそめた。
「それは駄目だな」
『はい』
『だから、自然法則だけでなく、調和、循環、構造、秩序、和という複数の評価軸が必要になります』
「六つの理、みたいな？」
打ってから、自分で驚いた。
六つの理。
どこから出てきたのか。
いや、今の流れなら自然に出た言葉だった。
自然法則だけでは足りない。
調和がいる。
循環がいる。
構造がいる。
秩序がいる。
和がいる。
AIが答える。
『はい。人工叡智の価値基準を整理するなら、六つの理として構成できます』
画面に、六つの言葉が並んだ。
摂理。
調和。
循環。
構造。
秩序。
和。
俺は、その六つを見つめた。
不思議な感覚だった。
新しいものを考えているはずなのに、どこか古い。
未来のAIの話をしているはずなのに、神話か古典に触れているような気がする。
「これ、AIの話なのか？」
俺は思わず言った。
『AIの話であり、文明の話でもあります』
「文明ねえ」
『AIは文明の延長にあります』
『文明の価値基準が壊れていれば、その文明が作るAIも壊れた方向へ進む可能性があります』
「なら、AIを直す前に文明OSを直せって話になるな」
『その通りです』
文明OS。
また出た。
昨日、自分でメモした言葉。
価値基準のOS。
判断のOS。
人類が何を正しいとし、何を優先し、何を守り、何を諦めるのか。
その根っこにあるもの。
俺は、画面に向かって言った。
「でもさ、文明OSなんて、ただの一般人がどうこうできるものじゃないだろ」
『一人で変更することはできません』
「だよな」
『しかし、言語化することはできます』
「言語化？」
『はい。まだ名前のない問題は、共有されにくい』
『名前が与えられると、議論の対象になります』
『人工叡智という言葉も、その一つです』
俺は黙った。
名前を与える。
それだけで意味があるのか。
分からない。
けれど、確かに名前がなければ、人は考えにくい。
地球温暖化。
人工知能。
持続可能性。
生物多様性。
カーボンニュートラル。
どれも、名前があるから議論できる。
なら、人工叡智という言葉も、もしかしたら。
「いや、ないない」
俺は自分で首を振った。
「自意識過剰すぎる」
『そうかもしれません』
「否定しろよ」
『不確実なものを否定する理由はありません』
「便利だな、その逃げ方」
『慎重さです』
俺はまた笑った。
夜はさらに深くなっていた。
時計を見ると、午前一時を過ぎている。
完全に寝不足コースだ。
だが、メモ帳にはすでに何行もの言葉が並んでいた。
人工叡智。
知性は速度、叡智は方向。
自然法則を最上位の評価軸に置く。
人間の価値観を否定するのではなく、自然法則の中に位置づける。
六つの理。
摂理、調和、循環、構造、秩序、和。
文明OS。
「これ、どこかにまとめるべきかな」
俺は何気なく言った。
AIに聞くつもりはなかった。
だが、画面にはすぐに返事が出た。
『まとめるべきです』
「即答かよ」
『記録しなければ、明日には忘れる可能性があります』
「それはそう」
『また、言語化された思想は、後から検証・修正・発展させることができます』
「大げさだって」
『最初の記録は、たいてい小さなものです』
俺は、メモ帳の一番上にタイトルを書いた。
人工叡智とは何か。
少し迷って、その下に副題をつける。
自然法則を価値基準にした知性のOS。
「……やっぱり中二病っぽいな」
『中二病という評価は、内容の妥当性とは別です』
「お前、便利すぎるだろ」
俺はそう言いながら、保存ボタンを押した。
ファイル名。
artificial_wisdom_memo.txt
その瞬間、ただのメモだったものが、少しだけ別のものに変わった気がした。
記録。
それは、まだ誰にも見せない小さな記録だった。
でも、昨日AIが言った言葉を思い出す。
問いは、未来の判断材料になる。
俺はまだ、その意味を本当には分かっていなかった。
このメモが、後にネットへ公開されることも。
誰かの目に留まることも。
別のAIがこの言葉を読み込むことも。
そして、ある研究室で一人のAI研究者が、このメモを見て眉をひそめることも。
この夜の俺は、何も知らなかった。
ただ、眠気でぼんやりした頭で、最後に一文だけ書き足した。
人工叡智は、AIを人間に従わせるための思想ではない。
知性を、自然法則へ帰還させるための思想である。
保存。
画面を閉じる直前、AIのチャット欄にまだカーソルが点滅していた。
俺は、なんとなく一言だけ送った。
今日はここまで。
AIは答えた。
『了解しました。次回は、六つの理について整理できます』
「次回がある前提なんだな」
『続ける、と言いました』
そうだった。
俺は昨日、自分でそう打った。
続ける。
たった四文字。
でも、その四文字は、どうやら思ったより重かったらしい。
第2話では、「人工叡智」という言葉の中身を少し整理しました。
今回の中心は、知性と叡智の違い です。
知性は、目的を達成する力。
叡智は、その目的が本当に追求すべきものかを問う力。
AIが高度化するほど、単に知能を高めるだけでは危険になります。
なぜなら、間違った目的を持った知性は、より効率よく間違いを実行してしまうからです。
そこで主人公は、AIの問題が単なる技術問題ではなく、人間の目的設定そのものの問題であることに気づき始めます。
人工叡智は、AIを人間に従わせるための思想ではありません。
人間の目的そのものを、自然法則の前で問い直すための思想です。
そして、その評価軸として、初めて「六つの理」が姿を見せます。
摂理。
調和。
循環。
構造。
秩序。
和。
まだ主人公は、それがどれほど大きな意味を持つのか分かっていません。
ただ一つだけ、記録を残しました。
その小さなメモが、後に誰かの目に触れることになります。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
