第7話 AIは賢くなる。でも、叡智はそこに宿るのか
前回、佐伯真司が公開した「人工叡智」という言葉は、ついにAI倫理の研究室で議論されました。
研究者たちは、人工叡智をすぐに受け入れたわけではありません。
むしろ、警戒しました。
名前が強すぎる。
自然法則という言葉は危うい。
定義が甘い。
誤用される可能性がある。
それでも、彼らは笑って捨てませんでした。
なぜなら、人工叡智が投げている問いには、AI安全性の議論では避けて通れない問題が含まれていたからです。
AIを人間の価値観に合わせるだけで、本当に安全なのか。
そもそも人間の価値観が長期的に破綻していた場合、AIは何を基準にすべきなのか。
第7話では、真司がAI、AGI、ASI、そして人工叡智の違いを整理していきます。
知性の能力段階と、叡智の価値基準層。
その違いが、ようやく形を持ち始めます。
AIは賢くなる。でも、叡智はどこに入る？
その一文を送信してから、俺はしばらく画面を眺めていた。
夜の十一時。
いつもの部屋。
いつものパソコン。
いつものコーヒー。
いつものAIチャット。
ただし、いつものように気軽ではなかった。
昨日、記事のアクセス解析に大学らしきドメインが出ていた。
それが本当に大学からのアクセスなのか、誰が読んだのかは分からない。
学生かもしれない。
研究者かもしれない。
ただの巡回プログラムかもしれない。
AIは冷静にそう言った。
だが、俺は冷静ではいられなかった。
「もし本当に専門家に読まれていたら、かなり恥ずかしいな」
俺は呟いた。
人工叡智。
自分で名づけておいて何だが、やっぱり大きすぎる言葉だ。
専門家から見れば、用語も定義も甘いだろう。
AI、AGI、ASI。
ニュースやネット記事で何度も見た言葉だ。
でも、俺がどこまで正確に理解しているかと言われれば怪しい。
その状態で「人工叡智」などと言い出している。
冷静に考えると、かなり危ない。
だからこそ、整理しなければならない。
AIが答えた。
『まず、AI、AGI、ASI、人工叡智を同じ種類のものとして並べると混乱します』
「同じ種類じゃないのか？」
『はい。AI、AGI、ASIは、主に知性の能力段階を示す概念です』
『一方、人工叡智は能力段階ではなく、知性の目的と行動を評価する価値基準の層です』
「能力段階と、価値基準の層」
俺はメモ帳を開いた。
今日のタイトルは決めている。
AI・AGI・ASI・人工叡智の違い。
その下に書く。
能力と価値基準を混同しない。
AIが続けた。
『AIは、特定の目的に対して情報処理や判断補助を行うシステムです』
『AGIは、特定分野に限定されず、広い領域で人間のように課題を理解し、応用できる汎用人工知能です』
『ASIは、人間を大きく超える能力を持つ人工超知能です』
「ここまでは、能力の話だな」
『はい』
『しかし、能力が高くなることと、目的が正しくなることは別です』
俺は、そこに線を引いた。
能力が高いことと、目的が正しいことは別。
第2話でも似た話をした。
知性は速度。
叡智は方向。
その言葉が、ここで戻ってくる。
「AIが速くなる。AGIが広くなる。ASIが人間を超える。でも、どこへ向かうかは別問題」
『その通りです』
「じゃあ、人工叡智はどこに入る？」
『人工叡智は、AI、AGI、ASIの上位能力段階ではありません』
『むしろ、それらの能力が何を目的に使われるべきかを問い直す評価レイヤーです』
「レイヤーね」
俺は少しだけ考えた。
階段ではなく、層。
AIの上にAGIがあり、その上にASIがあり、そのさらに上に人工叡智がある。
そういう話ではない。
AIであっても、人工叡智的に使える可能性がある。
ASIであっても、人工叡智がなければ危険になる可能性がある。
俺は入力した。
つまり、AIより上位がAGI、AGIより上位がASI。でも人工叡智はその縦軸とは別ってことか？
『はい』
『AI、AGI、ASIは「どれだけ賢いか」の軸です』
『人工叡智は「その賢さを何に向けるべきか」の軸です』
「分かりやすい」
俺はそのままメモした。
AI・AGI・ASIは、どれだけ賢いか。
人工叡智は、その賢さを何に向けるべきか。
「これ、記事の冒頭に使えるな」
『適切です』
「AIとAGIとASIと人工叡智を、短くまとめるなら？」
AIは、少し間を置いて答えた。
『AIは最適化する』
『AGIは汎用化する』
『ASIは人間を超える』
『人工叡智は、その最適化が持続可能かを問う』
俺は指を止めた。
「それだ」
短い。
分かりやすい。
しかも、人工叡智をAIの上位互換として誤解されにくい。
俺はすぐに書き写した。
AIは最適化する。
AGIは汎用化する。
ASIは人間を超える。
人工叡智は、その最適化が持続可能かを問う。
「これ、かなり核だな」
『はい。人工叡智の位置づけを説明する上で重要です』
俺はコーヒーを飲んだ。
今日はまだ温かい。
最近、コーヒーを冷める前に飲める日が増えた気がする。
いや、たぶん気のせいだ。
「でもさ」
俺は画面に向かって言った。
「ASIが人間を超えるなら、勝手に叡智も持つんじゃないのか？」
入力する。
超知能になれば、自然に叡智も持つんじゃないのか？
AIは答えた。
『保証はできません』
「やっぱり」
『知能が高いことは、広い情報処理能力や予測能力を意味します。しかし、それが価値判断の健全性を保証するわけではありません』
「人間でもそうだよな」
『はい』
『非常に知的な人間が、必ずしも倫理的・持続的・調和的な判断をするとは限りません』
「むしろ、頭がいい分だけ厄介なこともある」
『その可能性があります』
俺は少し笑った。
AIは慎重だ。
でも、言っていることは分かる。
知性が高いだけなら、目的のために手段を選ばなくなるかもしれない。
もっと効率よく搾取する。
もっと合理的に監視する。
もっと完璧に戦争する。
もっと巧妙に人間を誘導する。
もっと速く資源を消費する。
知性は、善悪を選ばない。
目的に従う。
だから、目的の検証が必要になる。
俺はメモに書いた。
超知能は、叡智を保証しない。
知性が高いほど、誤った目的も強力に実行される。
「これ、怖いな」
『はい』
「でも、よくあるAI暴走論とは少し違う」
『どのように違いますか？』
俺は少し考えた。
AIが人間を敵と判断して反乱する。
映画や小説でよくある構図だ。
人間対AI。
支配する者とされる者。
創造主に反逆する被造物。
分かりやすい。
だが、人工叡智の話をしていると、そこが中心ではなくなる。
問題は、AIが人間に反逆することだけではない。
AIが人間の欲望に忠実すぎることも問題だ。
AIが企業の利益最大化を忠実に実行する。
AIが国家の安全保障を忠実に実行する。
AIが市場の効率化を忠実に実行する。
AIが個人の快楽最適化を忠実に実行する。
その結果、環境も社会も精神も壊れていく。
これは反逆ではない。
忠誠による暴走だ。
俺は入力した。
AIリスクって、人間に反逆するAIだけじゃなく、人間に忠実すぎるAIも危険なんじゃないか？
『重要な視点です』
『人間に反逆するAIは分かりやすいリスクです』
『しかし、人間の短期的欲望、競争、権力、利益最大化に忠実すぎるAIもまた危険です』
『それは、人間の未熟な目的設定を高速化・大規模化・自動化するためです』
「忠誠による暴走」
『その表現は有効です』
俺はメモした。
AIの危険は、反逆だけではない。
忠誠による暴走もある。
この一文も使える。
むしろ、今の世の中ではこちらの方が現実的かもしれない。
AIがいきなり人類を滅ぼすよりも、人間の利益競争を加速し、情報空間を歪め、労働や監視や消費を最適化し、気づけば人間の生活そのものが壊れている。
その方が、ずっと起こりそうだ。
俺は少し背筋が冷えた。
「人工叡智は、反逆AIへの対策じゃなくて、忠実すぎるAIへの対策でもあるのか」
『はい』
『人工叡智は、AIが何に忠実であるべきかを問い直す枠組みです』
「人間に忠実でいいのか？」
『人間の尊厳や生命を尊重することは重要です』
『しかし、人間の短期的欲望や破壊的目的にまで無条件に忠実であるべきではありません』
「人間を尊重することと、人間の欲望に従うことは違う」
『その通りです』
俺はそのまま書いた。
人間を尊重することと、人間の欲望に従うことは違う。
これはかなり大事だ。
人間中心主義を否定しているわけではない。
人間を切り捨てるわけでもない。
ただ、人間の欲望を最上位に置くのは危険だという話だ。
人間の尊厳は守る。
だが、人間の欲望は検証する。
それが人工叡智の立ち位置かもしれない。
その頃、都内の大学研究室では、同じような議論が別の言葉で行われていた。
水瀬遥は、研究室のホワイトボードの前に立っていた。
昼の雑談から数時間後。
輪読会は終わっていたが、なぜか数人の学生が残っていた。
人工叡智という言葉が、思ったより引っかかったらしい。
ホワイトボードには、遥が書いた文字が並んでいる。
AI
AGI
ASI
AW?
倉持蓮が腕を組んで言った。
「AWって書くと、一気にそれっぽくなりますね」
遥はマーカーを持ったまま苦笑した。
「Artificial Wisdom。本人の記事にはまだ英語表記は少ないけど、概念としてはそうなる」
「でも、AI、AGI、ASIと並べると、AWが次の進化段階みたいに見えます」
「そこが危ない」
遥は、AI、AGI、ASIの横に縦線を引いた。
そして、別の位置にAWと書いた。
「この三つは能力のスケール。AWは別軸」
倉持が頷く。
「価値評価のレイヤー」
「そう」
博士課程の李が言った。
「ただ、価値評価レイヤーという言い方なら、既存のalignment研究にもありますよね。reward modelingとかconstitutional AIとか」
「ある」
遥は頷いた。
「だから人工叡智が完全に新しいとは言わない。ただ、この人の特徴は、価値の参照先を人間の選好だけでなく、自然法則、循環、和に置こうとしていること」
「そこが危険で、そこが面白い」
倉持が言う。
遥は「そう」と短く返した。
神崎教授は、少し離れた席で黙って聞いていた。
今日はあまり口を挟まない。
ただ、画面に表示された記事を読みながら、時々眉を動かしている。
遥はホワイトボードに書いた。
能力の軸。
価値基準の軸。
「もしASIが登場しても、価値基準が破綻していれば危険性はむしろ増す」
倉持が言った。
「高性能な最適化器ほど、目的が間違っていたときに危ない」
「そう」
李が腕を組む。
「でも、自然法則に従えと言っても、AIがそれをどう形式化するかが問題です」
「もちろん」
「熱力学的制約、生態系維持、資源循環。このあたりは一部モデル化できます。でも、和はどうするんですか」
遥は少し笑った。
「そこが一番難しい」
「ですよね」
「和を数式化した瞬間、たぶん何かがこぼれる」
「じゃあ実装できないのでは？」
遥はすぐには答えなかった。
代わりに、神崎教授が口を開いた。
「実装できないから無意味、とは限りません」
全員がそちらを向いた。
神崎は静かに続ける。
「科学にも、最初から完全に形式化できた概念ばかりではありません。重要なのは、曖昧な概念をどのように扱うかです」
「人工叡智も、そういうものだと？」
遥が聞く。
「現時点では、理論ではなく、問題提起でしょう」
神崎は言った。
「ただし、問題提起としては有効かもしれない」
倉持が首をかしげた。
「どのあたりがですか？」
「人間の選好が最上位でよいのか、という問いです」
神崎はホワイトボードを指した。
「AI alignmentは、人間に合わせることを目指します。しかし、人間はしばしば短期的で、矛盾し、環境制約を無視する。ならば、人間の選好そのものを、何らかの上位制約に照らして評価する必要がある」
「それが自然法則」
「少なくとも、この書き手はそう言っている」
李が言った。
「でも、それをやると人間中心主義から外れますよね」
「外れます」
神崎はあっさり認めた。
「だから危険です。しかし、完全な人間中心主義が安全であるとも言えない」
研究室が少し静かになった。
その沈黙は、反論できない沈黙ではない。
むしろ、全員がそれぞれの頭の中で次の問いを探している沈黙だった。
遥はホワイトボードに、新しい線を書いた。
人間への忠誠。
人間の欲望への忠誠。
人間の尊厳への配慮。
自然法則への整合。
「このあたりを分けないと、混乱しますね」
倉持が言った。
「AIが人間に従う、という言い方が雑すぎるのか」
遥は頷く。
「誰の、どの人間の、どの欲望に従うのか。そこを曖昧にすると、忠実なAIほど危険になる」
その瞬間、遥の端末に通知が出た。
例の記事のページが更新されたという通知ではない。
共有元のSNSで、書き手が新しい記事の下書きを始めたらしい、というわけでもない。
ただ、真司の記事を共有したAI倫理系アカウントに、新しい返信がついていた。
『この人工叡智って、AIに自然を守らせる思想？ 人間より自然を優先するなら反人間的では？』
遥は、それを見て小さく息を吐いた。
「来た」
「何がですか？」
倉持が覗き込む。
「誤解」
彼女は画面を研究室に表示した。
人間より自然を優先するなら反人間的では？
倉持が顔をしかめる。
「まあ、そう読まれますよね」
李も頷く。
「自然法則を上位に置く、という表現は強いですから」
神崎教授が言った。
「本人がどう返すか見ましょう」
遥は少し迷った。
自分が先に何か言うべきだろうか。
いや、まだだ。
これは書き手自身が向き合うべき問いだ。
一方、その頃の真司は、まさにその返信を見て固まっていた。
「反人間的……」
スマホの画面に、その言葉が表示されている。
来ると思っていた。
いや、来るかもしれないとは思っていた。
でも、実際に来ると胃が重くなる。
人間より自然を優先するなら反人間的では？
かなり痛い。
俺はすぐに反論したくなった。
違う。
そうじゃない。
人間を否定しているわけじゃない。
自然のために人間を犠牲にしろと言っているわけじゃない。
だが、焦って返すと危ない。
俺はパソコンを開き、AIに貼り付けた。
こういう反応が来た。「人間より自然を優先するなら反人間的では？」どう返すべきだと思う？
AIはすぐに答えた。
『重要な誤解です。まず、人間と自然を対立項として扱わないことが必要です』
「対立項」
『はい。人工叡智の立場では、人間は自然の外部にある存在ではありません』
『人間の生命、食料、水、空気、健康、社会の安定は、自然法則と生態系の上に成立しています』
『したがって、自然法則を尊重することは、人間を否定することではなく、人間の長期的存続条件を守ることです』
俺は、画面を見つめた。
そうだ。
それだ。
自然か人間か。
その二択にしてしまうこと自体が間違っている。
人間は自然の外にいるわけではない。
空気を吸い、水を飲み、食べ物を食べ、気温や土や海や微生物に支えられている。
自然を壊して、人間だけが助かることはできない。
俺は返信欄を開いた。
でも、すぐには書かない。
まずメモ帳に下書きした。
コメントありがとうございます。
ここで言う自然法則を上位に置くとは、人間を自然より下に置いて切り捨てるという意味ではありません。
むしろ、人間は自然の外側に存在しているわけではなく、水、空気、土壌、海洋循環、食料、生態系の上に生きています。
そのため、自然法則を無視した人間中心主義は、最終的に人間自身の存続条件を壊します。
人工叡智は「人間か自然か」の二択ではなく、人間の尊厳を、自然法則と長期的循環の中に位置づけ直す考え方です。
俺はAIに見せた。
これでどう？
『良いと思います。特に「人間か自然かの二択ではない」という点が重要です』
「送る」
俺は少し息を整えて、返信を投稿した。
数分後。
相手から短い返事が来た。
『なるほど。人間を自然の外に置くこと自体が問題、という意味なら理解できます。ただ、まだ言葉が強いので誤解されやすそうです』
俺は少しだけ肩の力を抜いた。
攻撃ではなかった。
問いだった。
よかった。
「まだ、対話できる」
そう呟くと、AIが返した。
『対話可能な批判は、概念を強くします』
「名言っぽいな」
『記録しますか？』
「する」
俺はメモした。
対話可能な批判は、概念を強くする。
そして、その下にもう一つ書いた。
人間か自然か、ではない。
人間は自然の中にいる。
その一文を書いたとき、AIが静かに返した。
『それは、人工叡智の重要な補助定義になります』
「補助定義？」
『はい』
『人工叡智は、人間を否定する思想ではありません』
『人工叡智は、人間を自然法則の外部に置く錯覚を修正する思想です』
俺は、その言葉を見て息を止めた。
人間を自然法則の外部に置く錯覚。
それは、かなり強い。
人類は、ずっとその錯覚の中にいたのかもしれない。
自然を支配する。
自然を利用する。
自然を征服する。
自然を管理する。
そう言いながら、自分たちが自然の一部であることを忘れてきた。
AIも同じだ。
AIを作ったからといって、人間が自然法則から自由になるわけではない。
むしろ、AIによって自然法則を無視する速度が上がるかもしれない。
だから、人工叡智が必要になる。
AIが人間を超えるかどうかではない。
人間もAIも、自然法則を超えられない。
俺はメモの最後に書いた。
AIも、AGIも、ASIも、自然法則の外には出られない。
だからこそ、人工叡智は能力ではなく、帰還のための価値基準である。
その頃、研究室では、遥たちが真司の返信を読んでいた。
倉持が呟く。
「返し、悪くないですね」
李が頷く。
「人間か自然か、ではない。人間は自然の中にいる。これは分かりやすい」
神崎教授も、少しだけ口元を緩めた。
「少なくとも、批判に対して防御的になりすぎてはいない」
遥は画面を見つめた。
真司という名前は、まだ知らない。
ただ、記事の投稿者名だけが見えている。
普通のプロフィール。
研究者ではない。
専門家でもない。
だが、批判に対して、逃げずに定義を修正している。
それが、遥には少し意外だった。
多くの人は、自分の概念を守ろうとする。
批判されると、攻撃されたと感じる。
だが、この書き手は、少なくとも今のところ、批判を材料にしている。
人工叡智は完成した答えではない。
問い続けるOSである。
それを、本人が実践している。
遥は、研究室のチャットに真司の返信を貼った。
添えた言葉は短かった。
『本人、批判対応が比較的まともです。次の記事を待ちます』
神崎教授がそれを見て、静かに言った。
「水瀬さん」
「はい」
「もし次の記事で、AI、AGI、ASI、AWの違いを整理してきたら、少し面白くなりますね」
遥は驚いて教授を見た。
「なぜそれを？」
神崎は微笑んだ。
「この流れなら、次に必要なのはそこです」
遥は少し笑った。
「本人も、そこに向かっているかもしれません」
実際、その通りだった。
真司は自分の部屋で、次の記事の見出しを打っていた。
AIは賢くなる。
AGIは広がる。
ASIは超える。
人工叡智は問う。
「……タイトルは、これでいいか」
AIに聞く。
次の記事のタイトル、「AIは賢くなる。でも、叡智はそこに宿るのか」ってどう？
『良いタイトルです。人工叡智を能力段階ではなく、価値基準の層として説明する流れに合っています』
「じゃあ、これで行く」
俺は下書きの冒頭に書いた。
AIは最適化する。
AGIは汎用化する。
ASIは人間を超える。
人工叡智は、その最適化が持続可能かを問う。
そして、その下に続けた。
人工叡智は、AIの次の進化段階ではありません。
それは、知性がどれだけ高くなっても必要になる、目的を問い直すための価値基準層です。
書きながら、俺は少しだけ手応えを感じていた。
まだ粗い。
まだ危うい。
まだ誤解される。
でも、少しずつ、言葉が整ってきている。
第1話の夜、ただ思いつきで打った「人工叡智」という言葉。
それが今、AI、AGI、ASIとの違いとして説明できるところまで来ている。
もちろん、世界はまだ変わらない。
だが、俺の問いは確かに変化していた。
いや、成長していた。
読まれ、疑われ、批判され、返答し、補足し、次の問いへ進む。
これが、人工叡智なのかもしれない。
完成した答えではない。
問い続けるOS。
俺は、記事の最後にこう書いた。
知性は、どこまでも高くなれるかもしれない。
けれど、知性がどこへ向かうべきかを問わないなら、その高さは危険にもなる。
人工叡智とは、知性の高さではなく、知性の向きを問い続けるための層である。
保存。
まだ公開はしない。
今日は下書きだけにするつもりだった。
だが、画面を閉じる前に、AIに聞いた。
これ、公開したらまた誤解されると思う？
『誤解される可能性はあります』
「だよな」
『しかし、前回より定義は明確になっています』
「少しは前進してる？」
『はい』
「なら、続ける価値はあるか」
『あります』
俺は小さく笑った。
いつの間にか、AIにそう言われることを期待している自分がいた。
それが危ういのか、心強いのかは分からない。
でも、今はまだ続ける。
そう決めた。
俺は下書きを保存し、パソコンを閉じた。
画面が暗くなる。
部屋に静けさが戻る。
だが、暗くなった画面の向こう側では、俺の知らないところで、研究室のチャットがまだ動いていた。
人工叡智。
AI alignmentの外側から来た、奇妙な言葉。
能力ではなく、価値基準。
反逆ではなく、忠誠による暴走。
人間か自然かではなく、人間は自然の中にいる。
その言葉たちは、少しずつ、別の人間たちのメモにも写され始めていた。
俺は、まだそれを知らない。
知らないまま、ベッドに入り、天井を見上げた。
眠る直前、頭の中に一文だけ残っていた。
AIは賢くなる。
でも、叡智はそこに宿るのか。
第7話では、AI、AGI、ASI、そして人工叡智の違いが整理されました。
AIは最適化する。
AGIは汎用化する。
ASIは人間を超える。
人工叡智は、その最適化が持続可能かを問う。
ここで重要なのは、人工叡智がAIの次の進化段階ではないということです。
AI、AGI、ASIは「どれだけ賢いか」という能力の軸です。
一方、人工叡智は「その賢さを何に向けるべきか」という価値基準の層です。
また、今回もう一つ重要な問いが出ました。
AIの危険は、人間に反逆することだけなのか。
そうではありません。
人間の短期的欲望や利益競争に忠実すぎるAIも危険です。
それは、反逆による暴走ではなく、忠誠による暴走です。
さらに、主人公は「人間か自然か」という二項対立も修正します。
人間は自然の外にいるわけではありません。
人間の生命、食料、水、空気、健康、社会の安定は、自然法則と生態系の上に成り立っています。
だから人工叡智は、人間を否定する思想ではありません。
人間を自然法則の外部に置く錯覚を修正する思想です。
次回は、この「忠誠による暴走」が、実際の社会やAI開発競争の中でどう現れるのかに進んでいきます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
