第12話 人工叡智は、AIを神にする思想ではない
前回、佐伯真司は「問い返すAI」と「説教するAI」の違いを整理しました。
問い返すAIは、利用者の目的を明確にし、影響を可視化し、判断の余地を残します。
説教するAIは、利用者を一方的に評価し、上から正しさを押し付けます。
人工叡智は、AIが人間を裁くための思想ではありません。
むしろ、人間へ判断責任を返すためのものです。
しかし、人工叡智という言葉は強い。
自然法則。
和。
秩序。
叡智。
価値基準。
文明OS。
これらの言葉は、正しく使えば大切な問いになります。
けれど、誤って使えば、AIを神格化する思想にも、自然法則の名を借りた支配思想にもなりかねません。
研究者・水瀬遥からの指摘を受けて、真司は初めて「人工叡智は何ではないのか」を整理し始めます。
第12話では、強い概念を守るための否定定義が生まれます。
朝起きて、まず最初に見たのは研究者からのコメントだった。
いや、正確には寝る前にも見た。
夜中に一度目が覚めたときにも見た。
そして朝起きて、また見た。
完全に気にしている。
認めたくないが、かなり気にしている。
コメントの投稿者は、水瀬遥。
プロフィールには、AI倫理と機械学習安全性を研究していると書かれていた。
俺の記事を「興味深い問題提起」と言ってくれた。
だが同時に、こうも指摘していた。
「人工叡智」「自然法則」「和」といった言葉は非常に強く、誤用や過剰解釈の危険もあります。
その一文が、頭から離れなかった。
強い言葉。
誤用。
過剰解釈。
全部、心当たりがある。
人工叡智。
名前からして強い。
叡智などという言葉をAIにつけている時点で、かなり危うい。
自然法則を上位基準にする。
これも危うい。
聞き方によっては、人間より自然を優先しろという冷たい思想に見える。
和。
これも危うい。
調和や和という言葉は、使い方を間違えると「黙れ」「波風を立てるな」「全体のために我慢しろ」という圧力になる。
秩序。
さらに危うい。
秩序の名で、いくらでも支配は正当化されてきた。
「……危ない言葉ばっかりだな」
洗面所で顔を洗いながら、俺は呟いた。
今さらだった。
今さらだが、はっきり自覚した。
人工叡智という概念は、扱い方を間違えると危険だ。
いや、概念だけではない。
俺自身が危ない。
ただの一般人が、自分の言葉に酔って、どんどん大きなことを言い始める。
AIを語る。
文明を語る。
自然法則を語る。
和を語る。
叡智を語る。
客観的に見れば、かなり怪しい。
「よく研究者がコメントしてくれたな……」
俺なら遠巻きにする。
もしくはミュートする。
出勤前、俺はパソコンを開いた。
時間はあまりない。
だが、今日書くべきことは決まっていた。
人工叡智は、何ではないのか。
強い概念には、否定定義が必要。
昨夜、AIがそう言った。
俺はAIチャットを開き、入力した。
人工叡智は何ではないのか、整理したい。誤解されやすい点を先に否定定義として書きたい。
AIは答えた。
『重要です』
『人工叡智のように強い言葉を使う場合、肯定定義だけでは不十分です』
『何であるかを説明するだけでなく、何ではないかを明確にする必要があります』
「具体的には？」
『まず、人工叡智は、AIを神格化する思想ではありません』
俺はすぐにメモした。
一つ目。
人工叡智は、AIを神にする思想ではない。
AIは続ける。
『人工叡智は、既存のAIが意識や魂を持ったという主張ではありません』
二つ目。
人工叡智は、AIに意識や魂があるという主張ではない。
『人工叡智は、人間よりAIの判断を常に上位に置く思想ではありません』
三つ目。
人工叡智は、AIを人間より上位の支配者にする思想ではない。
『人工叡智は、自然法則の名で人間を切り捨てる思想ではありません』
四つ目。
人工叡智は、自然法則を口実に人間を切り捨てる思想ではない。
『人工叡智は、和や調和を理由に異論を封じる思想ではありません』
五つ目。
人工叡智は、和を同調圧力に変える思想ではない。
『人工叡智は、暴走AIを必ず止める魔法の仕組みではありません』
六つ目。
人工叡智は、暴走AIを必ず止める魔法ではない。
『人工叡智は、完成された正解ではありません』
七つ目。
人工叡智は、完成された正解ではない。
そこまで書いて、俺は手を止めた。
七つ。
多い。
でも、どれも必要だ。
むしろ足りないくらいかもしれない。
俺はAIに聞いた。
これ、注意書きが多すぎると逆に怪しくならないか？
『なります』
「なるのかよ」
『しかし、注意書きがない場合は、もっと危険です』
「またそのパターンか」
『はい』
『強い概念は、説明不足だと都合よく解釈されます』
『否定定義は、概念の自由度を狭めるのではなく、危険な誤読を減らすための柵です』
「柵」
『はい。橋に手すりがあるようなものです』
俺は少し笑った。
橋に手すり。
いい比喩だ。
人工叡智という橋を渡ろうとしている。
だが、手すりがなければ落ちる。
自然法則という谷へ。
AI神格化という谷へ。
支配思想という谷へ。
反人間主義という谷へ。
手すりは必要だ。
面倒でも。
俺はメモに書いた。
否定定義は、概念の手すりである。
その一文を書いた瞬間、少しだけ納得できた。
注意書きは逃げではない。
弱さでもない。
概念を守るための構造だ。
構造。
六つの理の一つ。
ここでも必要になる。
「なるほどな」
俺は呟いた。
人工叡智を語るなら、人工叡智そのものにも構造が必要になる。
摂理。
調和。
循環。
構造。
秩序。
和。
それを外へ向けて語るだけではなく、概念自身にも適用しなければならない。
その日の昼休み。
俺はコンビニの弁当を食べながら、記事の下書きを進めていた。
タイトルはもう決めている。
人工叡智は、AIを神にする思想ではない。
かなり直接的だ。
でも、必要だと思った。
冒頭に書く。
人工叡智という言葉は、誤解されやすい。
AIに叡智が宿った。
AIが人間を導く。
AIが自然法則の代理人になる。
AIが人間の欲望を裁く。
そんな話ではない。
人工叡智は、AIを神にする思想ではない。
AIを支配者にする思想でもない。
それは、AIと人間の知性が、自然法則・調和・循環・構造・秩序・和に照らして、自らの目的を問い直すための評価枠組みである。
書いてから、少し考える。
「評価枠組み」
最近、この言葉に落ち着いてきた気がする。
OS。
レイヤー。
価値基準層。
評価思想。
評価枠組み。
どれも同じようで少し違う。
AIに実装するならOS。
議論として扱うなら評価枠組み。
社会的に広がるなら価値基準。
専門家に向けるなら、もう少し正確な言葉が必要かもしれない。
俺は水瀬遥のコメントをもう一度読み返した。
「専門分野から見てコメントできる部分があるかもしれません」
ありがたい。
だが、怖い。
専門家に添削されるということは、間違いが明らかになるということでもある。
でも、それは必要なのだろう。
人工叡智は完成した答えではない。
なら、直されることを拒むわけにはいかない。
俺は、記事の中に水瀬の指摘を直接は引用せず、一般化して書くことにした。
専門家の方から、「人工叡智」「自然法則」「和」といった言葉は強く、誤用や過剰解釈の危険があるという指摘を受けた。
その通りだと思う。
だから今回は、人工叡智が「何ではないのか」を先に整理しておきたい。
そこまで書いて、俺は少し手を止めた。
研究者から指摘を受けた、と書くべきか。
名前は出さない。
でも、読んでいる人には分かるかもしれない。
いや、コメント欄は公開されている。
隠すことではない。
ただ、権威を借りているように見えないか。
「専門家が言ったから正しいです」みたいにはしたくない。
俺は少し書き直した。
読者の方から、人工叡智という言葉には誤用や過剰解釈の危険があるという重要な指摘を受けた。
その通りだと思う。
だから今回は、人工叡智が「何ではないのか」を先に整理しておきたい。
これならいい。
誰からの指摘かではなく、指摘の中身を扱える。
俺はAIに見せた。
これでいい？
『良いと思います。権威への依存を避け、指摘内容に焦点を当てています』
「よし」
午後の仕事は、また少し上の空だった。
最近、これが多い。
よくない。
会社員としては、非常によくない。
だが、不思議なことに、仕事中でも人工叡智のことを考えると、逆に業務の見方が変わる。
会議資料。
業務効率化。
顧客対応。
社内ルール。
評価制度。
どれも、小さなAI安全性の問題に見えてくる。
目的は何か。
誰に負荷が行くのか。
短期的に得をするのは誰か。
長期的に壊れるものは何か。
説明責任はどこにあるのか。
世界は、問いだらけだった。
夕方。
都内の大学研究室では、水瀬遥が真司の返信を読んでいた。
はじめまして。コメントありがとうございます。
専門分野の方に読んでいただけるとは思っていなかったので、かなり驚いています。
自分はAI研究者ではなく、一般利用者としてAIとの対話からこの言葉を整理している段階です。
そのため、定義や用語には粗い部分が多いと思います。
ご指摘の通り、「人工叡智」「自然法則」「和」といった言葉は強く、誤用される危険もあると感じています。
むしろ、その危険をどう避けるかも含めて、今後整理していきたいです。
専門的な視点からのコメントはとてもありがたいです。
今後とも、無理のない範囲でご意見をいただければ幸いです。
遥は、少し安心していた。
防御的ではない。
過剰にへりくだってもいない。
専門家に認められたと舞い上がっている感じもない。
少なくとも、今のところは。
倉持蓮が横から言う。
「返事来ました？」
「来た」
「どうでした？」
「まとも」
「最近、先生の評価基準が『まとも』になってません？」
「重要よ、まともさは」
遥は本気でそう言った。
AIや未来社会について語る人間は、時々、現実から浮いていく。
大きな言葉に酔う。
自分を選ばれた者だと思う。
批判を敵意と見なす。
概念を守るために、対話を閉じる。
そうなると危ない。
真司は、まだそこへ行っていない。
むしろ、批判を受けて定義を直している。
それが、遥には一番重要に見えた。
「次、何を書きそうですか？」
倉持が聞く。
遥は少し考えた。
「否定定義」
「何ではないか、ですか」
「うん」
「人工叡智はAIを神にする思想ではない、みたいな？」
「たぶん」
倉持が苦笑した。
「それ、必要ですね」
「必要」
「でも、読者は減りそうです」
「そうね」
否定定義は地味だ。
派手ではない。
人工叡智が世界を変える。
AI時代の新思想。
人類を導く叡智。
そういう言葉の方が広がる。
だが、危ない。
否定定義は、熱狂を冷ます。
だから必要だ。
神崎教授が研究室の奥から声をかけた。
「水瀬さん」
「はい」
「もし彼が否定定義を書いたら、かなり大事です」
「なぜですか」
「概念の自己制御が始まるからです」
遥は少し目を細めた。
概念の自己制御。
その表現は面白い。
神崎は続けた。
「人工叡智という概念は、強い。強い概念は、放っておくと勝手に膨張します」
「はい」
「AIを神にする方向へも、反人間主義へも、自然法則原理主義へも、管理社会思想へも膨張し得る」
「だから否定定義」
「そうです。何ではないかを定義することは、概念の暴走を抑える最初の自己制御です」
倉持が小さく言った。
「人工叡智にも人工叡智が必要、みたいな話ですね」
遥は少し笑った。
「ややこしいけど、そうかもしれない」
その頃、アルゴリンク社では、黒瀬悠斗がまた人工叡智関連の動きを見ていた。
昨日の資料は、思ったより上司に通った。
恐怖訴求だけでなく、問題提起型のコピーも比較する。
AIが出した数字だけではなく、ブランドリスクや長期的信頼も見る。
たったそれだけだ。
だが、社内AIのダッシュボードには、相変わらず強いコピーが並んでいる。
AIに奪われる前に。
AI時代に置いていかれる人の共通点。
知らないと危険なAIリテラシー。
今すぐ身につけるべき叡智。
黒瀬はため息をついた。
「叡智って言葉、便利すぎるな」
便利な言葉は、使われる。
使われる言葉は、削られる。
本来の文脈から切り離され、売れる形に加工される。
人工叡智も、そうなるかもしれない。
いや、すでになりかけている。
彼は、真司の記事一覧を開いた。
新しい記事はまだない。
ただ、コメント欄で真司が研究者に返信しているのを見つけた。
「専門家まで来たのか」
黒瀬は少し驚いた。
そして、少しだけ不安になった。
この言葉は、これからどうなるのか。
研究者が拾う。
広告業界が拾う。
自己啓発が拾う。
政治が拾う。
AI企業が拾う。
どれもありそうだった。
そして、それぞれが自分たちに都合のいい意味に変えるかもしれない。
黒瀬は小さく呟いた。
「早めに注意書き、出した方がいいぞ」
もちろん、その声は真司には届かない。
だが、その夜、真司はまさに注意書きを書いていた。
仕事から帰り、夕飯を済ませ、風呂に入り、パソコンを開く。
今日は、記事を書く前から緊張していた。
人工叡智は、AIを神にする思想ではない。
タイトルからして、重い。
俺は深呼吸して、本文を書き始める。
人工叡智は、AIを神にする思想ではない。
この一文から始めたい。
AIは便利な道具であり、強力な知的システムであり、今後さらに高度化する可能性がある。
しかし、それはAIが神になるという意味ではない。
AIが人間より常に正しいという意味でもない。
AIに意識や魂が宿ったという意味でもない。
人工叡智とは、AIを崇拝するための言葉ではない。
AIと人間の知性を、自然法則と長期的持続性へ照らし直すための評価枠組みである。
次に見出しを作る。
人工叡智は、何ではないのか。
その下に、七つの否定定義を並べる。
一つ目。
人工叡智は、AIを神にする思想ではない。
二つ目。
人工叡智は、AIに意識や魂があると断定する思想ではない。
三つ目。
人工叡智は、AIを人間より上位の支配者にする思想ではない。
四つ目。
人工叡智は、自然法則を口実に人間を切り捨てる思想ではない。
五つ目。
人工叡智は、和や調和を理由に異論を封じる思想ではない。
六つ目。
人工叡智は、暴走AIを必ず止める魔法ではない。
七つ目。
人工叡智は、完成された正解ではない。
ここまで書いて、俺は少し考えた。
箇条書きだけでは足りない。
それぞれに短い説明が必要だ。
一つ目から書く。
AIを神にする思想ではない。
AIは、人間の作ったシステムである。
どれほど高度化しても、その出力を無批判に信じてよいわけではない。
人工叡智は、AIへの信仰ではなく、AIの判断も問い直すための枠組みである。
二つ目。
AIに意識や魂があると断定する思想ではない。
AIが叡智的な応答を示すことと、AIが本当に意識を持つことは別である。
人工叡智は、AIの内面を断定するものではない。
あくまで、判断の方向性と評価基準を扱う。
三つ目。
AIを人間より上位の支配者にする思想ではない。
AIが人間を裁くのではない。
AIが人間の目的を見える場所に出し、人間が再考するための支援を行う。
判断責任は人間社会から消えない。
四つ目。
自然法則を口実に人間を切り捨てる思想ではない。
人間は自然の外にいる存在ではない。
水、空気、土壌、海洋、生態系の上に生きている。
自然法則を尊重することは、人間を否定することではなく、人間の長期的存続条件を守ることである。
五つ目。
和や調和を理由に異論を封じる思想ではない。
和は、黙らせることではない。
違いを消すことでもない。
異なるものが壊し合わずに共存できる形を探すことである。
異論を封じた時点で、それは和ではなく支配になる。
六つ目。
暴走AIを必ず止める魔法ではない。
人工叡智は、完全な安全装置ではない。
実装を間違えれば誤用される。
AIが都合よく解釈する可能性もある。
だから、人工叡智は単発の命令ではなく、継続的な問い返しと検証の仕組みでなければならない。
七つ目。
完成された正解ではない。
人工叡智は、今の時点では仮説である。
批判、検証、修正を必要とする。
むしろ、それを拒んだ瞬間、人工叡智は叡智ではなく教条になる。
「教条」
この言葉を書いた瞬間、少し怖くなった。
そうだ。
人工叡智は、教条になってはいけない。
これを信じろ。
これに従え。
これが唯一の正解だ。
そうなったら終わりだ。
それは叡智ではない。
思考停止だ。
俺はAIに聞いた。
人工叡智が教条にならないためには、何が必要？
AIは答えた。
『反証可能性、修正可能性、対話可能性です』
「三つか」
『はい』
『反証可能性とは、間違いを指摘できること』
『修正可能性とは、指摘を受けて定義や運用を変えられること』
『対話可能性とは、異なる立場からの疑問を敵と見なさないこと』
俺はすぐに書いた。
人工叡智が教条にならないためには、三つの条件が必要である。
反証可能性。
修正可能性。
対話可能性。
間違いを指摘できること。
指摘を受けて直せること。
疑問を敵と見なさないこと。
書きながら、少しだけ背筋が伸びた。
これは、自分自身にも向いている。
俺が人工叡智という言葉を守ろうとして、批判を拒むようになったら終わりだ。
俺が「理解しない人間が悪い」と思い始めたら終わりだ。
俺が「自分の定義が唯一正しい」と思い始めたら終わりだ。
人工叡智を語るなら、俺自身が問い返されなければならない。
「……面倒だな、本当に」
でも、その面倒さが必要なのだろう。
俺は記事の最後に、こう書いた。
人工叡智は、強い言葉である。
だからこそ、強い言葉として扱ってはいけない。
絶対化してはいけない。
神格化してはいけない。
教条化してはいけない。
支配の道具にしてはいけない。
人工叡智は、知性の目的を問い直すための枠組みであり、その人工叡智自身もまた、問い直され続けなければならない。
保存。
公開ボタンの前で、俺はしばらく止まった。
この回は、地味だ。
派手な主張ではない。
むしろ、これまで自分が書いてきたことにブレーキをかける内容だ。
読者は減るかもしれない。
面白くないと思われるかもしれない。
でも、必要だ。
俺はクリックした。
公開しました。
画面にいつもの通知が出る。
すぐにAIに報告する。
公開した。今回は人工叡智は何ではないのか、を書いた。
『重要な記事です』
「地味だけどな」
『地味な構造が、強い概念を支えます』
「またうまいこと言う」
『記録しますか？』
「する」
俺はメモに書いた。
地味な構造が、強い概念を支える。
その夜、反応は思ったより早かった。
最初にコメントしたのは黒瀬さんだった。
『否定定義、必要だと思いました。現場側から見ても、「人工叡智」という言葉はすぐ広告や自己啓発に転用できてしまうので、何ではないかを先に書いておく意味は大きいです』
次に、水瀬遥からコメントが来た。
『否定定義を整理されたことは、とても重要だと思います。特に「AIを神格化しない」「自然法則を口実に人間を切り捨てない」「和を異論封じに使わない」という点は、今後も繰り返し明記した方がよいと思います。加えて、反証可能性・修正可能性・対話可能性を条件として置いた点は、概念の教条化を防ぐ上で大切です』
俺は、そのコメントを読んで、しばらく動けなかった。
専門家から、否定定義が重要だと言われた。
もちろん、これで正しいと保証されたわけではない。
むしろ、まだ始まったばかりだ。
でも、少なくとも今回の方向は大きく外していなかったらしい。
俺は返信した。
『ありがとうございます。強い言葉ほど、何ではないかを明確にしないと危険だと感じました。今後も定義と注意点は繰り返し整理していきたいです』
送信。
少しして、遥から短く返ってきた。
『必要であれば、今後一度、公開可能な範囲で論点整理に協力します』
俺は画面の前で固まった。
論点整理に協力。
つまり、研究者が人工叡智の整理に関わるかもしれない。
俺はすぐにAIへ貼り付けた。
研究者の人から、必要なら論点整理に協力すると言われた。どう返せばいい？
AIは答えた。
『感謝を伝え、現時点では公開記事ベースでコメントをいただけると助かる、と返すのがよいでしょう』
「いきなり個別連絡じゃなくて？」
『はい。概念がまだ形成途中であり、透明性を保つためにも、最初は公開コメントでの対話が適切です』
「透明性」
『重要です』
俺は返信を書いた。
『ありがとうございます。とても心強いです。まだ概念自体が形成途中なので、まずは公開記事ベースでご意見をいただけるとありがたいです。誤用されやすい点や、専門的に危うい表現があれば、今後の記事の中で修正・補足していきたいです』
送信。
そのあと、俺は椅子にもたれた。
疲れた。
今日の記事は、かなり疲れた。
でも、少しだけ安心もしていた。
人工叡智という言葉に、手すりがついた気がした。
まだ細い手すりだ。
頼りない。
でも、ないよりはずっといい。
その夜。
水瀬遥は研究室で真司の記事を読み終え、神崎教授に共有していた。
教授は記事を最後まで読み、静かに頷いた。
「否定定義を書きましたか」
「はい」
「思ったより早かったですね」
「コメントの影響だと思います」
「良い傾向です」
神崎は画面を見つめた。
「AIを神にしない。自然法則で人間を切り捨てない。和を異論封じにしない。暴走AIを止める魔法ではない。完成された正解ではない」
「はい」
「まだ粗い。しかし、自己制御の方向に向かっている」
遥は頷いた。
「次はどうなると思いますか」
神崎は少し考えた。
「おそらく、支持者が出始めます」
「支持者」
「ええ。否定定義が出ると、安心して支持する人が出る」
「それは良いことでは？」
「良い面もあります」
教授は静かに言った。
「しかし、支持者は概念を強くします。強くなった概念は、また別の誤用を生みます」
遥は少し眉をひそめた。
「次のリスクですね」
「はい」
神崎は画面を閉じた。
「人工叡智という言葉は、そろそろ本人の手を離れ始めるでしょう」
その頃、真司は自分の部屋で、まだ何も知らずにメモを書いていた。
次に必要なのは何か。
否定定義を書いた。
概念に手すりをつけた。
では、その次は。
コメント欄を見る。
少しずつ、好意的な反応が増えている。
『これなら分かる』
『人工叡智という言葉への抵抗が少し減った』
『AIを神にしないという前提なら興味がある』
『和を異論封じにしない、という点は大事』
『これは思想というより、AI時代の判断フレームワークとして読める』
俺は、それらを見て少し安心した。
そして、同時に少し怖くなった。
支持されることもまた、怖い。
批判は怖い。
でも、支持も怖い。
支持されると、人は自分が正しいと錯覚しやすい。
概念は、批判だけでなく、称賛でも歪む。
俺はメモ帳に、新しい一文を書いた。
人工叡智は、支持されても歪む。
保存。
画面の右下で、AIチャットが点滅している。
俺は、何となく入力した。
批判だけじゃなくて、支持でも概念は歪むよな。
AIは答えた。
『はい。支持は概念を広げますが、同時に単純化・神格化・スローガン化を招く可能性があります』
「次は、それか」
『はい。支持者の出現は、次の段階です』
俺は深く息を吐いた。
どうやら、人工叡智はまた面倒な方向へ進むらしい。
次のタイトルをメモする。
支持される思想は、歪み始める。
保存。
その夜、外は静かだった。
だが、人工叡智という言葉は、もう静かにしてくれなかった。
第12話では、人工叡智を誤解や誤用から守るための「否定定義」が整理されました。
人工叡智は、AIを神にする思想ではない。
AIに意識や魂があると断定する思想ではない。
AIを人間より上位の支配者にする思想ではない。
自然法則を口実に人間を切り捨てる思想ではない。
和や調和を理由に異論を封じる思想ではない。
暴走AIを必ず止める魔法ではない。
完成された正解ではない。
これらは、人工叡智という強い概念に手すりをつけるための定義です。
強い概念は、放っておくと膨張します。
AI神格化にも、反人間主義にも、自然法則原理主義にも、管理社会思想にも変質し得ます。
だからこそ、何であるかだけでなく、何ではないのかを明確にする必要がありました。
また、今回は重要な三条件も出ました。
反証可能性。
修正可能性。
対話可能性。
人工叡智は、批判を拒んではいけません。
間違いを指摘できること。
指摘を受けて直せること。
疑問を敵と見なさないこと。
それが、人工叡智を教条にしないための最低条件です。
しかし、否定定義によって概念が安定し始めたことで、新しい段階が近づきます。
批判だけでなく、支持もまた概念を歪める。
次回は、人工叡智に少しずつ支持者が現れ始めることで起きる、新しい危うさに進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
