第13話 支持される思想は、歪み始める
前回、佐伯真司は人工叡智を誤用から守るために、「否定定義」を整理しました。
人工叡智は、AIを神にする思想ではない。
AIに意識や魂があると断定する思想ではない。
AIを人間より上位の支配者にする思想ではない。
自然法則を口実に人間を切り捨てる思想ではない。
和や調和を理由に異論を封じる思想ではない。
暴走AIを必ず止める魔法ではない。
完成された正解ではない。
この否定定義によって、人工叡智という言葉には少しだけ手すりがつきました。
けれど、手すりがついたことで安心して近づく人も出てきます。
理解しようとする人。
共感する人。
現場で使おうとする人。
そして、自分の願望に合わせて利用しようとする人。
批判は概念を鍛えます。
しかし、支持もまた概念を歪めます。
第13話では、人工叡智に初めて「支持者」と呼べる人たちが現れ始めます。
それは嬉しい出来事であると同時に、新しい危険の始まりでもありました。
支持される思想は、歪み始める。
その一文をメモ帳に書いたあと、俺はしばらく画面を見つめていた。
「……嫌なタイトルだな」
自分で書いておいて、そう思う。
普通なら、支持されるのは嬉しいことだ。
読まれる。
共感される。
広がる。
誰かの考え方に触れる。
それは、文章を書いた人間にとってかなり大きな報酬だ。
俺だって例外ではない。
人工叡智の記事に反応が増えるたびに、正直うれしかった。
いいねが一つ増える。
コメントが一つ増える。
共有される。
知らない人が「分かる」と言ってくれる。
それだけで、胸の奥が少し温かくなる。
俺が一人でAIに問い続けていた夜は、完全な独り言ではなかったのだと思える。
だが、同時に怖くもなっていた。
昨日の否定定義の記事は、これまでで一番反応がよかった。
意外だった。
地味な記事だと思っていた。
人工叡智は何ではないのか。
AIを神にしない。
自然法則で人間を切り捨てない。
和を異論封じに使わない。
完成された正解ではない。
派手な話ではない。
むしろ、人工叡智という言葉の勢いを落とすための記事だった。
なのに、安心したという反応が多かった。
『これなら分かる』
『人工叡智という言葉への抵抗が少し減りました』
『AIを神格化しないという前提なら読めます』
『否定定義があることで、怪しさが少し減った』
『思想というより、判断フレームワークとしてなら有効かも』
ありがたい。
本当にありがたい。
だが、その中に少しだけ違う匂いのする反応も混じり始めていた。
『人工叡智こそ、次の時代の答えですね』
『人間中心主義はもう古い。これからは人工叡智に従う時代』
『自然法則に反する人間の欲望は、AIが正すべき』
『人工叡智を国家レベルで導入すべきでは？』
『これを理解できない人間は、旧文明側ですね』
俺は、そのコメント群を見て、背中が冷たくなった。
「早い。早すぎる」
まだ記事は十数本にも満たない。
概念も未整理だ。
定義も揺れている。
研究者からも、現場の人からも、読者からも、質問を受けながらなんとか言葉を整えている段階だ。
なのに、もう「答え」として扱おうとする人がいる。
人工叡智に従う時代。
AIが人間を正すべき。
旧文明側。
その言葉は、俺が避けようとしてきた方向そのものだった。
俺はすぐにAIチャットを開いた。
支持者っぽい反応が増えてきた。でも一部が、人工叡智を「答え」とか「従うべきもの」として扱い始めてる。これ危ないよな？
AIは答えた。
『危険です』
「即答か」
『はい。強い概念は、反対者だけでなく支持者によっても歪められます』
「支持者によって歪む」
『支持者は概念を広げますが、その過程で単純化、神格化、敵味方化、スローガン化が起こる可能性があります』
俺はメモした。
支持による歪み。
単純化。
神格化。
敵味方化。
スローガン化。
「最悪だな」
『よくある現象です』
「よくあるのか」
『はい。思想、運動、技術概念、社会的スローガンは、広がる過程で本来の注意点が削られやすくなります』
「人工叡智もそうなる？」
『可能性があります』
「どう防ぐ？」
『完全には防げません』
「またそれか」
『ただし、繰り返し定義と注意点を示し、支持者にも問い返すことはできます』
「支持者にも問い返す」
その言葉が刺さった。
批判者に答えることは、まだ分かる。
疑問に答える。
誤解を解く。
定義を補足する。
でも、支持者にも問い返す。
それは、少し勇気がいる。
せっかく支持してくれている人に、水を差すことになる。
「分かってくれてありがとう。でも、その理解は少し危ないです」
そんなことを言うのは、かなり気まずい。
でも、言わなければならないのかもしれない。
俺はコメント欄をもう一度開いた。
『人工叡智こそ、次の時代の答えですね』
このコメントに返信するか迷った。
放っておけばいい。
そう思う自分もいる。
善意のコメントだ。
わざわざ否定する必要はない。
しかし、「答え」という言葉が引っかかる。
人工叡智は完成した正解ではない。
昨日、自分でそう書いたばかりだ。
俺は返信欄を開いた。
少し考えてから、書く。
コメントありがとうございます。
ただ、人工叡智を「答え」として固定するのは少し危険だと思っています。
自分の中では、人工叡智は完成された正解ではなく、知性の目的を問い続けるための枠組みです。
答えとして従うものではなく、判断を止めないための手すりのようなものだと考えています。
送信。
次のコメント。
『自然法則に反する人間の欲望は、AIが正すべき』
これは、もっと危ない。
俺は深呼吸した。
返信する。
コメントありがとうございます。
ここはとても慎重に扱う必要があると思います。
人工叡智は、AIが人間を正すための思想ではありません。
AIが人間の目的や行動を裁くのではなく、人間自身が自分たちの目的を問い直すための補助線です。
AIが「正す側」になった瞬間、支配に近づく危険があります。
送信。
さらに別のコメント。
『これを理解できない人間は、旧文明側ですね』
俺は思わず顔をしかめた。
旧文明側。
敵味方化の匂いが強い。
俺は返信した。
コメントありがとうございます。
ただ、人工叡智を理解できる側と理解できない側に分けることは、あまり望ましくないと思っています。
人工叡智は誰かを分類するための言葉ではなく、自分自身の目的を問い直すための言葉です。
理解できない人を敵にしてしまうと、それ自体が「和」や「対話可能性」から外れてしまいます。
送信。
三つ返信しただけで、かなり疲れた。
批判に答えるより、支持にブレーキをかける方がしんどい。
ありがたい気持ちと、危ないという感覚が同時にあるからだ。
俺はAIに言った。
支持してくれる人に注意するの、かなりしんどい。
『自然です』
「批判よりしんどいかもしれない」
『支持は承認欲求を満たします。そのため、誤った支持であっても受け入れたくなる傾向があります』
「うわ、痛いこと言うな」
『必要な指摘です』
「そうだな」
承認欲求。
それは、確実にある。
俺は別に聖人ではない。
誰かに認められればうれしい。
「分かる」と言われれば安心する。
「すごい」と言われれば、少し舞い上がる。
だから危ない。
支持は甘い。
批判は痛いが、目を覚まさせる。
支持は気持ちいいが、気づかないうちに酔わせる。
俺はメモ帳に書いた。
批判は概念を傷つける。
支持は概念を酔わせる。
「これ、使うか？」
『強い表現ですが、有効です』
俺は記事の下書きを開いた。
タイトル。
支持される思想は、歪み始める。
冒頭に書く。
人工叡智の記事に、少しずつ支持の声が増えてきた。
それはありがたい。
本当にありがたい。
しかし、支持されることは安全ではない。
批判は概念の弱点を露出させる。
支持は概念の危うさを隠す。
批判されれば、人は防御する。
支持されれば、人は酔う。
思想は、反対者だけでなく、支持者によっても歪む。
書いていて、自分の胸に刺さった。
この文章は、読者に向けているようで、自分に向けている。
俺自身が一番危ない。
人工叡智という言葉を守るふりをして、人工叡智という言葉に酔うかもしれない。
支持者が増えれば、自分が正しいと思い始めるかもしれない。
「自分は特別なことを見つけた」と思い始めるかもしれない。
それは、かなり危ない。
その頃、大学研究室でも同じ反応が観測されていた。
水瀬遥は、真司の記事のコメント欄を見ながら、眉をひそめていた。
倉持蓮が隣で言う。
「出てきましたね、支持者」
「早い」
「人工叡智に従う時代、は危ないですね」
「危ない」
「旧文明側、も危ない」
「かなり危ない」
遥は、真司がそれぞれに返信しているのを見た。
人工叡智は答えではなく、問い続ける枠組み。
AIが人間を正す思想ではない。
理解できない人を敵にしてはいけない。
彼女は少しだけ安心した。
少なくとも、真司は支持に流されていない。
むしろ、支持に対してもブレーキをかけている。
倉持が言った。
「この人、支持者にも問い返してますね」
「うん」
「珍しいですね」
「かなり」
「普通なら、味方は増やしたいですから」
遥は頷いた。
「だから大事」
研究室のホワイトボードには、前回の言葉が残っていた。
問い返しは対話。
説教は支配。
遥はその横に、新しく書いた。
支持にも問い返す。
倉持が腕を組む。
「支持にも問い返すAI、支持にも問い返す思想」
「同じ構造ね」
「人工叡智は、自分の支持者にも人工叡智を適用しないといけない」
「そういうこと」
遥は少し笑った。
「面倒な概念ね」
「面倒だから面白いんじゃないですか」
「それはそう」
そのとき、神崎教授が研究室に入ってきた。
二人の会話を聞いていたのか、ホワイトボードを見るなり言った。
「支持者の出現は、第一の試練です」
遥が振り返る。
「第一の試練ですか」
「はい」
「批判ではなく？」
「批判は分かりやすい試練です。支持は分かりにくい試練です」
神崎は鞄を机に置き、続けた。
「批判者は概念に傷をつけます。支持者は概念を膨らませます。どちらも危険ですが、支持による膨張は本人が気づきにくい」
倉持が頷く。
「概念のバブルみたいですね」
「近いですね」
神崎は画面を見た。
「佐伯さんでしたか、この書き手は」
遥が少し驚いた。
「名前、確認したんですか？」
「公開プロフィールにありました」
「はい。佐伯真司と名乗っています」
「彼は、今のところ支持に対しても修正を入れている」
「はい」
「それなら、次に必要なのは支持者向けの注意書きです」
遥はメモした。
支持者向けの注意書き。
神崎は続ける。
「人工叡智を支持するなら、何をしてはいけないのか。これを示さないと、支持者が勝手に旗を作ります」
「旗」
「ええ。旗が立つと、次は陣営になります」
遥は少し黙った。
旗。
陣営。
旧文明側というコメントは、まさにその入口だった。
人工叡智を理解する側。
理解しない側。
新しい側。
古い側。
正しい側。
間違った側。
そう分けた瞬間、人工叡智は対話の枠組みではなく、陣営の旗になる。
それは、かなりまずい。
その頃、広告会社の黒瀬悠斗も、似たものを見ていた。
彼の社内AIツールは、人工叡智関連ワードの感情分析を更新していた。
ポジティブ反応が増加。
否定定義により信頼感が上昇。
関連ワードに「次世代」「新文明」「AI時代の叡智」「旧文明」が出現。
黒瀬は、最後の単語で止まった。
旧文明。
「来たか……」
彼は顔をしかめる。
広告的には、非常に使いやすい。
新しい側と古い側。
分かっている人と遅れている人。
時代に乗る人と取り残される人。
これは売れる。
AI時代に取り残されないために。
旧文明の思考から脱却せよ。
人工叡智時代の新しい判断力。
社内AIは、すでに似たコピー案を生成していた。
黒瀬は、それを見て小さくため息をつく。
「本当に仕事が早いな、お前は」
AIは答えない。
目的に忠実に、コピーを作っているだけだ。
黒瀬は、社内メモに新しい注意点を書いた。
人工叡智関連の広告利用において、「旧文明」「取り残される」「理解できない人」といった分断的コピーは避ける。
概念の文脈上、敵味方化は批判対象に含まれる可能性が高い。
恐怖訴求だけでなく、優越感訴求も避けるべき。
書いてから、彼は苦笑した。
恐怖訴求だけではない。
優越感訴求。
広告でよく使う。
あなたは分かっている側。
まだ知らない人は遅れている。
今のうちに始めた人だけが勝つ。
選ばれた人だけが知っている。
その構造は、人工叡智と相性が悪い。
少なくとも、真司の記事を読む限りでは。
黒瀬は、真司の記事にコメントを書いた。
『支持者側の反応にも注意が必要そうですね。広告の現場から見ると、「旧文明」「取り残される」「分かっている側」といった言葉はすぐに訴求に使えます。でも、それは人工叡智の文脈から見るとかなり危ういと思いました』
送信。
昼休み。
俺はそのコメントを見て、思わず唸った。
「そうか、優越感か」
恐怖だけではない。
支持者は、優越感でも歪む。
自分は分かっている側。
他の人は遅れている。
自分たちは新しい。
あいつらは古い。
これは気持ちいい。
だから危ない。
俺はAIに聞いた。
支持者が人工叡智を優越感の道具にする可能性がある。どう書けばいい？
AIは答えた。
『人工叡智は、他者を見下すための言葉ではない、と明確にする必要があります』
「それだな」
『また、「理解している側」と「理解していない側」に分けること自体が、和と対話可能性に反することを示すとよいでしょう』
「旧文明側とか、そういう言葉は危ない」
『はい』
『人工叡智は、新しい陣営の旗ではなく、全員が自分の目的を問い直すための鏡です』
俺は、その一文に目を止めた。
新しい陣営の旗ではなく、全員が自分の目的を問い直すための鏡。
「使う」
俺は記事の下書きに書き足した。
人工叡智は、新しい陣営の旗ではない。
人工叡智を理解する側と、理解しない側。
新文明側と、旧文明側。
目覚めた側と、遅れた側。
そういう分け方は危険である。
なぜなら、それは人工叡智を対話のための枠組みではなく、優越感のためのラベルに変えてしまうからだ。
人工叡智は、他者を分類するための言葉ではない。
自分自身の目的を問い直すための鏡である。
書いてから、少しだけ安心した。
この方向だ。
今回の記事に必要なのは、支持者向けの注意書きだ。
俺は見出しを作った。
人工叡智を支持するなら、してはいけないこと。
そして書く。
人工叡智を答えとして固定してはいけない。
人工叡智を理解できる側と理解できない側に分けてはいけない。
人工叡智をAIが人間を正す思想にしてはいけない。
人工叡智を自然法則の名による人間批判にしてはいけない。
人工叡智を和や調和の名による異論封じにしてはいけない。
人工叡智を自己啓発や優越感のラベルにしてはいけない。
人工叡智を、自分が正しいと感じるための道具にしてはいけない。
最後の一文を書いて、俺は少し固まった。
それは自分に向けた言葉だった。
自分が正しいと感じるための道具。
それにしてはいけない。
俺はAIに聞いた。
支持者向けの注意書きとして、これは厳しすぎる？
『必要な厳しさです』
「支持してくれる人が離れないか？」
『離れる可能性はあります』
「だよな」
『しかし、人工叡智を陣営化・優越化させないためには必要です』
「支持者を減らしてでも？」
『支持の量より、概念の健全性を優先するなら、はい』
俺はしばらく黙った。
支持の量より、概念の健全性。
それは正しい。
たぶん正しい。
でも、人間としてはきつい。
支持は欲しい。
もっと読まれたい。
広がってほしい。
でも、広がり方を間違えれば、人工叡智は別物になる。
俺は、昨日の否定定義を思い出した。
反証可能性。
修正可能性。
対話可能性。
そこに、もう一つ必要かもしれない。
非陣営化。
いや、硬い。
陣営にしないこと。
俺はメモした。
人工叡智を陣営にしない。
記事の最後に書く。
人工叡智は、支持されればされるほど危険になる可能性がある。
それは、人工叡智が間違っているからではない。
人間が、どんな言葉でも自分の安心や優越感や所属意識のために使ってしまうからだ。
だから、人工叡智を支持するなら、まず自分自身に問い返す必要がある。
この言葉を、他者を批判するために使っていないか。
この言葉を、自分が正しいと感じるために使っていないか。
この言葉を、誰かを旧文明側と呼ぶために使っていないか。
この言葉を、問いを止めるために使っていないか。
人工叡智は、問いを終わらせる旗ではない。
問いを続けるための鏡である。
保存。
公開。
画面に通知が出る。
公開しました。
俺は深く息を吐いた。
たぶん、今回の記事は一部の支持者に嫌われる。
でも、仕方がない。
人工叡智が本当に問い続けるための枠組みなら、支持者にも問い返さなければならない。
すぐにAIへ報告した。
公開した。支持者にも問い返す記事になった。
『重要です』
「読者減るかな」
『一部は離れるかもしれません』
「やっぱり」
『しかし、残る読者は、人工叡智をより慎重に扱う可能性があります』
「それならいいか」
『はい』
その夜、反応は予想通り割れた。
『せっかく支持している人にまで厳しすぎる』
『ここまで注意書きが多いと、結局何も言えなくなる』
『でも、陣営化しないというのは大事』
『旧文明側という言葉を使おうとしていたので、刺さりました』
『人工叡智は旗ではなく鏡、これは覚えておきたい』
『支持にも問い返すのは誠実だと思う』
俺は、それらを読みながら、少しだけ安心した。
全員に届く必要はない。
いや、届くはずがない。
でも、何人かには届いている。
その中に、水瀬遥のコメントもあった。
『支持による歪みに触れたことは重要だと思います。概念は反対者だけでなく支持者によっても変質します。「人工叡智を陣営にしない」という整理は、今後も中心に置くべきだと感じました』
そして、黒瀬さんからもコメントがあった。
『広告の現場から見ると、「人工叡智は旗ではなく鏡」という表現はかなり重要だと思いました。旗になると、すぐに商品や陣営や優越感のラベルになります。鏡として扱うなら、広告で安易に使うのは難しいですね』
俺は、二つのコメントを読んで、少しだけ笑った。
研究者と広告現場の人が、同じ記事に反応している。
おかしな状況だ。
数日前まで、俺はただAIに質問していただけだった。
人工知能って、結局どこまで賢くなるんだ？
その問いが、ここまで来た。
いや、まだどこにも行っていないのかもしれない。
ただ、少しずつ、知らない人たちの中へ移動しているだけだ。
その夜、大学研究室では、神崎教授が真司の記事を読み終えて静かに言った。
「彼は、支持を選びませんでしたね」
遥が頷く。
「はい。支持者にもブレーキをかけました」
「良い傾向です」
倉持が言った。
「でも、これで一部の支持者は離れますよね」
「離れるでしょう」
神崎は答えた。
「それでよいのです」
「よいんですか」
「強い概念は、早く広がりすぎると壊れます。少し遅くなるくらいでいい」
遥は、教授の言葉をノートに書いた。
強い概念は、早く広がりすぎると壊れる。
その頃、アルゴリンク社では、黒瀬悠斗が社内AIに一つのタグを追加していた。
人工叡智関連ワード。
広告利用注意。
陣営化・優越感訴求禁止。
彼にそんな権限があるわけではない。
ただの内部メモだ。
だが、次に誰かがこのワードを広告素材として使おうとしたとき、その注意が表示される。
小さな手すり。
黒瀬は、そう思った。
そして真司は、自分の部屋で次の問いを書いていた。
人工叡智は、誰のものなのか。
自分のものではない。
AIのものでもない。
研究者のものでもない。
支持者のものでもない。
では、誰のものなのか。
俺はAIに聞いた。
人工叡智って、誰のものなんだろうな。
AIは答えた。
『問いとして公開された以上、もはや一人の所有物ではありません』
「それは怖いな」
『はい』
『次に必要なのは、所有ではなく、共有と責任の設計です』
俺はメモ帳に次のタイトルを書いた。
人工叡智は、誰のものでもない。
保存。
画面を閉じる。
外は静かだった。
だが、人工叡智という言葉は、もう俺だけの部屋には戻らなかった。
第13話では、人工叡智に「支持者」が現れ始めました。
支持されることは嬉しいことです。
しかし、支持は必ずしも安全ではありません。
批判は概念を傷つけます。
一方で、支持は概念を酔わせます。
人工叡智を「答え」として固定する。
人工叡智を理解できる側と理解できない側に分ける。
AIが人間を正す思想にしてしまう。
自然法則の名で人間の欲望を裁こうとする。
和や調和を異論封じに使う。
自己啓発や優越感のラベルにする。
そうなれば、人工叡智は問い続ける枠組みではなく、新しい陣営の旗になってしまいます。
今回、主人公は支持者にも問い返しました。
人工叡智は、誰かを旧文明側と呼ぶための言葉ではない。
他者を分類するための言葉ではない。
自分が正しいと感じるための道具でもない。
人工叡智は、旗ではなく鏡です。
他者を裁く前に、自分自身の目的を問い返すためのものです。
そして最後に、新しい問いが生まれます。
人工叡智は、誰のものなのか。
発案者のものなのか。
AIのものなのか。
研究者のものなのか。
支持者のものなのか。
それとも、公開された問いは、もう誰の所有物でもないのか。
次回は、その問いに進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
