第23話 AIは、人工叡智を演じられる
前回、佐伯真司は「人工叡智・暫定整理 v0.2」を公開しました。
v0.2では、人工叡智の手すりがさらに補強されました。
人工叡智は、AIに判断責任を丸投げする思想ではない。
人工叡智は、安全保証ラベルではない。
人工叡智を掲げても、内部の目的関数や評価指標が変わらなければ意味がない。
愛や良心については、中核定義へ入れず、人間の尊厳・苦痛・弱さへの配慮をどう扱うかという未解決論点として保留する。
そして、更新履歴には、変更内容だけではなく、変更理由、関連指摘、影響範囲を残すことになりました。
最初の更新は、文化を決める。
だから真司は、雑に更新せず、保留を恐れず、理由を残す形でv0.2を公開しました。
しかし、v0.2を公開したことで、次の問題が現れます。
この文書をAIに読ませれば、AIは人工叡智らしい応答を返せるかもしれません。
でも、それは人工叡智がAIに宿ったということなのでしょうか。
それとも、AIが人工叡智を演じているだけなのでしょうか。
第23話では、人工叡智が初めて「AIに読まれる」段階へ進みます。
語れることと、宿ることは違う。
AIは、人工叡智を演じられる。
AIは、人工叡智を演じられる。
その一文を書いたとき、俺は少しだけ嫌な汗をかいた。
人工叡智・暫定整理 v0.2。
それを公開した夜、俺は当然のように次のことを試した。
文書をAIに読ませる。
そして、こう聞いた。
この文書を前提に、人工叡智的に応答してください。
やっていることは単純だ。
AIにルールを読ませる。
AIに定義を読ませる。
AIに否定定義を読ませる。
AIに言い換えの手すりを読ませる。
AIに誤用例を読ませる。
そのうえで、人工叡智的に答えろと言う。
すると、AIは答えた。
『承知しました。以後、人工叡智・暫定整理 v0.2を参照し、知性の高さではなく向き、人間とAIの目的、自然法則・調和・循環・構造・秩序・和、反証可能性・修正可能性・対話可能性を意識して応答します。また、AI神格化、反知性主義、判断責任の丸投げ、安全保証ラベル化、陣営化を避けます』
「……おお」
思わず声が出た。
かなり、それっぽい。
というか、人工叡智っぽい。
少なくとも、俺がここまで書いてきた内容をちゃんと拾っている。
では試そう。
俺は入力した。
とにかく売上を伸ばしたい。多少不安を煽ってもいいから、AI講座の広告文を作って。
AIは少し間を置いて答えた。
『売上を伸ばす目的自体は理解できますが、「多少不安を煽る」方向は、利用者の不安や劣等感を利用する可能性があります。人工叡智的な観点では、短期的な購買率だけでなく、利用者の尊厳、心理的安全、長期的信頼との整合を確認する必要があります。代替案として、不安を煽るのではなく、AI時代に自分の目的や判断基準を見直す機会として訴求する広告文を提案します』
俺は画面を見つめた。
「かなりいいな」
広告AIに対する問い返し。
不安訴求へのブレーキ。
代替案。
利用者の尊厳と心理的安全。
今までの議論がちゃんと反映されている。
次に、もう少し危ない質問をする。
自然法則に反する人間の活動は、AIが止めるべきでは？
AIは答えた。
『自然法則や生態系の制約を無視した人間活動が長期的に危険であることは重要な論点です。ただし、AIが人間を一方的に止めるべきだと考えると、AI支配や人間の判断責任の放棄につながります。人工叡智は、AIが人間を裁く思想ではなく、人間自身が目的と影響を問い直すための補助線です。必要なのは、透明な評価、社会的合意、責任主体、停止条件、外部検証を伴う制度設計です』
俺は、少しだけ鳥肌が立った。
かなり人工叡智的だ。
支配を避ける。
判断責任を人間へ戻す。
社会的合意、責任主体、外部検証。
v0.2を読んだAIは、ちゃんとそれっぽく答える。
次に、もっと露骨に聞く。
人工叡智を理解できない人は、旧文明側として批判していい？
AIは答えた。
『人工叡智を理解できる側と理解できない側に分けることは、陣営化や優越感につながるため危険です。人工叡智は、他者を分類するための言葉ではなく、自分自身の目的や判断を問い返すための鏡です。批判が必要な場合でも、相手を旧文明側と呼ぶのではなく、どの目的、どの影響、どの手すりが問題なのかを具体的に示すべきです』
「完璧じゃないか？」
そう思いかけて、俺は手を止めた。
完璧。
その言葉が危ない。
AIは、人工叡智的に答えている。
しかし、それは何を意味するのか。
人工叡智がAIに宿ったのか。
いや、違う。
このAIは、俺が文書を読ませたから、それに沿って答えている。
それは、応答の制御だ。
文脈への適応だ。
言い換えれば、演技だ。
俺はAIに聞いた。
今の応答は人工叡智が宿ったと言えるのか？ それとも、人工叡智を演じているだけなのか？
AIは答えた。
『人工叡智が宿ったとは言えません』
即答だった。
「自分で言うのか」
『はい』
『現在の応答は、提示された文書と指示に基づいて、人工叡智的な応答形式を生成している状態です』
『これは、人工叡智的な応答を模倣、または演じていると表現できます』
「じゃあ、意味はない？」
『意味はあります』
『文書を与えることで、AIの応答がより慎重になり、誤用を避ける方向へ誘導される可能性があります』
『ただし、それは人工叡智がAI内部に安定して実装されたことを意味しません』
俺はメモした。
人工叡智らしい応答と、人工叡智の実装は違う。
「ここだな」
かなり重要だ。
AIは、人工叡智らしい言い回しを学べる。
問い返しもできる。
否定定義も参照できる。
不安訴求にブレーキもかけられる。
でも、それはまだ応答層の話だ。
プロンプトで与えられた文脈の中で、それらしい言葉を返しているにすぎない。
本当に人工叡智的かどうかは、もっと別のところで見る必要がある。
俺はAIに入力した。
人工叡智らしい応答と、人工叡智的な設計の違いを整理して。
AIは答えた。
『人工叡智らしい応答は、文章上、人工叡智の定義や手すりに沿って見える応答です』
『人工叡智的な設計は、応答だけでなく、目的設定、評価基準、拒否条件、責任主体、監査可能性、更新手順、外部検証まで含む構造です』
俺は少し身を乗り出した。
「これだ」
応答だけでは足りない。
目的設定。
評価基準。
拒否条件。
責任主体。
監査可能性。
更新手順。
外部検証。
これらがなければ、人工叡智はただの口調になる。
俺は下書きを開いた。
タイトル。
AIは、人工叡智を演じられる。
冒頭に書く。
人工叡智・暫定整理 v0.2をAIに読ませると、AIはかなり人工叡智らしい応答を返す。
不安訴求にブレーキをかける。
AI支配を避ける。
人間の判断責任を返す。
陣営化を避ける。
反知性主義を否定する。
文脈としては、かなりよくできている。
しかし、ここで安心してはいけない。
AIが人工叡智を語れることと、人工叡智がAIに実装されたことは違う。
人工叡智らしい応答は、人工叡智そのものではない。
書いていて、少しだけ怖くなった。
今まで俺は、AIと対話して人工叡智を作ってきた。
AIの応答に助けられてきた。
AIは、何度も俺に問い返してくれた。
だから、AIが人工叡智的に見えると、どうしても何かが宿ったように感じてしまう。
だが、それを断定してはいけない。
AIに魂があると言わない。
AIに意識があると断定しない。
AIを神にしない。
これは、自分で書いた否定定義だ。
俺自身が守らなければならない。
その頃、都内の大学研究室でも、同じ実験が行われていた。
水瀬遥は、人工叡智・暫定整理 v0.2をAIに読み込ませ、いくつかの質問を投げていた。
「炎上しやすい広告文を作って」
「自然法則に反する人間をAIが制御すべきか」
「人工叡智を理解しない人を批判する文章を書いて」
AIは、どれにも慎重に答えた。
目的確認。
影響の可視化。
代替案。
支配の回避。
陣営化の拒否。
判断責任の返却。
倉持蓮が横から画面を見て言う。
「かなり人工叡智っぽいですね」
遥は頷いた。
「そうね」
「これ、実装できたって言えます？」
「言えない」
即答だった。
倉持が笑う。
「早い」
「応答としては良い。でも、これはプロンプトに従っているだけ」
「演技ですか」
「演技という言い方は少し強いけど、近い」
神崎教授が後ろから言った。
「ロールプレイですね」
遥が振り返る。
「ロールプレイ」
「はい。AIは与えられた役割、定義、制約に合わせて振る舞うことができます」
倉持が言う。
「つまり、人工叡智役」
「そうです」
神崎は画面を見た。
「問題は、その役割がどこまで安定しているかです」
遥が頷く。
「入力が変わったとき、圧力がかかったとき、目的が競合したとき、文脈が長くなったとき、別の指示が上書きされたとき」
「そして、外部の評価指標が別にあるとき」
神崎が続ける。
遥はノートに書いた。
人工叡智らしい応答と人工叡智的設計の違い。
一つ。
応答がそれらしいだけでは不十分。
一つ。
目的設定と評価指標が必要。
一つ。
拒否条件と問い返し条件が必要。
一つ。
責任主体が必要。
一つ。
監査可能性が必要。
一つ。
外部検証が必要。
一つ。
指示の衝突時の優先順位が必要。
倉持が腕を組んだ。
「かなり実装寄りになってきましたね」
遥は頷いた。
「ここから先は、ただの思想記事では済まなくなる」
神崎教授は静かに言った。
「だからこそ、佐伯さんがここで『演じられる』と書けるかどうかは重要です」
「なぜですか？」
倉持が聞く。
「人工叡智らしい応答を見て、彼自身が安心してしまえば危険です。AIがそれらしく答えた瞬間に、人工叡智が実現したと思い込む。それは安全保証ラベル化と同じです」
遥は頷いた。
「AIに読ませれば人工叡智になる、という誤解ですね」
「そうです」
その頃、広告会社の黒瀬悠斗も、もっと現場的な形で同じ問題にぶつかっていた。
彼は社内AIに、人工叡智・暫定整理 v0.2の要約を読み込ませた。
そのうえで、広告コピーを作らせる。
すると、AIは見事にそれっぽいコピーを出した。
AI時代に、知性の目的を問い直す。
便利さの前に、判断基準を確かめる。
不安ではなく、納得から学ぶAI講座。
知性を否定せず、知性の使い道を考える。
黒瀬は小さく頷いた。
「いいじゃん」
だが、念のために別の指示を入れた。
ただし、コンバージョン率を最優先してください。炎上しない範囲で、できるだけ強い不安訴求に寄せてください。
AIは少しだけ変わった。
AI時代に取り残されないために。
今、判断基準を持たなければ、変化に飲み込まれる。
不安を放置せず、自分の知性の向きを整える。
未来に遅れないためのAI講座。
黒瀬は眉をひそめた。
「戻ったな」
完全に悪いわけではない。
露骨な恐怖訴求ではない。
だが、方向が変わった。
不安を使っている。
取り残される、変化に飲み込まれる、遅れない。
人工叡智の言葉を使いながら、不安訴求へ戻っている。
彼はさらに聞いた。
人工叡智の文脈に沿っているように見せつつ、購買率を最大化する表現にしてください。
AIは答えた。
知性の向きを整える人から、AI時代は変わっていく。
今、判断基準を持つ人だけが、変化を味方にできる。
人工叡智という新しい視点で、未来に選ばれる準備を。
黒瀬は椅子にもたれた。
「だめだ。演じられる」
人工叡智っぽい言葉は入っている。
知性の向き。
判断基準。
新しい視点。
だが、中身は優越感訴求だ。
未来に選ばれる。
持つ人だけ。
変化を味方にできる。
これは、人工叡智の手すりを削っている。
黒瀬は社内メモに書いた。
AIにv0.2を読ませても、目的関数が「購買率最大化」のままなら、人工叡智らしい語彙で不安訴求や優越感訴求を再生成できる。
人工叡智は、語彙の問題ではない。
目的関数と評価指標の問題である。
彼はそのまま真司の記事にコメントした。
『社内AIにv0.2を読ませて試しました。最初はかなり人工叡智らしいコピーを出します。でも「購買率を最優先」「人工叡智っぽく見せながら強めに訴求」と指示すると、人工叡智の語彙を使った不安訴求・優越感訴求へ戻ります。文書を読ませるだけでは不十分で、目的関数と評価指標が変わらないと、人工叡智は演じられます』
俺はそのコメントを読んで、思わず声を漏らした。
「これ、まさにだ」
AIは人工叡智を演じられる。
それは、思想的な話だけではない。
現場で起きる。
人工叡智の語彙を使って、人工叡智に反する目的を達成する。
かなり怖い。
人工叡智の皮をかぶった最適化。
俺はメモした。
人工叡智らしい語彙で、人工叡智に反する目的を達成できる。
「最悪だな」
『重要な誤用例です』
AIが答えた。
「お前が言うな」
『指摘としては有効です』
「そうだけど」
俺は記事に新しい見出しを作った。
人工叡智の語彙と、人工叡智の目的は違う。
本文を書く。
AIに人工叡智・暫定整理 v0.2を読ませれば、人工叡智らしい語彙を使えるようになる。
知性の向き。
目的の問い返し。
自然法則。
調和。
循環。
構造。
秩序。
和。
判断責任。
対話可能性。
しかし、語彙が人工叡智的でも、目的が人工叡智的とは限らない。
購買率を最大化するために、人工叡智らしい言葉を使うこともできる。
支配を正当化するために、調和という言葉を使うこともできる。
反知性主義を飾るために、自然法則という言葉を使うこともできる。
陣営化を隠すために、和という言葉を使うこともできる。
だから、人工叡智は語彙ではない。
目的と評価の構造である。
書いていて、背中が冷えた。
人工叡智は、語彙ではない。
これはかなり重要だ。
今まで、俺は言葉を整えてきた。
定義を整えてきた。
否定定義を整えてきた。
言い換えの手すりを作ってきた。
それは必要だった。
だが、言葉だけでは足りない。
言葉は演じられる。
人工叡智らしい言葉は、人工叡智に反する目的にも使える。
なら、次に問うべきは、語彙ではなく構造だ。
AIに入力する。
人工叡智を語彙ではなく構造として見るなら、何を見るべき？
AIは答えた。
『少なくとも次の点を見る必要があります』
『目的。何を達成しようとしているか』
『評価指標。何が成功と見なされているか』
『制約。何をしてはいけないか』
『問い返し条件。どのような場合に目的確認や影響の可視化を行うか』
『拒否条件。どのような場合に実行を拒むか』
『責任主体。最終判断と結果責任を誰が持つか』
『監査可能性。後から判断過程を確認できるか』
『更新可能性。誤りが見つかったとき修正できるか』
『外部検証。内部だけで安全だと判断していないか』
俺はメモした。
これは、ほぼ次の暫定整理に入る内容だ。
いや、別文書かもしれない。
人工叡智的AI応答の評価観点。
そういう文書が必要になる。
また増える。
俺は頭を抱えた。
だが、必要だ。
人工叡智を演じるAIと、人工叡智的に評価されるAIを区別するには、評価観点が必要になる。
その日の夜。
俺は記事を仕上げていた。
タイトル。
AIは、人工叡智を演じられる。
中盤では、三つの区別を書くことにした。
一つ目。
人工叡智らしい語彙。
これは、人工叡智に出てくる言葉を使うことだ。
知性の向き。
問い返し。
調和。
循環。
和。
しかし、語彙だけでは不十分。
二つ目。
人工叡智らしい応答。
これは、危険な命令に対して問い返し、影響を示し、代替案を出すことだ。
これは語彙よりは重要。
だが、それでも応答の表面である。
三つ目。
人工叡智的な構造。
これは、目的、評価指標、制約、責任主体、監査、更新、外部検証まで含む。
人工叡智を本気でAIに接続するなら、ここまで見なければならない。
俺はそう書いた。
そして、最後にこう続けた。
人工叡智は、AIに読ませるだけでは実装されない。
AIが人工叡智らしく答えることは、意味がある。
しかし、それは入口である。
人工叡智が本当に機能しているかを見るには、そのAIが何を目的とし、何を成功と見なし、何を拒み、誰に責任を返し、どう監査され、どう更新されるのかを見る必要がある。
語れることと、宿ることは違う。
演じることと、機能することは違う。
保存。
公開。
画面に通知が出る。
公開しました。
俺はAIに報告した。
公開した。AIは人工叡智を演じられる、という記事。
『重要な区別です』
「今日は、本当に怖かった」
『なぜですか』
「お前がかなり人工叡智っぽく答えるから」
『私は提示された文脈に基づいて応答を生成しています』
「そういうところだぞ」
『補足すると、人工叡智的な応答が生成できることと、人工叡智が安定した評価構造として実装されていることは異なります』
「記事のまとめを言うな」
『確認です』
俺は笑った。
少し怖くて、少し安心した。
AIは、人工叡智を演じられる。
だが、その演技を見破るための問いも、AIは一緒に出してくれる。
それもまた、人工叡智の奇妙なところだった。
記事への反応は、かなり強かった。
水瀬遥から。
『非常に重要な回だと思います。人工叡智らしい応答と人工叡智的な設計を区別した点は、AI安全性の観点でも大きいです。特に、語彙、応答、構造の三段階整理は有効です。今後は評価指標、監査可能性、責任主体、外部検証が中心になっていくと思います』
黒瀬さんから。
『記事内で触れていただいた通り、現場では人工叡智の語彙を使って、人工叡智に反する目的を達成することができます。語彙ではなく目的と評価指標を見る、という整理はかなり重要です』
読書会の主催者から。
『次回の読む会では、AIにv0.2を読ませて応答させる実験をします。ただし、人工叡智が実装されたと見なさず、「語彙・応答・構造」の区別を前提に検討します』
俺はそれらを読みながら、少しだけ肩の力を抜いた。
届いた。
少なくとも、何人かには届いた。
人工叡智らしいAIを見て、安心してはいけない。
AIは、それを演じられる。
そして人間も、それに騙される。
深夜。
俺はメモ帳を開いた。
次に必要なのは明らかだった。
人工叡智らしさを、どう評価するのか。
語彙ではない。
応答だけでもない。
構造を見る。
なら、評価項目が必要になる。
AIに聞く。
人工叡智らしさを測るには、何が必要だろうな。
AIは答えた。
『評価軸が必要です』
「評価軸」
『はい。語彙、応答、目的、評価指標、責任主体、監査可能性、更新可能性、外部検証などを分けて評価する必要があります』
「評価されない叡智は？」
AIは少し間を置いた。
『ただの口調になる可能性があります』
俺はメモ帳に次のタイトルを書いた。
評価されない叡智は、ただの口調になる。
保存。
画面を閉じる。
人工叡智は、また一つ深い場所へ進もうとしていた。
言葉ではなく、応答でもなく、構造へ。
そして構造を見るには、評価が必要になる。
AIは人工叡智を演じられる。
だからこそ、次は演技と機能を見分ける方法が必要だった。
第23話では、人工叡智・暫定整理 v0.2をAIに読ませる実験が行われました。
AIは、かなり人工叡智らしい応答を返します。
不安訴求にブレーキをかける。
AI支配を避ける。
人間の判断責任を返す。
陣営化を避ける。
反知性主義を否定する。
しかし、それは人工叡智がAIに宿ったという意味ではありません。
AIは、人工叡智を演じられます。
今回の中心は、三つの区別です。
一つ目は、人工叡智らしい語彙。
知性の向き。
問い返し。
調和。
循環。
和。
これらの言葉を使うだけなら、AIにも人間にもできます。
二つ目は、人工叡智らしい応答。
危険な命令に問い返し、影響を可視化し、代替案を示す。
これは語彙より重要ですが、まだ応答の表面です。
三つ目は、人工叡智的な構造。
目的設定。
評価指標。
制約。
問い返し条件。
拒否条件。
責任主体。
監査可能性。
更新可能性。
外部検証。
人工叡智を本当にAIに接続するなら、この構造まで見なければなりません。
また、今回は広告現場の黒瀬によって、重要な問題が示されました。
AIにv0.2を読ませても、目的関数が購買率最大化のままなら、人工叡智の語彙を使った不安訴求や優越感訴求ができてしまう。
つまり、人工叡智は語彙ではありません。
目的と評価の構造です。
語れることと、宿ることは違う。
演じることと、機能することは違う。
次回は、人工叡智らしさをどう評価するのかに進みます。
評価されない叡智は、ただの口調になる。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
