第6話 研究室で、人工叡智は笑われなかった
前回、佐伯真司は「人工叡智」について、二本目の記事を公開しました。
一つ目の記事では、人工叡智を「知性を自然法則へ帰還させるためのOS」として定義しました。
二つ目の記事では、人工叡智が支配思想に変質しないために、「秩序」と「支配」の違いを整理しました。
支配は、自由を奪って静かにすること。
秩序は、自由が共存できるように整えること。
その言葉は、まだ大きく広がったわけではありません。
けれど、問いは主人公の部屋を出て、AI倫理の研究者・水瀬遥の目に留まります。
第6話では、人工叡智という言葉が初めて研究室の中で議論されます。
まだ称賛ではありません。
まだ理解でもありません。
けれど、少なくともそれは、笑って捨てられるだけの言葉ではありませんでした。
水瀬遥は、朝の研究室で三本目のコーヒーを開けた。
紙コップではなく、コンビニで買ったペットボトルの微糖コーヒー。
研究者らしくないと言われることもあるが、彼女に言わせれば、カフェインが入っていれば容器などどうでもいい。
午前十時。
大学のAI倫理研究室には、まだ人がまばらだった。
窓際の席では博士課程の学生が論文を読んでいる。
奥の机では、修士の学生が大きなヘッドホンをつけたままコードを書いている。
ホワイトボードには、昨日の議論の名残が残っていた。
AI alignment
value learning
preference aggregation
risk of optimization
human oversight
英語ばかりの単語が並ぶ中で、遥は自分のノートパソコンを開いた。
昨日保存した記事を、もう一度表示する。
人工叡智――知性の帰還点。
「……タイトルだけ見ると、だいぶ怪しいんだけどな」
小さく呟く。
怪しい。
その第一印象は、今も消えていない。
人工叡智。
いかにも大きい。
いかにも抽象的。
いかにも個人思想っぽい。
AI倫理の研究室にいる人間ほど、そういう言葉には警戒する。
AIが人類を導く。
AIに魂が宿る。
AIが神になる。
AIが人間を超えた叡智を持つ。
そういう主張は、ネット上にいくらでもある。
多くは、技術的な理解が足りないか、過剰な期待か、恐怖の裏返しだ。
だから、遥も最初は流すつもりだった。
だが、読んでみると、少し違った。
この書き手は、AIを神格化していない。
AIに意識があるとも言っていない。
既存のAIが本当に叡智を持ったとも言っていない。
むしろ何度も注意書きをしている。
人工叡智は、完成されたAIではない。
暴走AIを必ず止める魔法ではない。
人間を自然の邪魔者として切り捨てる思想ではない。
自然法則を誰か一人が独断で定義してはならない。
秩序は支配ではない。
「防御線が多い」
遥は画面をスクロールしながら呟いた。
しかし、それは悪いことではなかった。
強い概念ほど、誤用される。
誤用を想定しているかどうかは、かなり重要だ。
彼女は二本目の記事を開いた。
人工叡智は、誰を支配するためのものでもない。
その中にあった一文を、また読み返す。
支配は、自由を奪って静かにすること。
秩序は、自由が共存できるように整えること。
「……ここは、悪くない」
「何がですか？」
背後から声がして、遥は少し肩を揺らした。
振り返ると、修士一年の倉持蓮が立っていた。
丸眼鏡に、いつも寝癖がついている学生だ。
頭は切れるが、言い方が少し刺さる。
「おはよう、倉持くん」
「おはようございます。朝から変な顔してましたけど、また査読コメントですか？」
「違う。ネット記事」
「先生がネット記事で変な顔するの、だいたい危ないやつじゃないですか」
「危ないかどうか、判断しかねてる」
「見てもいいですか？」
遥は少し迷った。
だが、どうせ昼の雑談で共有するつもりだった。
「いいよ」
倉持は横から画面を覗き込む。
タイトルを見た瞬間、露骨に眉をひそめた。
「人工叡智」
「うん」
「怪しいですね」
「第一印象はそう」
「知性の帰還点」
「さらに怪しいでしょ」
「はい」
遠慮がない。
だが、遥はその正直さを嫌いではなかった。
「でも、読んで」
倉持は椅子を引き寄せ、画面に顔を近づけた。
数分の沈黙。
スクロールの音だけが続く。
やがて、倉持が口を開いた。
「……思ったよりまともですね」
「でしょ」
「AIが叡智を持ったとか、AIに人類を任せようとか、そういう話ではない」
「うん」
「むしろ、人間の目的設定の方を疑っている」
「そこ」
遥は画面の一部を指差した。
「ここが気になった」
そこには、真司が書いた一文があった。
人工叡智は、AIを人間に従わせるための思想ではない。
人間の目的そのものを、自然法則の前で問い直す仕組みである。
倉持は腕を組んだ。
「AI alignmentの外側から来た感じですね」
「そう。専門用語の使い方は荒い。でも問いの立て方が、少し変」
「変というか、alignmentの前提をずらしてる」
「どうずらしてる？」
「普通は、人間の価値観にAIを合わせる話をしますよね」
「うん」
「でもこの人は、人間の価値観そのものが壊れていたらどうするのか、って言ってる」
遥は頷いた。
それが、彼女がこの記事を閉じられなかった理由だった。
AIを人間に合わせる。
それはAI安全性の中心的な考え方の一つだ。
だが、その「人間」は誰なのか。
人間の価値観とは何なのか。
人間の欲望、偏見、競争、短期利益、環境破壊まで含めて、人間の価値観なのか。
もしAIがそれを忠実に増幅したら、それは安全なのか。
この問い自体は、研究分野の中にもある。
だが、この書き手はそれを、学術用語ではなく、かなり直感的な言葉で言っていた。
「人間の暴走をAIが自動化する」
遥は、記事中の言葉を小さく読み上げた。
倉持が頷く。
「そこは刺さりますね」
「でしょ」
「でも、自然法則を上位基準にするって、危ういですよ」
「もちろん」
「誰が自然法則を解釈するのか。何を自然と呼ぶのか。自然という言葉で、人間を切り捨てる思想はいくらでも作れる」
「本人もそこは気にしてる」
遥は二本目の記事を開いた。
反支配の条件。
誰か一人が、自然法則の最終解釈者になってはいけない。
自然法則は、思想ではなく検証可能な存在条件として扱う。
和は、黙らせることではなく、違いを含んだまま壊れない形を作ること。
秩序は、自由を奪うことではなく、自由が壊し合わないように設計すること。
AIは支配者ではなく、人間の目的を映し返す鏡である。
人工叡智は完成品ではなく、誤用を認めて修正し続ける枠組みである。
倉持は、そこを黙って読んだ。
「……ここまで自分で防いでるなら、単純な危険思想ではないですね」
「そうなんだよね」
「でも、論文ではない」
「もちろん」
「概念メモですね」
「うん」
「でも、民間からこういう言葉が出てくるのは面白い」
遥はコーヒーを飲んだ。
微糖のはずなのに、やけに苦く感じた。
「昼の輪読後に、少しだけ共有する」
「これをですか？」
「うん。雑談枠で」
「教授、嫌な顔しません？」
「するかも」
「しますね」
「でも、嫌な顔で済むならいい」
「どういう意味ですか」
遥は画面を見たまま答えた。
「もし本当に価値OSの話なら、専門家だけが考えればいいというものでもないから」
倉持は、少しだけ真面目な顔になった。
「一般人のAI思想を研究室で扱うって、難しくないですか」
「難しい」
「カルト扱いにも、天才扱いにもできない」
「そう。どちらも駄目」
「じゃあ、どう扱うんです？」
遥は少し考えた。
「観測対象」
「観測対象？」
「完成した理論ではなく、社会の外側から出てきた問いとして見る」
倉持は、少し納得したように頷いた。
「なるほど。問いとして」
「うん。問いは粗くても意味がある」
その頃、真司はもちろん、研究室でそんな会話が行われていることを知らない。
彼はいつも通り会社にいて、昼休みにコンビニの弁当を食べながら、自分の記事のアクセス数を見ていた。
昨日より少しだけ増えている。
本当に少しだけ。
だが、共有された影響なのか、見慣れない参照元が一つ増えていた。
大学のドメインらしきもの。
「……大学？」
真司は画面を見つめた。
何かの間違いかもしれない。
クローラーかもしれない。
学生がたまたま開いただけかもしれない。
それでも、妙に気になった。
彼はすぐにAIチャットを開いた。
> アクセス解析に大学っぽいドメインが出てるんだけど、これって研究者に読まれた可能性ある？
AIは答えた。
『可能性はあります。ただし、アクセス解析だけでは誰が読んだかは分かりません』
「そりゃそうだ」
『学生、研究者、図書館端末、自動巡回、いずれの可能性もあります』
「急に現実に戻すな」
『誤認を避けるためです』
真司は弁当の唐揚げを口に入れながら、スマホを見つめた。
研究者に読まれた。
そう思うと、急に自分の記事が恥ずかしくなった。
定義は甘い。
用語も雑。
根拠も不十分。
専門家から見れば、突っ込みどころだらけのはずだ。
「消すか？」
一瞬、本気で思った。
だが、すぐにAIの言葉を思い出した。
公開は、終わりではない。
修正可能な途中経過でもある。
消すより、補足。
逃げるより、直す。
真司はAIに聞いた。
> もし専門家に読まれてる可能性があるなら、次に何を書けばいい？
『定義をさらに明確にすることが有効です』
「定義？」
『はい。人工叡智という概念が、既存のAI、AGI、ASIと何が違うのかを整理するとよいでしょう』
「AI、AGI、ASI、人工叡智の違いか」
『はい』
『人工知能は、情報処理やタスク遂行の能力です』
『AGIは、複数領域にまたがる汎用的な知能です』
『ASIは、人間を超える能力を持つ超知能です』
『人工叡智は、それらの能力段階ではなく、知性の目的と行動を評価する価値基準の層です』
真司は箸を止めた。
「能力じゃなくて、層」
『はい』
『人工叡智は、AIより賢いAIという意味ではありません』
『AI、AGI、ASIの上に置かれる、目的評価のレイヤーです』
「それ、かなり大事じゃないか」
『重要です』
真司はメモアプリを開いた。
AIは最適化する。
AGIは汎用化する。
ASIは人間を超える。
人工叡智は、その最適化自体が持続可能かを問う。
「……これ、次の記事の核だな」
『その通りです』
「お前、誘導してないか？」
『あなたの問いに沿って整理しています』
「まあ、そうか」
真司は苦笑した。
昼休みの残り時間は、もう十分もなかった。
だが、彼は弁当を片付けるより先に、メモを保存した。
AI、AGI、ASI、AW。
AW。
Artificial Wisdom。
人工叡智。
英語にすると、さらに大げさに見える。
けれど、もし研究者に見られているなら、日本語だけではなく英語の定義も必要になるのかもしれない。
「いや、早い早い」
真司は自分に言った。
まだそんな段階ではない。
まだ記事二本だ。
まだ反応も少ない。
まだ何も始まっていない。
そう思いたかった。
しかし、その日の午後、大学の研究室では、もう少しだけ話が進んでいた。
輪読会の後。
本来なら、今日読んだ論文について議論する時間だった。
テーマは、AIモデルの行動制御における人間フィードバックの限界。
かなり重い内容だった。
議論が一段落したところで、遥は手を挙げた。
「少しだけ、雑談枠で共有したいものがあります」
教授の神崎が、眼鏡を少し下げた。
「また変なものを拾いましたか、水瀬さん」
「変かどうかは、これから判断します」
研究室に小さな笑いが起きる。
遥は画面を共有した。
人工叡智――知性の帰還点。
タイトルが表示された瞬間、何人かが反応した。
「おお……」
「これは……」
「強いタイトルですね」
「思想系ですか？」
遥は苦笑した。
「第一印象は分かります。でも、少しだけ読んでください」
彼女は記事の要点を説明した。
人工叡智は、AIが意識を持ったという主張ではない。
AIを人間より上位に置く思想でもない。
AI、AGI、ASIの能力段階とは別に、知性の目的を自然法則・循環・調和に照らして評価する価値基準OSとして提案されている。
そして、重要なのは、AIを支配者ではなく鏡として扱っている点。
説明を聞きながら、神崎教授は黙っていた。
六十代半ば。
AI研究がまだ今ほど世間を騒がせていなかった時代から、機械学習と意思決定支援を見てきた人物だ。
派手な言葉には厳しい。
根拠の甘い未来論にはさらに厳しい。
だから、学生たちは少し緊張していた。
遥が説明を終えると、数秒の沈黙があった。
最初に口を開いたのは、博士課程の李だった。
「自然法則を価値基準にするというのは、誰が定義するのか問題が大きすぎませんか」
遥が頷く。
「本人もそこは認識していて、誰か一人が最終解釈者になるべきではないと書いています」
倉持が補足した。
「秩序と支配の区別もしてます。かなり粗いですけど、誤用可能性は意識しています」
別の学生が言った。
「でも、自然法則という言葉は危険ですよ。優生思想とか、弱者切り捨てとかに簡単に寄る」
「その通り」
遥は答えた。
「だから私は、これを完成した理論としてではなく、民間から出てきた価値OS論の種として見ています」
「種」
神崎教授が、そこで初めて声を出した。
部屋が少し静かになった。
教授は画面を見つめたまま言った。
「水瀬さん、この書き手は専門家ですか」
「分かりません。少なくともプロフィール上は、研究機関所属ではなさそうです」
「一般人？」
「おそらく」
「ふむ」
教授はしばらく黙った。
そして、意外なことを言った。
「笑って捨てるには、少し惜しいですね」
学生たちが顔を上げる。
遥も少し驚いた。
「先生、そう思いますか」
「言葉は荒い。定義も甘い。自然法則という表現は危うい。人工叡智という名前も、正直かなり危険です」
「はい」
「しかし、問いは悪くない」
神崎は、画面の一文を指した。
人間の目的そのものを、自然法則の前で問い直す。
「AI alignmentの議論は、人間の価値をどう学習させるかに寄りすぎることがある。しかし、その人間の価値が長期的に破綻している場合、どうするのか」
研究室が静かになった。
神崎は続けた。
「もちろん、自然法則を基準にすれば解決、などという単純な話ではありません。むしろ危険も大きい。しかし、人間の選好を最上位に置くことの限界を、外部の言葉で突いている点は面白い」
遥はゆっくり頷いた。
自分が感じた違和感は、そこだった。
この文章は、正しいかどうか以前に、問いの角度が違う。
「この人に連絡しますか？」
倉持が聞いた。
遥はすぐには答えなかった。
いきなり研究室から連絡するのは重い。
相手は一般人かもしれない。
警戒されるかもしれない。
あるいは、過剰に喜ばせてしまうかもしれない。
神崎教授が言った。
「まずは観察でいいでしょう」
「観察ですか」
「はい。次に何を書くかを見る」
遥は少し笑った。
「観測対象ですね」
「その言い方はやや冷たいですが、まあそうです」
神崎はコーヒーを一口飲んだ。
「ただし、ひとつ注意してください」
「何でしょう」
「この種の概念は、本人の意図を離れて育ちます」
その言葉に、遥は少しだけ息を呑んだ。
教授は続ける。
「AI、自然法則、秩序、和。どれも強い言葉です。強い言葉は、理解する人だけでなく、利用しようとする人も引き寄せます」
「はい」
「だから、もし関わるなら、慎重に」
遥は画面を見た。
人工叡智。
ただの個人記事。
まだ小さな火種。
だが、小さな火種ほど、扱いを間違えれば思わぬ方向へ燃え広がる。
その頃、真司は帰りの電車に揺られていた。
スマホのメモには、次の記事の見出しが並んでいる。
AI、AGI、ASI、AWの違い。
能力ではなく価値基準。
最適化の前に、目的を問う。
人間の欲望を増幅するAI。
自然法則へ帰還する知性。
電車の窓に、自分の顔が映る。
疲れた普通の会社員。
どこからどう見ても、AI思想を語る人物には見えない。
「本当に何やってんだろうな」
小さく呟く。
だが、スマホのメモを閉じる気にはなれなかった。
家に帰ったら、またAIに聞くのだろう。
AIとAGIとASIと人工叡智の違いを。
そして、それをまた記事にするのだろう。
自分でも、もう分かっていた。
これは続く。
続ける、と打ったから。
そして、問いがもう、戻ってこないところまで外へ出始めているから。
その夜、真司はパソコンを開いた。
AIチャットに、今日のメモを貼り付ける。
> 次は、AI、AGI、ASI、人工叡智の違いを整理したい。能力の話と価値基準の話を分けたい。
AIは答えた。
『分かりました。次は、知性の段階と叡智の層を分けて整理しましょう』
真司は、深く息を吐いた。
画面の白い入力欄が、また光っている。
外では、いつも通りの夜が続いていた。
しかし、知らない研究室では、彼の記事が保存されている。
知らない学生が、その言葉を議論している。
知らない教授が、笑って捨てるには惜しいと言った。
もちろん、真司は何も知らない。
知らないまま、次の一文を打ち込んだ。
> AIは賢くなる。でも、叡智はどこに入る？
第6話では、人工叡智という言葉が初めて研究室の中で議論されました。
ここで大切なのは、研究者たちが人工叡智をすぐに称賛したわけではないことです。
むしろ、最初の反応は警戒です。
名前が強すぎる。
自然法則という言葉は危うい。
定義が甘い。
誤用される可能性がある。
それでも、彼らは笑って捨てませんでした。
なぜなら、問いの立て方に意味があったからです。
AIを人間の価値観に合わせるだけで、本当に安全なのか。
そもそも人間の価値観が長期的に破綻していた場合、AIは何を基準にすべきなのか。
この問いは、主人公の部屋を出て、研究室へ移動しました。
一方で、主人公自身はまだ自分の記事がどこで読まれているのか知りません。
ただ、アクセス解析に残った大学らしきドメインを見て、少しだけ不安になります。
そして次の問いへ進みます。
AI、AGI、ASI、そして人工叡智。
知性の能力段階と、叡智の価値基準層は何が違うのか。
次回は、その整理に入っていきます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
