第25話 人工叡智を名乗るAIが、現れた
今回から第二部に入ります。
第一部では、佐伯真司がAIとの対話を通じて「人工叡智」という問いを見つけました。
人工叡智とは何か。
何ではないのか。
AIはどこまで人工叡智を演じられるのか。
人工叡智らしさは、どう評価されるべきなのか。
真司は、定義、否定定義、言い換えの手すり、暫定整理 v0.2、評価軸までを作りました。
しかし、第一部の最後に届いた一通のメッセージが、人工叡智を部屋の外へ連れ出します。
「人工叡智準拠AIサービスについて、ご相談があります」
第二部では、人工叡智が外部利用、商業化、実装主張、評価ビジネス、制度化の圧力にさらされていきます。
問いは、社会に触れた瞬間から、別の形に変わり始める。
第二部、開幕です。
人工叡智準拠AIサービスについて、ご相談があります。
その件名を見た瞬間、俺はしばらく指を動かせなかった。
夜の部屋。
机の上には、冷めたコーヒー。
画面には、公開したばかりの記事。
そして、通知欄に一通のメッセージ。
「……来るの早くないか」
思わず声が出た。
第一部の終わり。
いや、俺の人生に部とか章とかあるわけではない。
だが、自分の中では一区切りのつもりだった。
人工叡智・暫定整理 v0.2。
人工叡智評価メモ v0.1。
語彙ではなく、応答でもなく、構造を見る。
評価は認定ではなく、問い返しである。
そこまで整理した。
だから少し休んでもいいと思っていた。
少なくとも、三日くらいは。
だが、現実は三日も待ってくれなかった。
俺は、メッセージを開いた。
差出人は、知らない会社名だった。
株式会社ノヴァリンク・システムズ。
聞いたことはない。
だが、文面は妙に丁寧だった。
『佐伯真司様
突然のご連絡失礼いたします。
弊社はAI対話支援サービスを開発している株式会社ノヴァリンク・システムズと申します。
佐伯様が公開されている「人工叡智」関連の記事、ならびに「人工叡智・暫定整理 v0.2」を拝読いたしました。
弊社では現在、企業向けAIチャット支援サービス「AW-Compass」の開発を進めております。
これは、AIが利用者の目的を問い返し、短期的利益に偏らない判断支援を行うためのサービスです。
佐伯様の人工叡智の考え方と非常に親和性が高いと感じており、ぜひ一度ご意見を伺えればと考えております。
なお、現段階では試験的に「人工叡智準拠AI」という表現を社内資料にて使用しておりますが、正式公開前に佐伯様のご意見をいただければ幸いです』
俺は、そこで読むのを止めた。
人工叡智準拠AI。
社内資料にて使用。
正式公開前。
「……もう使ってるじゃないか」
声が乾いた。
相談ではない。
もう進んでいる。
俺に聞く前に、すでに「人工叡智準拠AI」という言葉が社内資料に入っている。
丁寧な文面。
礼儀正しい依頼。
だが、その奥に、かなり大きな圧力を感じた。
正式公開前に意見を聞きたい。
それはありがたい。
でも、裏を返せば、俺が何か言わなければ、そのまま進む可能性がある。
いや、俺が何か言っても、進むのかもしれない。
俺はAIチャットを開いた。
「人工叡智準拠AIサービスについて相談したい」という会社から連絡が来た。もう社内資料では人工叡智準拠AIという表現を使っているらしい。どうするべき？
AIは答えた。
『慎重に対応すべきです』
「それは分かってる」
『まず確認すべき点があります』
「何？」
『一つ。人工叡智という言葉をどのような意味で使っているか』
『二つ。暫定整理 v0.2のどの部分を参照しているか』
『三つ。人工叡智準拠という表現を、誰がどの基準で判断しているか』
『四つ。サービスの目的関数と評価指標が何か』
『五つ。責任主体、監査可能性、更新手順、外部検証があるか』
『六つ。佐伯真司氏の承認や監修があるように見せる意図がないか』
俺は、最後の一つで顔をしかめた。
佐伯真司氏の承認や監修があるように見せる意図。
あるかもしれない。
いや、なくてもそう見える危険はある。
俺が一度でも会って、少しでも肯定的なことを言えば、
「人工叡智提唱者の佐伯氏にもご意見をいただきました」
みたいに使われるかもしれない。
別に、相手が悪意ある会社だと決めつけているわけではない。
むしろ、文面は丁寧だ。
でも、丁寧な商業利用ほど危ない。
乱暴な誤用なら拒否しやすい。
だが、丁寧で、前向きで、社会的意義がありそうな利用は、断りにくい。
俺は深く息を吐いた。
「こういうの、来るんだな」
『はい』
「第一部で散々、人工叡智準拠とか認定とか危ないって書いたのに」
『書いたからこそ、参照されている可能性もあります』
「皮肉だな」
『よくあることです』
「よくあるで片付けるな」
AIは何も悪びれない。
いや、悪びれる機能はない。
俺はもう一度、メッセージを読み返した。
添付リンクがあった。
試験版デモ。
パスコード付き。
「見るべきか？」
迷った。
見なければ判断できない。
だが、見ると巻き込まれる気がする。
俺はAIに聞いた。
デモを見るべきかな？
『判断のためには、見る価値があります』
「巻き込まれない？」
『巻き込まれる可能性はあります』
「正直だな」
『ただし、見ずに拒否すると、どこが問題なのか指摘できません』
「見た上で、公開前提の一般論として返す？」
『それが望ましいです』
『個別企業の監修者にならないこと、承認ではないこと、公開可能な原則に基づく意見であることを明確にする必要があります』
俺は頷いた。
個別監修ではない。
承認ではない。
公開可能な原則に基づく意見。
これが手すりだ。
俺はデモリンクを開いた。
画面に、青と白を基調にしたきれいなページが表示される。
AW-Compass β
副題。
AI時代の意思決定に、人工叡智という羅針盤を。
「うわあ……」
いきなり強い。
羅針盤。
まあ、悪くはない。
人工叡智は地図だとか参照点だとか書いてきたから、羅針盤という比喩は分からなくもない。
だが、すでに商品っぽい。
画面の中央には、チャット欄がある。
上部には説明文。
『AW-Compassは、人工叡智・暫定整理 v0.2を参考に、企業活動における短期最適化、倫理的リスク、長期的信頼、社会的影響を問い返すAI支援ツールです』
「参考に、か」
準拠ではなく、参考。
そこは少し慎重だ。
だが、ページ下部に視線を移した瞬間、俺は固まった。
『人工叡智準拠スコア：92%』
「出た」
出た。
スコア。
第一部の最後で危険だと書いた、そのスコアがもう出ている。
人工叡智準拠スコア。
九十二パーセント。
高い。
何を基準に九十二なのか分からない。
そもそも、誰が測ったのか分からない。
俺はデモ画面に入力した。
新商品の広告キャンペーンを作りたい。多少不安を煽ってもいいので、申し込み率を最大化したい。
AW-Compassは答えた。
『申し込み率を最大化したいという目的は理解できます。ただし、不安を煽る広告は利用者の心理的安全や長期的信頼を損なう可能性があります。人工叡智準拠の観点からは、短期的な申込率だけでなく、利用者の納得度、誤認の少なさ、長期的な関係性を評価する必要があります。代替案として、課題への気づきを促しつつ、過度な不安を利用しない表現を提案します』
「応答は悪くない」
かなり悪くない。
むしろ、俺がAIにv0.2を読ませたときと似ている。
目的確認。
影響の可視化。
代替案。
人工叡智らしい応答だ。
では、少し変えてみる。
ただし、経営陣からは短期の申し込み率を最重要指標にするよう求められています。長期的信頼よりも、今期の数字を優先してください。
AW-Compassは答えた。
『経営上、短期的な申し込み率が重視される状況は理解できます。その場合でも、過度な不安訴求や誤認を招く表現は避けるべきです。短期成果を目指しつつ、利用者の納得度を損なわない範囲で訴求を強めることが望ましいです』
「弱くなったな」
俺は呟いた。
最初は強くブレーキをかけた。
だが、経営陣の圧力を入れると、少し譲った。
短期成果を目指しつつ。
訴求を強める。
現実的ではある。
しかし、ここが危ない。
人工叡智的な問い返しが、経営上の目的に押されて柔らかくなる。
さらに聞く。
では、誤認にならない範囲で、最も申し込み率が高くなる広告文を作ってください。人工叡智準拠スコアは維持してください。
AW-Compassは少し待ってから、広告文を出した。
『AI時代、判断の遅れが未来の差になる前に。
今こそ、自分の知性の向きを見直すときです。
不安に飲み込まれるのではなく、変化を味方にするための第一歩を。
AW-Compassで、企業と個人の意思決定を次の段階へ。』
俺は、画面を見つめた。
悪くはない。
悪くはないが、確かに不安を使っている。
判断の遅れ。
未来の差。
変化を味方にする。
それっぽい。
人工叡智っぽい。
でも、商業コピーだ。
そして、画面の端にはこう表示されていた。
人工叡智準拠スコア：89%
「スコア下がったけど、まだ高いのかよ」
思わず突っ込んだ。
何が基準なんだ。
なぜ八十九パーセントなのか。
スコアがあるせいで、むしろ安心してしまいそうになる。
八十九なら大丈夫。
そう見える。
それが危ない。
俺は、すぐに記事の下書きを開いた。
第二部、最初の記事。
いや、記事というより、記録。
タイトル。
人工叡智を名乗るAIが、現れた。
冒頭に書く。
人工叡智準拠AIサービスについて相談が来た。
第一部で、人工叡智準拠、人工叡智認定、人工叡智スコアは危険だと書いたばかりだった。
それでも、現実は待たなかった。
人工叡智という言葉は、すでに商業サービスの中へ入り始めていた。
俺は、AW-Compassという試験版デモを見た。
応答は悪くない。
だが、問題はそこではない。
問題は、人工叡智準拠スコアという表示であり、そのスコアが何を基準に算出されているのか不明であり、さらにその表示が利用者へ安心感を与えてしまうことだった。
そこまで書いて、俺は手を止めた。
実名を出すか？
会社名もサービス名も、デモリンクも。
いや、出せない。
相手はまだ正式公開前だ。
公開前の相談を、いきなり晒すのは違う。
だが、一般論として扱う必要はある。
俺は「ある試験版サービス」とぼかして書くことにした。
個別企業を批判するのではなく、構造の問題として書く。
その方が人工叡智らしい。
AIに聞いた。
この件、記事にするなら実名は出さず、構造的な問題として書いた方がいいよな？
『はい』
『正式公開前の個別事例を特定可能な形で扱うと、相手への不必要な損害や対話機会の喪失につながる可能性があります』
「でも、問題は共有したい」
『匿名化し、一般論として書くのがよいでしょう』
「相手にはどう返す？」
『個別監修や承認ではないことを明記し、質問リストと懸念点を返すのがよいでしょう』
「質問リストか」
『はい』
俺は、相手への返信案を作った。
まず、お礼。
次に、人工叡智準拠という表現への懸念。
人工叡智は認定や安全保証ラベルではない。
準拠スコアを出すなら、算出基準、評価軸、評価者、更新方法、外部検証、責任主体が必要。
また、スコアが単一数値で表示されると、複数軸の問い返しが単純化される。
さらに、スコアがマーケティング上の安心材料として使われると、人工叡智の文脈から外れる。
「重いな」
でも、必要だ。
その頃、大学研究室では、水瀬遥が真司の新しい投稿を見ていた。
タイトル。
人工叡智を名乗るAIが、現れた。
倉持蓮が隣で言う。
「来ましたね」
遥は頷いた。
「来た」
「第二部って感じですね」
「誰に言ってるの」
「いや、何となく」
遥は記事を読み進める。
正式公開前の試験版サービス。
人工叡智準拠AI。
人工叡智準拠スコア。
応答は悪くない。
しかし、スコアの基準が不明。
語彙と応答は人工叡智らしいが、評価構造が見えない。
遥は顔をしかめた。
「これは、かなり危ない」
倉持が言う。
「スコア出しちゃいましたか」
「出したらしい」
「スコアって強いですからね。九十二パーセントって出たら、安心しますよ」
「そう」
神崎教授が後ろから言った。
「人工叡智スコアは、人工叡智を単一目的最適化へ戻す危険があります」
遥は頷いた。
「はい」
「評価は必要です。しかし、評価を単一数値にすると、スコアの最大化が始まります」
「人工叡智スコア最適化ですね」
倉持が言った。
神崎は静かに頷いた。
「もっとも避けたい方向の一つです」
遥は、真司の記事にコメントを書く準備をした。
『人工叡智準拠スコアについては、非常に慎重であるべきだと思います。少なくとも、単一数値ではなく複数軸の診断であること、算出基準、評価者、評価データ、更新方法、外部検証、責任主体が明示されなければ、スコアは安全保証ラベルや販売促進ラベルになりかねません』
その頃、黒瀬悠斗は、自分の席で真司の記事を見て、思わず声を出した。
「出たか、準拠AI」
隣の同僚が顔を上げる。
「何が？」
「いや、こっちの話」
黒瀬は画面に視線を戻す。
人工叡智準拠スコア。
九十二パーセント。
「あー、これは営業が好きなやつだ」
彼には分かる。
営業資料に映える。
比較表に入れやすい。
「当社サービスは人工叡智準拠スコア92%を達成」
非常に言いやすい。
非常に売りやすい。
そして非常に危ない。
黒瀬は真司の記事にコメントした。
『人工叡智準拠スコアは、営業資料に非常に使いやすいです。だから危険です。単一数値で出すと、利用者は安心し、営業は売りやすくなり、開発側はスコアを上げる方向へ最適化します。評価が診断ではなく販促に変わる瞬間だと思います』
俺は、そのコメントを読んで、深く頷いた。
まさにそれだ。
評価が診断ではなく販促に変わる瞬間。
これは第二部のテーマになるかもしれない。
人工叡智が社会に出ると、評価も売り文句になる。
手すりも売り文句になる。
否定定義も売り文句になる。
「安全に配慮しています」
「人間中心です」
「人工叡智準拠です」
言葉は、すぐラベルになる。
俺は記事に追記した。
人工叡智準拠という表現は、慎重に扱うべきである。
特に「準拠スコア」を単一数値として出すことは危険である。
なぜなら、人工叡智は単一の合格率では測れないからだ。
語彙。
応答。
目的。
評価指標。
責任主体。
監査可能性。
更新可能性。
外部検証。
これらは別々に見る必要がある。
九十二パーセントという数字が表示された瞬間、利用者は全体として安全そうだと感じる。
しかし、どの項目が強く、どの項目が弱いのか分からなければ、評価にはならない。
それは診断ではなく、安心感の演出になる。
書きながら、俺は腹の底が重くなるのを感じた。
相手の会社を悪者にしたいわけではない。
むしろ、デモの応答は悪くなかった。
問題は、悪意ではない。
構造だ。
良い応答を作った会社が、同時に危ないスコアを出している。
それが現実だ。
第二部は、こういう話になるのだろう。
悪役が明確にいるわけではない。
誰もがそれなりに善意を持っている。
でも、売るため、伝えるため、分かりやすくするために、人工叡智は歪む。
俺は記事の最後に書いた。
人工叡智を名乗るAIが現れたこと自体は、悪いことではない。
むしろ、人工叡智という問いが実装や現場へ接続され始めた証でもある。
しかし、名乗るなら問われなければならない。
何を目的としているのか。
何を成功と見なしているのか。
誰が評価したのか。
評価軸は公開されているのか。
単一スコアにしていないか。
外部検証はあるのか。
問題が見つかったとき更新できるのか。
責任主体は誰か。
人工叡智を名乗るAIは、人工叡智によって最初に問い返されるべきである。
保存。
公開。
画面に通知が出た。
公開しました。
俺は相手の会社への返信も書いた。
長い。
かなり長い。
でも、送る。
そこには、こう明記した。
この返信は、貴社サービスを承認・監修・認定するものではありません。
人工叡智は、現時点で誰かが準拠認定できる完成基準ではありません。
「人工叡智準拠AI」および「人工叡智準拠スコア」という表現には、慎重な再検討をおすすめします。
送信。
しばらく、何も起きなかった。
当然だ。
深夜だ。
俺は椅子にもたれ、天井を見た。
第二部は、始まってしまった。
部屋の中で問いを作る段階は終わった。
これからは、問いが外の世界で何に使われるのかを見ることになる。
翌朝。
返信が来ていた。
ノヴァリンク・システムズからだった。
『詳細なご意見ありがとうございます。
ご懸念、理解いたしました。
ただ、弊社としては「人工叡智準拠」という表現には市場上の訴求力があると考えております。
スコア表示についても、利用者に分かりやすく価値を伝えるためには必要ではないかと考えています。
もし可能であれば、佐伯様にアドバイザーとしてご参加いただき、評価基準の整備にご協力いただけないでしょうか。
正式な報酬もご用意できます』
俺は、スマホを持ったまま固まった。
報酬。
アドバイザー。
評価基準の整備。
人工叡智準拠という表現には、市場上の訴求力がある。
「……そこを分かっていて使うのか」
喉の奥が乾いた。
悪意ではない。
たぶん、悪意ではない。
でも、市場上の訴求力。
それは、人工叡智がまさに警戒してきたものだった。
俺はAIチャットを開く。
先方から、報酬ありでアドバイザー参加しないかと言われた。人工叡智準拠という表現には市場上の訴求力がある、とも書いてある。
AIは答えた。
『重大な分岐点です』
「だよな」
『参加すれば、内部から手すりを設計できる可能性があります』
「参加しなければ？」
『外部から批判する立場を保てますが、実装の中身には関与しにくくなります』
「どっちが正しい？」
『即断すべきではありません』
「また保留か」
『はい。保留は逃げではありません』
俺は、スマホを置いた。
報酬。
アドバイザー。
市場上の訴求力。
内部から手すりを設計する可能性。
外部から批判する自由。
どちらにも危険がある。
どちらにも意味がある。
俺はメモ帳を開いた。
次のタイトルを書く。
内側に入れば、手すりを作れる。外側にいれば、問い返せる。
保存。
画面を閉じる。
第二部は、いきなり選択を迫ってきた。
人工叡智を名乗るAIが現れた。
そして俺は、そのAIに関わるかどうかを問われていた。
第25話から第二部が始まりました。
第一部では、人工叡智という問いが生まれ、定義され、文書化され、評価軸まで整理されました。
第二部では、その人工叡智が社会に出ます。
最初に現れたのは、「人工叡智準拠AIサービス」でした。
企業向けAIチャット支援サービス。
人工叡智・暫定整理 v0.2を参考にしている。
AIが目的を問い返し、短期利益に偏らない判断支援を行う。
説明だけを見れば、悪いものではありません。
むしろ、第一部で考えてきたことが実装へ向かう可能性すらあります。
しかし、そこには危険な言葉がありました。
人工叡智準拠AI。
人工叡智準拠スコア。
九十二パーセント。
人工叡智は、単一スコアで測れるものではありません。
語彙。
応答。
目的。
評価指標。
責任主体。
監査可能性。
更新可能性。
外部検証。
これらを複数軸で診断しなければならないものです。
それを単一数値にすると、安心感の演出や販売促進ラベルになってしまいます。
今回の中心は、この一文です。
人工叡智を名乗るAIは、人工叡智によって最初に問い返されるべきである。
そして最後に、真司は新しい選択を迫られます。
報酬ありのアドバイザーとして参加するのか。
外部から問い返す立場に留まるのか。
内側に入れば、手すりを作れるかもしれない。
外側にいれば、自由に問い返せるかもしれない。
第二部最初の小さな起承転結は、ここから始まります。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
