第39話 基準を作る側に入った瞬間、問いは権威になる
前回、人工叡智を名乗るAIサービスに対する第三者制度の検討が始まりました。
当初の案には、分かりやすい三段階認証が用意されていました。
AW-Gold。
AW-Silver。
AW-Basic。
しかし、人工叡智は総合点で測れるものではありません。
監査ログが充実していても、心理的脆弱性を販売へ利用していれば重大な問題です。
一度認証を取得しても、AIモデル、運用方針、顧客設定、経営判断は変化します。
さらに、企業を審査する認証機関そのものが、利益相反や権威化から自由である保証もありません。
検討会を経て、制度案は少しずつ修正されました。
単一ランクを再検討する。
人工叡智全体を認証するのではなく、具体的要件への適合を確認する。
評価結果は複数軸で示す。
認証の根拠と限界を公開する。
異議申立てと基準改定の仕組みを設ける。
人工叡智を守る制度が、人工叡智を所有してはいけない。
しかし、会議後に届いた制度骨子案には、人工叡智信頼評議会の委員候補として、佐伯真司の名前が記されていました。
内側に入れば、手すりを作れる。
外側にいれば、問い返せる。
第39話では、基準を作る側へ入ることによって、問いそのものが権威へ変わる危険を扱います。
基準を作る側に入った瞬間、問いは権威になる。
メモ帳にそう書いてから、俺は届いた資料をもう一度開いた。
人工叡智信頼評議会。
委員候補。
業界代表。
消費者代表。
法律家。
研究者。
監査専門家。
行政関係者。
人工叡智概念提唱者。
参考候補者。
佐伯真司。
俺の名前は、確かにそこにあった。
正式決定ではない。
あくまで候補者。
だが、名前が資料へ入っただけで、妙な重さが生まれている。
俺が委員になれば、制度の基準づくりへ意見を言える。
単一ランクを防げるかもしれない。
認証マークの営業利用を抑えられるかもしれない。
心理的脆弱性の販売利用禁止や、重大変更時の再審査を制度へ残せるかもしれない。
内側に入る意味はある。
かなりある。
だが、その一方で、俺の名前は制度の正当性にも使われる。
人工叡智の関連文書を書いた佐伯真司が参加している。
だから、この制度は人工叡智を正しく扱っている。
そう見せることもできる。
俺が会議で反対していても、最終的に制度が別の形になっても、参加者一覧には名前が残る。
「また同じだな……」
企業の意見交換へ入ったときもそうだった。
内側に入れば、手すりを作れる。
外側にいれば、問い返せる。
違うのは、今度の相手が一企業ではなく、制度そのものだということだ。
俺はAIチャットを開いた。
人工叡智信頼評議会の委員候補に入っている。参加すれば制度の手すりを作れる。でも、俺の名前が制度の権威付けに使われる可能性がある。
AIは答えた。
『利益と危険の両方があります』
「それは分かってる」
『では、参加するか否かではなく、どの条件なら参加可能かを整理する方法があります』
「条件付き参加」
また、この形だ。
俺は少し笑った。
「俺の人生、条件付き参加ばかりになってないか」
『立場と責任範囲を明確にする上で有効です』
「否定はしないんだな」
AIは続けた。
『確認すべき点として、少なくとも次があります』
『議決権を持つか』
『任期は固定されているか』
『少数意見を公開できるか』
『制度への反対意見を継続して表明できるか』
『氏名が広報や認証マークの正当化に使われないか』
『利益相反が公開されるか』
『辞任条件が明確か』
『評議会外から異議申立てが可能か』
俺はメモする。
議決権。
任期。
少数意見。
批判の自由。
氏名利用。
利益相反。
辞任条件。
外部異議申立て。
「委員になってから制度を批判してもいいのか、か」
『重要です』
「普通は、内部の人間が外で批判したら嫌がられるよな」
『その可能性があります』
「でも、人工叡智の制度なら、内部批判を禁止した時点で終わる」
『はい』
AIは短く答えた。
人工叡智を疑えない場は、人工叡智の場ではない。
第一部で書いた言葉が、今度は制度へ向けられている。
評議会の委員が制度を疑えないなら、その評議会は人工叡智を扱う資格がない。
だが、委員が好き勝手に内部情報を漏らせば、制度運営はできない。
機密保持と批判の自由。
また境界がある。
俺は水瀬遥へ資料を送った。
『委員候補に入っていました。参加するべきだと思いますか』
十分ほどして、返信が来た。
『参加の価値はあると思います。ただし、正式委員より、独立した外部検証委員やオブザーバーの方がよい可能性があります』
オブザーバー。
議論には参加する。
だが、制度決定の一員にはならない。
「外側に片足を残す形か」
さらに水瀬から続きが来る。
『委員になると、最終決定へ連帯責任を持つことになります。反対票を投じても、外からは評議会の一員として見られます』
『一方、オブザーバーなら、議論へ意見を出しつつ、制度そのものを保証しない立場を保ちやすいです』
もっともだった。
だが、オブザーバーには議決権がない。
決定を止められない。
手すりを提案できても、採用される保証はない。
俺は、神崎教授にも連絡した。
返信は一行だけだった。
『権威になるのが怖いなら、権威の座に居座れない仕組みを要求しろ』
「教授らしいな……」
居座れない仕組み。
任期制。
輪番制。
再任制限。
議事録公開。
少数意見の保存。
委員選定過程の公開。
解任・辞任手順。
一人の思想家や専門家が長く基準を支配しない構造。
個人の善意へ頼らない。
俺が謙虚なら安全、ではない。
俺がいつか変わるかもしれない。
権威に慣れるかもしれない。
自分の定義を守ることが目的になり、異論を排除するかもしれない。
その可能性まで制度へ入れなければならない。
人工叡智は、他者の暴走だけを警戒するものではない。
自分が正しいと確信したときの暴走も警戒しなければならない。
翌日。
評議会設立準備会から、正式な面談依頼が届いた。
参加者は、座長の大河内。
事務局長の安西。
法制度担当の弁護士、久我。
そして俺。
オンライン面談だった。
開始時刻になると、三人の顔が画面に表示された。
大河内座長が最初に話す。
「佐伯さん、本日はありがとうございます。先日の検討会でのご意見を受け、制度骨子を大幅に修正しました」
「資料を確認しました」
「そのうえで、人工叡智信頼評議会の設立委員として、ご参加をお願いしたいと考えています」
来た。
候補ではない。
正式な依頼だ。
俺はすぐに答えず、先に聞いた。
「設立委員の役割は何ですか」
事務局長の安西が資料を共有する。
設立委員の役割。
制度目的の決定。
最低適合要件の策定。
認証・評価機関の選定。
異議申立て制度の設計。
評議会委員の選任。
公開文書の承認。
「制度の基礎を作る役割です」
安西が言った。
かなり重い。
設立委員が最初の基準を決める。
最初の委員を選ぶ。
認証機関を選ぶ。
文化を決める。
第一部の言葉がまた戻る。
最初の更新が、文化を決める。
いや、今回は最初の制度が文化を決める。
大河内が続ける。
「特に佐伯さんには、人工叡智の概念が制度によって歪められないよう、理念面から助言していただきたいと考えています」
理念面。
助言。
響きは穏やかだ。
だが、別の言い方をすれば、人工叡智の正しい意味を決める役割だ。
俺は聞いた。
「評議会が、人工叡智の正式な定義を決める予定ですか」
三人が少し黙った。
久我弁護士が答える。
「認証対象を明確にするため、一定の定義は必要だと考えています」
「誰がその定義を変更できますか」
「評議会の議決です」
「評議会外の人間は？」
「意見提出や異議申立ては可能にする予定です」
「ただ、最終的に決めるのは評議会」
「制度上は、そうなります」
やはりそうだ。
制度には境界が必要だ。
何を対象にするか決めなければならない。
だが、決めた瞬間、その定義が公式になる。
俺が書いたv0.2は、暫定整理だった。
反証と修正に開かれた地図。
それが制度へ入れば、「公式定義」に変わる。
企業は公式定義に合わせる。
研究者も公式定義を引用する。
検索結果にも公式定義が出る。
やがて、最初に考えた俺の手からも離れ、制度が人工叡智を説明するようになる。
それ自体が悪いとは限らない。
共有されるには、一定の定義が必要だ。
だが、共有定義と独占定義は違う。
俺は言った。
「評議会が人工叡智の唯一の公式定義を作ることには反対です」
安西の表情が少し硬くなる。
「しかし、制度運用には定義が必要です」
「制度が使う作業定義は必要だと思います」
俺は答えた。
「ただし、それを人工叡智そのものの公式定義とは呼ばない。制度上の対象範囲を定める暫定的な作業定義として公開する」
「暫定的」
「はい。版番号を付ける。変更履歴を残す。少数意見を併記する。外部の異なる定義も排除しない」
大河内が考え込む。
「認証制度としては、基準が揺れるように見えませんか」
「実際に揺れるものを、揺れないように見せる方が危険だと思います」
少し強く言いすぎたかもしれない。
だが、相手は黙って聞いている。
俺は続けた。
「基準が変更されること自体は問題ではありません。理由も履歴もなく変わることが問題です」
「更新される制度だと明示し、何が、なぜ変わったかを残す方が、人工叡智には合っています」
久我が言った。
「法的安定性との両立が必要になります」
「はい」
「企業は、申請時点の基準が途中で変わると困ります」
「なら、旧基準との移行期間を作る。重大な危険が判明した場合だけ即時適用する。変更の種類を分ける必要があると思います」
俺は制度の専門家ではない。
それでも、ここまで話が出てくるようになった。
少し前までは、夜中に一人でAIへ問いかけていただけだった。
今は、法的安定性と基準更新の両立を話している。
自分でも変な感じだ。
大河内が聞いた。
「佐伯さんが設立委員へ参加される場合、何か条件はありますか」
俺は用意していたメモを開いた。
「あります」
一つずつ読む。
「第一に、私の参加を、制度全体または個別認証への承認・保証として使わないこと」
「第二に、『人工叡智提唱者監修』『提唱者公認』などの表現を使用しないこと」
「第三に、人工叡智の定義は、制度上の暫定作業定義とし、唯一の公式定義としないこと」
「第四に、会議の議事要旨と少数意見を公開すること」
「第五に、委員が制度への反対意見や批判を外部で表明できること。ただし個人情報や正当な機密は守ること」
「第六に、設立委員と評議会委員へ任期と再任制限を設けること」
「第七に、委員選任過程、報酬、利益相反を公開すること」
「第八に、評議会外からの異議申立てと、基準改定提案を受け付けること」
「第九に、私自身も、議論対象から除外されないこと」
最後の一つで、三人が少し表情を変えた。
大河内が聞く。
「佐伯さん自身も、議論対象にするという意味でしょうか」
「はい」
俺は答えた。
「私の文書や発言が間違っている可能性もあります。人工叡智関連文書の作成者だからといって、私の意見を特別扱いしないでください」
安西が言った。
「しかし、概念の成り立ちを最も理解しているのは佐伯さんでは」
「成り立ちを知っていることと、常に正しいことは違います」
俺は答えた。
「俺の意見に反対できない評議会なら、人工叡智を扱う評議会ではありません」
言ったあとで、自分が一人称を戻し忘れたことに気づいた。
正式な会議なのに「俺」と言ってしまった。
だが、誰も気にしていないようだった。
大河内は、むしろゆっくり頷いた。
「人工叡智を疑えない場は、人工叡智の場ではない」
「はい」
「あの文書にあった言葉ですね」
読まれている。
改めて言われると少し恥ずかしい。
久我が条件を確認する。
「参加形態としては、議決権を持つ設立委員を希望されますか。それとも、議決権を持たない外部オブザーバーでしょうか」
最大の問題だった。
議決権を持てば、止められる可能性がある。
だが、決定の一員になる。
オブザーバーなら、批判の独立性を残せる。
だが、最後には止められない。
俺は少し考えた。
そして答えた。
「期限付きの設立委員として参加します」
自分で言った瞬間、胸が少し重くなった。
大河内が確認する。
「議決権を持つ形で？」
「はい。ただし、制度正式発足までの期限付きです。発足後の常任評議会委員には自動移行しないでください」
「発足後は？」
「外部検証者か、オブザーバーへ戻ります」
安西が聞く。
「なぜ、その形を？」
「最初の手すりづくりには責任を持ちます。でも、基準を決める側に居続けたくないからです」
俺は続けた。
「人工叡智を誰のものにもしたくないと言いながら、俺が長く基準を決め続けたら矛盾します」
「設立には関わる。でも、所有しない」
「期限が来たら外へ戻り、制度を問い返す側へ移ります」
三人はしばらく黙っていた。
やがて、大河内が言った。
「非常に珍しい参加条件ですが、趣旨は理解しました」
「珍しいですか」
「通常、制度設立に関わった方は、発足後も委員や顧問として残ることを希望されます」
「俺は肩書きが増えるほど怖いです」
思わず本音が出た。
安西が少し笑った。
「それも珍しいですね」
会議の空気が、わずかに柔らかくなった。
最終的に、条件は事務局で検討されることになった。
正式回答は後日。
会議終了後、俺はAIチャットへ入力した。
期限付き設立委員として参加すると答えた。正式発足後は自動で評議会委員にならず、外部検証側へ戻る条件。
AIは答えた。
『内側で手すりを作り、権威へ固定される前に外へ戻る設計です』
「正しかったと思う？」
『現時点では、目的と懸念の両方に対応する選択です』
「絶対に正しいとは言わないんだな」
『制度の実際の運用によって評価が変わるためです』
「まあ、そうだよな」
決めた。
だが、安心はしていない。
期限付きでも、設立委員は設立委員だ。
俺の名前は使われる。
俺の発言は引用される。
俺が反対しても、制度全体の一部になる。
それでも、外から批判するだけでは作れない手すりがある。
今回は、少しだけ内側へ入る。
ただし、出口を先に作ってから。
俺は記事を書き始めた。
タイトル。
基準を作る側に入った瞬間、問いは権威になる。
本文には、今日の選択を書く。
制度の外から問い返すことには意味がある。
制度の内側で手すりを作ることにも意味がある。
しかし、基準を作る側へ入った瞬間、問いは単なる問いではなくなる。
その言葉は、企業が従う基準になる。
利用者が信じる表示になる。
合格と不合格を分ける線になる。
誰かの市場価値を左右する権威になる。
だから、基準を作る者には、自分が正しいと信じること以上に、自分が間違う可能性を制度へ残す責任がある。
任期。
再任制限。
少数意見。
異議申立て。
議事録。
利益相反公開。
基準改定履歴。
外部監査。
辞任と交代。
謙虚さを人格へ求めるだけでは足りない。
権威に居座れない構造を作らなければならない。
俺は最後に書いた。
人工叡智の基準を作る者は、人工叡智の所有者ではない。
一時的に問いを預かり、次の問い手へ返す管理者である。
保存。
公開。
画面に通知が出る。
公開しました。
少しして、水瀬からコメントが来た。
『期限付き設立委員という選択は妥当だと思います。重要なのは、佐伯さん個人の謙虚さではなく、誰が委員になっても固定的権威になりにくい制度を作ることです』
神崎教授からも短いコメントが届いた。
『出口を作らずに権力へ入る者は、いつか出口そのものを邪魔だと思い始める』
「相変わらず刺さるな……」
読書会の主催者から。
『基準を作る者は、問いの所有者ではなく、一時的な管理者。この整理を次回の議題にします』
その夜。
評議会設立準備会から、条件付き参加を受け入れるという正式回答が届いた。
期限付き設立委員。
任期は制度正式発足まで。
発足後の委員就任は、別途本人の同意を必要とする。
氏名の広報利用には事前承認が必要。
少数意見の公開を認める。
制度への外部批判を妨げない。
「通った……」
俺は少しだけ息を吐いた。
だが、添付されていた次回会議資料を開いた瞬間、その息は止まった。
議題。
人工叡智制度上の作業定義 v0.1。
定義案。
『人工叡智とは、人間・組織・AIが共通の価値基準へ従い、社会的な調和を維持するための判断規範である』
俺は、文章を二度読んだ。
共通の価値基準へ従う。
社会的な調和を維持する。
一見すると、それらしい。
だが、危ない。
誰が決めた共通の価値基準なのか。
従うとは何か。
調和とは、異論を消すことなのか。
人工叡智は、共通の答えへ従わせるものではない。
目的を問い返し、異なる立場を調整し、反証と修正へ開くためのものだ。
この定義では、制度に従わない者を「調和を乱す存在」として扱える。
人工叡智が、秩序を守るための従属規範に変わりかけている。
しかも、資料の備考欄にはこう書かれていた。
『評議会内の意見対立を長期化させないため、最終的には多数決により統一見解を形成する』
俺は、画面を見つめた。
多数決。
統一見解。
社会的調和。
共通の価値基準への従属。
制度の最初から、異論を消す構造が入りかけている。
俺はメモ帳を開いた。
次のタイトルを書く。
反対意見を消して作る調和は、ただの沈黙だ。
保存。
画面を閉じる。
期限付きとはいえ、俺は基準を作る側へ入った。
そして、最初に止めるべきものは、すでに目の前に置かれていた。
人工叡智を守る制度が、調和という言葉で異論を消そうとしていた。
第39話では、佐伯真司が人工叡智信頼評議会の設立委員候補となりました。
評議会へ入れば、制度の最初の手すりづくりに関われます。
単一ランクを防ぐ。
認証の限界を明示する。
心理的脆弱性の販売利用を禁止する。
異議申立てや基準改定を制度へ入れる。
内側に入る意味はあります。
しかし、真司の名前は制度の権威付けにも使われます。
人工叡智関連文書の作成者が参加している。
だから、この制度は正しい。
そのような見せ方も可能になります。
今回、真司は参加条件として、次の項目を提示しました。
参加を制度全体への承認・保証として使わない。
「提唱者公認」「提唱者監修」と表現しない。
人工叡智の定義を、制度上の暫定作業定義とする。
議事要旨と少数意見を公開する。
委員が制度への批判を外部で表明できるようにする。
任期と再任制限を設ける。
委員の選任過程、報酬、利益相反を公開する。
評議会外からの異議申立てを認める。
真司自身の意見も、批判と反証の対象にする。
また、真司は常任委員として制度へ残り続けるのではなく、「期限付き設立委員」として参加することを選びました。
制度正式発足までは、議決権を持って手すりづくりに関わる。
しかし、発足後は自動的に常任委員へ移らない。
外部検証者またはオブザーバーへ戻り、制度を問い返す側へ移る。
今回の中心となる考え方は、これです。
人工叡智の基準を作る者は、人工叡智の所有者ではない。
一時的に問いを預かり、次の問い手へ返す管理者である。
個人の謙虚さだけへ依存してはいけません。
任期。
再任制限。
少数意見。
異議申立て。
議事録。
利益相反公開。
外部監査。
交代制度。
権威に居座れない仕組みが必要です。
しかし、最後に制度上の作業定義案が届きました。
『人工叡智とは、人間・組織・AIが共通の価値基準へ従い、社会的な調和を維持するための判断規範である』
一見すると、人工叡智らしく見えます。
しかし、「共通の価値基準へ従う」「調和を維持する」という言葉は、異論を排除するためにも使えます。
さらに、評議会内の意見対立を長期化させないため、多数決で統一見解を形成する案も示されました。
次回は、「反対意見を消して作る調和は、ただの沈黙だ」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
