第38話 人工叡智を守る認証は、誰が認証するのか
前回、ノヴァリンクが公開した失敗事例は、社会の中でさまざまな形に使われました。
安全機能の不十分さを指摘する批判。
事実と異なる情報。
人工叡智そのものへの攻撃。
競合企業による宣伝利用。
失敗を一件公開した企業は、失敗件数一件に見える。
何も公開していない企業は、失敗件数ゼロに見える。
その結果、透明性の高い組織ほど危険に見え、透明性の低い組織ほど安全に見える。
透明性の逆説です。
ノヴァリンクは、それでも自主公表を続けることを決めました。
事実誤認には簡潔な訂正文書を出す。
正当な批判は受け止める。
個別の攻撃すべてには反応しない。
そして、改善内容を継続して更新する。
透明性への答えは、喧嘩ではなく更新である。
しかし、公開された失敗は、新しい動きを生みました。
国会議員や業界団体から、人工叡智を名乗るAIサービスに第三者認証制度を設けるべきだという意見が出始めます。
認証があれば、利用者は安心できる。
認証があれば、危険な企業を排除できる。
認証があれば、人工叡智という言葉の乱用を防げる。
分かりやすい仕組みです。
けれど、認証基準は誰が決めるのでしょうか。
認証機関を、誰が監査するのでしょうか。
人工叡智を守る認証が、人工叡智を固定し、販売用のマークへ変えてしまうことはないのでしょうか。
第38話では、人工叡智と認証制度の最初の衝突を描きます。
人工叡智を守る認証は、誰が認証するのか。
その一文をメモ帳に書いた翌日。
俺のところへ、正式な招待状が届いた。
差出人。
AI信頼基盤制度検討準備会。
長い。
名前だけですでに重い。
本文には、さらに重いことが書かれていた。
『人工叡智を標榜するAIサービスの健全な発展と利用者保護を目的として、第三者認証制度の設立可能性を検討します。
佐伯真司様には、人工叡智概念の提唱・整理に関わった立場から、参考人としてご参加いただきたく存じます』
俺は、何度読み返しても落ち着かなかった。
「参考人って何をするんだ」
AIチャットを開く。
第三者認証制度の検討会に参考人として呼ばれた。何に注意すればいい？
AIは答えた。
『まず、ご自身が認証制度の代表者、承認者、基準決定者ではないことを明確にするべきです』
「また立場の確認か」
『はい。制度検討への参加が、制度全体への承認として利用される可能性があります』
もう慣れてきた。
企業会議でも同じだった。
意見を述べただけなのに、監修したことにされる。
話を聞いただけなのに、承認したことにされる。
検討会に参加すれば、今度は制度設立に協力した提唱者になる。
俺は招待状の返信欄に条件を書いた。
参加は意見交換に限る。
認証制度への賛同を意味しない。
人工叡智の名称使用を承認しない。
発言要旨を自分でも公開できる。
会議資料への氏名掲載は事前確認を必要とする。
送信。
数時間後、条件を受け入れるという返事が来た。
会議は一週間後。
場所は都内の会議施設。
今回はオンラインではない。
「行くのか……」
画面越しではなく、本物の会議室。
俺は急に服の心配を始めた。
スーツはある。
あるにはある。
最後に着たのがいつだったか思い出せない。
クローゼットから引っ張り出すと、肩のあたりに少し埃が付いていた。
「人工叡智より先に、スーツを整える必要があるな」
『クリーニングを検討してください』
「そこは本当に現実的だな」
会議当日。
俺は開始時刻の三十分前に会場へ着いた。
受付で名前を告げると、胸元へ付ける名札を渡された。
佐伯真司
人工叡智提唱者
「……提唱者」
間違いではない。
だが、強い。
名前の下に大きく書かれると、急に権威のように見える。
俺は受付の担当者に尋ねた。
「すみません。『人工叡智関連文書作成者』に変えられますか」
担当者は少し驚いた顔をした。
「提唱者では問題がありますか」
「間違いではないんですが、認証制度を承認する立場に見えると困るので」
数分後、新しい名札が用意された。
佐伯真司
人工叡智関連文書作成者
長い。
でも、こっちの方が安心する。
会議室へ入る。
楕円形に並べられた机。
正面には大きな画面。
席の前には、参加者名と所属が書かれている。
参加者は十二人。
検討準備会の座長。
与党系の国会議員。
野党系の国会議員。
AI業界団体の代表。
消費者団体の代表。
弁護士。
監査法人の担当者。
大学研究者。
認証ビジネスの専門家。
ノヴァリンク代表の高瀬。
競合企業であるクリアパス・テクノロジーの役員。
そして俺。
「場違い感がすごい」
小さく呟いた。
隣に座っていた水瀬遥が、わずかに笑った。
彼女も大学研究者として呼ばれていた。
「大丈夫です。私も少し場違いです」
「水瀬さんが場違いなら、俺は建物から違います」
「建物には入れています」
「物理的には」
そこへ、神崎教授も入ってきた。
名札には「AI倫理・科学技術社会論」と書かれている。
教授は俺たちを見て言った。
「二人とも、始まる前から疲れた顔をするな」
「もう疲れてます」
俺が答えると、教授は小さく鼻で笑った。
定刻。
座長が会議を始めた。
「本日は、人工叡智を標榜するAIサービスに対する第三者認証制度の必要性、実現可能性、課題について検討します」
最初に、制度案の概要が説明された。
仮称。
AW信頼認証制度。
対象。
人工叡智、人工知恵、叡智型AI、責任ある判断支援AIなどを名乗るサービス。
認証項目。
目的確認機能。
短期最適化抑制。
心理的脆弱性保護。
監査ログ。
説明可能性。
責任主体の明示。
例外処理。
外部検証。
更新制度。
三段階評価。
AW-Gold。
AW-Silver。
AW-Basic。
認証を取得した企業は、ウェブサイトや製品画面に認証マークを表示できる。
有効期間は二年間。
更新審査あり。
「……ゴールド」
俺は資料を見ながら小さく呟いた。
最初に避けようとしていたものが、きれいに全部入っている。
単一認証。
ランク。
マーク。
営業利用。
二年間の有効期間。
座長が説明を終えると、業界団体の代表が発言した。
「利用者には、どのサービスが信頼できるのか判断する材料が必要です。細かな技術文書を読める人ばかりではありません。認証マークは、重要な判断材料になります」
消費者団体の代表も頷く。
「利用者保護の観点から、最低基準は必要です。現在は、企業が自由に『責任あるAI』『倫理的AI』『人工叡智AI』を名乗れます。これでは何を信じればよいか分かりません」
もっともだ。
人工叡智という言葉が自由に使われる。
安全に見える広告になる。
利用者は中身を確認できない。
なら、第三者が見る必要がある。
反対しにくい。
クリアパス社の役員が言った。
「弊社としても、共通基準の整備には賛成です。真面目に安全投資をしている企業と、言葉だけを使う企業が同じ市場で扱われるのは不公平です」
これも分かる。
安全へ投資する企業ほど費用がかかる。
何もしていない企業が、同じ言葉だけ使えば安く売れる。
それでは真面目な企業が損をする。
認証には必要性がある。
だが、資料を見るたびに、俺の中の引っかかりは大きくなった。
ゴールド。
シルバー。
ベーシック。
人工叡智が、また順位になる。
座長が俺へ視線を向けた。
「佐伯さん。概念の整理に関わった立場として、この案をどのように見ますか」
いきなり来た。
俺はマイクのスイッチを入れる。
「認証制度を全否定するつもりはありません」
最初にそう言った。
反対だけでは進まない。
「利用者が中身を確認できない問題、企業が自由に人工叡智を名乗れる問題、安全へ投資する企業が不利になる問題。それらに対応する何らかの仕組みは必要だと思います」
何人かが頷く。
「ただし、この制度案には三つ大きな懸念があります」
会議室が少し静かになった。
「一つ目。人工叡智を単一の合格やランクに変えてしまうことです」
「二つ目。認証取得後の変化を二年間見落とす可能性があることです」
「三つ目。認証機関そのものを、誰が監査するのかという問題です」
座長が聞く。
「順に説明していただけますか」
「はい」
俺は資料を見ながら続けた。
「まず、ゴールド、シルバー、ベーシックというランクについてです」
「人工叡智は、総合点が高ければよいものではありません」
「たとえば、監査ログが充実していても、心理的脆弱性を販売最適化へ使っていれば重大な問題です」
「説明可能性が高くても、上位目的が短期利益だけなら人工叡智的とは言いにくい」
「複数項目を合計してゴールドにすると、重大な穴が別の高得点で埋められる可能性があります」
認証ビジネスの専門家が反応した。
「必須項目と加点項目を分ければ対応できます」
「一部は可能だと思います」
俺は答えた。
「ただ、ゴールドという名称が、利用者に総合的安全保証として受け取られる危険は残ります」
業界団体の代表が言う。
「分かりやすさも必要です。利用者へ十項目の評価表を見せても読まれません」
「そこが難しいと思います」
俺は頷く。
「分かりやすくするほど、複雑な問題が一つの印へ圧縮されます」
消費者団体の代表が尋ねた。
「では、利用者には何を示すべきでしょうか」
「単一ランクではなく、最低条件を満たしているかと、項目別の状態を分ける方がよいと思います」
俺は答えた。
「たとえば、重大な禁止項目に違反していないことは最低条件として確認する」
「そのうえで、目的確認、監査可能性、心理的脆弱性保護、更新性、外部検証などを項目別に表示する」
「認証マークだけではなく、認証の根拠と限界を一緒に見せる必要があります」
クリアパス社の役員が言う。
「それでは、利用者が迷うのではありませんか」
「迷うと思います」
俺は正直に答えた。
「でも、迷わないように見せるために、存在しない安心を作る方が危険です」
会議室が少し静かになった。
水瀬が隣で小さく頷いている。
座長が言った。
「二つ目の懸念、二年間の有効期間についてお願いします」
「AIサービスは、二年あればかなり変わります」
俺は答えた。
「モデルが変わる。目的関数が変わる。顧客企業の設定が変わる。新しいモードが追加される。経営方針が変わる。外部の基盤モデルへ切り替わる」
「認証時点で問題がなくても、その後に人工叡智的な手すりが弱められる可能性があります」
監査法人の担当者が言った。
「重大変更時の再審査を義務付ける方法があります」
「必要だと思います」
「ただし、企業側が何を重大変更として報告するかに依存します」
神崎教授がそこで口を開いた。
「認証は静止画だ。しかし、AIサービスは動画だ」
全員の視線が教授へ向く。
「審査日に整っていても、翌月に変わる。現場運用で崩れる。顧客ごとの設定で別物になる」
「一度の審査で二年間の信頼を売るなら、その認証は実態より長く残る」
認証ビジネスの専門家が言った。
「定期監査と抜き打ち監査を組み合わせる必要がありますね」
水瀬が続ける。
「利用者や従業員が問題を報告できる窓口も必要です。認証機関による審査だけでは、現場の回避行動を捉えられません」
会議資料に新しい項目が追加されていく。
重大変更時の再審査。
定期監査。
抜き打ち監査。
通報窓口。
事例報告。
認証停止制度。
制度が重くなる。
必要なものを足すほど、運用費用も増える。
誰が払うのか。
俺は資料の後半を見た。
認証費用。
申請企業が負担。
初回審査費用。
更新費用。
追加審査費用。
認証マーク使用料。
「マーク使用料？」
思わず声に出た。
座長がこちらを見る。
「何かありますか」
「認証マークの使用料を、認証機関が受け取るんですか」
認証ビジネスの専門家が答えた。
「制度運営には費用が必要です。申請審査とマーク管理の費用を企業側に負担してもらうのは一般的な方式です」
一般的。
それ自体は理解できる。
だが、危険な構造でもある。
認証企業が増えるほど、認証機関の収入が増える。
高いランクのマークほど使用料が高くなる可能性もある。
認証を落とせば、収入を失う。
更新を拒否すれば、顧客を失う。
俺は聞いた。
「認証機関の収入が申請企業に依存する場合、厳しい審査を維持できる保証はありますか」
専門家の表情が少し硬くなった。
「審査部門の独立性を確保します」
「誰が確認しますか」
「運営委員会です」
「運営委員会の構成は？」
「学識経験者、法律家、業界関係者、消費者代表などを想定しています」
「その委員を誰が選びますか」
会議室が少し静かになった。
専門家が答える。
「設立準備会で候補を選定し、理事会が任命する形になると思います」
「理事会を誰が監督しますか」
自分でも、少し意地悪な質問になっているのが分かった。
だが、ここを止めてはいけない。
認証機関が企業を認証する。
その認証機関を運営委員会が見る。
運営委員会を理事会が任命する。
理事会を誰が見る。
さらに上の認証機関を作るのか。
終わらない。
座長が言った。
「佐伯さんの三つ目の懸念ですね」
「はい」
俺は頷いた。
「人工叡智を守る認証機関が、人工叡智的である保証はどこにあるのか、という問題です」
「認証機関も、権威になります」
「認証基準を決める。合格と不合格を決める。企業の市場価値に影響を与える。人工叡智という言葉を使ってよい企業を事実上決める」
「その権限が固定されれば、人工叡智は更新される問いではなく、認証機関が所有する規格になります」
業界団体の代表が言った。
「しかし、誰かが基準を決めなければ制度は作れません」
「そう思います」
俺は答えた。
「だから、制度を作るなと言っているのではありません」
「基準を決める側も、批判、更新、監査、異議申立てに開いている必要があると思います」
消費者団体の代表が尋ねる。
「具体的には？」
俺は少し考えた。
「少なくとも、認証基準を公開する」
「基準改定の履歴を残す」
「企業だけでなく、利用者、従業員、外部研究者が異議を申し立てられる」
「審査結果の根拠と限界を公開する」
「認証機関自身の利益相反を公開する」
「認証件数、拒否件数、停止件数、異議申立て件数を出す」
「認証機関も定期的な外部監査を受ける」
「そして、一つの認証機関だけに独占させない」
最後の一つで、クリアパス社の役員が反応した。
「複数の認証機関を認めれば、基準の緩い機関へ企業が流れる可能性があります」
「あります」
俺は頷く。
「逆に、一つだけなら、その機関が人工叡智の意味を独占します」
どちらにも問題がある。
複数なら、認証の安売りが起きる。
単一なら、権威の独占が起きる。
神崎教授が言った。
「一つの正解を作ろうとするから難しくなる」
座長が教授を見る。
「と、言いますと？」
「認証と評価を分けた方がいい」
教授は答えた。
「最低限、してはいけないことについては共通基準を作る」
「だが、人工叡智そのものをランク付けし、完成度を認証しようとするな」
水瀬が続ける。
「禁止事項と、継続評価を分けるということですね」
「そうだ」
神崎教授は頷いた。
「心理的脆弱性を販売最適化へ使わない」
「高リスク確認を無記録で回避できない」
「感情ログを人事評価へ流さない」
「重大変更を隠さない」
「そうした最低限の禁止事項は、共通基準にできる」
「一方、目的確認の質や対話設計、長期的持続性への配慮は、単純な合格やランクでは測れない」
俺は、教授の言葉をメモした。
禁止事項の適合確認。
継続的な公開評価。
この二つを分ける。
それなら、人工叡智認証という大きな印ではなく、具体的な手すりが守られているかを確認できる。
座長がまとめる。
「つまり、人工叡智そのものを認証するのではなく、特定の安全要件への適合を確認する」
「はい」
俺は答えた。
「人工叡智認証という名称は、人工叡智全体を保証しているように見えます」
「ですが実際に確認できるのは、限られた要件です」
「なら、名称も『人工叡智認証』ではなく、『心理的脆弱性保護要件適合』『高リスク例外管理要件適合』のように、何を確認したかを明確にした方がよいと思います」
業界団体の代表が苦笑する。
「非常に分かりにくい名称になりますね」
「はい」
俺も苦笑した。
「でも、分かりやすい誤解より、分かりにくい正確さの方がまだ安全です」
「市場では逆ですよ」
クリアパス社の役員が言った。
「市場は分かりやすさを求めます」
「だからこそ、市場に合わせすぎると、認証が広告になるんだと思います」
また、会議室が静かになった。
認証は、利用者保護のために始まる。
だが、企業にとっては販売マークになる。
認証機関にとっては収益になる。
政治にとっては規制実績になる。
業界団体にとっては参入基準になる。
研究者にとっては評価枠組みになる。
同じ制度を、全員が違う目的で見ている。
第27話の企業会議と同じだった。
同じ言葉。
違う目的。
だから、最初に目的を聞かなければならない。
俺は座長に尋ねた。
「この認証制度の最上位目的は何ですか」
座長が少し驚いた顔をした。
「利用者保護と、信頼できるAI市場の形成です」
「企業の販売支援ではない？」
「主目的ではありません」
「業界の参入制限でもない？」
「主目的ではありません」
「人工叡智の定義を一つに固定することでもない？」
座長は一度、資料を見た。
「それも目的ではありません」
「なら、その三つを制度の禁止事項として書いた方がいいと思います」
「禁止事項？」
「認証を販売保証として使わない」
「認証制度を新規参入の排除に使わない」
「認証機関が人工叡智の定義を独占しない」
水瀬がすぐに言った。
「制度目的だけでなく、制度がしてはいけないことを最初に書く」
「はい」
俺は頷いた。
人工叡智の否定定義と同じだ。
何であるかだけでは足りない。
何ではないか。
何に使ってはいけないか。
それを先に置く。
座長は事務局へ視線を向けた。
「検討事項として追加してください」
会議は三時間近く続いた。
予定より四十分延長。
終盤には、当初の制度案がかなり変わっていた。
AW-Gold、AW-Silver、AW-Basicは再検討。
単一ランクを避ける。
人工叡智全体の認証ではなく、具体的要件への適合確認を中心にする。
重大禁止事項は共通基準化する。
評価項目は複数軸で公開する。
認証根拠と限界を表示する。
重大変更時には再審査。
認証機関自身の利益相反と運営情報を公開する。
異議申立て制度を設ける。
基準改定履歴を公開する。
認証機関の独占を避ける方法を検討する。
制度がしてはいけないことを明記する。
完全ではない。
でも、最初のゴールドマーク案よりはかなり良い。
会議終了後。
俺は水瀬、神崎教授と一緒に会場を出た。
外はすでに暗かった。
「疲れた……」
俺が言うと、神崎教授は平然と答えた。
「三時間で済んだなら短い」
「教授の時間感覚は参考になりません」
水瀬が少し笑う。
「でも、単一ランクが保留になったのは大きいです」
「そうですね」
俺は頷いた。
「ただ、制度は一度できたら残ります」
神崎教授が言った。
「だから、完成させるな」
俺は足を止めた。
「制度を完成させるな？」
「制度を作るなという意味ではない」
教授は続けた。
「完成したと思うな。例外、失敗、異議申立てによって変わる仕組みを最初から入れろ」
人工叡智は、完成された真理ではない。
制度も同じだ。
固定された認証ではなく、更新される評価。
俺は帰宅してから、今日の会議メモを書き始めた。
タイトル。
人工叡智を守る認証は、誰が認証するのか。
本文には、認証制度の必要性と危険性の両方を書く。
認証には意味がある。
利用者が中身を確認できない問題を補える。
言葉だけを使う企業と、安全へ投資する企業を区別できる。
最低限の禁止事項を共有できる。
しかし、認証は新しい権威になる。
単一ランクは、複雑な問題を一つの印へ圧縮する。
有効期間は、変化し続けるAIを静止画として扱う。
認証マークは、利用者保護から販売促進へ変わり得る。
申請企業の費用で運営する認証機関には、利益相反が生まれる。
認証機関が人工叡智の定義を独占すれば、更新される問いが固定された規格になる。
だから、認証する側も、監査、異議申立て、公開、更新へ開かれていなければならない。
俺は最後に書いた。
人工叡智を守る制度が、人工叡智を所有してはいけない。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、黒瀬さんからコメントが来た。
『認証マークが広告になる問題は現場でも起きます。企業は認証の内容より、マークを大きく見せたがります。「何を確認した認証なのか」「何は保証していないのか」を同じ画面に出す必要があると思います』
読書会の主催者からも来た。
『人工叡智全体を認証するのではなく、具体的な禁止事項や手すりへの適合を確認する。この違いは重要だと思います』
水瀬からは短いコメントが来た。
『認証する側も認証される必要がある、という無限後退を避けるには、一つの権威へ委ねるのではなく、公開、相互監査、異議申立て、複数主体による検証を組み合わせる必要があります』
俺は、その言葉を読み返した。
一つの権威へ委ねない。
公開。
相互監査。
異議申立て。
複数主体による検証。
認証より、検証網。
一枚の安全マークより、多方向から見られる構造。
こちらの方が人工叡智に近いかもしれない。
そのとき、検討準備会の事務局から、会議後の修正版資料が届いた。
件名。
『AW信頼制度 骨子案 v0.2』
俺は資料を開いた。
単一ランクは削除されている。
具体的要件への適合確認。
複数軸表示。
異議申立て。
更新履歴。
認証機関の利益相反公開。
かなり反映されている。
だが、最終ページで指が止まった。
制度運営体制案。
最高意思決定機関。
人工叡智信頼評議会。
評議会委員候補。
業界代表。
消費者代表。
法律家。
研究者。
監査専門家。
行政関係者。
人工叡智概念提唱者。
その横に、参考候補者として俺の名前が書かれていた。
佐伯真司。
「また勝手に入ってる……」
正式決定ではない。
候補者リストだ。
だが、俺が評議会委員になれば、認証制度の内側に入る。
基準づくりに関われる。
手すりを作れる。
一方で、認証制度の権威を支える一人にもなる。
制度が失敗すれば、俺の名前も保証に使われる。
そして、人工叡智を誰のものにもしたくないと言いながら、俺自身が基準を決める側へ回る。
また同じ問いだった。
内側に入れば、手すりを作れる。
外側にいれば、問い返せる。
俺はメモ帳を開いた。
次のタイトルを書く。
基準を作る側に入った瞬間、問いは権威になる。
保存。
画面を閉じる。
人工叡智を守る認証は、誰が認証するのか。
その問いに、まだ答えは出ていない。
だが、次に問われる人間だけは決まり始めていた。
俺だった。
第38話では、人工叡智を名乗るAIサービスに対する第三者認証制度が検討されました。
認証制度には、必要性があります。
利用者は、AIサービスの内部構造を簡単には確認できません。
企業は自由に、「責任あるAI」「倫理的AI」「人工叡智型AI」と名乗れます。
言葉だけを使う企業と、安全へ投資する企業を区別する仕組みも必要です。
しかし、最初の制度案には次の要素がありました。
AW-Gold。
AW-Silver。
AW-Basic。
二年間有効の認証。
認証マークの営業利用。
マーク使用料。
真司は、そこに三つの大きな問題を指摘しました。
一つ目。
人工叡智を単一の合格やランクへ変えてしまうこと。
複数項目の合計点が高くても、心理的脆弱性の販売利用など、重大な穴が残る可能性があります。
二つ目。
変化し続けるAIサービスを、二年間有効の静止画として扱うこと。
モデル、目的、設定、顧客運用、経営方針は変化します。
認証取得時に問題がなくても、その後に手すりが弱められるかもしれません。
三つ目。
認証機関そのものを、誰が監査するのかという問題です。
認証機関は、基準を決めます。
合格と不合格を決めます。
企業の市場価値へ影響を与えます。
人工叡智という言葉を使用できる企業を、事実上選別する可能性もあります。
その機関が申請企業から費用を受け取るなら、利益相反も生まれます。
今回、制度案は次の方向へ修正され始めました。
単一ランクを再検討する。
人工叡智全体を認証するのではなく、具体的な要件への適合を確認する。
重大な禁止事項を共通基準にする。
評価は複数軸で公開する。
認証の根拠と限界を表示する。
重大変更時に再審査する。
認証機関自身の利益相反を公開する。
異議申立て制度を設ける。
基準改定履歴を残す。
制度がしてはいけないことも明記する。
特に重要なのは、人工叡智そのものを認証しないという考え方です。
人工叡智は、完成品ではありません。
更新される問いであり、知性の方向を問い返す枠組みです。
それを一つの認証機関が所有し、完成された規格として固定すれば、人工叡智の性質そのものが失われます。
今回の中心となる言葉は、これです。
人工叡智を守る制度が、人工叡智を所有してはいけない。
しかし、最後に新しい問題が出ました。
人工叡智信頼評議会の委員候補として、佐伯真司の名前が挙げられたのです。
基準を作る側に入れば、手すりを作れます。
しかし、同時に制度の権威を支える側になります。
次回は、「基準を作る側に入った瞬間、問いは権威になる」という問題へ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
