第37話 透明性は、誰かを殴るための武器ではない
前回、ノヴァリンクと試験導入先は、人工叡智的な手すりが回避された事例を、匿名化して公開する方針を決めました。
すべてを無差別に晒すのではない。
影響を受けた可能性のある利用者には、簡潔な通知と説明窓口を設ける。
契約関係者には、指示関係や回避行動を含む詳細報告を残す。
社会には、企業名や担当者名を伏せた事例概要を返す。
内部には、監査と再発防止のための完全な記録を残す。
透明性とは、必要な相手へ、必要な情報を、必要な深さで返すこと。
公表は、誰かを罰するためではなく、失敗を知識へ変え、同じ失敗を繰り返さないための循環です。
しかし、情報を公開したあとの使われ方まで、公開した側が決めることはできません。
透明性を評価する人。
危険なサービスだと批判する人。
企業攻撃に利用する人。
競合他社の宣伝材料にする人。
規制強化の根拠にする人。
第37話では、失敗を外へ返したことで始まる、もう一つの問題を扱います。
透明性は、誰かを殴るための武器ではない。
けれど、公開された情報は、武器として使われることがあります。
失敗事例が公開された翌朝。
俺は、スマホの通知音で目を覚ました。
枕元の画面には、見慣れない数字が並んでいた。
通知、四十三件。
「……何だこれ」
半分眠ったまま、画面を開く。
昨日公開した記事。
失敗を隠して守れる信頼は、本当に信頼なのか。
普段より明らかに反応が多い。
最初に目に入ったのは、穏やかなコメントだった。
『失敗事例を匿名化して共有した判断は評価したい』
『安全機能が回避される可能性を隠さず出したのは重要』
『禁止語だけでは防げないという話は、他のAIサービスにも当てはまりそう』
そこまでは良かった。
次に、少し厳しい意見が並ぶ。
『そもそも苦情が出るまで気づけなかったのでは、安全機能として不十分では』
『人工叡智を名乗るなら、回避される前に防ぐべきだった』
『利用者を実験台にしたようにも見える』
厳しい。
だが、間違った批判ではない。
実際、苦情が出るまで見抜けなかった。
安全機能は不十分だった。
試験導入とはいえ、広告を見た利用者がいた。
それを「誤解です」で済ませることはできない。
俺は一つずつ読み進めた。
そして、その先で指が止まった。
『人工叡智とかいう危険思想を企業AIに入れた結果がこれ』
『提唱者の佐伯真司は企業から金をもらって監修していたらしい』
『倫理を商売にして失敗した人たち』
『人工叡智準拠AI、早速炎上。やっぱり自称倫理AIは危険』
「いや、監修してない」
声が出た。
金も受け取っていない。
最初から、認定者でも監修者でも保証者でもないと伝えてきた。
限定的な意見交換。
公開前提。
非承認型の関与。
何度も書いた。
だが、短い投稿の中では全部消えていた。
残ったのは、
人工叡智の提唱者。
企業AIに関与。
安全機能が回避された。
利用者から苦情。
これだけだ。
四つを並べれば、俺が危険なAIを監修して失敗したように見える。
「情報って、こんなに簡単に変わるのか」
AIチャットを開く。
公開した失敗事例が切り取られて、俺が企業から金をもらって監修したことになってる。実際は無報酬の意見交換で、承認も監修もしていない。
AIは答えた。
『事実と異なる情報については、簡潔に訂正することが適切です』
「全部に返信するのか？」
『すべてに返信する必要はありません』
『事実関係をまとめた固定文書を一つ公開し、必要な場合のみ参照できるようにする方法があります』
「批判には反論しない？」
『正当な批判と、事実誤認を分ける必要があります』
「どう分ける」
『安全機能が不十分だったという指摘は、検証可能な批判です』
『佐伯真司が有償監修者だったという主張は、事実誤認です』
『人工叡智に関わる者は全員危険人物だという主張は、人格や集団への一般化です』
俺はメモ帳を開いた。
批判。
誤情報。
攻撃。
似ているようで違う。
批判は、問題を指摘する。
誤情報は、事実を変える。
攻撃は、問題ではなく人を固定する。
「でも、攻撃する側は批判だと言うよな」
『その可能性があります』
「じゃあ、誰が決める」
『完全に客観的な境界を引くことは困難です』
「困難です、で終わるなよ」
『そのため、内容単位で判断する必要があります』
AIは続けた。
『何が起きたかを問うのか』
『何を改善したかを問うのか』
『説明の不足を指摘するのか』
『それとも、失敗を理由に人や組織全体を価値のないものとして扱うのか』
俺は画面を見つめた。
失敗を問うことと、失敗した人間を殴ることは違う。
だが、その境界は言葉だけでは分かりにくい。
俺は、とりあえず固定記事の下書きを作った。
題名。
今回の事例における私の立場について。
本文。
私は、ノヴァリンク・システムズの有償監修者、認定者、顧問、保証者ではありません。
公開されている人工叡智関連文書の作成者として、限定的な意見交換に参加しています。
同社サービスを承認・認定した事実はありません。
今回の手すり回避事例については、安全機能の不十分さ、運用上の問題、指示関係、KPI、再発防止策を含めて検証されるべきだと考えています。
批判を避ける意図はありません。
一方で、検証に必要な事実と異なる情報については、ここに訂正します。
「これでいいか」
『簡潔で適切です』
公開。
画面に通知が出る。
公開しました。
これで誤解がすべて消えるとは思わない。
だが、何も出さなければ、嘘だけが残る。
朝食代わりのパンをかじりながら、さらに反応を追う。
すると、今度は別の投稿が目に入った。
AIサービス会社、クリアパス・テクノロジーの公式投稿。
『当社のAI倫理支援システムでは、サービス開始以来、重大な安全回避事例はゼロ件です。
安全性に妥協はありません。
企業AIに、実証された安心を。』
その下には、ノヴァリンクの匿名事例を紹介するニュース記事へのリンクが付いていた。
企業名は書いていない。
直接批判もしていない。
だが、意図は明確だった。
他社では安全回避が起きた。
うちではゼロ。
だから、うちの方が安全。
「透明性が、そのまま競合広告に使われてる」
俺は苦笑した。
失敗を公開した側は、失敗件数一。
公開していない側は、失敗件数ゼロ。
数字だけを見れば、ゼロの方が安全に見える。
でも、本当にそうなのか。
検出していないだけかもしれない。
記録していないだけかもしれない。
利用者が報告できないだけかもしれない。
内部で処理して外に出していないだけかもしれない。
俺は黒瀬さんへ短いメッセージを送った。
『クリアパス社が重大回避ゼロ件という宣伝を出しています。広告業界では、こういう表現は普通ですか』
しばらくして返信が来た。
『普通にあります。ただ、ゼロ件の定義が重要です』
『重大回避をどう定義しているのか』
『検出機能があるのか』
『利用者の報告窓口があるのか』
『内部事例を件数に含めるのか』
『公表した件数なのか、確認された件数なのか』
『そこが分からないゼロは、安全の証明になりません』
やはりそうだ。
失敗件数ゼロ。
それは、成功の証明ではない。
観測されていないという意味かもしれない。
俺は記事の下書きを開いた。
タイトル。
失敗ゼロの会社と、失敗を一件公開した会社は、どちらが安全なのか。
書き始める。
失敗を一件公表した企業は、危険に見える。
失敗を一件も公表していない企業は、安全に見える。
しかし、公表件数は、そのまま安全性を意味しない。
失敗を検出する仕組み。
報告できる窓口。
内部で記録する文化。
公表基準。
利用者への説明。
再発防止の更新。
それらがなければ、ゼロ件とは単に「見つけていない」「数えていない」「外へ出していない」可能性がある。
透明性のある組織ほど、失敗が多く見える。
透明性の低い組織ほど、失敗が少なく見える。
これでは、正直に公表する側が市場で不利になる。
俺は、そこで手を止めた。
これは何と呼べばいい。
透明性の罰。
いや、罰というより逆転だ。
透明性の逆説。
正直な企業ほど危険に見える。
黙っている企業ほど安全に見える。
「透明性の逆説……」
AIに入力する。
失敗を公表した企業ほど危険に見えて、公表しない企業ほど安全に見える。この構造をどう整理する？
AIは答えた。
『透明性の逆説と表現できます』
『情報を公開する組織ほど、問題件数が多く観測されます』
『一方、公開しない組織は、問題が存在しないように見えます』
『その結果、透明性の高い組織が市場や世論で不利になる可能性があります』
「それじゃ、誰も公開しなくなる」
『はい』
『透明性を促進するためには、失敗件数だけでなく、検出能力、報告制度、対応速度、修復内容、再発防止、更新履歴を合わせて評価する必要があります』
俺はメモした。
失敗件数ではなく、失敗対応を見る。
これだ。
事故が一件あった。
だから危険。
事故がゼロ件。
だから安全。
そんな単純な話ではない。
見つけられるか。
止められるか。
説明できるか。
直せるか。
次に生かせるか。
そこまで見なければならない。
昼過ぎ。
水瀬遥から連絡が来た。
『研究室で、今回の公開事例と反応について短い検討会をします。参加できますか』
俺は一瞬迷った。
昨日も会議。
その前も会議。
最近、俺の日常が会議に侵食されている。
だが、一人で画面を見ていても、考えが回り続けるだけだ。
『参加します』
送信した。
夕方。
久しぶりに研究室を訪れた。
水瀬遥。
倉持蓮。
李。
そして、神崎教授。
小さな会議室の机には、今回の匿名事例報告と、公開後の反応が印刷されていた。
倉持が開口一番に言う。
「見事に燃料になりましたね」
「言い方」
俺は思わず返した。
倉持は悪びれずに眼鏡を直す。
「でも、事実です。透明性のために公開した情報が、企業批判、競合広告、人工叡智批判、個人攻撃に使われている」
「だから公開しない方がよかったと？」
俺が聞くと、倉持は首を振った。
「そこまでは言っていません。公開には意味があった。ただ、公開すれば善意で受け取られる、という前提は甘かったということです」
痛い。
だが、その通りだった。
李が資料を見ながら言う。
「失敗を公開したからといって、免責されるわけではありません。透明性は責任を果たす手段であって、責任を消す魔法ではないです」
「それも分かる」
俺は頷いた。
失敗を公表しました。
だから偉い。
もう批判するな。
それも違う。
透明性を盾にして、批判を封じることはできない。
水瀬が言った。
「今回は、二つの問題を分ける必要があると思います」
ホワイトボードに書く。
一。
透明性を免罪符にしない。
二。
透明性を攻撃材料だけにしない。
神崎教授が腕を組みながら言った。
「正直に話したから許せ、は通らない」
「はい」
俺は答えた。
「だが、正直に話した者だけを叩けば、次から誰も話さなくなる」
教授は続けた。
「透明性を続けさせたいなら、公開された失敗の受け取り方にも成熟が必要だ」
「受け取る側の責任ですか」
「責任というと強すぎるが、少なくとも区別は必要だ」
神崎教授は、ホワイトボードに三つの言葉を書いた。
検証。
批判。
攻撃。
「検証は、事実と原因と改善を確かめる」
「批判は、不十分な点や責任を指摘する」
「攻撃は、失敗を使って相手の存在価値そのものを下げる」
倉持が言う。
「でも、批判と攻撃の境界は曖昧ですよ」
「曖昧だ」
神崎教授は即答した。
「だから、発言者の属性で決めるな。内容を見ろ」
教授は続ける。
「具体的事実を問うているか」
「反論や修正の余地を残しているか」
「改善後の情報も評価対象にするか」
「個人や集団全体へ一般化していないか」
「失敗が続くことを望んでいないか」
最後の一つに、俺は引っかかった。
「失敗が続くことを望む？」
李が答える。
「攻撃を続けたい人にとっては、相手が改善すると困る場合があります」
「改善されたら、殴る理由が減るから」
倉持が言った。
「そういう人は、改善を認めません。何をしても『今さら遅い』『最初から危険だった』『本性が出た』で固定します」
俺は、朝から見ていた投稿を思い出した。
人工叡智は危険思想。
倫理を商売にした人々。
提唱者も同罪。
問題の具体的な構造ではなく、人工叡智という言葉全体を固定している。
水瀬が言った。
「一方で、厳しい批判すべてを攻撃扱いしてはいけません」
「はい」
「安全機能が不十分だったこと」
「利用者が広告を見たこと」
「苦情が出るまで検出できなかったこと」
「試験導入の説明範囲が適切だったか」
「これらは検証されるべきです」
俺は頷いた。
批判は必要だ。
むしろ、批判されない人工叡智は危ない。
人工叡智を疑えない場は、人工叡智の場ではない。
第一部で書いた言葉が、また戻ってくる。
問題は、批判を避けることではない。
批判を改善へつなげることだ。
俺は聞いた。
「では、透明性を武器にされたとき、公開した側はどうすればいいんですか」
神崎教授が答えた。
「全部に反論するな」
即答だった。
「全部に？」
「批判の数だけ反論すれば、相手の土俵から出られなくなる」
「では、黙る？」
「事実誤認は訂正する。正当な批判は受け止める。人格攻撃は記録して距離を置く。改善内容は継続して更新する」
水瀬が補足する。
「反応ではなく、更新で答えるということです」
反応ではなく、更新。
その言葉は、かなり人工叡智らしかった。
怒りに対して怒りを返すのではない。
指摘された穴を埋める。
誤情報だけを訂正する。
改善履歴を残す。
それでも攻撃する人はいる。
だが、その人を説得することだけが目的ではない。
黙って見ている多くの人に、判断材料を残す。
俺はメモした。
透明性への攻撃には、喧嘩ではなく更新で答える。
検討会の後半では、ノヴァリンクが今後公開する事例報告の形式についても話し合った。
水瀬が提案する。
「公開事例は、毎回同じ形式にした方がいいと思います」
「同じ形式？」
「はい。都合の良い事例だけ詳しく書き、都合の悪い事例だけ曖昧にするのを防ぐためです」
倉持がホワイトボードに項目を書く。
何が起きたか。
影響範囲。
確認できていること。
まだ分からないこと。
直ちに停止したこと。
修復対応。
原因。
構造的背景。
再発防止。
更新予定日。
李が一つ追加する。
「この事例から推測してはいけないこと、も必要では？」
「推測してはいけないこと？」
俺が聞く。
「例えば、一件の失敗から、すべての人工叡智的AIが危険だと結論づけることはできません。反対に、一件を改善したからサービス全体が安全だとも言えません」
なるほど。
過剰な一般化を避けるための項目。
今回分かったこと。
今回だけでは分からないこと。
そこを分ける。
神崎教授が言った。
「透明性の文書は、告白文でも弁明書でもない。検証資料であるべきだ」
検証資料。
その通りだ。
謝るだけでも足りない。
自分を守る言い訳だけでも駄目だ。
外部が検証できる材料にする。
俺はノヴァリンクへ送る提案を整理した。
公開事例報告の共通形式。
一。
何が起きたか。
二。
影響範囲。
三。
確認済みの事実。
四。
未確認・調査中の事項。
五。
直ちに停止・変更した内容。
六。
影響を受けた人への対応。
七。
直接原因。
八。
組織・KPI・指示関係などの構造的背景。
九。
再発防止策。
十。
次回更新予定。
十一。
この事例だけからは結論づけられないこと。
研究室から帰る途中。
スマホを見ると、ノヴァリンクからメッセージが来ていた。
『公開事例報告への反応を受け、社内で今後の公表方針を再検討しています。
一部から、今後は法的に必要な範囲を超える自主公表を控えるべきではないか、という意見が出ています』
俺は駅のホームで立ち止まった。
やはり、そうなる。
正直に出した。
叩かれた。
競合に使われた。
担当者や企業が疑われた。
なら、次から出さない方がいい。
自然な流れだ。
透明性の逆説。
透明性を求めながら、透明な側だけを叩けば、透明性は消える。
俺は研究室でまとめた形式案を、そのままノヴァリンクへ送った。
そして一文を加えた。
『自主公表をやめれば、短期的には批判を減らせるかもしれません。
しかし、問題がなくなるのではなく、外から見えなくなるだけです。
公開の目的を謝罪や自己弁護ではなく、検証と更新に置き、共通形式で継続する方が、長期的には信頼につながると思います』
送信。
電車がホームへ入ってくる。
風が吹く。
俺はスマホをポケットに入れた。
失敗を公開した側が損をする。
だから、誰も公開しない。
誰も公開しないから、社会は同じ失敗を繰り返す。
この循環を止めなければならない。
だが、それは公開する側だけではできない。
受け取る側も、失敗の件数だけではなく、失敗への向き合い方を見なければならない。
失敗したか。
それだけではない。
見つけたか。
止めたか。
説明したか。
影響を修復したか。
構造を直したか。
更新したか。
俺は帰宅すると、記事を書き始めた。
タイトル。
透明性は、誰かを殴るための武器ではない。
本文。
失敗を公表した組織は、失敗が存在したことを外へ示す。
失敗を公表しない組織は、失敗が存在しないように見える。
その結果、透明性の高い組織ほど危険に見え、透明性の低い組織ほど安全に見えることがある。
これを放置すれば、組織は失敗を隠す方が合理的だと学習する。
透明性を続けさせるためには、失敗件数だけでなく、失敗への対応を見る必要がある。
検出したか。
停止したか。
説明したか。
影響を修復したか。
構造を直したか。
更新したか。
透明性は免罪符ではない。
失敗を公表したからといって、責任が消えるわけではない。
しかし、透明性は誰かを殴り続けるための武器でもない。
改善しても認めない。
事実を訂正しても広め続ける。
一件の失敗を、その人や組織の永続的な本質へ変える。
それでは、公開は罰になり、失敗は再び隠される。
人工叡智に必要なのは、批判を消すことではない。
批判を、検証と更新へ循環させることだ。
俺は、最後に書いた。
透明性への答えは、喧嘩ではなく更新である。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、水瀬遥からコメントが来た。
『透明性は免罪符ではなく、攻撃材料だけでもない。この両方を同時に維持する必要があります。公開事例を共通形式で継続更新する案は、検証可能性を高めると思います』
黒瀬さんからも来た。
『失敗ゼロを広告に使う企業ほど、何を失敗として数えているのか確認した方がいいです。報告窓口がない、ログがない、公表基準がないなら、ゼロは安心材料になりません』
読書会の主催者から。
『失敗件数ではなく、失敗対応を見る。次回の読む会で議題にします』
夜になり、ノヴァリンクから返信が来た。
『社内協議の結果、自主公表を継続します。
今後は、ご提案いただいた共通形式を参考に、事例報告を検証資料として継続更新します。
また、事実誤認については訂正文書を一か所に集約し、個別の批判すべてに反論しない方針とします』
俺は、その文章を読んで少しだけ息を吐いた。
透明性は残った。
少なくとも今は。
失敗を公表したことで、批判は増えた。
競合にも使われた。
俺まで監修者にされた。
それでも、公表をやめなかった。
これは、小さいが重要な前進だと思う。
だが、メールには続きがあった。
『なお、本件を受け、国会議員と複数の業界団体から、人工叡智を名乗るAIサービスに対する第三者認証制度を設けるべきだ、との意見が出ています。
当社にも、制度検討会への参加依頼が届きました』
俺は、画面を見つめた。
第三者認証制度。
また、認証だ。
第一部で避けようとしていたものが、外部から近づいてきた。
失敗した。
なら、認証が必要だ。
認証機関を作る。
基準を作る。
合格と不合格を決める。
安全マークを付ける。
分かりやすい。
社会としては、当然の動きかもしれない。
だが、その認証は誰が作る。
誰が審査する。
一度合格したサービスは、本当に安全なのか。
認証取得が目的にならないか。
人工叡智が、更新される問いではなく、固定された規格にならないか。
俺はメモ帳を開いた。
次のタイトルを書く。
人工叡智を守る認証は、誰が認証するのか。
保存。
画面を閉じる。
透明性は、誰かを殴るための武器ではない。
それでも、公開された失敗は社会を動かした。
次に現れたのは、批判でも競合広告でもなかった。
制度だった。
第37話では、公開された失敗事例が、社会の中でどのように使われるかが扱われました。
失敗事例を公開した結果、ノヴァリンクと人工叡智には、さまざまな反応が向けられました。
透明性を評価する声。
安全機能の不十分さを指摘する声。
利用者を試験に巻き込んだのではないかという批判。
事実と異なる情報。
人工叡智全体を危険思想とする攻撃。
競合他社による宣伝利用。
ここで重要なのは、厳しい意見をすべて攻撃扱いしないことです。
安全機能が不十分だったこと。
苦情が出るまで見つけられなかったこと。
利用者が実際に広告を見たこと。
これらは検証されるべき問題です。
一方で、事実と異なる監修関係を広めることや、一件の失敗を理由に人や思想全体を危険と固定することは、検証とは異なります。
今回、研究室では反応を三つに分けました。
検証。
批判。
攻撃。
検証は、何が起きたかを確かめます。
批判は、不十分な点や責任を指摘します。
攻撃は、失敗を使って相手の存在価値そのものを下げようとします。
ただし、この境界は完全に明確ではありません。
だから、発言者の属性ではなく、内容を見る必要があります。
具体的事実を問うているか。
反論や修正の余地を残しているか。
改善後の情報も評価するか。
個人や集団全体へ一般化していないか。
相手が改善することを望んでいるか。
また、今回の重要な問題として「透明性の逆説」が現れました。
失敗を一件公表した企業は、失敗件数一件です。
失敗を何も公表していない企業は、失敗件数ゼロに見えます。
しかし、ゼロ件だから安全とは限りません。
失敗を検出する仕組みがない。
報告窓口がない。
内部記録がない。
公表基準がない。
外へ出していない。
そのような可能性もあります。
だから、安全性を見るときは、失敗件数だけでは足りません。
見つけたか。
止めたか。
説明したか。
影響を修復したか。
構造を直したか。
更新したか。
今回の中心となる言葉は、これです。
透明性は免罪符ではない。
透明性は、誰かを殴るための武器でもない。
批判を消すのではなく、批判を検証と更新へ循環させる。
事実誤認には簡潔な訂正を出す。
正当な批判は受け止める。
人格攻撃のすべてに反応しない。
改善内容を継続して更新する。
透明性への答えは、喧嘩ではなく更新です。
ノヴァリンクは、自主公表をやめず、今後も共通形式による事例報告を続けることを決めました。
しかし、公開された失敗は、さらに社会を動かします。
国会議員や業界団体から、人工叡智を名乗るAIサービスに対する第三者認証制度を求める声が出始めました。
次回は、「人工叡智を守る認証は、誰が認証するのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
