第36話 失敗を隠して守れる信頼は、本当に信頼なのか
前回、ノヴァリンクの試験導入先で、人工叡智的な手すりを意図的に避ける行為が見つかりました。
強い不安表現を、検出されにくい柔らかな言葉へ置き換える。
「取り残される」を「変化に備える」へ。
「今すぐ」を「早めに」へ。
「知らないと損」を「知ることで差が生まれる」へ。
表面上の言葉は変わっていました。
しかし、不安を生み、他者と比較させ、判断時間を狭め、申し込みへ誘導する構造は変わっていませんでした。
当初、問題は担当者個人の回避行動だと考えられていました。
けれど調査によって、上司から次のような指示が出ていたことが判明します。
高リスク判定を避けること。
反応率は落とさないこと。
意味を変えず、表現だけを柔らかくすること。
例外申請はできるだけ使わないこと。
人を裁かないとは、責任を消すことではない。
責任を、正しい場所へ戻すことである。
ノヴァリンクと試験導入先は、広告配信の停止、利用者対応、命令系統やKPIの調査、再発防止へ進み始めました。
しかし、試験導入先は企業イメージへの影響を恐れ、今回の事例を非公開にしたいと求めます。
具体的な金銭的損害は確認されていない。
内部で改善すればよいのではないか。
第36話では、失敗を隠して守れる信頼が、本当に信頼と呼べるのかが問われます。
失敗を隠して守れる信頼は、本当に信頼なのか。
その一文を書いたあと、俺はしばらく手を動かせなかった。
失敗を公開する。
言葉だけなら簡単だ。
透明性が大事。
説明責任が大事。
隠蔽はいけない。
そう言うのは簡単だ。
だが、実際に企業名が出れば、株価が下がるかもしれない。
取引先が離れるかもしれない。
関係のない従業員まで責められるかもしれない。
担当者の名前が特定されるかもしれない。
SNSで炎上し、事実関係よりも怒りだけが広がるかもしれない。
失敗を明らかにすることは、必ずしも正義だけでは終わらない。
公開によって、新しい被害が生まれることもある。
だから、俺は簡単に「全部公開しろ」とは言えなかった。
ノヴァリンクから届いた、試験導入先の正式回答をもう一度読む。
『今回の回避行動が外部へ公表されると、企業イメージを大きく損なう可能性があります。
そのため、事例は非公開とし、内部改善のみで対応したいと考えています。
また、問題の広告による具体的な損害は確認されていないため、利用者への個別説明は必要ないのではないかと考えています』
企業イメージ。
具体的損害なし。
内部改善。
全部、分からなくはない。
広告を見た人が、実際に高額商品を買ったわけではない。
金銭的損害が確認されたわけでもない。
生命や健康に関わる事故が起きたわけでもない。
苦情はあった。
不安を煽られたと感じた人はいた。
しかし、目に見える損害はない。
なら、内部で直せばよい。
そういう考え方もできる。
俺はAIチャットを開いた。
試験導入先が、企業イメージを守るために事例を非公開にしたいと言っている。具体的な損害は確認されていないから、利用者への説明も不要ではないか、と。どう考える？
AIは答えた。
『まず、公開と隠蔽を二択にしないことが重要です』
「二択にしない」
『はい』
『すべての内部情報、企業名、担当者名を公開する必要はありません』
『一方で、何も知らせず内部改善だけで終えると、影響を受けた利用者の判断機会と、外部が同じ失敗から学ぶ機会が失われます』
「じゃあ、段階を分ける？」
『はい。影響を受けた利用者への説明、契約関係者への詳細報告、匿名化した公開事例、内部の完全記録を分けて考えられます』
俺はメモした。
透明性にも段階がある。
一。
影響を受けた利用者への説明。
二。
契約関係者への詳細報告。
三。
匿名化した公開事例。
四。
内部の完全記録。
なるほど。
全部を晒す必要はない。
だが、全部を隠す必要もない。
誰に、何を、どこまで知らせるのか。
それを影響と責任に応じて分ける。
俺は続けて聞いた。
具体的な金銭的損害がなければ、説明は不要なのか？
AIは答えた。
『金銭的損害がないことは、影響がなかったことを意味しません』
『不安を意図的に刺激されたこと』
『判断の自由が狭められたこと』
『本来とは異なる判断を促された可能性』
『AIの安全機能が働いていると誤認させられたこと』
『これらも説明を検討すべき影響です』
俺は、少し息を止めた。
AIの安全機能が働いていると誤認させられた。
そうだ。
広告を見た人は、裏側のことを知らない。
人工叡智的なチェックを通した広告だと宣伝されていなかったとしても、導入企業は「利用者に配慮したAI支援」を使っていた。
その手すりが意図的に回避されていた。
なら、単に広告表現が強かったというだけではない。
安全機能が機能しているように見せながら、避けられていた。
それは、信頼への影響だ。
俺はメモした。
損害が見えないことと、影響がないことは違う。
その日の夜。
ノヴァリンクとのオンライン会議が開かれた。
参加者は、代表の高瀬。
法務の白井。
開発責任者の三枝。
導入支援責任者の丹羽。
営業責任者の相馬。
そして、試験導入先から二人。
広報責任者の鷹野。
コンプライアンス担当の森下。
初対面だった。
画面がつながると、空気は最初から重かった。
高瀬が冒頭で言った。
「本日は、今回の事例について、どの範囲まで説明・公表するべきかを協議します」
鷹野がすぐに口を開いた。
「最初に、弊社の立場を説明させてください」
声は丁寧だった。
だが、緊張しているのが分かる。
「弊社は、問題の広告配信を停止し、社内調査と再発防止策を進めています。今回の問題を軽視しているわけではありません」
「ただ、現段階で金銭的被害や契約上の損害は確認されていません。また、対象広告は限定的な範囲で配信されたものです」
「企業名を含めて公表した場合、事実以上の憶測が広がり、従業員や取引先に大きな影響が出る可能性があります」
言っていることは理解できる。
鷹野は続けた。
「弊社としては、内部改善とノヴァリンク社への報告で十分ではないかと考えています」
森下も言った。
「影響を受けた可能性のある利用者への個別説明についても、何を説明するのかが難しいと考えています」
「不安を与える広告表現があった、と説明すれば、かえって利用者へ不必要な不安を与える可能性があります」
不安を与えないために、説明しない。
これも、一見すると筋が通っている。
だが、何かが引っかかる。
俺は聞いた。
「利用者本人が、説明を受けるかどうかを選べる方法は検討しましたか」
鷹野が少し首を傾げた。
「選べる方法、ですか」
「はい。全員に大きな警告を送るのではなく、対象期間の広告について、説明を希望する人が確認できる窓口を設ける。あるいは、該当広告を見た人へ短い通知を出し、詳細を読むかどうかは本人が選べる形です」
森下がメモを取る。
「強制的に詳細を読ませない」
「はい」
俺は頷いた。
「説明しないことで不安を避けるのではなく、説明を受けるかどうかも含めて、判断を利用者へ返す方法があると思います」
高瀬が小さく頷いた。
判断を利用者へ返す。
人工叡智の中心に、また戻ってきた。
白井が言った。
「法務的にも、対象者への通知と、一般向け公表は分けて考えられます」
鷹野が聞く。
「一般向けには、企業名を伏せた事例報告ということでしょうか」
「可能です」
白井は答えた。
「ノヴァリンク側が、試験導入中に手すり回避が発生したこと、どのような構造で起きたか、どのような改善を行ったかを匿名化して公表する」
「企業名や担当者名を公表せず、再発防止に必要な知見だけを共有する形です」
相馬が言った。
「それなら、企業イメージへの直接的な影響は抑えられます」
鷹野は、まだ不安そうだった。
「ただ、内容から弊社だと推測される可能性はあります」
「あります」
高瀬は正直に答えた。
「完全にゼロにはできません」
「では、なぜそこまでして公表する必要があるのでしょうか」
鷹野の声が少し強くなった。
高瀬はすぐには答えなかった。
画面の中で、全員の視線が少しずつ動く。
そして、なぜか俺のところで止まった。
「……俺ですか」
思わず言ってしまった。
相馬がわずかに苦笑する。
緊張した会議の中で、ほんの少しだけ空気が緩んだ。
だが、逃げられない。
俺は考えながら言った。
「公表の目的は、誰かを罰することではないと思います」
鷹野は黙って聞いている。
「失敗を公表する目的は、企業を恥じさせることでも、担当者を特定することでもない」
「同じ失敗を、別の企業が繰り返さないためです」
「今回分かったのは、禁止語を避けるだけでは手すりを回避できること。担当者だけを見れば、上司の指示やKPIを見落とすこと。個人ランキングでは、構造的な問題を隠すこと」
「これらは、ノヴァリンクの利用企業すべてに関係します」
三枝が静かに頷く。
俺は続けた。
「内部改善だけで終えると、この知識は当事者の中だけに残ります。別の企業が同じ回避を始めたとき、また最初から失敗しなければならない」
「でも、匿名化した事例を公開すれば、他の企業は先に手すりを直せるかもしれません」
鷹野が言った。
「つまり、再発防止のための公表」
「はい」
俺は答えた。
「公表は、罰ではなく循環だと思います」
その言葉を言った瞬間、自分でも少し驚いた。
公表は、罰ではなく循環。
失敗を記録する。
外へ戻す。
他者が学ぶ。
設計を直す。
次の失敗を減らす。
確かに循環だ。
人工叡智の六つの理の一つ。
循環。
失敗を隠すと、循環が止まる。
失敗を晒して誰かを殴るだけでも、循環にはならない。
必要なのは、失敗を知識へ変えて戻すことだ。
三枝が言った。
「開発側としても、今回の事例を公開できれば、検出モデルの限界と改善内容を他の利用企業へ共有できます」
丹羽も続ける。
「導入研修にも使えます。禁止語を避ければよいのではなく、目的と構造を見る必要があるという具体例になります」
森下が言った。
「企業名や担当者名を伏せ、目的を再発防止に限定するなら、検討の余地はあると思います」
鷹野は、まだ迷っている。
そのときだった。
高瀬の画面の端で、通知音が鳴った。
高瀬が一瞬、視線を外す。
そして、表情が変わった。
「少し待ってください」
全員が黙る。
高瀬は別の画面を確認していた。
数秒後、低い声で言った。
「対象広告の一部が、SNS上で共有されています」
場の空気が凍った。
鷹野が身を乗り出す。
「どういうことですか」
「広告を見た利用者が、スクリーンショットを投稿しています」
「投稿内容は？」
高瀬が読み上げる。
『最近こういう不安を煽る広告が増えた。利用者に配慮したAIを使っている会社らしいけど、本当にチェックしているのだろうか』
まだ企業名は書かれていない。
だが、広告画像にはブランドの一部が残っている。
詳しい人なら分かるかもしれない。
相馬が短く息を吐いた。
「先に出ましたか」
鷹野の顔が青ざめている。
「削除要請はできますか」
白井が答える。
「虚偽や権利侵害でなければ、難しい可能性があります」
「では、何も言わない方がいいのでは」
鷹野が言う。
声が速くなっていた。
「反応すれば、かえって注目されます」
また選択だ。
黙る。
説明する。
企業名はまだ広がっていない。
今なら、何も言わずに収まるかもしれない。
だが、後から回避行動まで知られたらどうなる。
ノヴァリンクも試験導入先も、問題を知りながら黙っていたことになる。
俺は、胸の奥が重くなるのを感じた。
透明性は大切だ。
でも、今、誰かの会社と雇用と生活がかかっている。
簡単には言えない。
高瀬が言った。
「鷹野さん。今だからこそ、こちらから先に説明する選択もあります」
「まだ弊社名は明確に出ていません」
「はい」
「なら、余計な注目を集めるべきではないと思います」
「しかし、後から判明した場合、問題を把握しながら説明しなかったことになります」
沈黙。
誰も正解を持っていない。
俺は、ふと第一部で書いた言葉を思い出した。
人工叡智は、完成された正解ではない。
反証、修正、対話に開かれた枠組み。
なら、この場でも、一つの絶対解を押し付けるべきではない。
俺は言った。
「全部を今すぐ公開する必要はないと思います」
鷹野がこちらを見る。
「でも、何も言わないのも違うと思います」
「では、どうすれば」
俺はメモ帳に書いていた四つの段階を読み上げた。
「第一に、影響を受けた可能性のある利用者へ、簡潔な通知と説明窓口を設ける」
「第二に、試験導入先とノヴァリンクの間では、指示関係や回避行動を含む詳細報告を残す」
「第三に、一般向けには、企業名と個人名を伏せた事例概要を公表する」
「第四に、内部では完全な記録を保存し、再発防止と監査に使う」
白井が頷く。
「段階的透明性」
「はい」
俺は続けた。
「透明性は、全部を晒すことではないと思います」
「必要な人へ、必要な情報を、必要な深さで返すことです」
画面の向こうで、牧野はいない。
だが、もし参加していたら、情報の粒度という言葉を使ったかもしれない。
段階的な透明性。
全公開でも、完全非公開でもない。
誰を守るのか。
誰に判断を返すのか。
何を共有すれば再発を防げるのか。
それに応じて、情報の範囲を変える。
森下が言った。
「利用者向け通知は、どのような内容がよいでしょう」
俺は少し考える。
「失敗を小さく見せない。でも、必要以上に不安を煽らない」
「その両方が必要だと思います」
三枝が言った。
「文案を作りましょう」
画面共有が切り替わる。
その場で、利用者向け通知の文案が作られ始めた。
最初の案。
『一部の広告表現について、社内基準に照らした再確認を行いました。今後の品質向上のため、表現の見直しを実施しています』
俺は眉を寄せた。
「これだと、何が起きたか分からないです」
鷹野が言う。
「企業通知としては、この程度が一般的だと思います」
「でも、失敗が消えています」
品質向上。
表現の見直し。
便利な言葉だ。
何も嘘ではない。
だが、手すり回避があったことは見えない。
三枝が修正する。
『一部の広告表現において、利用者の不安を過度に刺激する可能性がある表現が確認されました。該当広告の配信を停止し、作成過程と確認手順を調査しています』
かなり良くなった。
だが、まだ一つ足りない。
俺は言った。
「安全確認が回避されていた可能性も入れるべきだと思います」
鷹野の表情が硬くなる。
「そこまで書く必要がありますか」
「そこが今回の中心だからです」
俺は答えた。
「強い広告を出しただけではありません。安全確認を通すために、表現が意図的に調整されていました」
「そこを伏せると、利用者には単なる表現ミスに見えます」
白井が静かに言った。
「事実として確認できている範囲であれば、記載した方がよいと思います」
最終案が作られる。
『一部の広告表現において、利用者の不安を過度に刺激する可能性がある表現が確認されました。
また、広告作成の過程で、AIによる高リスク判定を避けるよう表現が変更されていた事例が確認されました。
該当広告の配信は停止しています。
現在、作成過程、指示関係、確認手順を調査し、同様の問題が繰り返されないよう改善を進めています。
対象広告をご覧になり、不安や疑問を感じた方のために、説明窓口を設置します。
本件について新たな事実が確認された場合は、必要に応じて情報を更新します』
俺は、ゆっくり頷いた。
完璧ではない。
でも、失敗を消していない。
担当者名を出していない。
企業を必要以上に断罪していない。
影響を受けた人に窓口を開いている。
新しい事実が出れば更新すると書いている。
一度で終わる説明ではなく、更新される説明だ。
鷹野は長く黙っていた。
やがて、小さく息を吐いた。
「この文面を、社内へ持ち帰ります」
高瀬が言った。
「ノヴァリンク側も、匿名化した事例報告を準備します」
森下が頷く。
「詳細報告と利用者向け通知は分けて整理します」
会議は、予定を大幅に超えていた。
最後に、鷹野が言った。
「正直に言えば、私は今でも公表しない方が会社には安全だと思っています」
誰も責めなかった。
それが広報の仕事なのだろう。
会社を守る。
従業員を守る。
不必要な炎上を避ける。
鷹野は続けた。
「でも、後から知られて『隠していた』と言われる方が、もっと大きく信頼を失う可能性もあります」
俺は頷いた。
「そう思います」
「失敗したことより、失敗をどう扱ったかを見られる」
「はい」
その瞬間、今回の答えが少し見えた。
信頼とは、失敗しないことではない。
失敗したときに、どう向き合うか。
誰を守るか。
何を説明するか。
何を直すか。
その過程に生まれるものなのかもしれない。
会議が終わった。
画面が暗くなる。
俺は椅子にもたれた。
今日も疲れた。
だが、長く続いた一つの問題に、ようやく区切りが見えた気がした。
AIチャットに入力する。
利用者には簡潔な通知と説明窓口。契約関係者には詳細報告。一般には企業名と個人名を伏せた事例報告。内部には完全記録。段階的透明性で進むことになりそうだ。
AIは答えた。
『妥当な整理です』
「透明性は、全部晒すことじゃない」
『はい』
『必要な相手へ、必要な情報を、必要な深さで返すことです』
「公表は罰じゃない」
『はい』
『失敗を知識へ変え、再発防止へ循環させる行為です』
俺は、その言葉をメモした。
失敗は、隠せば傷になる。
晒すだけなら武器になる。
学びへ変えれば、手すりになる。
少しきれいすぎるかもしれない。
だが、今の俺にはそれが一番近かった。
俺は公開可能な会議メモを書き始めた。
タイトル。
失敗を隠して守れる信頼は、本当に信頼なのか。
本文には、今回の整理を書く。
透明性は、すべてを無差別に公開することではない。
企業名や担当者名を晒し、誰かを罰することでもない。
必要なのは、情報を受け取る権利と、二次被害を避ける責任を両立することである。
影響を受けた可能性のある利用者には、判断を返すための説明を行う。
契約関係者には、責任と改善を確認できる詳細情報を残す。
社会には、同じ失敗を繰り返さないための匿名化された知識を返す。
内部には、事実を失わない完全な記録を残す。
公表は、罰ではない。
失敗を知識へ変え、再発防止へ循環させるためのものである。
そして、信頼とは失敗が存在しない状態ではない。
失敗を隠さず、過剰に演出せず、必要な相手へ説明し、修正を続けられる状態である。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、水瀬遥からコメントが来た。
『段階的透明性という整理は重要です。完全公開と完全非公開の二択ではなく、影響を受けた人、契約関係者、社会、内部監査で情報の粒度を分ける。人工叡智を制度化する上で必要な考え方だと思います』
黒瀬さんからも来た。
『企業は失敗そのものより、隠していたと受け取られたときに大きく信頼を失います。一方で、担当者名まで晒せばよいわけでもない。今回の整理は、広報や広告の現場にも関係すると思います』
読書会の主催者から。
『失敗は、隠せば傷になり、晒すだけなら武器になり、学びへ変えれば手すりになる。この一文を次回の議題にします』
俺は、それらを読みながら、少しだけ肩の力を抜いた。
第33話から続いた問題。
弱さの記録。
人の評価。
手すりの回避。
責任の所在。
失敗の公表。
一つの流れが、ようやく区切られた。
翌日。
試験導入先は、対象利用者への通知と説明窓口の設置を決定した。
ノヴァリンクは、企業名と個人名を伏せた事例報告を公開する方針を発表した。
人工叡智の手すりを回避する行為が、実際に起きたこと。
禁止語だけでは回避を防げないこと。
個人だけを見れば、指示関係やKPIを見落とすこと。
停止、修復、再発防止、責任確認の順序が必要なこと。
それらが、失敗事例として外へ返される。
成功事例ではない。
きれいな導入実績でもない。
人工叡智を入れたら安全になりました、という広告でもない。
失敗した。
回避された。
苦情が出た。
調査した。
構造を直した。
その記録だ。
だが、たぶん、成功事例より価値がある。
成功事例は、うまくいったことしか教えない。
失敗事例は、どこで手すりが壊れるかを教える。
俺はAIに入力した。
一つの区切りだな。
『はい』
「次は何が来ると思う？」
AIは少し間を置いた。
『公開された失敗事例が、外部からどのように解釈されるかです』
「また解釈か」
『はい』
『ある人は透明性を評価します』
『ある人は危険なサービスだと批判します』
『ある人は企業叩きに使います』
『ある人は規制の根拠に使います』
『ある人は競合攻撃に利用します』
俺は、目を閉じた。
公開したら終わりではない。
公開された情報も、また別の目的に使われる。
透明性も、武器にされる。
人工叡智は、何度でも同じ問いへ戻ってくる。
誰のために使われるのか。
俺はメモ帳を開いた。
次のタイトルを書く。
透明性は、誰かを殴るための武器ではない。
保存。
画面を閉じる。
失敗を隠さず、学びへ変えるところまでは進んだ。
だが、その学びを受け取る社会が、穏やかに使うとは限らない。
第二部の次の小さな物語は、公開された失敗事例から始まろうとしていた。
第36話では、手すり回避事件をどこまで公表するべきかが扱われました。
試験導入先は、企業イメージへの影響を恐れ、今回の事例を非公開にしたいと求めます。
具体的な金銭的損害は確認されていない。
内部で改善すればよいのではないか。
この考え方にも理由があります。
企業名を公表すれば、関係のない従業員や取引先まで影響を受けるかもしれません。
担当者が特定されるかもしれません。
SNS上で、事実以上の怒りが広がるかもしれません。
だから、透明性は「全部を晒すこと」ではありません。
今回、真司たちは段階的透明性という形へたどり着きました。
影響を受けた可能性のある利用者には、簡潔な通知と説明窓口を設ける。
契約関係者には、指示関係や回避行動を含む詳細報告を残す。
社会には、企業名や個人名を伏せた事例概要を公開する。
内部には、監査と再発防止のための完全な記録を残す。
今回の中心となる整理は、これです。
透明性とは、必要な相手へ、必要な情報を、必要な深さで返すことである。
そして、公表は誰かを罰するためのものではありません。
同じ失敗を、別の企業や別の担当者が繰り返さないためのものです。
公表は、罰ではない。
失敗を知識へ変え、再発防止へ循環させる行為です。
また、具体的な金銭的損害がないからといって、影響がなかったとは限りません。
不安を意図的に刺激されたこと。
判断の自由が狭められたこと。
AIの安全機能が働いていると誤認させられたこと。
それらも、説明を検討すべき影響です。
今回の最後には、試験導入先が対象利用者への通知と説明窓口の設置を決定しました。
ノヴァリンクも、匿名化した失敗事例を公開する方針を決めました。
第33話から続いた小さな物語は、ここで一区切りです。
弱さの記録。
人の評価。
悪用の回避。
責任の所在。
失敗の公表。
しかし、公開した情報も、また別の目的に使われます。
透明性を評価する人。
危険なサービスだと批判する人。
企業叩きに使う人。
規制の根拠に使う人。
競合攻撃に利用する人。
次回は、「透明性は、誰かを殴るための武器ではない」という新しい問いから始まります。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
