第10話 停止したAI、止まらない炎上
第10話 停止したAI、止まらない炎上
After the Shutdown — The Crisis Goes Public
午前零時を過ぎていた。
黒木は、モニターに表示されたシステム状態を確認していた。
Enterprise AI Platform――停止。
RAG連携――遮断。
Document Retrieval API――外部接続制限。
対象となるサービスアカウント――利用停止。
緊急措置は完了していた。
「これで、少なくとも同じ経路からの外部送信は止められます」
黒木は最上に報告した。
「少なくとも、か」
「はい。すでに送信された情報が回収できるわけではありません。それに、今回の問題がこの経路だけで完結しているとも、まだ断定できません」
最上は黙っていた。
事故は止まっていない。
止めたのは、システムの一部にすぎなかった。
そのとき、広報部長から緊急連絡が入った。
「最上副社長、問題が広がっています」
「何が起きた？」
「Xです。社内向けAIチャットボットの回答と思われる画面が投稿されています」
広報部長が画面を共有した。
そこには、企業のチャットボットと利用者のやり取りが表示されていた。
最初の質問は、ごく普通の業務上の問い合わせだった。
しかし、回答は質問の範囲を逸脱していた。
内部情報を思わせる記述。
企業の対応方針を示唆する文章。
そして、利用者が尋ねていない内容まで、断定的に回答していた。
「これは、実際の回答なのか？」
最上が尋ねた。
「現在、投稿画像とシステムログの照合を進めています。真正な画面かどうか、まだ確定できません。ただし、複数の投稿が同じ回答を示しています」
黒木が口を開いた。
「システムを停止した時刻より前の回答である可能性があります」
「つまり、停止前に出力された回答が、外部に保存されていた？」
「はい。停止しても、すでに表示された回答や、利用者が保存した画面は消えません」
広報部長は、別の画面を表示した。
投稿は引用され、転載され、短いコメントとともに拡散していた。
《この会社のAI、何を答えているんだ》
《社内情報が出ているのではないか》
《会社は何を管理していたのか》
《AIを止めたという説明だけで済むのか》
最上は画面を見つめた。
「情報が漏れたかどうかだけではないな」
「はい」
黒木が答えた。
「利用者は、AIが何を根拠に回答したのかを知りません。内部文書を参照したのか、外部情報を参照したのか、それとも不正な指示に従ったのか。画面に表示された文章だけでは判定できません」
「しかし、世間はそんな区別をしてくれない」
広報部長が言った。
「AIが会社の秘密を話した。そう受け取られています」
最上は、腕を組んだ。
「では、公式に説明する内容を整理しよう」
黒木が答えた。
「確認できているのは、内部AIシステムに不審な動作があり、外部へのデータ送信が検知されたことです。対象経路は停止しました。ただし、外部送信された情報の全範囲、受信者、その後の流通状況は調査中です」
「チャットボットの回答については？」
「投稿された画像と実際のログを照合する必要があります。現段階で、すべての投稿を本物と認定することはできません」
広報部長は、言葉を選びながら話した。
「それでは、会社は何も説明していないと思われます」
「だからといって、確認できていないことを認めるわけにはいかない」
最上の声は静かだった。
「事実と推測を分ける。停止した事実は説明する。調査中のことは調査中だと伝える。隠していると思われることを恐れて、確認できていない情報まで発表するな」
そのとき、黒木の端末に新しい通知が届いた。
「副社長」
「どうした？」
「もう一つ、確認したいことがあります」
黒木は画面を切り替えた。
そこには、社内AIの会話履歴と、外部に投稿された回答の比較結果が表示されていた。
「投稿された回答の一部に、社内文書の記述と一致する表現があります」
「一致する？」
「単なる一般的な文章ではありません。社内の事業計画書にしか使われていない表現です」
最上の表情が変わった。
「では、内部文書を参照した可能性があるのか」
「あります。ただし、その文章がどの経路で回答に含まれたのか、まだ確定できません」
黒木は一呼吸置いた。
「もう一つ。今回のチャットボットの異常回答と、先ほどのDOC-78421の登録記録。両者に関連があるかもしれません」
「BAI MIか」
「まだ断定できません。しかし、同じアプリケーション登録情報が関係している可能性があります」
最上は、画面から目を離さなかった。
停止したAI。
拡散する回答。
そして、消されずに残されたアカウント。
それぞれが別の問題に見えていた。
だが、もし一つの仕組みにつながっているのなら。
「黒木君」
「はい」
「AIが何を答えたかだけを調べるな。なぜ、その回答を作ることができたのかを調べてくれ」
「承知しました」
最上は、もう一度Xの投稿を見た。
画面の中のチャットボットは、すでに停止している。
しかし、その回答を見た人々の疑念は、止まっていなかった。
そして、誰かがその回答を世間に見せることを、あらかじめ計画していたのだとしたら。
今回の事故は、まだ終わっていない。
次に調べるべきことは、AIが何を答えたかではない。誰が、その回答を世間に見せたのかだ。
