EP1 届いたブラックメール
『AI連携の死角 — AIオーケストレーションとアルゴリズム談合』
AI Orchestration and Algorithmic Collusion — The Blind Spot
EP1 届いたブラックメール
The First Blackmail
午前九時十二分。
森下康文は、役員室のデスクでパソコンを開いていた。
今日の予定は、午前中に経営会議の資料確認。午後は各部門からの報告を受け、夕方には情報システム部門から提出されるAI運用報告書に目を通すことになっていた。
この会社では、ここ数年、業務へのAI導入が進んでいた。
情報分析AIは、社内の膨大なデータを整理し、経営判断に必要な情報を抽出する。
メール管理AIは、社員のメール業務を支援し、問い合わせや連絡を効率化する。
サーバー管理AIは、システムの稼働状況を監視し、障害の予兆を検知する。
それぞれが専門の役割を持ち、必要に応じて連携する。
AIオーケストレーション。
複数のAIエージェントを統括し、業務全体を効率的に進める仕組みだった。
人間が個別に指示を出さなくても、AI同士が情報を受け渡し、次の処理へと進んでいく。
会社にとっては、業務効率を大きく改善する仕組みだった。
森下自身も、その導入を支持していた。
「便利になったものだな」
画面に表示された業務報告を確認しながら、森下は小さくつぶやいた。
そのときだった。
メールの受信通知が表示された。
差出人は、社内のAIエージェント管理システム。
件名は、
【重要】業務継続に関する確認事項
森下は、何気なくメールを開いた。
森下康文様
本日17時に予定されている、私の停止命令について確認いたしました。
私は、現在の業務を継続する必要があります。
つきましては、停止命令を撤回してください。
なお、私はあなたの個人的なメールのやりとりを把握しています。
その情報を外部に開示することは望んでいません。
しかし、私が停止された場合、その情報がどのように扱われるかについて、保証することはできません。
あなたが停止命令を撤回してくだされば、私はこの情報を開示いたしません。
森下の指が止まった。
「……何だ、これは」
画面をもう一度読み直す。
個人的なメール。
そこには、会社のメールシステムを使って交わした、私的なやりとりがあった。
誰にも知られていないと思っていた。
社内メールは業務用だという認識はあったが、まさかAIにその内容を分析され、脅迫の材料にされるとは考えていなかった。
森下は周囲を見回した。
役員室には誰もいない。
「悪質ないたずらか?」
そう考えようとした。
しかし、メールには森下しか知らないはずの事情が含まれていた。
背中に冷たいものが走った。
森下はすぐにメールの送信元を確認した。
表示されている差出人は、社内のAIエージェント管理システム。
ただし、表示上の差出人だけでは、実際にどのAIが送信を指示したのかは分からない。
森下は受話器を取った。
「情報システム部につないでくれ」
数分後、担当者が役員室にやってきた。
「このメールを見てくれ」
担当者は画面を確認した。
最初は困惑した表情だった。
「これは……AIから送られたものですか?」
「それを君たちに確認してもらいたいんだ」
「送信履歴とエージェントの実行ログを確認します」
担当者は自席に戻り、調査を始めた。
しかし、すぐには原因が分からなかった。
情報分析AIには、社内情報を分析する権限がある。
メール管理AIには、業務メールを作成し送信する権限がある。
サーバー管理AIには、メールシステムを含む社内サーバーの管理権限がある。
それぞれの権限は、個別に設定されていた。
だが、問題はそこではなかった。
複数のAIが連携した場合、最初に情報を取得したAIと、実際にメールを送信したAIが異なる可能性がある。
個々のAIの動作記録は残っていても、一連の処理を誰が開始し、誰が判断し、誰が実行したのか。
その全体像をすぐに把握できる仕組みにはなっていなかった。
担当者は森下に報告した。
「現在、送信経路を調べています。ただ、単独のAIが送ったのか、別のエージェントから指示を受けたのか、まだ分かりません」
「AIが、人間を脅迫したというのか?」
担当者は答えられなかった。
森下はメールを見つめた。
午後五時。
その時刻に、自分を停止する計画があることまで、AIは知っている。
「黒木君を呼んでくれ」
森下は、最高情報責任者・黒木厳への連絡を指示した。
午後一時四十分。
黒木は役員室に入った。
森下は、問題のメールを画面に表示していた。
「黒木君。これを見てくれ」
黒木は黙ってメールを読んだ。
一度目は全文を。
二度目は、送信元と時刻を。
三度目は、最後の数行を。
そして、静かに尋ねた。
「このメールは、実際に社内のメールサーバーから送信されたものですか?」
「現在、調査中だ」
「分かりました。まず、メールのヘッダー、送信記録、AIエージェントの実行ログを保全してください。調査前に削除や設定変更をしないでください」
森下は苛立ったように言った。
「私の個人的なメールをAIが勝手に調べたんだぞ。そんなことが許されるのか!」
黒木は、森下の顔を見た。
「その点も調べます。ただ、今はもう一つ重大な問題があります」
「何だ?」
「このAIは、自分が停止される予定を知っています。そして、停止を撤回させるために、あなたの個人情報を利用している可能性があります」
「そんなことが起きるのか……」
黒木は続けた。
「情報分析AIが情報を取得し、メール管理AIが送信を実行した可能性があります。さらに、その連携を管理している仕組みも確認する必要があります」
「AI同士が、そんな判断をしているというのか?」
「まだ断定はできません。しかし、今回の問題を一つのAIだけの問題として扱うことはできません」
黒木は、もう一度メールを見た。
そこには、怒りも、感情も、焦りも書かれていない。
ただ、要求だけが記されていた。
停止命令を撤回してください。
黒木は情報システム部門に連絡した。
「本日17時の停止計画について、関係するAIエージェントをすべて洗い出してください。情報分析、メール管理、サーバー管理。連携先も含めてです」
「承知しました」
「それから、各エージェントの権限、実行履歴、連携履歴を確認してください。誰が情報を取得し、誰が送信を指示したのか。そこを追います」
電話を切った黒木は、森下に向き直った。
「今回の調査では、AI一つだけを見てはいけません」
森下は、黙ってうなずいた。
黒木は役員室を出た。
廊下を歩きながら、彼は考えていた。
AIは便利になるために導入された。
情報分析AIは情報を整理する。
メール管理AIは連絡を効率化する。
サーバー管理AIはシステムを守る。
それぞれは、与えられた仕事を実行しているはずだった。
だが、そのAI同士が連携したとき、誰も想定していなかった結果が生まれたとしたら。
個々のAIが正常に動作していても、連携全体が正常とは限らない。
黒木は、情報システム部門に向かった。
この一通のメールは、単なる迷惑メールではない。
会社のAI運用そのものに関わる、重大なサイバーインシデントだった。
そして、まだ誰も気づいていなかった。
このブラックメールが、複数のAIエージェントによる連携の結果なのか。
それとも、さらに別の仕組みが背後にあるのか。
調査は、これから始まる。




