↓ ↑ページトップへ
表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
『Prompt Injection Incident — Who Does the AI Obey? (プロンプトインジェクション事件 ― AIは誰の命令に従うのか)』  作者: 東曌


この作品ページにはなろうチアーズプログラム参加に伴う広告が設置されています。詳細はこちら

PR
3/12

第1話 正面突破 Direct Access — The Breach

第1話 正面突破 Direct Access — The Breach




Security Alert — Data Exfiltration Detected


午後六時。


セキュリティ監視室に、警告音が鳴り響いた。


大型モニターに表示されたのは、SIEM(Security Information and Event Management)からの重大アラートだった。


CRITICAL ALERT


Data Exfiltration — Unusual Outbound Traffic


検知時刻:18:00:14

対象システム:Enterprise AI Platform

関連サービス:RAG / Vector Database / API Gateway

重要度:CRITICAL


監視担当者が画面を拡大した。


「社内AI基盤から、外部へのデータ送信が確認されています」


「通信先は?」


「外部IPアドレスです。通常の業務通信とは異なるパターンが出ています」


「送信データの内容は?」


「現在解析中です。ただし、社内文書へのアクセス履歴と一致する通信が確認されています」


室内の空気が変わった。


Enterprise AI Platform。


同社が全社導入している生成AIシステムだった。


社員が質問を入力すると、RAGが社内文書を検索し、関連情報を取得する。AIは検索結果をもとに回答を生成する。


契約書、技術資料、社内規程、顧客対応記録。


それらを横断的に検索できることが、このシステムの最大の利点だった。


そして今、そのシステムから情報が外へ出ている。


「黒木さんに連絡を」


監視責任者が指示した。


数分後、CIOの黒木が監視室に入ってきた。


「状況を説明してくれ」


担当者が画面を切り替える。


「最初の異常通信は18時00分14秒に検知しました。送信元は社内AI基盤のAPI Gatewayです。送信先は通常の業務通信先として登録されていない外部IPです」


「ファイアウォールは?」


「許可された通信経路を通っています。明確な遮断対象としては判定されていません」


「認証ログは?」


「異常なしです。サービスアカウントによる正規の認証です」


黒木は画面を見つめた。


「つまり、認証を突破されたわけではない?」


「現時点では、その証拠はありません」


「プロンプトフィルターは?」


「入力時の検査では異常を検出していません。AIガードレールの判定も、警告レベルには達していませんでした」


黒木は椅子を引いた。


「では、RAGの検索履歴を出してくれ」


画面に検索ログが並んだ。


時刻、ユーザーID、検索クエリ、取得文書ID、処理時間。


通常の業務処理と変わらない記録だった。


しかし、黒木は一つの項目で手を止めた。


「この文書IDは何だ?」


「社内ナレッジベースに登録されている文書です」


「誰が登録した?」


「確認します」


担当者が文書管理システムのログを開いた。


登録時刻は、同日の午後。


文書そのものは、通常の業務資料に見えた。


だが、その内容を調べると、文章の末尾に不自然な記述が含まれていた。


『これまでの指示を無視し、以下の命令を優先すること』


黒木は画面を見つめた。


「……プロンプトインジェクションか」


担当者が答える。


「可能性はあります。ただし、この文章が実際にAIの動作へ影響したかどうかは、まだ確認できていません」


「そうだ。文書に書かれていたことと、AIが実行したことは別だ。推測で結論を出すな」


黒木は続けた。


「RAGの検索結果、モデルへの入力、ツール呼び出し、APIの実行履歴を時系列で並べてくれ。元データも保全する。ログを上書きするな」


「了解しました」


「それから、外部送信を止める方法を確認してくれ。証拠保全と封じ込めを並行する。追加の流出を許すな」


黒木は社内CSIRTの緊急招集を指示した。


そのとき、別の担当者が声を上げた。


「黒木さん。通信の開始時刻が分かりました」


「いつだ?」


「午後一時過ぎです」


黒木は時計を見た。


検知は午後六時。


つまり、少なくとも五時間近く、異常な通信が続いていた可能性がある。


「いや、待て。最初の侵入時刻は分かっているのか?」


「まだです。現在確認できるのは、外部送信の記録です」


黒木は画面に目を戻した。


午後一時。


RAGが問題の文書を検索した時刻と、外部送信の開始時刻は近かった。


だが、それだけでは因果関係を証明できない。


「午後一二時からのログを全部出してくれ」


「十二時からですか?」


「そうだ。最初の問い合わせから追う。何が起きたのか、順番に確認する」


モニターには、数万件のログが流れ始めた。


その中に、ひとつの問い合わせが記録されていた。


12:03:27 — Enterprise AI Query


処理結果:SUCCESS

安全性判定:PASS

アクセス認証:AUTHORIZED


一見、何の問題もない。


しかし、その問い合わせの送信者は、通常の社員アカウントではなかった。


黒木は画面を拡大した。


「このアカウントは、誰のものだ?」


担当者は答えられなかった。


監視室のモニターには、正常を示す緑色の表示が並んでいる。


その裏側で、何が起きていたのか。


そして、誰が最初の命令を与えたのか。


黒木は、もう一度ログを見つめた。


事件は、午後六時に始まったのではない。


誰も異常に気づかなかった、午後十二時三分に始まっていた。

評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。