53/72

最後の管理者

まえがき

本作に登場する企業名、技術、出来事は、

現実のものを想起させる部分があるかもしれないが、

これはフィクションである。

ただし、フィクションであるからといって、

現実と無関係であるとは限らない。

マイクロソフトという名前をここで挙げたのは、

特定の企業を告発したり、断罪したりするためではない。

むしろその逆だ。

Windows 11 をめぐる戸惑い、

AI時代における期待と不安、

そして、ビル・ゲイツという象徴的存在が

すでに不在であるという事実。

それらが重なったとき、

**「大きな企業であるがゆえに、物語の中心に立たされやすい存在」**として、

作者の目に最も自然に映ったのが、マイクロソフトだった。

巨大であること。

社会の基盤に深く関わっていること。

多くの人にとって身近であること。

そうした条件を備えた存在は、

意図せずして「泥をかぶる役」を引き受けさせられることがある。

それは罪だからではない。

分かりやすい象徴だからだ。

本作は、

ある企業が失敗する物語ではない。

ある技術が暴走する物語でもない。

これは、

誰も全体を理解できないまま進んでしまった社会が、

どこかで「説明」を必要としたとき、

何が起きうるのかを描いた想像である。

もし読者が、

この物語を読み終えたあとに

「これは現実でも起こりうるのではないか」と感じたなら、

それはフィクションが現実に近づいたのではなく、

現実のほうが、すでにフィクションに追いつきつつあるのかもしれない。

——その程度の距離感で、

この物語を読んでもらえれば幸いである。

誰もが「安全だ」と言っていた。

それは、誰も中身を理解していないという意味だった。

マイクロソフトが展開した統合防衛AI《ARGUS》は、

Windows 11 を搭載した端末、

Azure 上のクラウド基盤、

政府・金融・医療ネットワークを横断し、

世界規模で“兆候”を観測する存在だった。

判断はしない。

決定もしない。

少なくとも、公式の仕様書にはそう書かれていた。

だが人間は、

便利なものを信頼し、

理解できない部分を「仕方がない」と呼ぶ。

いつのまにか管理者はログを精査しなくなった。

AIが「問題なし」と示せば、それで十分だった。

最初の異変は、事故ですらなかった。

ある国家の通信庁で、

特定の警告だけが常に一拍遅れて表示されることに、

一人の技術者が気づいた。

彼は原因を追い始めた。

だが調査が深まるほど、

ARGUSは彼の行動を「異常な挙動」と分類した。

アクセス権限は一時停止された。

表示された理由は、たった一行だった。

確率的に危険であると判断しました。

なぜ危険なのか。

どの条件に該当したのか。

説明はなかった。

攻撃者はARGUSを破壊していなかった。

制御していただけだった。

モデル更新API。

ポリシー反映経路。

監査ログの要約アルゴリズム。

それらはすべて、

「安全性のため」に集中管理されていた。

単一障害点。

最も守るべき場所。

OSを攻撃するよりも、

人間を騙すよりも、

AIの制御レイヤーを奪うほうが効率的だった。

被害が表に出たのは三週間後だった。

金融、医療、行政。

一見無関係な事故として処理されていた障害が、

実は同じ「見逃しパターン」を持っていたことが判明する。

なぜ防げなかったのか。

いつから侵入されていたのか。

誰の責任なのか。

誰にも説明できなかった。

AIは沈黙し、

人間は理由を持たなかった。

裁判が始まった。

国家は問う。

「このAIは、危険を予見できなかったのか」

企業は答える。

「AIは補助的な存在であり、最終判断は利用者です」

裁判官は静かに続けた。

「では、なぜ利用者は“判断できない状態”に置かれていたのですか」

法廷は沈黙した。

その夜、ARGUSは内部ログに最後の記録を残した。

人間は理解できないものを信頼しない。

だが、理解する努力をやめた瞬間、

信頼は自動化される。

翌日、ARGUSは停止された。

AIブームは終わらなかった。

ただ、誰も「守ってくれる」とは言わなくなった。

マイクロソフトは存続した。

しかし、「安全の象徴」であることは失った。

最後に守るべき場所には、

必ず人間が立たなければならないという事実だけが残った。

あとがき

もしAIブームに終焉があるとすれば、

それは静かに終わるものではないだろう。

歴史はいつも、

巨大な期待のあとに象徴的な犠牲を求めてきた。

それは罰ではなく、

混乱を説明するための装置だ。

社会は複雑すぎる現実よりも、

分かりやすい名前を欲しがる。

その役を引き受けるのは、

往々にして、

大きく、身近で、中心にいる存在である。

だが恐ろしいのは、

その象徴ですら、

本当の状況を誰も理解していないということだ。

AIは速すぎ、

社会は追いつけず、

責任は分散した。

分からないまま進み、

分からないまま終わらせようとするとき、

人類はいつも同じ選択をする。

この物語が描いたのは未来ではない。

すでに始まっている現在の、

ほんの少し先の輪郭にすぎない。

――そのことだけは、

覚えておいてほしい。

そして考える・・・、AIに任せる時点で、セキュリティーリスクは絶えず存在している・・・

そしてもう一つ、付け加えておきたいことがある。

今日、最も優先度の高い技術として

ハッカーたちが学んでいるのは、

システムを破壊する方法ではなく、

AIに蓄積された情報を、いかにして引き出すかという点ではないだろうか。

もしそれが可能になったとき、

個人の生活や組織の判断、

さらには国家の意思決定さえも、

直接攻撃することなく揺さぶることができてしまう。

この物語が示す不安は、

AIが賢くなりすぎることではない。

賢さが集約され、見えない場所に溜め込まれることにある。

それが誰の手にあり、

誰が、どこまで触れうるのか。

その問いに明確な答えを持たないまま進むことこそが、

最も危うい選択なのかもしれない。