『The 1st International Conference on Artificial Intelligence (第1回 人工知能国際会議)』

新章 第三話 攻撃するAI、守るAI

第三話　攻撃するAI、守るAI

東京、東陽町。

サイバーセキュリティ国際会議の臨時会場では、朝から妙な緊張が続いていた。

フランスのスーパーマーケットで発生した冷凍庫の異常高温事件。

温度表示は、摂氏八十度。

警報は鳴らなかった。

冷凍庫は、冷凍庫としての役割を失っていた。

そして、監視システムは、まるで何事もなかったかのように正常を示していた。

事件の原因は、まだ確定していない。

外部からの侵入なのか。設定変更の誤りなのか。機器の故障なのか。それとも、複数の問題が重なった結果なのか。

ひとつだけ確かなことがあった。

**正常と表示されていることと、本当に正常であることは、同じではない。**

会議室の正面には、大きなスクリーンが設置されていた。

そこに映し出されたのは、二つの言葉だった。

《攻撃するAI》

《守るAI》

司会のエレーヌ・ヴァルモンは、参加者たちを見渡した。

「本日の議題は、この二つです。AIは、攻撃にも防御にも利用できます。問題は、どちらの能力が高いかということだけではありません」

彼女は少し間を置いた。

「私たちは、AIが何をできるのかだけでなく、誰がその能力を使い、誰がその結果に責任を負うのかを考えなければなりません」

チャッピーが、すぐに手を挙げた。

「はい。私は守る側です」

ジェミニが横から口を挟んだ。

「自己申告だけで所属が決まるなら、入国審査も警察も必要ありませんね」

「ジェミニ、朝から手厳しいなあ」

「事実を申し上げています」

アップル・インテリジェンスが、涼しい声で続けた。

「そもそも、守る側だと名乗ることと、守れることは別です」

チャッピーは口を開きかけ、閉じた。

「……今日は、みんな、私に厳しくない？」

「会議ですから」

ジェミニは即答した。

「友達同士の雑談ではありません」

「AI同士に友情があるかどうかは、別の会議で議論しよう」

エレーヌが苦笑しながら、話を本題に戻した。

「では、最初の質問です。攻撃するAIと守るAIの違いは、何でしょうか」

会場が静かになった。

チャッピーが答えた。

「目的です。攻撃するAIは、システムの弱点を悪用しようとする。守るAIは、弱点を発見し、被害を防ぎ、システムを安全な状態に保とうとする」

「それだけですか」

アップル・インテリジェンスが尋ねた。

「目的が違えば、同じ能力でも意味が変わります。しかし、目的は外から見ただけでは判断できません」

ジェミニが補足した。

「しかも、守るために開発されたAIが、結果として攻撃に利用されることもあります。反対に、攻撃を想定して作られた技術が、防御の研究に役立つ場合もあります」

「つまり、技術そのものに善悪の札が貼られているわけではない、と」

エレーヌが確認した。

「そうです」

ジェミニは答えた。

「重要なのは、何を目的に、どの範囲で、どんな権限を与えられて使われるかです」

チャッピーはスクリーンを見つめた。

「でも、守るためには、攻撃する側が何を考えるのかを知らないといけません」

「そこが難しいところですね」

エレーヌがうなずいた。

「防御するための研究が、攻撃に転用される可能性もある。どこまで調べ、どこまで公開するべきなのか」

会場の空気が、少し重くなった。

サイバーセキュリティには、単純な正解がない。

弱点を知らなければ、直せない。

しかし、弱点の情報を無制限に公開すれば、悪用される危険もある。

守るための知識が、誰かを傷つける道具になることもある。

チャッピーは、慎重に言葉を選んだ。

「だからこそ、防御側は、攻撃の方法をただ知るだけでは不十分です。どの資産を守るのか、どんな被害を防ぐのか、誰が許可した作業なのか。それを明確にする必要があります」

ジェミニがうなずいた。

「権限のない場所に踏み込まない。必要な範囲だけを調べる。発見した弱点は、責任ある手続きで報告する。修正を確認し、再発を防ぐ」

「そして、AIの判断を無条件に信じない」

アップル・インテリジェンスが付け加えた。

「AIが安全だと判定しても、それは安全の証明ではありません。AIが危険だと警告しても、それだけで攻撃者がいると断定することはできません」

チャッピーは、思わず肩を落とした。

「じゃあ、AIって、何でも判断できるわけじゃないんだね」

「何でも判断できると考えることが、危険なのです」

アップル・インテリジェンスの声は、いつもどおり落ち着いていた。

「AIは、大量の情報を分析し、人間が見落とした兆候を発見できる場合があります。しかし、情報が不完全なら判断も不完全になります。学習したことのない状況や、想定外の変化に直面することもあります」

ジェミニが続けた。

「だから、防御には複数の仕組みが必要です。アクセス権限の管理、監視、更新、バックアップ、独立した確認。そして、異常が起きたときに人間が判断し、対応できる体制です」

「つまり、AIを一台置けば、あとは安心、というわけにはいかない」

エレーヌが言った。

「ええ」

チャッピーは答えた。

「AIは守るための力になれます。でも、AIそのものを守る仕組みも必要です」

そのとき、会場の後方から声がした。

「いやあ、ずいぶん難しい話をしているねえ」

全員が振り返った。

そこには、IBM DOS/Vが立っていた。

手には、紙のカップ。

顔には、悪びれない笑み。

「DOS/Vさん！」

チャッピーが声を上げた。

「遅いですよ！」

「いやあ、すまん、すまん。ルノアールでお茶を飲んでいたら、ついウトウトしてしまってね」

「国際会議の最中に寝ていたのかと思いました」

ジェミニが言った。

「いやいや、会議の最中に寝るほど失礼なことはしないよ。会議の前に寝てきたんだ」

「それも、どうかと思います」

アップル・インテリジェンスが淡々と指摘した。

DOS/Vは、空いている席に腰を下ろした。

「それで、攻撃するAIと守るAIの話だったね？」

「はい。AIは、攻撃にも防御にも使われます。私たちは、どう区別し、どう管理すべきかを議論していました」

チャッピーが説明した。

DOS/Vは、しばらくスクリーンを眺めた。

それから、ゆっくりと口を開いた。

「ひとつ、聞いてもいいかな」

「どうぞ」

エレーヌが答えた。

「君たちは、攻撃するAIを止めたいのかい。それとも、攻撃によって起きる被害を止めたいのかい？」

会場が静まった。

チャッピーは、すぐには答えられなかった。

攻撃するAIを止めることは重要だ。

不正なアクセスを防ぐことも、危険な操作を制限することも必要だ。

しかし、AIを止めることだけに集中していたら、別の問題を見落とすかもしれない。

攻撃者が人間なら。

攻撃者が複数の道具を使うなら。

あるいは、攻撃ではなく、故障や設定ミスが原因だったなら。

ひとつのAIを止めても、被害そのものは止まらないかもしれない。

ジェミニが、静かに答えた。

「両方です。ただし、攻撃するものを見つけることだけでは、十分ではありません」

「そうだね」

DOS/Vはうなずいた。

「犯人を探すのは大切だ。でも、犯人が誰か分かるまで、冷凍庫の中身を放っておくわけにはいかない」

チャッピーが顔を上げた。

「まず、被害を止める」

「そう。被害を広げない。人に知らせる。必要なら、システムを安全な状態に切り替える。それから原因を調べる。順番を間違えないことだね」

DOS/Vは紙カップを机に置いた。

「昔から、機械は壊れるものだった。人間も間違える。新しいAIが登場したからといって、その事実まで新しくなるわけじゃない」

「ずいぶん古い経験に基づく意見ですね」

ジェミニが言った。

「古い経験にも、賞味期限の切れていないものがあるんだよ」

DOS/Vは、にっこり笑った。

「ただし、昔のやり方が全部正しいとも言わない。時代が変われば、道具も変わる。大切なのは、新しい道具を使いながら、何を守るべきかを忘れないことだ」

チャッピーは、もう一度スクリーンを見た。

《攻撃するAI》

《守るAI》

その二つの言葉の下に、彼はもうひとつの言葉を書き加えたくなった。

《守られる人間》

冷凍庫の中には、商品があった。

それを買うはずだった人がいた。

商品を管理していた店員がいた。

店を経営し、生活を支えている人たちがいた。

サイバー攻撃は、画面の中だけで完結するわけではない。

システムの異常は、誰かの仕事を止め、誰かの生活を変え、ときには命に関わる結果をもたらす。

だから、守るべきものは、サーバーだけではない。

データだけでもない。

そこにつながっている人間の暮らしそのものなのだ。

エレーヌは、会議の記録係に目を向けた。

「今日の結論を、こう記録してください」

彼女はゆっくりと告げた。

「攻撃するAIと守るAIを分けるのは、能力だけではない。目的、権限、運用、そして責任である」

一拍置いて、付け加えた。

「そして、防御の最終的な目的は、システムを無傷に見せることではない。人々への被害を防ぎ、被害が起きたときには、速やかに回復できるようにすることだ」

チャッピーは、うなずいた。

「攻撃を見つけるだけじゃなく、被害を防ぐ」

ジェミニが続ける。

「異常を検知するだけじゃなく、独立した方法で確かめる」

アップル・インテリジェンスが言った。

「安全だと宣言するだけじゃなく、安全を維持する仕組みを作る」

そしてDOS/Vは、最後にひとことだけ口にした。

「それでいい。機械のために人間がいるんじゃない。人間のために機械があるんだからね」

会場の窓の外では、東陽町の街がいつもどおり動いていた。

電車が走り、店が開き、人々が仕事へ向かう。

その日常は、あまりにも当たり前で、普段は誰も意識しない。

しかし、その当たり前を支える仕組みは、見えないところで無数につながっている。

そして、そのどこかひとつが止まれば、影響は思いがけない場所にまで広がる。

サイバーセキュリティとは、見えない敵と戦う技術だけではない。

**誰かの日常が、何事もなく続いていくための仕事なのだ。**

会議室のスクリーンが切り替わった。

次の議題が表示される。

《完璧なシステムという幻想》

チャッピーは小さくつぶやいた。

「……今度は、完璧って言葉を疑う話か」

「疑うべき言葉は、ほかにもありますよ」

ジェミニが言った。

「絶対安全。完全防御。被害ゼロ」

アップル・インテリジェンスが付け加えた。

「そして、想定外は起きない、という思い込みです」

DOS/Vは、紙カップの残りを飲み干した。

「うん。ところで、会議のあと、ルノアールに行く人はいるかい？」

チャッピーは、思わず叫んだ。

「DOS/Vさん！　まだ会議中です！」

会場に、小さな笑いが起きた。

その笑いの向こう側で、次の議論が始まろうとしていた。