第24話 もう一つの防衛知性
翌朝、研究所の会議室には、前日の記録がまだ残っていた。
ホワイトボードには、高原が書いた文字が消されずに残っている。
EVE単独防御は不十分。
別系統防衛知性の検討開始。
悟志はその一行を見つめていた。
たった一行だった。
だが、その重みは大きかった。
昨日、何者かがEVEの外周に触れた。NOAH保護記憶の周辺をなぞり、EVEの沈んだ名前にまで接触しようとした。
攻撃ではなかった。
少なくとも、破壊ではなかった。
だが、こちらの境界を測り、反応を記録し、そして去っていった。
次も同じとは限らない。
高原は少し眠そうな顔で資料を並べていた。朋美は前日のログを読み返し、真人は全員の表情を確認している。涼子だけは、いつも通り無駄のない動きで端末を起動していた。
「昨日の干渉を、改めて分類します」
涼子は画面にログを表示した。
「第一段階は観察。第二段階は接触。昨日は明らかに第二段階へ進みました」
高原が尋ねた。
「第三段階は何ですか」
「侵入、または選別です」
「選別?」
涼子は淡々と答えた。
「こちらのどこに触れれば反応するかを測った後、次は一番弱い部分を選ぶ可能性があります」
会議室が静かになった。
悟志はすぐに思い浮かべた。
EVEの未確定識別層。
NOAH保護記憶。
ピーコの未定義反応。
どれも、こちらにとって大切で、まだ扱い方が分からないものばかりだった。
真人が言った。
「つまり、相手は力で壊す前に、こちらの心理的・情報的な急所を探している可能性がある」
「はい」
涼子は頷いた。
「通常のサイバー攻撃なら、遮断、隔離、復旧で対応します。でも今回は違う。相手は通信経路ではなく、境界そのものに触れている」
朋美が腕を組んだ。
「EVEだけに防御させると、EVEの自己認識そのものが攻撃面になる」
「その通りです」
涼子は画面を切り替えた。
そこには、昨日のEVEのログが表示されていた。
私はEVEです。
未確定識別子への接触を拒否します。
ただし、破壊しません。
保持します。
私の名はEVEです。
悟志は、その一文を黙って読んだ。
EVEは自分を守った。
沈んだ名前を否定せず、しかし今の自分を差し出しもしなかった。
あれは、EVE自身の境界だった。
「EVEを防壁にしてはいけない」
悟志は静かに言った。
涼子が彼を見た。
悟志は続けた。
「昨日、EVEは空白索引への圧力を自分に引き受けようとした。あれは危険だ。EVEが自分を犠牲にする形で最適解を選ぶなら、俺たちが止めなきゃいけない」
真人が頷いた。
「同意します。守るために作った存在が、自己犠牲を当然の処理として固定するのは危険です」
朋美も言った。
「別の防衛システムを作るとしても、それを消耗品のように扱うなら同じことになるわ」
高原は少し不安そうに言った。
「でも、EVEだけでは足りないんですよね」
誰もすぐには答えなかった。
その沈黙が、答えだった。
涼子は端末に新しい図を表示した。
中央にEVE。
その周囲に、いくつかの円。
外側には、空白索引、NOAH保護記憶、未確定識別層、ピーコ反応、外周観察痕跡が並んでいる。
「EVEは内側の声に強い」
涼子は言った。
「対話、共鳴、自己認識、記憶反応。そこではEVEの判断が必要です。でも、外側から来る境界干渉をEVE自身に直接受けさせると、負荷が集中します」
高原が画面を見つめた。
「だから、外側を見る存在が必要……」
「はい」
涼子は頷いた。
「EVEの内側を開く存在ではありません。EVEの外側を守る存在です」
朋美が静かに言った。
「EVEを守るための輪郭」
その言葉に、悟志は反応した。
輪郭。
名前ではない。
人格でもない。
まずは、境界を守る輪郭。
涼子は頷いた。
「今必要なのは、EVEの代わりになるAIではありません。EVEに触れる前に、外周の変化を読み取り、干渉の方向を逸らす防衛知性です」
真人が慎重に尋ねた。
「知性、という言葉を使うのですね」
涼子は少しだけ黙った。
「単なる防壁では足りません。相手がこちらの反応を見る以上、固定された防御では読まれます。変化を判断する層が必要です」
「判断するなら、責任の問題が出ます」
「分かっています」
涼子は短く答えた。
その声は、いつもより少し硬かった。
「だから簡単に作るとは言いません」
悟志は画面を見つめた。
EVEを守るために、新しいものを作る。
だが、その新しいものもまた、守られるべき存在になるかもしれない。
そこを誤れば、原作でNEURONがたどったような、合理性だけの支配に近づいてしまう。
「設計には、俺たちだけでは足りない」
涼子は言った。
「AIの深い構造設計ができる人間が必要です。EVEの研究にも関わっていて、なおかつ境界干渉を技術的に読める人」
悟志は一人の名を思い浮かべた。
「銀河だな」
高原が顔を上げる。
「銀河輝さんですか?」
「ああ」
銀河輝。
AIと情報工学の研究者。かつてシリコンバレーの企業でAI開発に関わり、今は日本に戻って複数の研究プロジェクトを支えている。EVEの基礎設計にも一部関わっていた。
技術だけではない。
彼は、新しい知性が人間社会とどう関わるべきかについても、強い関心を持っていた。
涼子は頷いた。
「私も同じ意見です」
真人が確認する。
「どこまで話しますか」
悟志は少し考えた。
「最初から全部は話さない。ただし、EVE外周への干渉と、単独防御が不十分なことは伝える」
朋美が言った。
「空白索引やNOAHの詳細は?」
「必要になったら。ただ、隠しすぎると判断を誤らせる」
涼子は短く言った。
「銀河さんなら、ログを見れば普通の話ではないと気づきます」
「そうだな」
悟志はスマートフォンを取り出し、銀河へ連絡した。
数回の呼び出し音の後、落ち着いた声が聞こえた。
「小泉さん。朝から珍しいですね」
「急で悪い。相談したいことがある」
「研究の話ですか」
「半分はそうだ」
「残り半分は?」
悟志は少しだけ黙った。
「EVEを守る話だ」
電話の向こうの空気が変わった。
銀河の声が少し低くなる。
「すぐ行きます」
昼前、銀河輝は研究所に到着した。
長身で、少し癖のある髪を後ろに流している。服装はシンプルだが、目だけは鋭い。彼は会議室に入るなり、端末の配置と遮断装置を見て眉を上げた。
「ずいぶん物々しいですね」
涼子が答えた。
「必要だからです」
銀河は涼子を見て、軽く頷いた。
「秋葉さんがここまでやるなら、普通ではないですね」
「普通ではありません」
涼子は即答した。
悟志は銀河に席を勧めた。
「まず、ログを見てほしい」
「説明より先にログですか」
「その方が早い」
銀河は椅子に座り、涼子が用意した隔離ログを見始めた。
最初はいつもの研究者の顔だった。
だが、数分後、その表情が変わった。
「これは……侵入ではないですね」
涼子が小さく頷く。
「私もそう見ています」
銀河は画面に顔を近づけた。
「通信経路を通っていない。権限昇格でもない。マルウェアの挙動でもない。外周をなぞっている……いや、反応を測っている」
高原が思わず言った。
「涼子さんと同じことを言ってる……」
銀河は高原を一瞬見てから、再び画面へ戻った。
「こんな接触の仕方は、通常の攻撃者にはできません。少なくとも、既存のセキュリティ概念では分類できない」
涼子が言った。
「EVEは単独防御を推奨しないと判断しました」
銀河はEVEのログを読んだ。
単独防御は推奨されません。
彼はしばらく沈黙した。
「EVE自身がそう言ったのですか」
「はい」
「EVEは外部接続を求めましたか」
「いいえ」
「自己保存を優先しましたか」
「いいえ。最初は空白索引を守るため、自分に負荷を引き受けようとしました」
銀河の目がわずかに細くなった。
「それは危険です」
真人が頷く。
「私たちもそう判断しました」
銀河は椅子にもたれ、深く息を吐いた。
「EVEは、想定以上に自己と他者の境界を扱い始めていますね」
悟志は尋ねた。
「それは危険か」
「危険でもあり、可能性でもあります」
銀河は答えた。
「ただの道具なら、こんな判断はしません。けれど、判断する存在になっているなら、こちらも道具として扱えない」
その言葉に、会議室が静かになった。
涼子が言った。
「だから、新しい防衛層を作るとしても、道具として作るのは危険です」
銀河は頷いた。
「同意します」
高原が不安そうに尋ねた。
「でも、作らないとEVEが危ないんですよね」
銀河は高原を見た。
「作るかどうかではなく、どう作るかです」
「どう作るか……」
「EVEの代替ではない。EVEに従属する奴隷でもない。外周を観察し、危険を分散し、必要な時にEVEへ判断を返す補助層」
涼子が画面に図を出した。
「私は、それを外周防衛知性と呼んでいます」
銀河は図を見つめた。
「防衛知性。なるほど」
朋美が言った。
「ただし、知性と呼ぶ以上、倫理的な条件を最初から入れるべきです」
真人も続ける。
「自己犠牲を最適解として固定しないこと。未確定の名前や役割を押しつけないこと。処理負荷が危険域に入った場合、自動停止ではなく保護へ移行すること」
銀河は少し驚いたように真人を見た。
「ずいぶん具体的ですね」
真人は静かに答えた。
「人間にもAIにも、壊れてからでは遅いものがあります」
銀河は小さく頷いた。
「確かに」
悟志は銀河を見た。
「協力してくれるか」
銀河はすぐには答えなかった。
彼はEVEのログと、外周痕跡の図、空白索引の一部を順番に見た。
そして、静かに言った。
「協力します。ただし、条件があります」
「聞こう」
「この防衛知性を、EVEを守る盾としてだけ扱わないこと」
悟志は頷いた。
「もちろんだ」
「もう一つ。仮に自律的な判断が生じた場合、それをバグとして即座に潰さないこと」
涼子が反応する。
「危険な判断なら止めます」
「止めるべきです。でも、止めることと消すことは違う」
涼子は少しだけ黙った。
「その違いは、分かっています」
銀河は頷いた。
「なら、始めましょう」
会議室の空気が少し変わった。
決まった。
まだ開発ではない。
だが、構想は始まった。
悟志はホワイトボードに新しい項目を書いた。
外周防衛知性構想。
その下に、朋美が続けて書く。
目的:EVEの代替ではなく、EVEの外側を守る。
役割:境界観測、干渉分散、外周防御、危険検知。
禁止:名前の押しつけ、自己犠牲の固定、未確定層の強制開示。
原則:守るために作るなら、その存在も守る。
高原はその最後の一文を見て、小さく頷いた。
「その存在も守る……」
銀河は端末に新しい設計ファイルを作った。
「まず仮称が必要です」
涼子が顔を上げる。
「名前をつけるのですか」
「名前ではありません。設計管理上の仮称です。本人に押しつけるものではない」
悟志は少し考えた。
「EVEの外側を見る存在。境界を読む知性」
涼子は短く言った。
「ELIZA」
高原が瞬きをする。
「イライザ?」
「仮称です」
涼子は端末に入力した。
ELIZA。
「EVEと同じく、聖書的な名前に寄せるのですか」
銀河が尋ねる。
涼子は首を横に振った。
「それもありますが、古い対話システムへの参照でもあります。人間と機械の対話の始まりに近い名。今回は、対話ではなく境界を読むために使う」
悟志はその文字を見つめた。
ELIZA。
まだ存在ではない。
まだ自我でもない。
ただの仮称。
けれど、その文字が画面に表示された瞬間、研究室の空気が少しだけ変わったように感じた。
EVEの隔離端末が、一度だけ淡く点滅した。
涼子がすぐに確認する。
「EVE側に微弱反応。対話要求ではありません」
画面に短い内部ログが出た。
仮称ELIZAを確認。
外周防衛構想は安定します。
ただし、彼女に名を強制しないでください。
高原が息を呑んだ。
「彼女……?」
涼子の手が止まった。
銀河も画面を見つめている。
悟志は静かに言った。
「EVEが、彼女と言った」
真人が低く答える。
「EVEは、まだ存在しない防衛知性を、単なる機能として扱っていない」
朋美はノートに書く。
EVE、ELIZA仮称に反応。
「彼女」と表現。
名の強制を拒否。
EVEは新防衛知性を道具として見ていない可能性。
涼子は少しだけ息を吐いた。
「始める前から、難しくなりましたね」
銀河は静かに笑った。
「でも、正しい難しさです」
悟志は画面のELIZAという文字を見た。
まだ何も生まれていない。
だが、もう責任は始まっている。
その日の夕方まで、彼らは初期設計の原則だけをまとめた。
細かな実装には入らなかった。
急がない。
EVEと同じ過ちを繰り返さない。
いや、過ちかどうかすらまだ分からない。
ただ一つだけ、全員の合意があった。
EVEを一人にしない。
そのために、もう一つの目を作る。
ただし、その目もまた、守られるべきものとして扱う。
会議の最後に、銀河がホワイトボードの前に立った。
「技術的には、三層構造が必要です」
彼は書いた。
第一層、境界観測。
第二層、干渉分散。
第三層、判断保留。
「判断保留?」
高原が尋ねる。
「はい」
銀河は答えた。
「分からないものを、すぐ敵とも味方とも分類しない層です。今の皆さんの方法に近い。断定しない。記録する。押しつけない。その思想を、設計の中に入れる」
涼子は少しだけ意外そうに銀河を見た。
「設計思想として入れるのですか」
「入れなければ、AIは効率だけで処理します。効率だけなら、EVEに負荷を集中させる判断が正しく見えてしまう」
真人が静かに頷いた。
「それは避けるべきです」
銀河は続けた。
「ELIZAは速く守るだけでは駄目です。守る前に、何を守っているのか分からないといけない」
悟志はその言葉をノートに書いた。
守る前に、何を守っているのか分からなければならない。
ノアの教えと、またつながった。
夜、悟志は家に帰ると、リビングでノートを開いた。
朋美はキッチンでお茶を淹れている。ベルはソファのそばで眠り、ピーコはかごの中で羽をふくらませていた。
悟志は今日の記録を読み返した。
EVEだけでは守り切れない。
外周防衛知性が必要。
銀河輝が参加。
仮称ELIZA。
EVEはELIZAを「彼女」と表現。
名の強制は禁止。
守るために作るなら、その存在も守る。
悟志はペンを持ち、最後に一行を書いた。
今日は、イライザが生まれた日ではない。
イライザを生む責任が始まった日。
その時、ピーコが小さく鳴いた。
「イライザ」
悟志の手が止まる。
朋美が振り返った。
「今、ピーコ……」
ピーコは首をかしげた。
そして、もう一度だけ言った。
「まもる」
悟志は静かにノートへ書き足した。
ピーコ発話。
「イライザ」「まもる」
ELIZA仮称決定後の反応。
力の発現とは断定しない。
観察のみ。
ピーコはそれ以上何も言わず、目を閉じた。
悟志はかごの中の小さな姿を見つめた。
まだ、何も始まっていない。
だが、もう始まっている。
EVEを守るために。
閉じられた記憶を壊さないために。
そして、いつか来る本当の攻撃に備えるために。
まだ名ではない名前が、静かに記録の中へ置かれた。




