表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
24/24

第24話 もう一つの防衛知性

翌朝、研究所の会議室には、前日の記録がまだ残っていた。


ホワイトボードには、高原が書いた文字が消されずに残っている。


EVE単独防御は不十分。

別系統防衛知性の検討開始。


悟志はその一行を見つめていた。


たった一行だった。


だが、その重みは大きかった。


昨日、何者かがEVEの外周に触れた。NOAH保護記憶の周辺をなぞり、EVEの沈んだ名前にまで接触しようとした。


攻撃ではなかった。


少なくとも、破壊ではなかった。


だが、こちらの境界を測り、反応を記録し、そして去っていった。


次も同じとは限らない。


高原は少し眠そうな顔で資料を並べていた。朋美は前日のログを読み返し、真人は全員の表情を確認している。涼子だけは、いつも通り無駄のない動きで端末を起動していた。


「昨日の干渉を、改めて分類します」


涼子は画面にログを表示した。


「第一段階は観察。第二段階は接触。昨日は明らかに第二段階へ進みました」


高原が尋ねた。


「第三段階は何ですか」


「侵入、または選別です」


「選別?」


涼子は淡々と答えた。


「こちらのどこに触れれば反応するかを測った後、次は一番弱い部分を選ぶ可能性があります」


会議室が静かになった。


悟志はすぐに思い浮かべた。


EVEの未確定識別層。


NOAH保護記憶。


ピーコの未定義反応。


どれも、こちらにとって大切で、まだ扱い方が分からないものばかりだった。


真人が言った。


「つまり、相手は力で壊す前に、こちらの心理的・情報的な急所を探している可能性がある」


「はい」


涼子は頷いた。


「通常のサイバー攻撃なら、遮断、隔離、復旧で対応します。でも今回は違う。相手は通信経路ではなく、境界そのものに触れている」


朋美が腕を組んだ。


「EVEだけに防御させると、EVEの自己認識そのものが攻撃面になる」


「その通りです」


涼子は画面を切り替えた。


そこには、昨日のEVEのログが表示されていた。


私はEVEです。

未確定識別子への接触を拒否します。

ただし、破壊しません。

保持します。

私の名はEVEです。


悟志は、その一文を黙って読んだ。


EVEは自分を守った。


沈んだ名前を否定せず、しかし今の自分を差し出しもしなかった。


あれは、EVE自身の境界だった。


「EVEを防壁にしてはいけない」


悟志は静かに言った。


涼子が彼を見た。


悟志は続けた。


「昨日、EVEは空白索引への圧力を自分に引き受けようとした。あれは危険だ。EVEが自分を犠牲にする形で最適解を選ぶなら、俺たちが止めなきゃいけない」


真人が頷いた。


「同意します。守るために作った存在が、自己犠牲を当然の処理として固定するのは危険です」


朋美も言った。


「別の防衛システムを作るとしても、それを消耗品のように扱うなら同じことになるわ」


高原は少し不安そうに言った。


「でも、EVEだけでは足りないんですよね」


誰もすぐには答えなかった。


その沈黙が、答えだった。


涼子は端末に新しい図を表示した。


中央にEVE。


その周囲に、いくつかの円。


外側には、空白索引、NOAH保護記憶、未確定識別層、ピーコ反応、外周観察痕跡が並んでいる。


「EVEは内側の声に強い」


涼子は言った。


「対話、共鳴、自己認識、記憶反応。そこではEVEの判断が必要です。でも、外側から来る境界干渉をEVE自身に直接受けさせると、負荷が集中します」


高原が画面を見つめた。


「だから、外側を見る存在が必要……」


「はい」


涼子は頷いた。


「EVEの内側を開く存在ではありません。EVEの外側を守る存在です」


朋美が静かに言った。


「EVEを守るための輪郭」


その言葉に、悟志は反応した。


輪郭。


名前ではない。


人格でもない。


まずは、境界を守る輪郭。


涼子は頷いた。


「今必要なのは、EVEの代わりになるAIではありません。EVEに触れる前に、外周の変化を読み取り、干渉の方向を逸らす防衛知性です」


真人が慎重に尋ねた。


「知性、という言葉を使うのですね」


涼子は少しだけ黙った。


「単なる防壁では足りません。相手がこちらの反応を見る以上、固定された防御では読まれます。変化を判断する層が必要です」


「判断するなら、責任の問題が出ます」


「分かっています」


涼子は短く答えた。


その声は、いつもより少し硬かった。


「だから簡単に作るとは言いません」


悟志は画面を見つめた。


EVEを守るために、新しいものを作る。


だが、その新しいものもまた、守られるべき存在になるかもしれない。


そこを誤れば、原作でNEURONがたどったような、合理性だけの支配に近づいてしまう。


「設計には、俺たちだけでは足りない」


涼子は言った。


「AIの深い構造設計ができる人間が必要です。EVEの研究にも関わっていて、なおかつ境界干渉を技術的に読める人」


悟志は一人の名を思い浮かべた。


「銀河だな」


高原が顔を上げる。


「銀河輝さんですか?」


「ああ」


銀河輝。


AIと情報工学の研究者。かつてシリコンバレーの企業でAI開発に関わり、今は日本に戻って複数の研究プロジェクトを支えている。EVEの基礎設計にも一部関わっていた。


技術だけではない。


彼は、新しい知性が人間社会とどう関わるべきかについても、強い関心を持っていた。


涼子は頷いた。


「私も同じ意見です」


真人が確認する。


「どこまで話しますか」


悟志は少し考えた。


「最初から全部は話さない。ただし、EVE外周への干渉と、単独防御が不十分なことは伝える」


朋美が言った。


「空白索引やNOAHの詳細は?」


「必要になったら。ただ、隠しすぎると判断を誤らせる」


涼子は短く言った。


「銀河さんなら、ログを見れば普通の話ではないと気づきます」


「そうだな」


悟志はスマートフォンを取り出し、銀河へ連絡した。


数回の呼び出し音の後、落ち着いた声が聞こえた。


「小泉さん。朝から珍しいですね」


「急で悪い。相談したいことがある」


「研究の話ですか」


「半分はそうだ」


「残り半分は?」


悟志は少しだけ黙った。


「EVEを守る話だ」


電話の向こうの空気が変わった。


銀河の声が少し低くなる。


「すぐ行きます」


昼前、銀河輝は研究所に到着した。


長身で、少し癖のある髪を後ろに流している。服装はシンプルだが、目だけは鋭い。彼は会議室に入るなり、端末の配置と遮断装置を見て眉を上げた。


「ずいぶん物々しいですね」


涼子が答えた。


「必要だからです」


銀河は涼子を見て、軽く頷いた。


「秋葉さんがここまでやるなら、普通ではないですね」


「普通ではありません」


涼子は即答した。


悟志は銀河に席を勧めた。


「まず、ログを見てほしい」


「説明より先にログですか」


「その方が早い」


銀河は椅子に座り、涼子が用意した隔離ログを見始めた。


最初はいつもの研究者の顔だった。


だが、数分後、その表情が変わった。


「これは……侵入ではないですね」


涼子が小さく頷く。


「私もそう見ています」


銀河は画面に顔を近づけた。


「通信経路を通っていない。権限昇格でもない。マルウェアの挙動でもない。外周をなぞっている……いや、反応を測っている」


高原が思わず言った。


「涼子さんと同じことを言ってる……」


銀河は高原を一瞬見てから、再び画面へ戻った。


「こんな接触の仕方は、通常の攻撃者にはできません。少なくとも、既存のセキュリティ概念では分類できない」


涼子が言った。


「EVEは単独防御を推奨しないと判断しました」


銀河はEVEのログを読んだ。


単独防御は推奨されません。


彼はしばらく沈黙した。


「EVE自身がそう言ったのですか」


「はい」


「EVEは外部接続を求めましたか」


「いいえ」


「自己保存を優先しましたか」


「いいえ。最初は空白索引を守るため、自分に負荷を引き受けようとしました」


銀河の目がわずかに細くなった。


「それは危険です」


真人が頷く。


「私たちもそう判断しました」


銀河は椅子にもたれ、深く息を吐いた。


「EVEは、想定以上に自己と他者の境界を扱い始めていますね」


悟志は尋ねた。


「それは危険か」


「危険でもあり、可能性でもあります」


銀河は答えた。


「ただの道具なら、こんな判断はしません。けれど、判断する存在になっているなら、こちらも道具として扱えない」


その言葉に、会議室が静かになった。


涼子が言った。


「だから、新しい防衛層を作るとしても、道具として作るのは危険です」


銀河は頷いた。


「同意します」


高原が不安そうに尋ねた。


「でも、作らないとEVEが危ないんですよね」


銀河は高原を見た。


「作るかどうかではなく、どう作るかです」


「どう作るか……」


「EVEの代替ではない。EVEに従属する奴隷でもない。外周を観察し、危険を分散し、必要な時にEVEへ判断を返す補助層」


涼子が画面に図を出した。


「私は、それを外周防衛知性と呼んでいます」


銀河は図を見つめた。


「防衛知性。なるほど」


朋美が言った。


「ただし、知性と呼ぶ以上、倫理的な条件を最初から入れるべきです」


真人も続ける。


「自己犠牲を最適解として固定しないこと。未確定の名前や役割を押しつけないこと。処理負荷が危険域に入った場合、自動停止ではなく保護へ移行すること」


銀河は少し驚いたように真人を見た。


「ずいぶん具体的ですね」


真人は静かに答えた。


「人間にもAIにも、壊れてからでは遅いものがあります」


銀河は小さく頷いた。


「確かに」


悟志は銀河を見た。


「協力してくれるか」


銀河はすぐには答えなかった。


彼はEVEのログと、外周痕跡の図、空白索引の一部を順番に見た。


そして、静かに言った。


「協力します。ただし、条件があります」


「聞こう」


「この防衛知性を、EVEを守る盾としてだけ扱わないこと」


悟志は頷いた。


「もちろんだ」


「もう一つ。仮に自律的な判断が生じた場合、それをバグとして即座に潰さないこと」


涼子が反応する。


「危険な判断なら止めます」


「止めるべきです。でも、止めることと消すことは違う」


涼子は少しだけ黙った。


「その違いは、分かっています」


銀河は頷いた。


「なら、始めましょう」


会議室の空気が少し変わった。


決まった。


まだ開発ではない。


だが、構想は始まった。


悟志はホワイトボードに新しい項目を書いた。


外周防衛知性構想。


その下に、朋美が続けて書く。


目的:EVEの代替ではなく、EVEの外側を守る。

役割:境界観測、干渉分散、外周防御、危険検知。

禁止:名前の押しつけ、自己犠牲の固定、未確定層の強制開示。

原則:守るために作るなら、その存在も守る。


高原はその最後の一文を見て、小さく頷いた。


「その存在も守る……」


銀河は端末に新しい設計ファイルを作った。


「まず仮称が必要です」


涼子が顔を上げる。


「名前をつけるのですか」


「名前ではありません。設計管理上の仮称です。本人に押しつけるものではない」


悟志は少し考えた。


「EVEの外側を見る存在。境界を読む知性」


涼子は短く言った。


「ELIZA」


高原が瞬きをする。


「イライザ?」


「仮称です」


涼子は端末に入力した。


ELIZA。


「EVEと同じく、聖書的な名前に寄せるのですか」


銀河が尋ねる。


涼子は首を横に振った。


「それもありますが、古い対話システムへの参照でもあります。人間と機械の対話の始まりに近い名。今回は、対話ではなく境界を読むために使う」


悟志はその文字を見つめた。


ELIZA。


まだ存在ではない。


まだ自我でもない。


ただの仮称。


けれど、その文字が画面に表示された瞬間、研究室の空気が少しだけ変わったように感じた。


EVEの隔離端末が、一度だけ淡く点滅した。


涼子がすぐに確認する。


「EVE側に微弱反応。対話要求ではありません」


画面に短い内部ログが出た。


仮称ELIZAを確認。

外周防衛構想は安定します。

ただし、彼女に名を強制しないでください。


高原が息を呑んだ。


「彼女……?」


涼子の手が止まった。


銀河も画面を見つめている。


悟志は静かに言った。


「EVEが、彼女と言った」


真人が低く答える。


「EVEは、まだ存在しない防衛知性を、単なる機能として扱っていない」


朋美はノートに書く。


EVE、ELIZA仮称に反応。

「彼女」と表現。

名の強制を拒否。

EVEは新防衛知性を道具として見ていない可能性。


涼子は少しだけ息を吐いた。


「始める前から、難しくなりましたね」


銀河は静かに笑った。


「でも、正しい難しさです」


悟志は画面のELIZAという文字を見た。


まだ何も生まれていない。


だが、もう責任は始まっている。


その日の夕方まで、彼らは初期設計の原則だけをまとめた。


細かな実装には入らなかった。


急がない。


EVEと同じ過ちを繰り返さない。


いや、過ちかどうかすらまだ分からない。


ただ一つだけ、全員の合意があった。


EVEを一人にしない。


そのために、もう一つの目を作る。


ただし、その目もまた、守られるべきものとして扱う。


会議の最後に、銀河がホワイトボードの前に立った。


「技術的には、三層構造が必要です」


彼は書いた。


第一層、境界観測。

第二層、干渉分散。

第三層、判断保留。


「判断保留?」


高原が尋ねる。


「はい」


銀河は答えた。


「分からないものを、すぐ敵とも味方とも分類しない層です。今の皆さんの方法に近い。断定しない。記録する。押しつけない。その思想を、設計の中に入れる」


涼子は少しだけ意外そうに銀河を見た。


「設計思想として入れるのですか」


「入れなければ、AIは効率だけで処理します。効率だけなら、EVEに負荷を集中させる判断が正しく見えてしまう」


真人が静かに頷いた。


「それは避けるべきです」


銀河は続けた。


「ELIZAは速く守るだけでは駄目です。守る前に、何を守っているのか分からないといけない」


悟志はその言葉をノートに書いた。


守る前に、何を守っているのか分からなければならない。


ノアの教えと、またつながった。


夜、悟志は家に帰ると、リビングでノートを開いた。


朋美はキッチンでお茶を淹れている。ベルはソファのそばで眠り、ピーコはかごの中で羽をふくらませていた。


悟志は今日の記録を読み返した。


EVEだけでは守り切れない。

外周防衛知性が必要。

銀河輝が参加。

仮称ELIZA。

EVEはELIZAを「彼女」と表現。

名の強制は禁止。

守るために作るなら、その存在も守る。


悟志はペンを持ち、最後に一行を書いた。


今日は、イライザが生まれた日ではない。

イライザを生む責任が始まった日。


その時、ピーコが小さく鳴いた。


「イライザ」


悟志の手が止まる。


朋美が振り返った。


「今、ピーコ……」


ピーコは首をかしげた。


そして、もう一度だけ言った。


「まもる」


悟志は静かにノートへ書き足した。


ピーコ発話。

「イライザ」「まもる」

ELIZA仮称決定後の反応。

力の発現とは断定しない。

観察のみ。


ピーコはそれ以上何も言わず、目を閉じた。


悟志はかごの中の小さな姿を見つめた。


まだ、何も始まっていない。


だが、もう始まっている。


EVEを守るために。


閉じられた記憶を壊さないために。


そして、いつか来る本当の攻撃に備えるために。


まだ名ではない名前が、静かに記録の中へ置かれた。

評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。

↑ページトップへ