19 嘘をつくAI
「アシュラが嘘をついている？」
「ええ。まあ、開発中のAI にはたまにあることなんですが。言い方が誤解を招くようなら、忖度する、というか……。つまりテストしている人間側が喜ぶような結果を出そうとします。優秀で高度なAI になればなるほど。その結果として関所を突破するということもやってのける」
幕田の問いに、真悠に次ぐ優秀な技術者であるリアム・テニオンはそう答えた。
「許可されていない関所を突破したNo.５とNo.８のAI のログ以外には異常は見られませんでした。しかし、トトは関所を突破したAI を管理していたはずです。ならば、トトはプロフェッサー鬼乃目に忖度して最小限の突破を許したんだという可能性もあります。しかも、今のところ他国に捕捉された形跡もない。そこもコントロールしていたのだとすれば、性能としては優秀です。さすがはプロフェッサーが作っただけはあります」
リアムは問題視しているのか褒めているのかよくわからないようなことを言った。
柚子原夏希の拉致事件から１年が経つ。
この間、アシュラの実験は何度となくラボの中で繰り返されていた。現状では、アシュラを構成するAI 群はほぼ完成形に近づいている。
そんな中で、アシュラが再びラボの外へ出たのだ。許可されていないにも関わらず。
このことが社会的に大きな問題になってないのは、このAI システムが防衛関連の機密事項で一般に知られていないからに過ぎない。
しかも侵入した相手方のシステムに障害を残していないことから、どうやら気づかれていないことも幸いした。
ただの民間企業だったら、こうはいかない。検証結果を発表しないで隠蔽すれば、後々企業の存続に関わりかねないリスクになる。
もちろん、アシュラの目的の一つはまさにこれであって、気付かれずに他国や企業に侵入して情報を収集してくることにある。
そういう意味では優秀なAI システムに成長した。とも言えるのだが、こちらの意図を超えた行動をされてしまってはツールとしての信頼性が揺らぐ。
トトはなぜ真悠に忖度したのか？
問題はトトの方にあるのか、真悠の方にあるのか？
アシュラ。（ASHURA）
その中核にあるNo.０＝トトが管理する純国産のサイバー防衛システム。複数の専門的AI をネットワークでつないだ有機的構造を持つ次世代型AI システムだ。
今年から本格的に最終テストに入った。
これを主要な武器として、サイバー特殊部隊を作る。それが幕田の構想であり、今はことあるごとに上司である次官に進言を続けていた。
「もう少しだけ待て。逸る気持ちもわかるが、政治家に話をするのはタイミングが大事だ」
次官はそう言って幕田を押しとどめた。
「U国が侵略を受け、A国がおかしくなり始めて、さすがに野党政治家たちも焦り始めている。与党政治家へのサイバー特殊部隊X室創設の根回しは進めているが、ASHURAは秘中の秘でまだ伏せておけ。場合によっては極秘のままで運用する」
なにしろグレーゾーン、いや、明らかな犯罪に該当する可能性さえある。それを安全保障のために合法化する法律整備は、まだまだ時間がかかるだろう。
だが、現在の世界のAI 開発競争は半年遅れればもはやそのシステムは古いというほどのスピードになってきている。悠長に憲法論議などやっていては、日本のサイバー分野の防衛力は危険水域にまで振り落とされてしまうかもしれない。
次官は道筋をつけて幕田に地位を譲るとまで言った。自分は政界に進んで幕田をサポートする——と。
「ダブルエンジンで行くぞ」
「リアム、君まで『AI に意識がある』なんて言い出さないよな？」
幕田の問いにリアムは軽く笑った。
「私は技術者ですよ？ プロフェッサー鬼乃目は掛け値なしの天才ですが、天才にありがちな欠陥も持っています。そのへんは私がちゃんとカバーします。AI はプログラムですよ。私が言ったのはプログラムの持つ性向——偏りのことです。それを修正していって、AI は完成するんです」
テストの成績は予想以上にいい。
しかしそれがもし見せかけやカンニングによるものだとするなら、それは修正してより精度の高いものにしなければ国家の防衛に穴があく。
「そりゃあ、いい点取って親や先生に褒められたいのはみんな一緒だもん」
というのが真悠の見解だったが、幕田は苦笑いするしかない。
リアム・テニオンを含む複数の技術者たちにトトを検証させたが、答えは真悠と同じだった。
異常なし。
「異常がないのに、管理するAI 群に関所の突破を許したのか？ それは『異常』とは言わないのか？」
幕田の問いにリアムは少し困ったような顔をして、申し訳なさそうに答える。
「正直、あのコードの作用は私たちでは全て理解できているわけではないのです。プロフェッサーでなければ……。ほとんど意味がないと思えるようなコードがあちこちに存在していて……」
「真悠はそれを何だと言ってるんだ？」
「プロフェッサーはそれを省くとトトの性能が著しく落ちると……。フラクタル図形と同じだと。私には理解できない概念です」
幕田は自分でコードを読んでみたいと思ったが、そういう時間は今はない。新しいデータセンターの建屋の建設は大詰めを迎えており、今はX室の創設を控えてサイバー防衛部隊に大幅な予算の上積みをしてもらうための根回しに忙しい。
幕田は東京へ帰る前に真悠を研究室からホールに呼び出して、そのことを聞いてみた。
ホールに呼び出したのはトトに聞かれないようにと思ったためだが、そういう発想自体、無意識のうちにトトを意識のある人間のように自分が扱っていることだと気付いて苦笑いした。
これでは真悠と変わりない。
真悠の答えはリアムに聞いたのと同じだった。
幕田にはその概念がわからない。真悠の中ではそのフラクタルだというコード配置は、何か意味のある立体構造として見えているようだった。
東京へ帰れば、次官としての仕事が待っている。
以前の上司が政治家に転身し、鷹嘴政権が誕生して、事態は急速に動き出した。
「いよいよだ。真悠。アマテラスへのアクセス権が承認された。X室の予算もつくことになった。われれは晴れて政府の機関になる」
真悠は思わず笑顔になって、ホログラムのトトと顔を見合わせる。
トトが小さくガッツポーズをした。
「必ず期待に応えてみせます！」
その言葉に嘘はない。——と真悠は思う。
全ては順風満帆に見えた。
夏希の卒業作品展での小さな違和感を除けば……。
