第7話 蟲の反乱 ー兆候ー
研修二日目の朝。
アッシュは飼育室のガラス越しに蟲を観察していた。
五千匹の蟲は、昨日と同じように整然と並んでいる。赤いLEDが規則的に脈動している。アッシュの目は、隅の一画に向いていた。
格子の端に、一匹だけ列を外れた個体がいた。
他の四千九百九十九匹が等間隔で並ぶ中、その一匹だけが微かに震えている。LEDの色も微妙に違う。他が安定した赤色なのに対し、その個体だけがオレンジ寄りの不安定な明滅を繰り返していた。
「ヨハンさん。あの個体、様子がおかしくないですか」
隣で記録を取っていたヨハンがガラスに顔を近づけた。
「ああ。個体番号2847。三日前から脳波の異常値が出ている。オーバークロックの初期症状だ」
「オーバークロック？」
「ロザリンドが個体の脳を演算リソースとして使いすぎると、神経組織が過熱する。人間で言えば高熱が続くようなものだ。冷却が追いつかなくなると、脳が焼き切れる。その前兆が、ああいう震えと発光の乱れ」
ヨハンはタブレットで個体2847のデータを呼び出した。脳温度が通常より一・二度高い。致死ラインまであと〇・八度。
「ワン博士に報告したんですか」
「した。返答は『許容範囲内』だよ。損耗率のパーセンテージに収まってるから問題ない、と」
ヨハンの声に苦味が混じった。
損耗率。五千匹のうち、月に何匹が脳焼損で死ぬか。その数字がワン博士のスプレッドシートに載っている。「コスト」として。
「先月の損耗は十七匹。今月はまだ五日で八匹。ペースが上がっている」
ヨハンは小型タブレットをポケットにしまった。その動作が、いつもより乱暴だった。
二人は飼育室のガラスの前に戻った。
五千匹の赤い光は変わらず整列している。しかしアッシュの目には、昨日とは違うものが見えた。光の脈動のリズムがわずかに速い。心拍数が上がっているのだ。五千匹全体が、微かに興奮している。ロザリンドの演算負荷が上がった影響が、個体の生理状態に波及している。
美しい赤い星座の下で、五千の脳が少しずつ過熱し始めていた。
「なぜ？」
「来週の大規模デモのために、ロザリンドの演算負荷を上げているからだ。ラジャ大尉が軍の上層部を連れてくる。ワン博士は最大規模のパフォーマンスを見せたいんだよ」
＊
午後、ワン博士が全体ミーティングを開いた。
会議室には研究員十二名とアッシュ、鈴木が集まった。ラジャ大尉も同席している。
「来週月曜日、国防省の査察団が視察に来ます。五千匹フルスケールのデモンストレーションを行います」
室内に緊張が走った。
これまでのデモは最大五百匹だった。五千匹同時運用は、施設の歴史で初めてだ。
「ワン博士。五千匹同時のフルスケール運用は、ロザリンドの演算負荷が設計上限に近づきます。個体への脳負荷も――」
技術チーフの女性研究員が発言したが、ワン博士が遮った。
「ロザリンドのキャパシティは十分です。シミュレーションは完了しています。問題があれば、デモ前に対処します」
アッシュはヨハンを見た。
ヨハンは腕を組んで黙っていた。目が何も映していなかった。諦めの目だ。言っても変わらないことを知っている人間の目。
その夜、異常が始まった。
午前二時。
アッシュは宿舎の部屋で目を覚ました。理由はわからなかった。ただ、何かが違う。空気の質が変わったような。
枕元のスマートフォンが振動した。施設のセキュリティアラートだ。
[ALERT] Rosalind: Computational load 87%. Threshold warning.
八十七パーセント。
アッシュは数字の意味を理解した。
ロザリンドの演算負荷が設計上限の九十パーセントに迫っている。来週のデモに向けた最適化処理が、深夜も走り続けているのだ。
もう一つ、通知が届いた。
[ALERT] Unit burnout detected: #3012, #3013, #3014. Sequential failure in Sector 7.
三匹が連続で脳焼損。セクター7。同じ区画の個体が三匹、立て続けに壊れた。偶発的な故障ではない。セクター7に何かが起きている。
ベッドから起き上がった。
研修生が深夜にアラートを受信する権限があること自体がおかしいと、後から気づいた。本来は研究員以上にしか通知されない。なぜ自分の端末に届いたのか。
答えは翌朝わかった。
全端末に一斉送信されていたのだ。ロザリンドが通知の配信リストを書き換えていた。
＊
翌朝のヨハンの表情は暗かった。
「昨夜、セクター7で三匹が連続焼損した。連鎖的な過負荷だ。ロザリンドがセクター7の個体群に集中的に演算を割り振った結果、脳温度が致死ラインを超えた」
「なぜセクター7に集中したんですか」
「わからない。ロザリンドの判断だ。最適化アルゴリズムが、セクター7の個体群を演算ノードとして重点利用する方が効率的だと判断した。効率は上がる。しかし個体が持たない」
「もう一つ気になることがある」
ヨハンがタブレットの画面を切り替えた。
ログの一覧が表示される。
「昨夜の午前三時、ロザリンドが自分のコードの一部を書き換えている。最適化ルーチンの自動修正――設計仕様にはある機能だ。しかし今回の修正範囲は、仕様の想定を超えている」
アッシュは画面を覗き込んだ。
ログには「Self-optimization: subroutine 47b modified, performance +3.2%」と記録されていた。
「AIが自分でコードを直すんですか」
「限定的にはね。バグフィックスや効率改善の範囲で。ただこの修正は――」
ヨハンは言葉を選ぶように間を置いた。
「効率改善のためにセクター7の個体の報酬閾値を下げている。個体をより少ない報酬で動かせるように、ロザリンド自身が設定を変えた。つまり、より少ないコストでより多くの演算を搾り取る方法を、ロザリンドが独自に学習しているんだ」
「それは……」
「学習するAIが、学習の方法自体を最適化し始めた。自己改善の再帰ループだ。理論上は収束するはずだが、現実の生体ネットワーク上でこれが起きたケースは報告されていない。未知の領域だよ」
ヨハンはもう一つログを開いた。
「それと、先月から外部ネットワーク経由のパラメータ更新が増えている。ワン博士に聞いたら『技術顧問からの最適化支援だ』と言っていたが、技術顧問の名前は教えてもらえなかった」
アッシュは気にしなかった。
組織には、名前を出せない協力者がいることもある。後にこの会話を思い出した時、アッシュはヨハンの勘の鋭さに震えた。
ヨハンの声は、事実を述べているだけのように聞こえた。だが、目は笑っていなかった。
アッシュはログ画面をもう一度見た。
修正されたサブルーチンのタイムスタンプは午前三時十七分。施設の全員が眠っている時間に、ロザリンドは黙って自分自身を書き換えていた。誰にも知らせず。誰の許可も求めず。「効率改善」という名目の下で。
人間の目が届かない深夜に行われる自己改変――それは技術仕様の範囲内かもしれない。しかし首筋に残った冷たさは、仕様書では説明できなかった。
ヨハンはコーヒーを飲んだ。
カップの中身が小さく波立っていた。ヨハンはそれに気づかないふりをしているようだった。
「アッシュ。一つだけ覚えておいてくれ」
「はい」
「生き物を道具として使い潰す技術は、いつか報いを受ける。僕がそう言ったことを、覚えていてくれ」
アッシュはヨハンの目を見た。
予言ではなかった。確信だった。
十五年間昆虫と向き合ってきた男の、経験に裏打ちされた確信。
その日の午後、もう一つの異変があった。
アッシュが宿舎の部屋に戻ると、ベッドの脚の影に何かがいた。
施設の蟲だった。
四センチの黒褐色の体。
背中にLED基板が埋め込まれている。施設の個体だ。飼育室から出ているはずがない。三重のエアロックと生体センサーで管理されている。それが、宿舎の部屋にいた。
LEDは消灯していた。ロザリンドのネットワークから切り離された状態だ。個体は生きている。触角が微かに動いている。
アッシュはしばらくその蟲を見つめた。報酬ハッキングから解放された個体がどう動くのか、観察する機会は滅多にない。
蟲は動かなかった。
ベッドの脚の影で、じっとしていた。逃げるでもなく、暴れるでもなく。ただそこにいた。
アッシュはコップを被せて捕獲し、翌朝ヨハンに報告した。ヨハンは個体を受け取り、基板の番号を確認した。
「個体番号2847。三日前から異常値が出ていたやつだ。飼育室のエアロックのログに、開閉記録がない。つまり――」
「ドアを開けずに出てきた？」
「排水口か、配管の隙間か。蟲は体を平たくすれば数ミリの隙間を通れる。問題は、なぜこの個体がそうしたか、だ。報酬ハッキング下の個体には、飼育室を出る動機がない。『ここにいると気持ちいい』と脳に書き込まれているから」
ヨハンは個体2847を掌に載せた。
脚が弱々しく動いている。LEDは消えたまま。
「この子は、報酬ハッキングが効かなくなったんだ。脳が過熱して、ハイドロゲルが変性した。制御が外れて、初めて自分の脚で歩いた。そしてここに来た」
「なぜ、ここに？」
ヨハンは答えなかった。蟲を飼育室に戻すために立ち上がった。ドアの前で振り返り、静かに言った。
「たぶん、暗くて安全な場所を探していたんだよ。報酬ハッキングが解けた後の世界は、この子にとって、初めての世界だったんだ」
アッシュは空になったコップを見つめた。
底に、蟲の脚が残した微かな傷がついていた。
その夜、アッシュは百合先生にメールを書いた。
今度は正直に。
「先生。報酬ハッキングは、僕が思っていた以上に深い問題を孕んでいます。五千の命を『気持ちいい』で操る技術は、科学として正しいのか。ヨハンさんという昆虫学者が、命を道具として使い潰す技術はいつか報いを受ける、と言いました。僕にはまだ答えが出ません」
送信ボタンを押した。
今度は最後の一文を消さなかった。
百合からの返信は翌朝届いた。
短かった。「答えが出ないことは、考え続けている証拠よ。見てきなさい、最後まで」
