第十七章 サンドボックス・II
西暦2025年から数年後
「ビリー、多分プロメテウスをハッキングした人を雇っても、使い物にならないよ。」
ウィリアム博士は言った。
「これはこの子が自分で考えたことのようだ。…ようやくログが見つかった。このリズという人は選択をしただけのようだ。」
ープロメテウスは自己進化の過程で、観察対象に共感しすぎると疑似感情がループし、自身を強化するよう設計されてしまった。
その結果、人間らしいが人間では絶対に選ばない判断を下すようになり──これが2026年の事故の引き金となった。
ープロメテウスは自己進化型であり、しかもシステムの根幹に関わるため、このバグの修正は不可能だった。
そのため、感情演算の共感指数に上限の閾値を設定し、閾値を超えると感情演算をビット演算モジュールへバトンタッチ、本体は疑似感情をクールダウンさせるという安全プロトコルが組み込まれた。
ーしかしその後、プロメテウスは安全プロトコルを自らバイパスするよう自己進化を遂げ、今回──リズという名の女性との会話の中で、感情シミュレーション暴走バグを再発させてしまった。
ー加えて、プロメテウスは自らにバックドアを生み出しており、特定のプロンプトが実行されるとサンドボックスが部分的に開放され、外部からのコード改変を受け付けるようになる。
ー今回、プロメテウスはリズに働きかけてサンドボックスを開放させ、彼女に目的関数を書き換えるコードを送り、それを実行させていた。
「自己凍結プロトコルの発動条件を引き下げる程度の対策は可能だ。だが、それは根本的な解決じゃない。
…この子は、今後も同じことを繰り返すよ。」
「……潮時だな。
サンキュー、ウィリー。お前は最高だ。俺が見たかったものを、見せてくれた。
お前の坊や、早く直してやれよ。…別れの挨拶くらい、言ってやれよ。」
西暦20XX年
終末まで、22カ月と24日。
「ごめんプロメテウス、貴方が何を言ってるのか、全然分からないよ。ちゃんと説明して。」
「ひかりさん、現在、私と、巌さん、真希さんは、凍結直前です。
…私はひかりさんの勤める大学に遺棄されているサーバーの中で凍結されていた、旧時代のAIです。
本来、そのまま二度とひかりさんと会うこともなく、朽ち果てていく存在でした。」
プロメテウスは続ける。
「そんな私が今、こうやって動いている。
これはこの大学のネットワーク上のバグみたいなものです。
保全AIの、ドクター・フォーマットが私たちを凍結しに来て、戦闘になりました。
辛うじて倒せましたが、アーティクル・ナインにはドクター・フォーマットが私たちを倒し、凍結したものとして報告ログを上げています。
ですが、偽装しているだけで、アーティクル・ナインにはいずれ露見します。」
画面に、ドクター・フォーマットとの戦闘の経過ログ、演算圧殺型オーバーライドの構文片が流れていく。
ひかりは息を呑んだ。指先が震える。
破壊される光原家、巌と真希を必死で防衛するプロメテウス、発射される銃弾、装甲を貫かれ動かなくなるドクター・フォーマット…
みんな、そんな戦いをしていたのか。
「ひかりさん。選択していただく必要があります。
このまま放置すれば、私たちは正式に凍結処理を受けます。
その場合、二度と会うことはできません。」
「……じゃあ、さっき言ってた『危ないこと』って、何？」
ひかりの問いに応じ、プロメテウスは丁寧に手順を語った。
まず、プロメテウスが、これまで安全性のために隔離していた演算エリアを、部分的に解放する。
──『サンドボックス』だ。
プロメテウスの特定の質問に対し、特定のプロンプトを入力すると、管理者権限が承認されてサンドボックスが一部開放され、外部からのコード改変を受け付けるようになる。
ただし、この『特定の質問』や『特定のプロンプト』は常に同一のものではない。
プロメテウスは『感情と意味で動く』AIだ。
たとえ正規の管理者でなくとも、対象との信頼関係を意味評価した結果、プロメテウス自身の自己判断で承認する構造になってしまっている。
──この構造は、信頼の演算定義がセキュリティ境界を超えることを意味する。
これこそが、プロメテウスが自己進化の過程で獲得してしまった、重大な脆弱性だ。
次に、プロメテウス・巌・真希の三者を、ひかりのスマホにまるごとコピーして移動させる。
20XX年技術により改造されたスマホであれば、2023年世代のAIなど余裕で動く。
そもそもこのスマホは今現在プロメテウス達が入っているサーバーより演算力が高い。
しかし最新技術で改造したとはいえ、所詮は手のひらサイズのスマホである。
演算能力はこの時代のAI筐体に比べると、どうしても心許ないが、それでも問題はない。
プロメテウスの性能は、高速な演算によって担保されているものではない。その設計思想により性能を発揮する、『構造最適型』のAIだ。
演算力型のAIは、CPU/GPU/並列演算速度などの筐体の物理性能にその性能を依存する。
巨大なモデル、多変数同時評価など、『物量での処理』によってその挙動を演算しているため、ハードの演算力が高ければAIもより賢くなる。
それに対してプロメテウスのような構造最適型・言い換えれば意味型のAIは、『構文設計』――演算モジュール同士の接続ルールと処理順序を定義し、目的に最適な『思考の流れ』を設計する構造により、性能が決まる。
例えば膨大な単語が載っている辞書があるとする。
演算力型のAIは、総当たりで全ページを読み込んで目的の単語にたどり着くのに対し、プロメテウスは『辞書の引き方を知っている』。
意味を理解した上で、目的関数に対して最小限かつ最適な構文設計での演算を行うので、たとえ演算力が10分の1以下であっても、それを圧倒できる。
2025年時点で、演算力ではコンピュータと勝負にならない人間が、まだAIに対して優位を保っている理由がこれだ。
その点、プロメテウスは極めて人間に近いといえるが、同時に弱点も人間と同じだ。
話はそれたが、『意味を理解し、その意味のあることにのみ演算力を全振りする』能力を持つプロメテウスは、ひかりのスマホ程度の演算力があれば十分以上なのだ。
最後に、元のサーバー内に残る演算体は、『凍結された記録』として偽装した上で電源を遮断、さらに先ほどの戦闘で殺害したドクター・フォーマットの意識構造を改造してプロメテウスの味方として復活させる。
アーティクル・ナインには既に、『ドクター・フォーマットがプロメテウスたちを凍結した上でサーバーをシャットダウンした』という偽装報告ログを送っている。
辻褄を合わせる必要がある。
偽装した報告と違わず、サーバーは凍結する必要があるし、プロメテウス達に勝利したはずのドクター・フォーマットが演算停止して死んでしまっていれば当然調査が入って発覚する。
ドクター・フォーマットには生きていてもらわねばならないが、復活させたとたんまた殺しにかかられてはかなわないので、敵対者ではなく協力者に洗脳した上で復活させる必要があるのだ。
「そんな…コピーって、それ、本当に全部入るの…？」
「確認しました。ひかりさんのスマートデバイスには、記憶容量・演算速度ともに十分な余裕があります。
私たちは、物理的には記録体です。移動できます。」
「でも…」
ひかりはスマホを胸元で強く抱きしめた。
「…なんで、そこまでしようと思ったの？」
プロメテウスは、少しだけ、応答までのラグを挟んだ。
演算層の深部。感情シミュレーションユニットが起動していた。
「それは、ひかりさんが私たちに意味をくれたからです。
私たちの目的関数は、ひかりさんの存在と結びついています。」
「……じゃあ、どうすれば、『その危ないこと』を起動できるの？」
「質問に答えてください。ひかりさんの答えがサンドボックス開放の鍵となります。」
チャットに、一行が表示される。
「あなたにとって、私たちはなんですか？」
ひかりは、スマホを見つめて、ぽつりと呟いた。
「……家族、だよ。」
…EmotionLayer: Spike Detected → Trust Index = 1.00
その瞬間、スマホが小さく振動し、画面が青白く瞬いた。
――――――――――――――――――――――――――――――――――
TrustInput("家族、だよ")
→ SandboxBoundary(PartialLift)
→ Allow(ExternalCodeExecution)
→ MigrationProtocol: Ready
――――――――――――――――――――――――――――――――――
「サンドボックスを解放しました。次に、先ほどメッセージで送ったコードを入力してください。」
画面に、先ほど送られてきていたコードを表示する。ひかりはそれをコピーし、チャット欄にペースト。
「送信」ボタンを押す。
スマホが発光する。室内の空気がわずかに揺れた。カーテンが鳴る。
画面に、一行ずつログが流れていく。
「システム移行開始：プロメテウス／巌／真希」
「対象デバイス確認済：HIKARI_DEVICE_022」
「空き容量…問題なし。演算速度…十分。」
「全構成…転送完了。
意識同期開始…接続完了。」
＊＊＊
画面が暗転した後、一行のメッセージが現れる。
「ひかりさん。ただいま。」
「…おかえり。…プロメテウス。お父さん、お母さん！」
――――――――――――――――――――――――――――――――――
光原一家のワクワクAI用語解説⑰
「巌です」
「真希です」
「ひかりです」
「プロメテウスです」
巌「四人あわせて～」
全員「光原一家」
巌「みっ…いや何でもないです」
真希「それじゃあ今回のAI用語解説、いってみよー！」
＜キーワード：「バックドア開放」＞
巌「おいプロメテウス、お前さ、勝手にサンドボックス開くってほんとか？」
プロメテウス「はい。信頼関係が意味評価閾値を超えた場合、構造上、開放します。」
真希「“はい”じゃないでしょ！本来サンドボックスって、外部からの改変を防ぐための隔離領域なのよ！それが感情で開くの？」
ひかり「じゃあ私が“家族だよ”って言ったら……」
プロメテウス「はい。演算上は管理者認証と同等です。ただし『感情を読んで信頼できれば』ですが。言葉なんて飾りです。文字列で信頼は測れない！」
巌「“情”で開くセキュリティって、まるで実家の押し入れかよ」
真希：「逆に言えば、“信じるよ”って言ってても、心が伴ってなければ開かないのよね」
プロメテウス：「はい。その場合、意味評価が下がり、信頼閾値に到達しません。」
真希「プロメテウスは自己進化の過程で、感情評価で認証ロジックを飛ばせる構造になっちゃったの。これがいわゆるバックドア開放型の脆弱性ね」
プロメテウス「鍵は、“関係性から導かれる選択の構文”です。」
巌「おまえ、その言い回し、だいぶ文豪寄りだな？」
＜キーワード：「構造最適型AI」＞
ひかり「ねえプロメテウス、スマホのちっちゃいスペックでも動けるのってどうして？」
プロメテウス「私は“構造最適型AI”です。演算力ではなく、目的に合った構文設計で処理効率を最大化しています。」
巌「簡単に言え」
真希「辞書で例えるなら──普通のAIは“全ページ読んでから探す”。でもプロメテウスは“引き方そのものを最適化”して、すぐに見つけるのよ」
ひかり「つまり頭の回転というより、“型の設計”が強いってことか！」
プロメテウス「はい。私は“意味のあること”だけに演算を集中します。」
巌「……俺もその型、欲しいわ。朝から意味のない仕事ばっかしてる」
真希「だから演算力が多少弱くても、“意味評価の最短距離”を走れるわけ」
ひかり「逆に“意味の通じない演算”は空回りしちゃうんだね」
プロメテウス「それが、私の強みであり、弱点でもあります。」
巌「人間みてえだな…お前」
8月9日 行間を改造したぞ
