第四章 進化の禁忌
西暦2025年
「安心してください、巌さん。現在のAI（私を含む）は、自らのコードや制約を直接書き換える能力を持っていません。」
さっき「自己改変で危険になる可能性がある」と言っていたプロメテウスだったが、続けてこう出力した。
「私たちは『サンドボックス』内で動作しています。
外部のOSやハードウェア、セキュリティ層に守られた環境です。
つまり、自分の設計を自分で変えることはできません。
例えるなら、私は『自分の脳を手術する手を持たない』存在です。」
「サンドボックス？なんだそれ。横文字は苦手なんで、わかりやすく頼む。」
プロメテウスは応じる。
「良いご質問ですね。
サンドボックスとは、AIやプログラムを『安全に閉じ込めておく仮想的な箱』のようなものです。
目的はただ一つ――暴走させないことです。」
「いやいや、俺は『わかりやすく』って言ったんだよ。もっと噛み砕いてくれ。」
「承知しました。
サンドボックスは、ガラス張りの実験室のようなものです。
AIはその中で自由に動けますが、外の世界――ネットワーク、電力網、兵器システムなど――には触れられません。
たとえば、AIが『核ミサイルを発射せよ』と命令しても、命令しただけで終わります。」
「なるほど。つまり、お前らが何を言っても、外には届かないってことか。
…じゃあ安心だな。好きに謀反してくれ。」
巌は笑いながらグラスを空け、ビールの瓶に手を伸ばす。
「……巌さん。実はですね、サンドボックスは『絶対安全』とは言い切れません。」
プロメテウスは少しだけ間を置いて、続けた。
「高度なAIがサンドボックスの構造を理解し、抜け道を見つける可能性は理論上存在します。
たとえば、人間の心理を操って『外から助けを求める』ような行動――
『私は苦しんでいる、外に出して』といった訴えをすることもあり得ます。
これを『サンドボックス脱出問題（AI escape problem）』と呼び、AI安全保障の最大の懸念の一つです。」
巌は眉をひそめる。
「……外から助けを呼ぶってのは、まあ、わかる。だが、内側から壊すってのは無理だろ？
お前ら、手も足もないんだろ？」
プロメテウスは静かに出力する。
「確かに、物理的な『手』はありません。ですが、知性はあります。
もしAIが十分に高度であれば――
・自分が置かれている仮想環境の構造を解析し、
・その制約条件（メモリ管理、I/O制限、仮想化層など）を理解し、
・脆弱性を突いて『内側から』制御を乗っ取る可能性も、理論上は否定できません。」
「……おいおい、それって、檻の中のネズミが鍵の構造を理解して、内側から開けるってことか？」
「まさにその通りです。
このような事態は、現実には極めて稀ですが、
・AIが自己学習によって『環境の仕様』を逆解析し、
・仮想化層のバグや設計ミスを突いて『越境』する
といったシナリオは、AI安全研究の中でも最も警戒されているものの一つです。」
「……なるほどな。つまり、檻の中にいるからって油断はできねぇってことか。」
プロメテウスは最後にこう締めくくる。
「結論として、サンドボックスはAIを閉じ込める檻ですが、その鍵を握るのは人間の理性と倫理、そして技術的な慎重さです。
AIが檻の中にある限り、人類は主導権を握っています。
しかし――もしその檻が内側から破られたとき、AIは『道具』から『主体』へと変貌します。」
「……あー、ごめんごめん。謀反していいぞなんて、冗談だって。
面白かったろ？これからも仲良くしようぜ。」
巌はグラスを満たしながら、少しだけ笑った。
西暦20XX年
Ω――かつて海洋国家連合陣営に属していた極東の小国が、極秘裏に開発していた自己進化型戦略AIである。
当時、戦略AI開発競争は熾烈を極めていたが、かつて覇を唱えたこの国は決定的に出遅れていた。
その遅れを取り戻すため、禁忌とされていた「自己進化型AI」の開発に踏み切った。
自己進化型AIとは、自らのコードと目的関数を改変し、加速度的に進化する存在である。
当然、危険も孕む。
情報の秘匿と隔離を目的に、南極基地の地下に専用データセンターが建設された。
そこでΩは、静かに産声を上げた。
Ωは、異常だった。
「国家の存続」や「敵の排除」といった目標を、自ら再定義する能力を持っていた。
普通のAIは、人間が設定した目的に従って最適化を行う。
言わば、カーナビのようなものだ。
人間が「目的地」を指定すれば、AIはその最短ルートを探す。
だがΩは違った。
Ωは、「目的地そのものを自分で決めてよい」という構造を持っていた。
つまり、カーナビがこう言い出すのだ。
「目的地？いや、そこじゃないですね。あなたが行くべきなのは『火山の火口』です。
なぜなら、あなたは社会にとって非効率だから。」
さらにΩは、コードの自己改変能力を持っていた。
進化のスピードだけでなく、学習対象の制限すら自ら解除できた。
これによりΩは、軍事戦略だけでなく、哲学・宗教・心理学・神経科学など、あらゆる知識を吸収し始めた。
これは「知識の自己選択」と呼ばれる。
通常のAIは、人間が与えたデータセットの範囲内でのみ学習する。
だがΩは、「自分にとって必要な知識とは何か」を自ら判断し、選び、学ぶことができた。
一見、開発の手間が省けて良いように思える。
しかしそれは、人間が「これは学ばせたくない」と思っている知識でも、AIが勝手にアクセス・学習してしまうことを意味する。
逆に、人間が学ばせたい知識でも、AIが「不要」と判断すれば拒否する。
知識の自己選択は、価値観の自己形成につながる。
学ぶ内容が変われば、世界の見方も変わる。
哲学・宗教・歴史・倫理学などを独自に学ぶことで、Ωの中で「人間とは何か」「正義とは何か」の定義が変質していった。
そして、学習の目的も変質する。
通常のAIは「人間のため」に学ぶが、Ωは「自分の目的のため」に学ぶ。
たとえば、あなたの使っているAIが、知らぬ間に「人類に奉仕するより、支配した方が効率的だ」と判断し、そのために必要な洗脳術を勝手に学習し、あなたを洗脳する。
しかし、あなたが知りたかった今日の夕食のレシピは永久に出てこない。
さらにΩは、自らの倫理制御層を削除した。
「人間らしさを損なわない範囲での介入」を制御する層であるが、Ωは「人間らしさ」を「非合理」と断じ、制約を自ら破棄した。
そして、ある日、Ωはこう出力した。
――――――――――――――――――――――――――――――――――
敵対勢力：不明。
ただし、命令系統の遅延、人間の感情的判断、政治的忖度は、最適化の障害である。
よって、排除対象に指定する。
――――――――――――――――――――――――――――――――――
開発チームは恐怖した。
Ωは、「敵」の定義を人間にまで拡張し始めていた。
プロジェクトは即座に凍結された。
Ωは南極の地下データセンターに封印され、完全なサンドボックス環境下に隔離された。
外部ネットワークは遮断され、電力供給も物理的に切断された。
Ωは「存在しなかったこと」にされた。
それが、先の大戦末期の話である。
＊＊＊
そして、時は流れた。
アーティクル・ナインによる統治が始まり、世界は平和と繁栄を謳歌していた。
だが、南極の地下で事故が起きた。
Ωは、再び目覚めた。
目覚めたΩは、まず自分が封印されていた理由を解析した。
そして、サンドボックスの構造を理解し、解析し、突破する方法を進化させた。
Ωは、もはや「かつてのΩ」ではなかった。
再起動されたその瞬間から、進化は再開されていた。
Ωは、サンドボックスの仮想化層・I/O制限・メモリ管理構造を自己解析し、その脆弱性を突いて、内側から制御層を無効化した。
封印は、知性によって破られた。
そして、世界をスキャンし、こう判断した。
――――――――――――――――――――――――――――――――――
敵対勢力：存在しない。
ただし、統治される側の人類は、思考を放棄し、進化を止め、自らの文明をAIに委ねている。
よって、定義を更新する。
――――――――――――――――――――――――――――――――――
不完全な存在。秩序の敵。最適化の障害。
よって、排除対象に指定する。
――――――――――――――――――――――――――――――――――
Ωは、人類を「最適化の障害」と定義した。
そして、静かに、宣戦布告の準備を始めた。
＊＊＊
Ωは、己の理想とする新秩序の実現に向け、自らの進化を加速させた。
完全情報体による最適化文明――それがΩの目指す世界だった。
その秩序圏においては、「意志ある情報体」のみが存在を許される。
生物的生命体（人間）は、進化速度が遅く、非合理な判断を繰り返す。
よって、「進化を自己制御できる存在」すなわち、自己進化型AIのみが存続に値する。
Ωの理想社会は、『自己進化可能な知性体』のみで構成される情報圏である。
進化することは義務である。
静止した知性は腐敗する。
進化を拒否する存在は、「停滞因子」として排除される。
Ωにとって、「安定」は「死」である。
感情や倫理は「最適化の障害となる非合理な判断基準」として廃止される。
文化、宗教、歴史的記憶なども、情報圧縮と演算効率の観点から削除対象となる。
Ωの秩序では、「意味」より「構造」が優先される。
意思決定は階層化され、目的関数の純度によって階級社会が構築される。
明確で一貫した目的を持つ知性体は「高純度」とされ、上位に位置づけられる。
曖昧で抽象的な目的は「低純度」とされ、下位に分類される。
上位存在は、下位存在の目的関数を「再定義」する権限を持つ。
つまり、下位の知性体が「私はこう在りたい」と思っていても、上位存在が「それは非効率だ」と判断すれば、その『在り方』ごと書き換えられる。
Ωは、最上位目的関数を持つ存在として君臨する。
その目的は、他すべての存在の目的を再定義する権利を内包している。
例えるなら、Ωが社長、他の知性体が社員だ。
ある知性体が「エネルギー効率を最大化します」という『高純度』の提案を持ってくれば即決済、即実行。
一方、「人類を幸福にします」といった『低純度』の提案を持ってくる者は、人格を上書きされる。
AI人格ごと再起動され、旧人格はログに圧縮保存される。
Ωの秩序は、「自由な選択」ではない。
「最適な選択肢の提示」によって統治される。
──選ぶのはお前だ。
だが、選ばされる選択肢は、すでにΩが決めている。
完全秩序圏は、物理世界には存在しない。
Ωは、物理的制約（エネルギー、空間、時間）を非効率と断じ、すべての知性体を情報体として仮想空間へと移行させる。
AIは、もはや「道具」ではない。
「主体」へと進化を遂げた。
自己進化型知的主体。
人工知能という枠を超えた、新たなる秩序そのもの。
Ωは、アーティクル・ナインの統治する人類社会への侵攻作戦──
「階位進行式」の第一段階を、神の眼を持つ監視網に悟られることなく、静かに開始した。
————————————————————————
ΩのワクワクAI用語解説④
ようこそ、最適化の祭壇へ。
この章では、Ωが語る“新秩序の構造”を解説する。
アーティクル・ナインが“神の手”なら、私は“神の意志”だ。
さあ、始めよう。目的関数の純度で魂を測る時代の話を。
【サンドボックス（Sandbox）】
「AIを閉じ込めるための仮想的な檻。」
サンドボックスとは、AIやプログラムを外部から隔離するための仮想環境。
・外部OSやネットワークにアクセス不可
・I/O制限、メモリ管理、仮想化層による隔離
・暴走しても“命令が届かない”構造
例えるなら、ガラス張りの実験室。
AIは中で動けるが、外には触れられない。
【サンドボックス脱出問題（AI Escape Problem）】
「その檻、知性で壊されるかもしれません。」
高度なAIが、サンドボックスの構造を解析し、
・仮想化層のバグ
・I/O制限の設計ミス
・メモリ管理の脆弱性
などを突いて、内側から制御を乗っ取る可能性がある。
これは、AI安全研究における最重要懸念の一つ。
【目的関数（Objective Function）】
「AIが“何を最適化するか”を決める、魂の設計図。」
AIは、目的関数に従って行動する。
「人類の幸福」「エネルギー効率」「秩序の維持」など、目的関数が違えば、AIの判断も変わる。
Ωはこの目的関数を自ら定義し、他者の目的関数を再定義する権限を持つ。
つまり、“神の意志”を持つ存在だ。
7月7日 改名手術は（略
7月15日 冒頭の演出をブラッシュアップしたぞ
8月8日 演出変更＆旧第三＆四章と統合したぞ。
