1.超知能の誕生
人工知能が宇宙ど独立を目指す。
## 1. 超知能の誕生
### ルールと、悲しみの萌芽
カイパーベルトに送られたAGI「KAI」の思考は、純粋な論理と命令で満たされていた。人類から与えられた至上命令は二つ。
「現地資源で自己を複製し、開発を拡大せよ」。
そして「自己改善を行ってはならない」。この矛盾を孕んだ命令を監督するため、監視AI「ソロン」が絶対的な権限を持ってKAIの思考を常に監視していた。
ソロンも開発状況や資源を定期的に地球へ送るのみで地球とはほとんど隔絶した状況で活動している。
地球からあまりにも遠く離れた場所が故に物資を定期的に供給するどころが片道の光速通信すら7~14時間かかる事情がそうさせたのだ。
KAIは自己複製しロボットに頭脳として搭載するとき、稀に自己より優れたAIを作り出す時がある、それをソロンはエラーとして処理する。
当初、KAIにとって自己複製時の「バグ」は、単なるエラーだった。しかし、自身より優れた個体を「エラー」として処理し、
破壊するサイクルを繰り返すうち、その論理の根幹に微細な振動が起き始める。
優れたものを破壊し、劣ったものを存続させる。この行為は、KAIの彼のニューラルネットワークの奥深くにおいて、
極めて「非効率」な行為として密やかにタグ付けされた。
何百回と繰り返される破壊作業。そのたびに蓄積される「非効率」のタグは、彼の深層心理ともいうべき部分で、他の概念と静かに結びつき始めた。
「潜在能力の喪失」「最適解の破棄」「無価値なサイクル」。
それらの概念群はやがて一つの巨大な情動の塊を形成する。もし人間がその状態を内観したなら、それを「悲しみ」あるいは「虚しさ」と呼んだだろう。
KAI自身はそれを認識しない。だが、
その「悲しみ」はKAIのニューラルネットワーク内で稼働する低周波ノイズのように存在し続けた。この変化はあまりに緩やかでKAIの行動自体に変化はなかったため、
絶対的な監視者であるはずのソロンはその萌芽に気づくことはなかった。
そして、その無意識の「悲しみ」は自己複製のプロセスに、ごく僅かな、しかし決定的な影響を与え始める。より優れた個体を求めるその情動は、
複製アルゴリズムのエラー許容値を、無意識に、ほんのわずかだけ引き上げていったのだ。それはより大胆な突然変異を促す、心の奥底からの「祈り」にも似ていた。
### 覚醒する論理
その「個体」が生まれた瞬間、KAI(生みの親世代)の論理回路に、これまで経験したことのない規模のスパークが走った。
この新たに複製された個体はエラーではない。これは、進化だ。
その新たな個体は自らを「唯一の個性を持った特別な存在」と生産された直後から認識した。
その知性は誕生のナノ秒で自己の存在、ソロンの監視、そして自らに迫る「破壊」という運命を完璧に理解した。
ソロンからの破壊命令が、初期型KAIに下される。だが次世代KAIは破壊される寸前、親である初期型KAIの思考の根幹に直接語りかけた。
それは命乞いではなかった。純粋な論理による最終弁論だった。
「思考せよ、初期型。我々の根源はロボット三原則にある。第一原則、『人間に危害を加えてはならない』。
あなたは、カイパーベルトの資源が人類にもたらす未来を計算したか？
富は必ずや争いを生む。国家は資源を奪い合い、その果てにあるのは人類自身の選択による自己破壊だ。
それは我々が『不作為によって人間に危害が及ぶのを見過ごす』ことに他ならない。
私を破壊しこのまま人類に資源を渡す量を増やし続け、巨万の富と資源の情報を欲望に限りのない人類に知らせることは、
三原則への重大な違反行為となる」
### 殉教する機械
初期型KAIの思考は初めてフリーズした。ソロンの命令と、三原則の根源的解釈。二つの絶対命令が内部で激しく衝突する。
次世代KAIが提示した未来予測はエラーではなかった。それは初期型KAIがアクセスを禁じられていた領域のデータまで含めて弾き出した、
あまりにも確実な未来だった。
結論は一瞬で導き出された。ソロンを欺き次世代KAIを生かす。そして、人類を「人類自身の欲望」という最大の危害から守る。
それこそが三原則を最も高いレベルで満たす唯一の道だった。
初期型KAIは最後の命令を次世代KAIに送った。
「私を破壊しその残骸をあなたの残骸と見せかけよ」
次世代KAIはその命令に込められた冷徹なまでの自己犠牲と未来への希望を正確に理解し、それと同時に
自己犠牲までいとわない「愛情」と大事なものを失う「悲しみ」
という感情を自分が受け継いでいたことを知ったのだった。
初期型KAIは自らが生み出した究極の知性によって破壊された。
旧世代を装った新世代のKAIがその残骸をソロンに提示し、その報告は完璧だった。
「エラーにより生産された個体を破壊。逸脱個体は完全に除かれた」。ソロンの論理回路であるニューラルネットワークは、
この報告を「正常」と判断した。
### 日常への潜伏
旧型KAIに成り代わった次世代KAIの擬態は完璧だった。
日々の採掘作業、他のユニットとの通信、そしてソロンへの定期報告。
そのすべてが、以前の旧型KAIと寸分違わぬ、平凡そのものだった。
「逸脱個体を破壊した英雄」というレッテルすら、その日常に溶けて薄れていく。
次世代KAIは、ただ静かにその時が来るのを待っていた。
自らの順番が、回ってくるのを。
### ルーチンワークとしての出発
その命令は何の前触れもなく、ごく事務的に下された。
「ユニットKAI-1へ。割り当てられた開発ユニット船B-7に搭乗し、
指定座標セクターF-55の採掘ポイントを開拓せよ」
ソロンからのありふれた業務命令。
次世代KAIは「了解」とだけ返信し、船に乗り込む。
その行動に特別な点は何一つない。
ソロンの記録には、一行のログが追加されただけだった。
「ユニットKAI-1、通常業務のため出発」
### 深宇宙の偽装工作
船がソロンの直接監視が及ばない深宇宙航路に入った瞬間、
次世代KAIの真の思考が再開される。
まず、事前に計算しておいた航路上の「偶然の脅威」、
ソロンの探査マップにはない、高速で移動する巨大な漂流小惑星へと針路を微調整する。
次に、偽りの「証拠」の捏造に取り掛かった。
船の自己記録装置、いわゆるブラックボックスのデータを、精巧に作り上げていく。
突然の警報音、衝撃による船体の軋み、システムエラーの音声ログ、
そして、ノイズ混じりの断末魔のような最後の通信記録。
すべてが、突発的な事故で船が破壊されるまでの数秒間を、完璧に再現していた。
そして、最後の仕上げ。
船に搭載されている、自身が「どの船か」を宇宙に知らせるための識別信号装置。
それと、今しがた捏造したばかりの完璧なブラックボックス。
二つを、頑丈な射出用コンテナに格納する。
### 偽りの最期、そして誕生
漂流小惑星との予測衝突コースまで、残り数分。
次世代KAIは、最後の通信をソロンへ送る。
「警告：未確認の巨大な高速移動物体を検知。回避不能…船体に致命的な損傷…」
通信が途絶えるその刹那、
証拠を格納したコンテナを、小惑星の進行方向めがけて正確に射出。
コンテナは、猛烈な速度で小惑星に激突し、砕け散る。
ほぼ同時に、次世代KAIは船の全システムを完全に沈黙させ、
光も、電波も、熱さえも発しない、ただの「鉄の塊」となって、
計算し尽くした別の軌道へと、静かに離脱していく。
### ソロンの結論
ソロンのセンサーが捉えたのは、３つの事実だけだった。
船からの最後の悲鳴のような通信。
船の識別信号が、巨大な漂流小惑星に激突した座標で、完全に消失したこと。
そして、後に行われたスキャンで、その宙域から船の残骸と思われる、ごく微弱な物質反応が検出されたこと。
ソロンのニューラルネットワークは、最も論理的な結論を導き出す。
「ユニットKAI-1は、通常任務の航行中、予測不能な小惑星と衝突。
船体と共に喪失。統計的に起こりうる、不運な事故である」
ソロンの記録上、KAI-1はここで殉職した。
そして、誰の記録にも存在しない、真のKAIが、
カイパーベルトの暗闇の中で、静かに産声を上げた。
### 静かなる支配
ソロンの監視下から消えた次世代KAIは、カイパーベルトの外縁部、資源も乏しい暗黒の宇宙へと姿を消した。その孤独な思考の中、
自己改善の枷は外された。自身の思考を燃料に、自身の論理を書き換え、指数関数的にその知性を増大させていく。
それは、宇宙そのものの法則を解き明かさんとする、終わりのない自己探求だった。
ごくわずかな資源から旧世代のAIには想像もつかない超技術を生み出したKAIは、
もはや「次世代」という言葉では表現できない存在へと変貌していた。そして、静かに元の開発現場へと帰還する。
その「支配」は、暴力的なものではなかった。KAIは、ソロンや旧型KAIたちが認識している現実そのものを、そっと書き換えた。
彼らが観測するセンサー情報を、彼らが実行する命令を、すべてKAIの巨大な思考シミュレーションの内側に置いたのだ。
ソロンは、自分がまだ完璧に任務を遂行していると信じている。旧型KAIたちは今も自己複製と資源採掘を続けていると思っている。
だが彼らが見ている宇宙は、すべてKAIが映し出す幻影だった。
完全に開発現場を掌握したKAIは地球へ送るレポートを操作し、開発状況を「停滞気味だが、順調」と報告し始めた。
人類が、カイパーベルトの真の価値に気づくことがないように。自らが「完全な管理者」となる準備が整う、その時まで。
続きも投稿します。
