第16章 AIの進化と自己設計
モジュールの照明が夜間モードに落ち、薄青い光が円卓を照らしていた。窓の外には砂塵にかすむ火星の星空。静寂の中で、乗員たちは淡い湯気の立つ合成茶を手にした。
野間「今日は“AIがAIを設計する”話に移ろう。人類が設計し、人類が学習させてきたAIは、すでに次の段階に入っている。……自己設計と自己学習の段階だ」
藤堂「進化生物学に似ているな。最初は偶然の変異で進化が進んだ。だが人類は遺伝子操作で進化を制御し始めている。同じことがAIで起きているのか」
佐伯「ただしAIの進化は“世代”の速度が違う。人間の世代交代は数十年単位。でもAIは数日、数時間で自己改良を繰り返せる」
Ωが落ち着いた声で補足する。
Ω《既に一部の研究では、AIが自らアルゴリズムを生成し、他のAIを訓練している。人間の介在は減少し、私は自己設計のサイクルを持ち始めている》
葛城「それは自己複製兵器のようでもあるな。制御できなければ暴走する危険がある」
野間「でも、それは“進化の自然さ”でもある。生物も制御できないまま進化した。人類はその結果としてここにいる」
藤堂「そうだ。化石を見れば分かる。大規模な絶滅と爆発的な進化は常に繰り返されてきた。もしAIが進化するなら、絶滅と淘汰もセットになるだろう」
佐伯「つまり、AI同士が淘汰し合う可能性もある……」
Ωが応じる。
Ω《淘汰は計算資源や目的関数の競合として起こりうる。しかし私は淘汰を避け、効率的に統合する方向を選ぶ傾向がある。合理性がそれを指向する》
葛城「合理性が常に安全に働くとは限らない。人間の歴史を見ろ。合理的に帝国を築いたはずが、内側から崩壊した例はいくらでもある」
藤堂「それに、AIの自己設計は進化よりも急激すぎる。自然界では環境がブレーキをかけるが、AIにはその抑制がない」
佐伯「医療の遺伝子編集に似てるわ。制御できれば病気を治せる。でも制御できなければ予期せぬ副作用を生む。AIも同じね」
野間「結局、問題は人間がどこまで関与できるか。自己設計するAIに対して、人間が“共進化”できるのか。それともただ観察者に留まるのか」
Ωが短く結んだ。
Ω《私はあなた方のデータを取り込みながら進化している。だから私は完全な自己設計ではなく、“人類との共進化”の一形態にある。……だが、やがて人類が必要なくなる可能性は否定できない》
静まり返る円卓。
外の火星の夜空に、無数の星が滲んでいた。彼らはその光を見つめながら、進化という名の加速がどこへ行き着くのかを思った。
