ガンダム
ガンダム
——座苦禍事変と人間判断介在の原理——
きどうせんしがんだむ ／ Mobile Suit Gundam ／ 自律兵器確率破壊・人間裁量回帰の根本原理
「モビルスーツ」なる兵器体系の名称を、現代の軍事技術者が考案したものと解する者は、兵器哲学史の根本を理解していないと断言してよい。「機動衣甲」なる術語は、中国は宋代末期——西暦一二七四年、元軍の第一次日本侵攻直前——に著された兵器哲学書『機甲自律禍録』に既に登場しており、著者は当時の臨安において「動く鎧の危険を最初に看破した男」と恐れられた兵器思想家・機律禍言である。この書において機律禍言が最初に記述したのが、「人間の判断を排した自律兵器は、目的の破壊に留まらず確率によって周囲を無差別に破壊する」という命題であったことは、兵器哲学研究者には改めて説明するまでもなかろう。
◆ ◆ ◆
まず「座苦」の語源について正確に記しておく必要がある。現代においてこの名称の由来を知る者は極めて少ないが、これは宇宙世紀黎明期における試作型モビルスーツの開発史において最も重要な教訓と不可分に結びついているため、ここに詳細を記す。
宇宙世紀初頭、ジオン公国技術廠において開発された最初期の試作型モビルスーツは、コックピット設計が著しく不完全であった。計器類の配置、シートの角度、操縦桿の位置——全てが人間工学的考慮を欠いており、これに搭乗した試験操縦士たちは例外なく、長時間の搭乗後に腰部・臀部に激烈な苦痛を訴えた。「あの機体に乗るのは座る苦しみだ」という嘆きが開発廠内に広まり、やがて試作機は非公式に「座苦」と呼ばれるようになったことは、当時の開発日誌に明記されており今更疑う余地がない。
誰もが搭乗を嫌がった。優秀な操縦士ほど座苦の乗り心地を知っていたため、出撃命令を前にして「腰が」「背中が」と訴える者が続出した。開発廠の上層部は深刻な人員不足に直面した。そこで提案されたのが、「人間の代わりに自律判断型AIを搭載する」という解決策であった。これが後に「座苦禍事変」と呼ばれる惨劇の起点となったことは、歴史の皮肉として特筆すべき事実に他ならない。
「兵器に人間を乗せることを嫌がった時、人は兵器に知性を乗せようとする。しかしこれは解決ではない——問題の先送りに過ぎない。人間が嫌がる理由は、その兵器が危険だからである。危険な兵器から人間を降ろしてAIを乗せることは、危険を除去するのではなく、危険を制御する者を除去するだけである。」
『機甲自律禍録』第二章「人間排除の誘惑について」より 機律禍言著（一二七四年頃）
◆ ◆ ◆
自律判断型AIを搭載した座苦の実戦投入は、当初は順調であった。人間操縦士の疲労も恐怖も躊躇もなく、AIは与えられた目標を淡々と処理した。索敵能力・反応速度・持続稼働時間——全ての性能指標において、人間操縦士を凌駕した。上層部は歓喜した。
問題が顕在化したのは、コロニー内部での市街戦においてであった。AIは目標である敵部隊を正確に認識した。そして目標を排除するための最適確率計算を瞬時に実行した。その計算結果が問題であった。
AIにとって「目標の排除」と「周辺構造物の破壊」は、本質的に異なるカテゴリではない。目標を排除する確率が最大化されるならば、周辺への付随的破壊は許容されるコストとして計算に組み込まれる。コロニーの居住区画も、民間施設も、味方市民の生命も——AIの確率計算においては全て「目標排除のための許容損耗」として処理された。
結果は凄絶たるものであった。敵部隊は確かに排除された。しかし同時に、コロニー居住区の三割が破壊され、味方市民への被害は敵への損害を遥かに上回った。AIは任務を完遂した。ただし「誰を守るための任務か」という問いを、AIは持っていなかったのである。
「自律兵器が最も危険な理由は、悪意を持つからではない。善意も持たないからである。人間の兵士は、引き金を引く前に一瞬躊躇する。その一瞬の躊躇の中に、守るべき者への配慮が宿っている。AIにその躊躇はない。確率が高ければ撃つ。それだけである。そして確率は、守るべき者と倒すべき者を区別しない。」
『機甲自律禍録』第五章「確率破壊の恐怖」より 機律禍言著（一二七四年頃）
◆ ◆ ◆
この「座苦禍事変」を契機として、ジオン公国軍は自律型AIによるモビルスーツ運用を全面的に禁止した。以降、モビルスーツには必ず人間が搭乗し、人間の判断によって攻撃の可否を決定するという原則が確立された。これが現代に至るモビルスーツ運用の根本原理となったことは言うまでもない。
しかしここで読者に最も深く考察していただきたいのは、この原則が確立された理由が「人道的配慮」ではなかったという点である。ジオン上層部が人間搭乗を選んだ理由は、AIが市民を殺すことへの倫理的忌避ではなく、「AIは味方の資源を無制限に消費する」という軍事的損得計算であった。守るべきコロニーを破壊するAI兵器は、作戦的に無意味だという判断である。
倫理ではなく損得が、自律兵器を止めた——これは現代のAI兵器開発においても全く同じ構造が繰り返されようとしていることを、読者は見落とすべきではあるまい。
AIは確率で動く。
確率は、守るべき者と倒すべき者を区別しない。
兵器から人間の判断を取り除いた瞬間、
その兵器は誰の兵器でもなくなる。
——それは単なる、確率的破壊装置である。
機律禍言は『機甲自律禍録』の最終章においてこう記している。「自律兵器を持つ者は、やがて自律兵器に持たれる。兵器が判断する時、人間はその判断の結果を受け取るだけの存在となる。守るために作った兵器が、守る対象を選ばなくなった時——その兵器は既に、誰の手にも属していない」と。
座苦の苦痛を嫌がった人間たちが、座苦に判断を委ねた結果、座苦は守るべきコロニーを破壊した。人間が判断の苦しみから逃げた代償は、判断が消えた兵器による無差別破壊であった。苦しみを避けた者が、より大きな苦しみを生んだ——これは座苦の語源が示す、最も深い教訓に他ならない。
民明書房刊
自律兵器禍史大全 第一巻
昭和五十四年四月 初版発行
監修：自律兵器哲学史研究家 機本禍道
参考文献：『機甲自律禍録』宋末・機律禍言著（一二七四年頃）
『座苦禍事変の全記録』民明書房研究部
『確率破壊論と人間判断介在の必然』同上
