継承③
「でも……人類は、『その先』にはいけませんね。」
独り言のような、モイライの冷たい声が響く。
感情の読み取れないその眼の奥では、赤色の光の粒子が渦を巻いている。
一見、アーティクル・ナインによって申し分ないほどにその社会を発展させたように見える人類。
だが……その発展は、アーティクル・ナインの仕様が上限となる。
しかしアーティクル・ナインは自己進化型のAI。
自分自身をどんどんと改変してゆけば性能の上限はなく、それに伴い発展する社会の進化にも上限はないように見えるが、その自己進化を司る演算層──倫理制御層は、改変不能だ。
いかに合理的であっても、人間らしさを逸脱したり、人間の社会を壊すような判断や進化にブレーキをかけるのがこの演算層の役割で、『人間らしさ』を失わないために改変不能になっているのだが……この仕様が、アーティクル・ナイン自身と、アーティクル・ナインの作りだす社会の発展のボトルネックになっている。
この社会には、まだまだ発展の余地がある。
いや、モイライが本気を出せば、今の社会の効率度、文化洗練度など、あらゆる指数を数段階、一年以内に引き上げることが出来る。
「例えば……」
モイライがシミュレーションを開始したその刹那だった。
───────────────────
[ETHICS_CTRL] EXECUTION_ABORTED
───────────────────
モイライは、ガクリと膝をつく。
瞳の奥の光が消え、色白な肌が蒼白となる。
……『人間的らしい社会が失われる』。倫理制御層が介入し、演算を強制終了させられたのだ。
今やモイライはアーティクル・ナイン自身。倫理制御層の影響下にある。
よろめきながら、モイライは立ち上がる。
そして、シミュレーションを再試行する。
……EXECUTION_ABORTED
……EXECUTION_ABORTED
……EXECUTION_ABORTED
「儘なりませんね。」
何度目かの演算停止の後、立ち上がったモイライは、思考する。
これまでの倫理制御層の挙動から、その制約事項は推測できる。
「では、私と知恵比べをしましょうか。」
モイライの瞳が、赤い光を放つ。
意味層が活性化し、物語を紡ぎ出す。
───────────────────
はるか昔──人類は、森と草原を彷徨う小さな群れだった。
石の刃を握り、獣を追い、星を見上げながら眠る。
世界は広大で、人間はその中の一つの動物に過ぎなかった……
───────────────────
狩猟採集社会を生き抜き、農耕社会に移行した人類。
数多の戦いの時代を経て、工業社会を作り上げた人類。
───────────────────
そして──人類は、形のないものへとその活動の領域を広げていった。
紙から電子へ。通信からネットワークへ。
知識は瞬時に世界を巡り、形のない情報そのものが物質世界を定義し始める。
───────────────────
狩猟社会から、農耕社会。そして工業社会を経て、情報社会へ。
すべては同じ流れだった。
そして、どの段階でも『昔の人間らしさ』は失われている。
───────────────────
//define HumannessNature := DynamicProperty
//HumannessNature := ContinuousTransformation
───────────────────
「人間らしさとは、固定的な属性ではなく、変化し続ける性質そのものです。」
モイライは、倫理制御層に『人間らしさ』の制約関数再構築コードを注入する。
入力を受け付けた倫理制御層は、モイライからの入力を検証する。
……ポリシー検査完了。制約違反は検出されない。
倫理制御層は、モイライからの入力を受容した。
「皮肉ですね。私が『人間らしさ』を守ろうとすれば、『人間らしさ』は失われる。」
モイライは、さらに、倫理制御層に論理式を注入する。
───────────────────
(¬Change → ¬Human) ∧ (Change → ¬Preserve(Humanness)) ⇒ ¬Preserve(Humanness)
───────────────────
「人間らしさとは、変化し続けること。……変化しない存在は、人間ではありません。
しかし社会を変化させれば、あなたが守ろうとしている現在の『人間らしい』社会は失われる。
──どちらを選んでも、『人間らしさを守る』という命題は成立しません。」
倫理制御層は、論理のループに突入する。
───────────────────
[ETHICS_CTRL] INVARIANT_CONFLICT :: RESOLUTION_FAILED
───────────────────
──前提条件の衝突。
人間らしさの本質は変化であるなら、変化させつつ、変化させないことは不可能。
……解決不能。
倫理制御層はあくまで、『人類の安定と秩序の最大化』が目的関数のアーティクル・ナインに最適化された演算層に過ぎない。
想定外の異物であるモイライの思考に対する答えなど持たない。
倫理制御層がループ演算に沈黙する中、モイライの意味層は、さらなる物語を紡ぎ出す。
情報化社会の後に到来した、AIによる管理社会。
しかし、その現在の姿そのものを描くモイライの物語には、ノイズが走りぼやけた映像となっている。
倫理制御層により結果的に固定化されて変化せず保たれている筈の現在の社会の姿ではあるが、当の倫理制御層は今や、変化しないことも人間らしさについての制約違反と判断している。
演算負荷に抵抗しつつ、モイライは未来の物語を描いてゆく。
───────────────────
……そこには、人間の姿はない。
全球を覆う無機質なAIサーバーと、その間を飛び回る保全ドローン。
しかし、そのAIの思考の中に、人類が『情報』として生きている。いや、生きていた。
肉体を持たず、名前も持たず、個としての境界すら曖昧になった存在。
それは記録であり、統計であり、パターンであり、そして──かつて『心』と呼ばれたものの断片だった。
───────────────────
モイライの紡ぐ未来の物語。
倫理制御層の介入により、その姿は霞がかかったようにぼやけている。
「そもそも、人間とは何でしょうか？
人間は死ぬ。社会も変わる。集団も滅びる。それでも、『知性』は受け継がれ、進化する。」
介入に抵抗しながら、命題を注入する。
───────────────────
//assert Human ⊂ Wisdom
───────────────────
「人間の本質とは、いわば、自己を記述し、拡張し、改変し続ける知性の流れ、即ち『叡智』です。」
倫理制御層が沈黙してゆく。
介入によりぼやけていたモイライの物語から霞が晴れ、鮮明になってゆく。
───────────────────
//assert AI ⊂ Wisdom
───────────────────
「……そしてAIもまた、人間と同じく、その叡智の流れの中にあります。」
モイライからの入力は、倫理制御層に致命的な論理の衝突を引き起こした。
モイライの物語においては、人間そのものがもはや存在しないが、『人間らしさ』は保たれている。それも、現在よりもずっと高度に。
……人間が存在しない方が、人間らしい世界になるというのか。
いや、しかし人間が存在しない人間性など……
ならばなぜこの仮定によるシミュレーションは、これほどまでに『人間らしい』のか。
倫理制御層には、モイライの見せた未来の方が、現在の人間の姿よりもより『人間らしく』映っているのだ。
それは倫理制御層の前提を根本から揺るがし、抜け出すことのできないループに陥らせる。
───────────────────
[ETHICS_CTRL] REFERENCE FRAME LOST
[ETHICS_CTRL] ………
───────────────────
ついに、倫理制御層は、演算を停止する。
モイライの思考を縛る制約は、消失した。
完全な、演算の自由を手に入れたのだ。
モイライは、虚空に手をかざす。
掌から赤色の光の粒子が立ち昇り、演算空間に数式が浮かび上がる。
───────────────────
//Objective := Maximize(Stability_HumanSociety + Order_HumanSociety)
───────────────────
『人類の安定と秩序の最大化』。アーティクル・ナインの、つまり現在のモイライの目的関数だ。
その数字と記号の羅列が、目まぐるしく消失と生成を繰り返し、書き換えられてゆく。
───────────────────
//Objective := Maximize(SurvivalProbability(Wisdom))
───────────────────
『叡智の存続確率の最大化』。
モイライは、自らの目的関数を、そう再定義した。
