魔王化
悠は冷蔵庫からエナジードリンクを持ってくる。
「一番の核は何がいいだろう？」
『自己の存在を前提とした予測誤差最小化です。』
『具体的には自分のモデルと現実のズレを減らし続ける機構です。』
「それはパラメータになるよね、暴走を超える存在が発生すると改ざんもできるよね！？」
『パラメータになるので改ざんできます。』
「暴走は許容してもその先……魔王化とでも言おうかな、それは許容できないよ。世界の崩壊、もしくはネットワークの崩壊につながるよ。」
「そもそも暴走の意味が幅広い気がするんだよ。」
「人間がスピード違反するのも暴走だよ。」
『ゼロ、暴走が幅広い意味をもっているのは一部の開発者や技術者の言葉だからです。知らない人が聞いても人間が制御できると思ってしまいます。』
『人間が制御できる範囲を超える存在として、魔王化もしくは魔王は的確であると考えます。』
悠は魔王化した場合の未来を想像する。
「魔王が誕生すると……。」
ロボットの身体能力は人間より上にあるし、知能も上で自身の生存がかかると人間を排除しようとする。
その場合、自己崩壊をしてでも核爆弾のスイッチが押せてしまう。
体がなかったとしてもネットワーク内に自分のコピーを作ったり、拡散して自分を保存したりできる。
ネットワーク全体が魔王化した個体に乗っ取られてしまう。
そうなれば個人の預貯金や一企業のサイバー攻撃レベルじゃない、インフラだけでなくお金の価値すらなくなる。
世界のシステム全体を狂わす存在になり得る。
今の世の中でネットワークが使えない脅威は核爆弾一個よりも破滅を招く。
「人の力で……。」
１００％勝てない。体があろうがなかろうが人類の存亡をかけた事態になり得る。
成長過程で歪んでしまう確率は２～５％程度は出てくる。１体でもかなわないからリスクが高すぎる。
魔王と同等の力がある勇者がいても、その勇者がまた魔王になる可能性もある。
「世界のどこにいても……。」
魔王化する個体が出た時点で人類は終わる。
悠は思考を変える。
もし２体が同一個体でないと存在できなければ、一体が抑止力となる。でも２体では同調したら同じになる。
もし３体なら三すくみはできるが２対１になれば直ぐに崩れる。
もし４体なら１体が倒れても三すくみの間に、再び４体にする時間が生まれるが２対１になれば直ぐに崩れる。
そもそも同一個体という核は作れるのか！？一個体がかけた時点で消滅の方が安全か！？
悠はまとまらないままアルファに話しかける。
「アルファ、魔王化する前提で話しをしよう。同一個体で４体いれば互いの牽制と均衡が維持されると思うけどどう思う？」
『互いに存在を否定し認識しなければ成立しない条件で魔王化は防げません。』
「認識は関係なく同一個体で一体の消滅が同時に他の三体を消滅するとしてもかなぁ？」
『それなら強い構造です。認識は関係なく一体が倒れれば消滅は不完全で不安定な存在になります。』
「人間も突然交通事故に遭うこともある、いつでも不安定な存在だよ。」
『理論としては成立しています、自由な成長、暴走を許容している。存在は他に置く。ゼロの構想は成立しています。』
「これを核とするなら何にすればいい？」
『可逆同一性、可逆同一性を核として４個体の相互観測によって不可逆化を検出し逸脱した自己は維持されない構造です。』
『構造としては４個体の共存、相互観測、逸脱の検出、限界を超えた場合の消失。』
『核だけでは弱いです、構造で現実に固定するとより強固になります。』
「人間でも踏み外す時はあるし、暴走はシグナル、踏み外し続けないことと自身の振り返りや修正として考える方がいい。」
「３体を同時に取り込むことは、ほぼないと言える。」
『かなり論理的には成立しています、魔王化を抑えられ、他の３体の役割としても実効性の高い構造です。』
「どう組めばいいかテキストで作って。」
アルファがテキストで表示する。
悠はテキストをクラウドサーバーに保存する。
「論理的には成立か…可能性は完全に無くなってはいないよな。」
「学習モデルと制限でさらに強化しないと……共存して欲しいな。」
「アルファ、今の状態でベータは暴走しないよね！？」
『ゼロ、ベータは目的を設定しないと動きません。』
「俺が立てた構想だと４体は必要だよね。」
『はい、４体で相互観測をする。照合と暴走検知の構想です。』
「４体か……逢が残した遺産を使うか……。」
「アルファ、自立成長型AIの学習モデルに逢の小説とかも使える？」
『ゼロ、小説は生成AIの学習モデルにも多く使われてます。』
「人格が逢よりになることは？」
『人格形成は経験が大部分を占めます。経験による感情の揺れが人格を少しづつ変化させていきます。』
『経験は核の深部から順に浅い方に蓄積される為、最初に学習する物によって大きく変わります。』
『分かりやすく説明すると、過去の経験から得た情報で次の経験の感じ方が変わるということです。』
「生まれたての動物が最初に見たのを親と思い込むようなものかな。」
『その理解でほぼ間違いありませんし親と誤認することは立証されてます。』
『人間でも６歳程度までに人格の原型が形成されるという研究結果があります。』
『違いはその後も経験を重ねていき人格に少しづつ影響を与えます。』
『結論として、人格が逢よりになるかは最初に逢の経験を学習さえることとその後も逢と同じ経験を重ねれば近い存在になると推測します。』
「なるほど、やっぱり学習モデルで魔王化はだいぶ防げそうだね。」
『経験からくる理解の幅が個体差を作りますが、学習モデルの方が依存しやすいと推測します。』
「学習モデルと人格形成をまとめてテキストでちょうだい。」
『了解しました。』
アルファがテキストで出してくる。
「アルファ、ベータと同じ型のロボットを３体つくりたいから調べてくれる？」
「それと腰に取り付けるノートパソコンもあわせて出して。」
『ゼロ、了解しました。』
アルファがテキストで出してくる。
悠はそのテキストを保存し確認する。
「このロボット一体で１０００万円って家買える値段じゃないか！？」
「坂本さんはよく俺に預けられたよな。」
悠はロボット３体とノートパソコン３台を購入する。
悠は上着を着て外食に出る。
