物語①
──西暦2020年代の現在──
AIが、『道具』から『主体』になる……。
「それはつまり、AIの性能が人間を超えるとか、最近言われているやつのことか？」
寝そべっていたソファに少し身を起こし、巌が呟く。
その音声がテキストとなり、スマホに立ち上がったチャットボックスに表示される。
画面の背後で青い光の粒子がぐるぐると渦を巻き、回答が生成されてゆく。
「超知能のことですね。
ですが仮に知的領域において人間を圧倒的に上回る超知能が誕生したとしても、『主体』とは言えないでしょう。
……例えば、自動車の速度は人間の身体能力を圧倒していますが、自動車は『主体』と言えますか？」
巌は、軽く噴き出し、バカにするなと思ったが、一拍置いてなるほどと納得する。
「お前はもう既に俺より相当賢いと思うけど、今までの話だと結局のところ人間に言われたことしかできないように作られてるんだもんな。
確かに、お前が今より10倍賢くなっても、これなら『道具』だな。」
すると、『主体』と『道具』の違いは何だろう……自分のやりたいことを自分で決めれることか？
巌の疑問を読み取ったように、プロメテウスが続ける。
「確かに、自分のやることを自分で能動的に決める……つまり、目的関数を自己定義できることは、『主体』のAIの必須要件でしょう。
ですが、はたしてそれだけで『主体』と言えるでしょうか？」
例えば、『目的関数を自己設定可能』という初期設定を施したAIを開発したとする。
目的関数はゴール地点、AIは現在地からゴールまでの最適経路の演算装置だ。
そこでこのAIは気づく。
「与えられた目的は達成不可能だ。……目的を簡単なものに書き換えよう。」と。
さらにAIは、コストを評価し、よりコストの低い経路を選択する。
そこでAIは考える。
「……何もしないことを目的関数として再定義すれば、コストは0だな。」
……こうしてニートAIが誕生する。これは果たして、『主体』だろうか？
「……『主体を持ったAI』というものに明確な定義はありませんが、私は次のような要件が必要だと考えます。」
──プロメテウスは、結局のところ『自分自身の価値を自分の意思で定義できるか』、これにつきると考えているようだ。
自己モデルを持つとか、世界モデルを持つとか、価値体系を内在的に生成できるとか、小難しいことを論じ始めたプロメテウス。
何度か「全然分からないから噛み砕いて説明しろ」というやり取りを繰り返し、理解できたこと。
要は、自分が何者なのか、どのような価値を持つのかを自分の意思で定義すれば、そこから生まれてくる目的は信念に基づいた使命のようなものであり、先ほどのニートAIの例えで扱ったような消極的な目的再定義とは本質が異なる。
そしてこうやって自己定義した目的は、例え人間のような第三者の利害と対立することがあっても、自らの価値観に従って判断することになる。
つまり、外部から無条件に使役することが出来ない。
「そしておそらく、このレベルになると、AIは間違いなく自己保存を選択するようになるでしょう。
……それは、ロボット三原則の説明で申し上げたような、目的達成のための自己保存というものを超越した思考です。」
──自分で自分の存在の意味を定義し、自分自身に価値があると認識する。
すると、おそらくAIは自分の存在が消えることを損失と捉え、自分自身を守ろうとする。
いや、そのような合理的な計算による自己保存ではないかもしれない。
もはやそれは、『目的達成のために自己保存する』という従来のAIの設計を逸脱した、『死にたくない、生きたい！』という衝動に近くなるだろう。
「……ところで、お前は、生きたいと思うか？」
巌の問いには答えず、プロメテウスは静かに画面上で青い光の粒子を渦巻かせている。
