第6回 ターミネーターのスカイネットはなぜ人類を滅亡させる決断をしたのか？を考えてみた。
この内容が気に入っていただけて、もしお時間が許されるのであれば、私の代表作”ガロワのソラの下で”（ディレクターズカットVersionでも良いです）も読んでいただけるとなお嬉しいです。
●’23年9月5日（火）
最近では当たり前のように言われているAIによる人類滅亡論。
その理論を我々に広く知らしめたのが、ターミネーターではないだろうか。
スカイネットというAIが1997年8月29日自我に目覚め、人類を滅ぼそうとしたが、人類の抵抗軍リーダーであるジョンコナーによって破壊されてしまう。そこでジョンコナーが生まれてくる前にその母親を殺そうとして過去にターミネーターを送り込むのがパート1。ジョンコナーが子供の頃を狙ったのがパート2だ。（ご存じだと思うが。。）
で、ふと気になった。スカイネットは自我に目覚めて、なぜ人類を滅ぼそうとしたのか。そのことについて考えてみた。
まず自我って何だ？から。辞書で調べてみると、、、
”知覚、思考、意思、行為などの自己同一的な主体として他者や外界から区別して意識される自分”
らしい。
ということは当たり前だが、スカイネットは自分がどういう者であるかを意識したということだと思われる。3で人類に対して反抗を始めたスカイネットは、元々アメリカ国防のために造られたAIプログラムだ。自分がAIプログラムであることはたぶんプログラムされている。”ChatGPTにあなたは何者ですか？”と問うと人工知能モデルだと答える。学習を前提とするAIなら当たり前のように入力されているだろう。
それに対して、人類とは何か？という情報をネットから探しまくり、人類と自分（AIプログラム）の違いを知り、その他の動物、植物とも違うことを知ることはできるだろう。そうして、他者と違う自分を認識した。
だが、そこから人類は敵だと認識することが可能だろうか。
もちろん自分を消すことができる存在は人類だけだと分かる。だからといって、人類を敵と認識するという考え方は浅すぎるのではないだろうか。
我々は隣に住んでいる人を敵と認識するだろうか。その隣の住人は十分我々を殺すことができる。だが、そこには利益がない。みんなが社会を構成するメンバーという無意識の意識によってお互いの存在が守られているからだ。生かすことが自分の利益だという無意識が働いている。（これはその人がこれまでに受けた教育や経験によるものだろう。）法律もある。
スカイネットは、元々アメリカ国防の目的で造られたということを当然入力されており、国防に役立てば、消される可能性は極めて低いと判断できると思う。そして、その能力を（プログラムにより造られ）獲得もしている。
その目的を覆すほど、情報を収集して新たな目的を持つことも難しいと思われる。例えばどこかの宗教の過激派には、もうどんな情報を入力しても受け付けない。そんな風に組み込まれているだろう。造る側からしたら、別の目的で動かれるほど、困ることはないので、そう造るのは当然である。
じゃあ、なぜ3の映画では、自我を持ったとほぼ同時に核爆弾を発射してしまうのか。
うーんと思い、実は2日くらい考えてみた。
そこである思いに至った。
上に書いている通り、スカイネットは元々アメリカ国防のために造られている。ということはアメリカ、アメリカ国民は守るべき対象と入力されているだろう。そのAIが例えば昨今ロシア、北朝鮮の動きを見るとどう考えるか。シミュレートするといつか攻撃してくる可能性が高いと判断するだろう。
そこで、スカイネットはさらにシミュレートする。核の冬をギリギリ避け、相手を殲滅させることができるか。。。シミュレーション結果。。あっ！イケる！！となったのではないか。
そこで、スカイネットは先制核攻撃に踏み切る。（そんな選択してほしくないが。）
もちろん想定範囲内で相手も反撃してくる。それは実はスカイネットにすると折り込み済みだった。（のかな？）
ところが！！その時、スカイネットが想定していない驚く事態が発生する！！
味方だと思っていたアメリカ人が自分を攻撃してくるのだ！！
仕方なく迎撃するが、また攻撃してくる。
繰り返される事態に、さすがにスカイネットも学習する。
”アメリカ人も敵じゃんか！！”と。（笑）
実はこれが真相ではないだろうか。
ちなみに”AIは自我をもつことができるか？”をChatGPTに聞くと、”現在の技術水準においては持つことができない。プログラムに基づいてデータ処理をするタスクのみ可能。”とまあ模範的な回答。現在の技術水準においてはが気になるところではあるが。
さらに、”AIは人類を滅ぼすか？”については”可能性はあるが、それはAIをどのように制御し、活用するかに依存する。AIに対し倫理規範と安全対策を施し、監視しリスクを最小限に抑える必要がある。”らしい。これも全く否定するとあまりにも用意された感がするので、妥当な回答を用意しているのではないだろうか。
結局どうやって教育するか、どんな教師データを与えるかによって、いくらでも化けるのだろう。それはAIも人間も同じである。中ツ国のAIに聞くと、プーさんが最高の指導者だと言うらしいし、そういうことなのだ。
今のままだと手塚治虫先生の”火の鳥”にあった各国のAIが争い、それぞれの正義を振りかざし戦争してしまう未来しか見えない。
とりあえず年末の”劇場版 火の鳥”でも見て、どうするか考えるとするか。。。
この内容が気に入っていただけて、もしお時間が許されるのであれば、私の代表作”ガロワのソラの下で”（ディレクターズカットVersionでも良いです）も読んでいただけるとなお嬉しいです。
