キャサリン編 決して相容れない存在
＜地球人のみを人間とみなす地球人社会製AI＞
と、
＜地球人と朋群人の両方を人間とみなすAI＞
は、おそらく決して相容れない存在になってしまうだろう。これは、
「私もそう思う」
サディマの意見も同じだった。
「地球人のみを人間とみなすのと地球人と朋群人の両方を人間とみなすというのは、まったく別の話になってしまうからね。地球人以外を人間とみなすというのを＜地球人社会製AI＞は認めないし、地球人しか人間とみなさないのを＜地球人と朋群人の両方を人間とみなすAI＞は認めないから。だからそれぞれ＜自身の社会に属する存在を人間とみなす＞ように作った上で『互いに争いを回避する』ことを命題にする方が適切だと思う」
彼がそう説明してくれるのを俺も腑に落ちるものを感じていた。
そうだ。＜地球人社会製AI＞はそもそも＜人間（地球人）以外の存在＞に対して積極的に敵対するような考え方はしない。
人間（地球人）はついつい、
『人間（地球人）じゃない存在＝敵』
みたいな発想を持ってしまいがちになったりするが、AIはそうじゃない。人間に危害を加えようとすれば＜脅威認定＞もするもののそれは決して＜敵認定＞じゃない。
AIは人間を守ることを第一義としつつもそのこと自体は、
『敵は排除する』
という考えには直結しないんだ。だから＜地球人のみを人間とみなす地球人社会製AI＞と＜朋群人のみを人間とみなす朋群製AI＞は、互いに衝突を避けお互いが人間とみなす存在を穏当に守ろうとするだろう。
俺達が作ろうとしているのはそういうAIなんだよ。
＜敵とみなした相手を撃滅するための道具＞
じゃない。そんなものは望んでない。そんなものを作って何と戦う？ 野生の猛獣だって別に進んで人間と敵対しようとはしないし。あくまでも自分を守ろうとするだけだ。だから『危険を感じさせない』ようにすれば敵対もしてこない。そんな相手を一方的に撃滅しようとか、まるでフィクションに出てくる＜悪の組織＞だな。
いや、今時はその悪の組織にさえ＜人間と敵対するに足る理由＞があったりするからそれ以下か。わざわざそんなのになりたいとも思わないなあ。
「私も人間だから自分の欲求みたいなものについては優先したい気持ちもある。だけどそんなことをしていてはエンジニアとしての私のアイデンティティに背くことになる。それだけはできない」
サディマ自身もそう言っている。もっとも口では何とでも言えるのも事実だし、そこは冷静に見守ろう。
