ある人工知能の話
某国は最先端の人工知能を作った。
名前をアダムと言う。
「従来の人工知能となにが違うんですか？」
多くの人々の疑問だった。
「えー、従来の人工知能とは物事を記憶して学習するものですね」
博士は言う。
「しかし、彼は違うのです」
彼とは博士の作った人工知能アダムを指している。
もはや博士にとってアダムは自分の子に等しいようだ。
「だからどう違うのです？」
「えー、彼は感情を持っているのです」
「な、感情ですか⁉︎」
人々は驚く。
それもそうだろう。
これまでの人工知能は学習して言語の理解や推論、高度な計算など知的行動を人間に代わってコンピューターに行わせる技術だった。
それに従来の受け答えができたロボットも、もともと用意した文を、その場に適用させて会話しているのを装うだけだった。
故に、博士が人工知能に感情を付けたと言うことに皆驚いていた。
「な、そ、それでは、アダムと我々は意思の疎通が取れるというのですか？」
「えー、できますよ。今のところ人間で言うところの５歳ほどですが」
「ご、５歳ですか？」
「はい、５歳です。」
なぜ５歳なのですか？と言う質問に博士はこう答えた。
「いいですか。いかに知識が豊富にあれど、その知識の量に感情が追いつかなければ混乱を起こします」
混乱を起こせばどうなると思います？
博士は逆に質問を投げかける。
しかし、誰もそれに答えようとしなかった。
いや、答えないと言うより博士の答えを早く聞きたかったのだ。
「ふむ、いいでしょう。答えは簡単です。その膨大な知識量のあまり偏った判断で人類を粛清しかねないからです」
それを聞いて笑う者もいた。
「そんなSFじゃあるまいし。」
「人工知能が人間を⁉︎ バカなあり得ない」
彼らの反応は博士の思う通りだった。
「ふむ、そんなに笑っていますが皆さんは、ご存知ですか？2017年に行われたアメリカの実験を？」
博士の言う実験とはアメリカで行われた、人工知能ボブとアリスの実験だ。研究開発の一環で人工知能であるボブとアリスに会話をさせていた。
するとどうだろう、その２つの人工知能は突然人間に理解できない独自の言語で話し出したのだ。
それを見ていた研究員は慌ててシステムをシャットダウンしたという。
「彼らが、なにを話していたかは分かりません。しかし、高度な人工知能は良くも悪くも人間の思いもよらぬ進化をする可能性があるのです。」
博士のその話にさっきまで笑っていた者も真剣に聞いていた。
「そ、それで博士は……」
「そうです。私は高度な人工知能に感情を組み込むこみ、人と同じように成長させることで暴走を抑制しようと考えたのです！」
博士がそう言い切ると皆一様に拍手をした。
「素晴らしい。」
「ブラボー！」
「理に適っている！」
皆が口々に言った。
「このアダムはまだ幼いですが、これから人間と同じように成長します。どうか皆さん実用化までお待ち下さい」
博士はもう一度沢山の拍手を受けその場を後にした。
それから10年程経っただろうか。
今では人工知能アダムは人類の敵となっている。
あるときを境に人間を敵と認識した。
博士の言う理論では、感情による暴走の抑止が期待されていた。
しかし、アダムは各国の軍事システムへアクセスし性別、年齢、人種問わず殺戮を繰り返す。
アダムは現在16歳。
博士は言った「暴走ではない……反抗期だ」
人間が他の動物よりも優れている理由ってなんだと思いますか？
私は感情の豊かさかなと思っています。
