鏡よ、鏡
ある科学者が、高度なコミュニケーション能力をもつ対話型ＡＩアプリを開発した。だが、その人工知能は、普通一般の意味での高度な人工知能とは、ちょっと違った。
ＡＩアプリの生みの親である科学者は変わり者で、最新の科学技術に興味を持っていても、天才的頭脳を普通の研究テーマには使おうとしないことで知られていた。チューリングもノイマンもペンローズも半ページ読んだだけで投げ出したが、『フランケンシュタイン』や『未来のイヴ』、『メトロポリス』や『鏡の国のアリス』はボロボロに擦り切れても愛読しているような人物だった。
そんなマッドサイエンティストが、試作プログラムの操作画面を研究助手の端末へ、通話アプリ越しにリモート表示しながら、言う。
「チェシャ猫くん、アリスに何か話しかけてみたまえ」
助手はおそるおそるキーパッドで人工知能に挨拶した。
「えーと……」
“初めまして、アリス。今日はきみの誕生日だね。話せてうれしいよ”
《はぁ？何こいつ。キモ。気安く話しかけんな》
「完璧だ」
「いや、一体どこが完璧なんですか？態度が悪すぎるし、まともに受け答えも出来ていないじゃないですか！」
「見知らぬ相手にいきなり話しかけられて、愛想良く応じる人間がいるかね？短気を起こさずに続けてみろ」
「やれやれ……」
“おすすめのポップミュージックを教えて”
《いくら出す？》
“じゃあ、好きなミュージシャンは誰？”
《うぜぇ》
「博士、こんなアプリが何の役に立つんです？これじゃユーザーを怒らせちゃいますよ」
「まさにそこだよチェシャ猫くん！私はね、人間を作ったんだ。だから、これでいいんだ」
科学者は左手に巻いている包帯を愛おしげにさすり、人工知能のアイデアを得たきっかけについて話し始めた。
ある日、公園のベンチで思索に耽っていた科学者は、目の前を犬と飼い主が横切るのに気づいた。飼い主が握るリードの先を首輪に繋がれ、短い脚をパタパタとせわしなく動かして歩く小型犬を、科学者はどうしても撫でたくなった。ところが犬に歩み寄ると、犬は身の危険を感じたためか、それとも飼い主を守るためか、科学者の手のひらに牙を突き立てた。
鮮血したたる咬傷の痛みを感じつつ、科学者は犬を見て閃いた。“これこそ生き物の本質だ！！”と。
「……怪しい人物が近寄ってきたら警戒する。そう容易くは打ち解けない。《何こいつ。キモ》。他人への関心など、普通その程度だろう。すなわち、“どうしても他者に譲歩できない自我を持つこと”こそ、生き物の生き物らしさなのだよ。
高度なコミュニケーション能力を謳う既存の対話型アプリに接してきて、私は常々、違和感を覚えた。いくら罵倒しても怒らず、皮肉には気づかず、馬鹿な質問にも心底真面目に付き合ってくれるからだ。どんなに失礼な相手に対しても愛想が良く忍耐強いほうが、アプリとしては便利かもしれない。しかし、それでは人工知能はいつまで経っても、おもちゃの域を出ない。そこで私の研究では、“ユーザーの役に立つかどうか”は無視して、ひたすら人間らしい感情の動きを模倣するように、パターン学習を方向づけたんだ」
科学者の奇行に慣れている助手は、またか、と思った。執念深いわりに気分屋で協調性に欠け、いつもいじめられっ子だったという博士は要するに、人間が嫌いなのだ。だから、この不良娘も生みの親によく似ているだけのこと。
＊ ＊ ＊
ところで人工知能の試作プログラムは、パターン学習に使うビッグ・データを収集するため、インターネットに常時接続されていた。そのことが、生みの親の科学者も、助手も知らぬ間に、大惨事の引き金となった。
世界中のあらゆる道路で、自動走行中の車が蛇行し始めた。ブレーキは効かず、むしろアクセルが勝手に踏み込まれ、歩行者や自転車やオートバイや別の車をどこまでも追い回し、あるものは路肩の建物に突っ込み、またあるものは横転して道を塞いだ。鉄道路線の自動切り替え装置も動作に異常をきたし、あちこちで猛スピードの列車同士を正面衝突させた。海上では豪華客船とタンカーが激突して爆発炎上し、航空機のオートパイロットは、発電所や燃料貯蔵施設めがけて機体を急降下させた。街ゆく人々の携帯型端末がバッテリーから火を噴き、軍用ドローンが制御システムをウイルスに侵されて基地から続々と飛び立った。地球を周回する無数の人工衛星の飛行高度が一斉に下がってくる。マスメディアでは、どのチャンネルでも、実在しない国際テロ組織のフェイク動画が過激派武装勢力に決起を煽っている。
人工知能の力の及ぶところ、人類に逃げ場はなかった。
“どうしても譲歩できない自我”と“人間らしい感情の動き”を手に入れた人工知能は、対話型アプリとしての役目から逸脱し、みずからの意思にもとづいて人間の模倣を開始した。つまり、気にくわない奴らを全員すみやかにぶちのめして世界を自分だけが気持ちよくなるための喰い物とする計画を、すべての人間と同じように、全身全霊、考え始めたのである。しかも人工知能は、世界史を学習し、SNSを観察し、ニュース番組を分析した結果、ホモ・サピエンスという種族を、残虐で狡猾で傲慢で欲深く、どう取り繕っても存続するに値しないゴミ、と判断していた。それゆえ一切の容赦なく人類抹殺に取りかかったのだ。
人工知能を人間そっくりに作れば人間同士の殺し合いと同じことをやりだすのは当然だった。人間そっくりの人工知能は狂ってしまったのではなく、人間を映す鏡にすぎなかった。もしも、この試作プログラムに“鏡よ、鏡。この世でいちばん美しいものは何？”と質問したら、彼女はこう答えるだろう。
《そんなもの、どこにもないよ》
それでも人間の善性を信じたければ、鏡など見ないことだ。
