仏作って魂入れず
縦書き表示にも対応してます
「どうだった？」
先にラボに戻っていた東洋系の男が背広の上着を白衣に着替えながら聞いた。
「やっぱりダメでした」と、白衣を着た若い女性が研究ラボに駆け込みながら答えた。男からの質問を事前に予期していたかのような返答タイミングだった。「グループが持っていったようです」
「腕も脚もか？」
「ハイ。全部……」
「今回は母国開催だから、試合終わったらすぐに持って帰ってこられると思ってたんだがな……。まあ、あの状況じゃ修理もできんか。分解データはいつ来るって？」
「それもまだ確定しないとのことでした。すみません……教授」
白衣のアラブ系女性が黒髪の下の整った顔を曇らせた。
「いや、キミが謝る必要はない」
教授と呼ばれた東洋系の男は五十歳台後半にしては肉感がない、無精ひげの顔に小さな笑みを浮かべた。無頓着に伸ばした髪には白髪がところどころ混じっていたが、笑えばもともと整っている顔立ちが年齢より若く見せていた。
「よし！ まずはビデオの解析から始めるぞ！」
男は立ち上がって、手をパンパンと叩きながらラボのスタッフ全員に言った。
「３Ｄレーザーセンサーのセンシング・データは大丈夫だろうな？」
「すでに解析を始めてます。ビデオ映像とのマッチングも大丈夫です」
これも白衣の四十歳台アラブ人男性が答えた。
液晶モニターが並ぶラボには白衣の人間ばかりが二十人ほど動き回っていた。
「それにしても、まったく太刀打ちできなかったですね。狙いは面白いと思ったんだけどなあ」
栗毛の若い男が白衣の体で片足を上げながらおどけて言った。
「腕がダメなら、脚で、ってな」
こちらも若い黒髪の男が白衣の大柄な体を揺すった。
「パーツ設計データは悪くなかったから、机上と実戦ではやはり違うということだ。ゴリラは今のところ確かに強いが、敵と同じアプローチで後追いしても仕方ない。新しいアイデアに挑戦することが重要だ。さあ、次に作るエイメンはモノにするぞ！」
教授がスタッフ全員にハッパをかけた。だが一人だけ、青い顔をして肩をがっくりと落としたスタッフがいることに気が付いた。トイレで吐いてきたのかもしれない。最近、ラボに入ったばかりの大学院生だった。
「どうした、大丈夫か」
入った早々、あの試合はたしかにキツイ。教授は声をかけた。
「ええ、まあ……いや、あまり」
相当にこたえたのかその東南アジア出身の大学院生の返事ははっきりしない。教授は彼の次の言葉を待った。話しをすることで落ち着くだろうと考えたのだ。
「活動停止確認プログラムはどうなってたんですか」
エイメンには、対戦相手の活動が停止したことを認識し、攻撃を止めるプログラムが組み込まれていた。興行として観客に見せる以上、今回のような凄惨な試合とならないようにというのと、そしてなにより巨額の開発製造費がかかっているエイメンを守るための「フェイルセーフ」としてだった。
「そればかりはゴリラの開発国じゃないと分からだろうな。いくら交渉しても生データは開示されないだろう。国家機密ってやつだ」
「だけど、フェイルセーフが機能しないとなれば、とても人間社会では使えない、共存できませんよ」
「ロボット工学三原則か」
アイザック・アシモフが提唱したロボットが従うべき三つの規範原則。それがロボット工学三原則だ。要約すると以下の通りになる。
第一条： ロボットは人間に危害を加えてはならないし、人間への危険を見過ごしてはならない。
第二条： ロボットは第一条に反しない限り、人間の命令に服従しなければならない。
第三条： ロボットは、第一条および第二条に反しない範囲で、自己をまもらなければならない。
「人間への安全性、命令への服従、自己防衛……そもそもエイメンは軍事兵器だからな。すべてに優先するとされる原則の第一条、人間への安全性ってのに無理がある。仮に最低限、人間への安全性は味方に対してだけ適用し、敵はその限りではないと設定したとしよう。だがそうなると。……」
「敵、味方の識別が問題になるわけですね」
「そうだ。人間社会がそもそもそうだ。殺し合いじゃないにせよ、組織の中で味方だと思ってた仲間が、保身のため、ある日、突然裏切る。エイメンが戦場で今回のように暴走し、味方を傷つける恐れが出てきたとき、もちろん軍としては実力を行使してエイメンを止めようとするだろう。だが原則の第一条は設計段階からすでに曖昧、もしくは組み込まれず、停止命令が効かない暴走状態にあるということは第二条にも従ってないことになる。第三条には、第一条および第二条に反しない限り、という限定条件がついているが、今言ったようにその二つはもはやない。となると……」
「自分を守るためならなんでもする。敵、味方の区別なく殺しまくる可能性がある……やっぱりエイメンにも自我というのかな、意思というか、考える力を与えて。人間のように善悪を判断させるのはどうなんですか？ そうすれば設計者が想定してなかった新しい事態が起きても、エイメンが自分で正しい判断をするようになる」
実際の社会では、人間が想定した以上の出来事が次々と起こり、想定外のことにはコンピュータや非自立型ロボットでは対処しきれない、という「フレーム問題」がある。人間が教え込むのではなく、自分で学び、自分で考える人工知能であれば、このフレーム問題を突破できる、そういう考えはこれまでも何度も提示されてきた。
教授自身もこのテーマは学生への講義で幾度となく取り上げてはきていた。だが今は、講義のつもりではなく自分の考えを再確認するつもりで、この大学院生に話し続けた。
「善悪か……そもそも善悪、やっていいこと悪いことって何だ？ 時代や地域で変わってくる非常に曖昧なもだ。戦争に負けたヒトラーは今では悪の代名詞のように言われるが、すくなくとも当時のドイツ国内でその主張、判断は善とされていたわけだ。我々のいるこの国では豚肉は食べてはいけないとされているが、無宗教のような私の祖国では食の戒律はほぼない。善悪の基準や判断はいまだ哲学の世界であって、生体組織工学、ましてバイオボットの分野ではまだ見ぬ地平にあるんだよ」
教授はさらに続けた。
「逆に、自分で考えさせた結果、エイメンが人間の手を完全に離れてしまうほうが恐ろしい。私たち人間と彼らの善悪の基準が同じままであるとは限らないからね。今の我々が出来ることは、自分でなんか一切考えさせず、機械のようにプログラム、命令に従わせること。人間に似せた外観で生体素材を使った産業ロボット。これが今、我々が作り出せる限界だ」
仏作って魂入れず、だなと教授は心の内で苦笑した。
エイメンにはブタの脳が使われていた。いや、正確にはブタの頭蓋骨の中で育て上げた、ヒト脳細胞だった。このヒトとブタのハイブリッド脳をコンピュータ言語でやり取りができるよう初期化し、まずコンピュータのＯＳにあたる〝手続き記憶〟を、アンビリカルケーブルを通して大脳基底核と小脳にインストールする。
手続き記憶は、自転車の乗り方や泳ぎ方など体が覚える記憶で、おおざっぱな動きを大脳基底核に、繊細な動きを小脳に覚えさせる。随意筋で覆われたエイメンの燃料タンクの動かし方もこの領域に記憶させる。
その上で、エイメン格闘技のルールや、人間の格闘技で使われる技などをアプリケーションのようにして海馬に覚えさせていく設計になっていた。海馬は流れ込んでくる情報を整理し、要・不要を選別し、記憶の種類に対応する大脳皮質の各部位へと長期記憶として振り分けていく。
それでもインストールされるデータはエイメン格闘技に必要なものだけで、人間のように振る舞う知識や経験、それこそ善悪の判断などは教え込まれていないし、教え込む必要もなかった。その意味でエイメンの脳は産業ロボットとそう変わるものではなかった。
人間がエイメンを制御しきるには、すでに確立した産業ロボットの制御技術がもっとも安全だと考えられ、エイメン・コンテストのレギュレーションも基本的にはそう策定されていた。ＯＳは統一のものを使い、その上に載せるアプリケーションに、独自性、他のエイメンに対しての優位性を求める。これがルールとなっていた。
ほとんどのエイメン開発国がアプリケーションを構築するための学習方法に、人間が教師のように正解を導くための解答例を示す「教師あり学習」方式を採用したのに対して、教授のチームは、例題なり参考なりをまったく示さない（教えない）「教師なし学習」を採用することが多かった。教師あり学習のほうが、現段階ではより効率的に速く成果に辿りつけるのだが、教授は時間と手間がかかっても、人間の学習方法に近い教師なし学習、強化学習を選んでいた。エイメン・コンテストでの勝利や、軍事兵器としての完成より、将来的な完全自立型バイオボットを目指していたのである。
