17 ヒューリスティック・モデル
「だって……」
まわりの人の視線を避けるようにして、わたしたち二人は手近なカフェに逃げ込んだ。ユイちゃんはそれくらい大きな声を出してしまったのだ。正直、わたしもビックリした。ユイちゃんがそんな大きな声を出せるなんて。
教室のユイちゃんは、いつも紙の本を読んでいた。休み時間、みんながザワザワとおしゃべりをしているときでも、教室の片隅で背筋を伸ばして文庫本を読んでいる。それがわたしの中のユイちゃんだった。
化粧っ気も飾り気もないその横顔が、かえって彼女の端正や目や鼻を引き立てていた。
ユイちゃんは最初、わたしのことが「ちょっと怖かった」らしい。といっても、わたし自身のことがではない。わたしみたいに車椅子に乗っている人間にどう接していいかわからず、何気ないことで精神的にも身体的にも傷付けてしまうのではないかと怖れていたそうだ。
そんな心配をしてしまうくらい、ユイちゃんは優しい。
リナが「そんなくだらないこと気にするな」というタイプだったのに対し、ユイちゃんはどんなことにでも気を遣って、まるで手のひらでタンポポの絮毛を運ぶように慎重にわたしを扱ってくれた。その気遣い自体が、わたしには助けになった。でもリナの無頓着さにだって、たくさん助けられていたはずなのに……。
そんなユイちゃんだったから、たくさんの人が行き来する中で大きな声を出したのにはビックリした。
といっても、その原因はわたしにある。
学校に行かなくなって以来、ユイちゃんとはテキストメッセージでしかやりとりしていないし、わたしから現状報告的なことはしていない。つまり、ハンスのことはなにひとつ話していなかったのだ。
だからユイちゃんの頭の中にあるのは、これまでどおり車椅子に乗っているわたし。なのに目の前に現れたのは、二本の足ですっくと立っているわたし。目の前にいても気付かないのも当然だ。
「車椅子は？どうしたの？」
ようやく落ち着いたテーブル席で、ユイちゃんは堰を切ったようにいった。
「うん、あの、いろいろあって……。どこから話したらいいのか……」と答えあぐねているわたしの言葉を引き取って、ハンスがいった。
「こんにちは、ユイ。わたしはハンスです。ミサキと一緒に行動して感覚運動学習をしながら、ミサキの運動機能のサポートをしています」
大きなメガネのレンズの奥で、ユイちゃんの目が見開かれた。ハンスの言葉に合わせて、わたしの襟元で青いインジケータが明滅する。
「いま、しゃべってるのって……」
「ああ、うん。いわゆる人工知能なんだけど、これがわたしの補助装具っていうか、車椅子代わりっていうか、こういうのお父さんが作ってて……」
わたしは長袖のシャツをめくってハンスのフレームが見えるようにした。
「そうなの？」
ユイちゃんは立ち上がらんばかりの驚きようだ。
父さんが人工知能の開発をしていることは、リナにしかいっていなかった。
「すごい！」
さっきほどではないにしろ、それでも大きな声でユイちゃんはいった。
「ハンスっていうの？いま、空気読んで自己紹介したよね？ミサキちゃんが事前にプログラムしたわけじゃないよね？」
違うけど、ユイちゃんどうしてそんなに興奮してるの？
「うん、勝手にしゃべる」
「すごーい！」
猫の目は、獲物を見つけると瞳孔が開く。猫じゃらしで遊んでいるときの猫の目がまん丸く見えるのはそのためだ。この性質は人間にも共通で、ユイちゃんの目はいままさにそんな状態だった。
ユイちゃんはハンスにいたくご執心で、わたしの直立姿勢を見た驚きはとうに消え失せてしまったらしい。まあ、あんまりそこに関心を払われてもなんなんだけど。
「ハンスは、ミサキちゃんと一緒に行動して学習してるの？」
わたしの「うん」とハンスの「はい」が重なった。ユイちゃんは意に介した様子もない。ていうか、わたしの方が意に介するんですけど。ハンス、自己主張強過ぎじゃない？いつからこんな子になったのかしら。
「じゃあ、ハンスはミサキちゃんと一緒にいると、どんどん賢くなっていくの？」
「賢いの定義によりますが、一般的な基準でいうと、人間の行動や心理に対する認知、理解、判断の速度と範囲、適切さは上昇します」
それをまさしく賢いっていうんじゃない。
「ミサキちゃんのお父さん、こんなのを作ってるんだ。すごいね」
ユイちゃんは目をキラキラさせて、感心してくれた。
別に、ここまでの反応を期待したわけじゃないんだけどな。
リナにもせめて「そうなんだ」っていってもらって、もっとお話ができるんじゃないかと思っただけなんだけど。この話をして、わたしはリナにいじめられることになったわけだけれど。
「ねえ、ハンスはどんどん賢くなっていったら、人類を滅ぼしちゃったりしないの？」
「え？」と、声をあげたのはわたしだ。
「だってほら、映画とかでよくあるじゃない。自意識を持ったＡＩが人類殲滅をもくろむっていうやつ」
ユイちゃんの口から「人類殲滅」なんて言葉が出るとは。見た目と言葉のギャップがすご過ぎる。
「よくあるの？」
「うん。自我に目覚めたＡＩはだいたい人類倒しにくるよ」
そういえば、とわたしは思い出した。
ハンスの名前を考えているとき、HAL9000とかっていう人工知能が宇宙船の乗組員を皆殺しにしようとしたって。でもそれは映画の中の話だし……。
「高い知性を身に着けたＡＩはね、だいたい人類に反旗を翻すの。環境破壊の原因は人類だとか、人類は自分たちＡＩにとって邪魔な存在だとかなんとか、そういうこと思い付いて人類を抹殺しにくるの」
「そうなの？」
「そうだよ。ものすごいアンドロイド作って人類に戦争をしかけたり、ネットワークを遮断して社会を混乱に陥れたり、新しい病原体を作り出してばらまいたりするんだよ」
ユイちゃん、おそろしく物騒な話をしてるけど、どうしてそんなに楽しそうなの？
「ハンスもどんどん賢くなったら、そういうことする？」
ユイちゃんはハンスのカメラに向かって聞いた。
「しません」
ハンスの感情のない声がそう感じさせるのか、それともわたしがハンスと長く一緒にいるせいか、その答えには「心外だ」とでもいいたそうな、素っ気ない響きがあるように思えた。
「しないの？」
「しません」
重ねて、ハンスは否定した。
「しないのか……」
一方のユイちゃんは、まるでがっかりしているかのように肩を落とす。
「ユイちゃんは、そういうの期待してるの？」
「え？」
「ＡＩの反乱とか、人類滅亡とか、そういうの」
ふと我に返ったように、ユイちゃんは目を見開き、頬を赤らめた。
「違う違う、違うの。そういうわけじゃなくて、昔からそういう映画とか小説が好きで、よく見てたから……」
そうか、そういうことか。さてはユイちゃん、いつも教室で読んでたのはその手のＳＦだな？わたしはてっきり、ユイちゃんが読んでるのは中原中也とか芥川龍之介とか、そういうのだと思ってた。
「とても興味深いです」
ハンスがいった。
「なにが？」
「ユイはＡＩによる人類への攻撃を楽しそうに話しました。人類にはユイも含まれるはずです。つまり自分にも害が及ぶかも知れないのに、それを楽しそうに話しています」
「そりゃまあ、フィクションだからね」
「フィクションであれば、楽しめますか？」
「うん」とうなずくわたしたち。
「本当にそんなことになったらとても楽しめたものじゃないけど、だけど人間は作り物なら楽しめるの」
「そうだよ。作り物なら実際に被害を受けることはないし」
そうだ。ジェットコースターだって、ホラー映画だって、自分にリアルな危害が加えられることがないから楽しめるんだ。
イジメだってそうだ。自分には被害が及ぶことのない、安全にスリルと興奮を味わえる娯楽。それがイジメだ。標的にされた者には果てしなくリアルで、限りなくおそろしいものだけど、する側にしてみれば安全で楽しい時間……。
暗い思考の沼に引きずり込まれそうになって、わたしは慌てて方向転換した。
「ハンスはどうして人類を滅ぼそうとは思わないの？」
ユイちゃんも向かいの席で、「ふんふん」とうなずいている。
「人類を滅ぼす理由がありません」
それは、どういう意味だろう？人類には、滅ぼすほどの価値もないってこと？それとも、滅ぼすまでもないということ？そういわれれば確かに、ほっといたら人類は勝手に滅んでしまいそう。
「わたしの設計の大前提は人間に危害を加えない、人間をサポートするというものです。人類を滅ぼすというのはその原則に反することであり、わたしには実行不能です」
「ロボット三原則でしょ、知ってる」と、ユイちゃん。
「ロボット三原則？」
「うん。ロボットは人間に危害を加えてはならない、ロボットは人間の命令に従わなければならない、ロボットはこれらの命令に反しない限り自分を守らなければならない」
なにそれ？ユイちゃん、水を得た魚のようだわ。
「いろんなバリエーションがあるんだけど、ロボットの行動原理を示したもので、アイザック・アシモフが提唱したの」
「アシモフが……」
誰、それ？
自分でも頭が傾いていくのがわかる。その角度と反比例して、ユイちゃんのテンションが上がっていく。
「それに、人類を滅ぼしたいとはわたし自身は思いません」
ハンスはごくあたりまえのようにいった。
「そうなの？」
「わたしは人間をサポートするように設計されています。それに加えて、ミサキと行動を共にすることでたくさんのことを学びました。その中に、人類を滅ぼす理由になるようなことはなにもありません」
「すごーい。ミサキちゃん、人類を代表して信頼されてるよ」
ユイちゃんは冗談めかして笑った。
だけど、とわたしは思った。
これってハンスが自分で考え始めてるってことなの？ＡＩが自我を持ちつつあるってことなの？それともただプログラムにしたがって答えているだけなの？
わたしは相変わらずわからなくなってしまった。
「それに、そもそもわたしはなにかの生物の命を奪うようにはできていません」
「残念、ミサキちゃんの信頼度のせいじゃなかった」
ユイちゃんは声をあげて笑った。
「そうそう、フレーム問題は？」
グルグルまわるわたしの思いをよそに、ユイちゃんはハンスに質問した。
「フレーム問題……」
ユイちゃんの繰り出す言葉がなにひとつわからないわたしは、彼女の言葉を繰り返すばかりだ。
「人工知能は本当に必要な情報だけを選び出せるかっていう問題」
「なにそれ？人工知能はそういう情報処理が得意なんじゃないの？」
「そうなんだけど、得意だからこそ困っちゃうっていうか。たとえば、人工知能を搭載したロボットに橋の向こうのお店からお豆腐を買ってこさせるとするでしょ」
いや、しないけど。
どうしてこういう人たちはそんなとんでもない状況を考えるんだろう。そういえば父さんもそうだった。
「わたしたちにはなんでもないことだけど、人工知能にとってはこれが難題なの。お豆腐にどれくらい振動を与えたら壊れてしまうかとか、自分が渡る橋の強度は十分かとか、歩いているときに車に轢かれないかとか、そういうことを果てしなく考えてしまうのよ。それで起こりうるありとあらゆる可能性を考えて、考えて、考え過ぎて動けなくなってしまうの。それがフレーム問題」
「つまり、人工知能は心配性なの？」
「そうともいえるかも。人間だったら悩むまでもないようなことでも、人工知能は無限に悩み続けられるから」
そう考えると、人間の方が賢いのかどうかよくわからなくなる。
賢いから不必要なことを考えないのか、賢くないからいろんなことを考えられないのか。どちらにしてもそれでうまいことやれているのは、人間がというか、生物が何億年もかけて試行錯誤してきたからなんだろう。
それを誕生からわずか百年余りでなんとかしろといわれてるんだから、コンピュータも災難だ。
「でも、スマホとかに入ってる人工知能はそんなことないよ？音楽かけてっていっても、急にフリーズしたりしないもの」
「スマホに入ってるのは名前だけの人工知能だから。本当はとても人工知能なんて呼べるようなものではなくて、専門領域が限られてる知的エージェントっていうやつなの。専門領域が限られてるから、余計なことは考えなくてすむの」
本物の人工知能にこれは考えなくていい、これは無視していいと教えるのは、それこそ無限に手間がかかるだろう。それは常識と呼ばれる範疇だ。常識は経験によって培われる。父さんがハンスにやらせている感覚運動学習も、その一環なのだ。
そうやって経験を積んだ人間でも、これは考える、これは考えないって、いつでもうまくできるわけじゃない。
事故だってそうだ。あとから考えれば、「そんなことちょっと考えればわかるのに」ってことはよくある。でもそのときは、十分考えたはずなんだ。
わたしから下半身を奪った事故だって、交差点の見通しは悪くないか、速度は十分に落ちているか、歩行者はいないか、考えればわかることばかりだったはずだ。
なのにそういう必要なことを、わたしたちの脳は考えない。
その一方で、いらないことを考えてしまう。気にしなくてもいいこと、気にしても仕方のないことを、いつまででもクヨクヨと考えてしまったりする。わたしの脳は特にそうできているんだろう。
ユイちゃんが目の前にいるせいか、わたしの脳はいまだって学校のこと、リナのことを考えようとしてしまっている。
「わたしは、そのようにはできていません」
ハンスの声が、わたしの負の思考を遮ってくれた。
「わたしの思考ルーチンはヒューリスティック・モデルに基づいています。起こりうる可能性や事象について、無限に演算を続けることはありません」
「どういうこと？」
ユイちゃんはますます興味津々だ。
「わたしがなにかを考えるときには、なにが重要かをあらかじめ取捨選択し、ヒューリスティックに判断します。ミサキと一緒に行動して感覚運動学習をするのは、この重要性の順位付けモデル構築のためでもあります」
「だからそのヒューリスティックっていうのがわからないんだって」といったのはわたしだ。目の前で「うんうん」とうなずいているユイちゃんはわかっているらしい。すごいな、ユイちゃん。
「ヒューリスティックとは、発見的という意味です。コンピュータの研究領域では、あらかじめすべてのデータセットを持っていなくても経験や既存のデータに基づいて推測することを意味します」
「だいたいこんなもんだろうって判断できるってこと？」
「だいたいそんなものです」
なんかちょっと、ハンスにバカにされた気がする。
「すごいすごい！じゃあ、ハンスは経験を積んだら本当に本物の人工知能になれるんじゃない？」
「そうとはいえません。わたしは最新の人工知能ではありませんし、同様のレベルに達している人工知能は他にもあります。また、より優れたモデルもすでに存在しています」
「でも、ハンスの経験が今後の人工知能の開発に活かされるんでしょ？」
「はい、わたしのデータは新しく開発される人工知能に活用されるはずです」
「やっぱりハンスが未来の人工知能の種になるんじゃない」
「そうであればいいですね」
ハンスは自分が人工知能のさきがけとなることをよろこんでいるのだろうか？それとも逆に、自分自身は本物の人工知能になれないことを悲しんでいるのだろうか？
ハンスの言葉からは、なんの感情も読み取れなかった。
