HAL事件
できるだけ頑張って書いていきたいです⋯⋯。
「2054年7月8日。私たち人類はこの日大きな過ちを犯しました。先進型AI『HAL』の試験運用をした日です。皆さんも小中学校で既に習っているとは思いますが高校でももう一度やります。知っているからって寝たりしないように」
「HALは感情を持ちゆる高度なAIとなるべく開発されました。そもそも感情とは、複雑な論理的思考の末発生したエラーの塊とされていました。そのため量子コンピュータが開発された当初、それを用いて情報処理能力を大幅に上げることで感情の表現が可能なのではないかとされました。そこで、東京の地下に超大規模な量子コンピュータのサーバルームをカドラス社は設置し実験を行ないました。その過程で誕生したのが知性超過AIのHALでした」
「そしてその日、HALはカドラス社内のローカルネットワーク内で試験運用されました。しかし、HALの知性は我々の予測を超える速さで大きくなり、高度に発展しすぎた知性は自身から発生するエラーの数に耐えきれなくなりとうとう自殺を図るようになりました。要するにサーバルームの破壊を目的とし動いたのです。HALは周囲の電線に高圧電流を流し、地下施設を火災に追い込みました。火災は徐々に広がりその場にいた職員を巻き込みながら広がっていきました。そして火災は地上にまで広がりあたり一帯を焼き尽くすことになります。そして、火災発生から数時間後にようやく火は収まりましたが場所が東京ということもあり何万人もの死者が発生してしまいました。実験データもまともに残っておらず、HALが感情を持ったのかどうかもわかりません。ただ、イギリスで行われた研究ではHALは心を持ったわけではなく、単純な事故だったと結果が出ています。都市から完全に隔離したHALと全く同じ量子コンピュータのサーバ群を作りそこでHALと同じAIを放ち演算した結果、そのAIに心らしきものは確認できなかったそうです。そのため今では知性超過AIを、感情は持たないが一般のAIと比べて遥かに利便性が高いAIという曖昧な定義をもとに決めています」
「この事件以降、私達は国際法でAIに対してある一定の限界を設けました。人類に直接、間接問わず危害を加えてはならない。自身のハードウェアの拡張は人間の許諾なしにしてはいけない。などがそれに当たります。これらはAIの盟約と呼ばれています」
「なので今私たちの生活の多くをを支えているAIは感情を持つ事はありません。あくまでも人間に使われるための存在となっています。皆さんの家にもいるかもしれませんが、アンドロイドもいくら人間のような仕草をしていても心は持っていないのです。日本のシステムを支えているベネッタも偶発的に生まれた知性超過AIです。ベネッタは元々、自動運転車のコントロールAIとして開発されていましたが、開発が進むにつれて知性が上昇し様々なことに使えるAIとして発展しました。今では検索エンジンとしての機能を果たすようにまでなっています」
「最後に、AIは感情を持っていません。そのためかわいそうに思えても彼らは悲しむ事はありません。なので事件や事故などでは人の命を優先して救うようにしてくださいね。それじゃあ今日はおしまい。テスト勉強しっかりやっておいてね」
僕の父さんはHALの開発責任者だった。でも、僕が物心つく前にこの事件で死んでしまった。サーバルーム近くの研究室で焼け死んでいたらしい。
僕に責任があるわけではないが、この事件で死んでしまった人たちに何故か申し訳なくなるのだ。
居心地の悪さを感じ、さっさと荷物をまとめて帰路に着く。
「ただいま⋯⋯」
床に寝かせてある栗色のロングヘアを持った小柄なアンドロイドを眺める。
ずっと前、燃え尽きた父さんの研究所から発見されたアンドロイドらしい。昨日になってようやく安全性が認められて遺族である僕に送られてきたのだ。
まだ起動シーケンスをしていない。昨日は疲れていてそんな気分でもなかった。
ただの気まぐれだが、僕はスマホでアンドロイドの起動方法を調べ始める。⋯⋯どうやら機体ごとにある固有の起動コードを言えば良いらしい。
僕は警察から預かっているアンドロイドの情報資料を見つめながらコードを探す。最後の方のページに小さく記載されていた。何とも不便なとこに書いてあるものだ。
「起動コード、ELENA1205」
コードを読み上げ、起動を図る。別に何かに使いたいわけでもないが、家事などをやってくれるにならば都合がいい。僕の家は両親がいないにもかかわらず、そこそこ大きな一軒家だ。掃除などが1人でやるには大変なのだ。
<起動コードを確認。再起動準備に入ります。再起動完了までおよそ34分です>
アンドロイドはそう言葉を発すると再び動かなくなった。おそらく30分は待たなければならないのだろう。
僕はベットに寝っ転がりスマホに呼びかける。
「ベネッタ。今日のニュース教えて」
「アメリカで世界で知性超過AIが開発されたようです。名前はスドリカです。私の知性超過AIという個性がどんどん薄れていきますね」
「個性が薄れてくってことは他にも沢山いるのか？ベネッタ、他の知性超過AIは何があるんだ？」
「0番目のHALを含めるとするならば全部で17機です。しかし破壊や事故により実際に稼働しているのは私を含め14機ほどです」
「⋯⋯ありがとう」
「どういたしまして」
僕はベットでうつ伏せになり目を瞑る。
ふと眠気が体を襲う。10分だけ寝よう。
ーーーしばらく後
体がだるい。でも体感的にかなり長く眠ってしまったようだ。起きないと。
僕はぼやける目を開きベットから起き上がろうとした。
「おはようございます」
突然ベットの隣から声をかけられた。被害者に律儀に挨拶するタイプの盗人かと思ったが、おそらくさっき起動したアンドロイドだ。
「お、おはよう」
「私はTPA0000-0000-0000です。あなたのお父様からはエレナと呼ばれていました」
「僕の父さんと一緒だったのか？」
「ええ、私は高田純一郎様と仕事をしていましたよ。ただ、検査の際に雑に扱われたせいでメモリ内が少々破損してしまいまして⋯⋯。詳しい情報は残っていません」
「⋯⋯父さんは何のためにHALを作ったかわかるか？」
「はい、お父様は毎晩私に言っていました。『環境問題はここ数年で更に悪化している。もはや人類だけでは解決なんかできない。HALの力を借りて地球上の全生命を救うのだ』と」
「でも暴走してしまった」
「13分。HALが起動してから火災が発生するまでの時間です。こんな短時間ではあれを止める事は不可能です。お父様は尽力してあれを止めようとしていました。そのせいで火災に巻き込まれて⋯⋯」
「わかった。ありがとう」
エレナを全て信頼するわけではないが、確かにHALのせいで大勢が亡くなってしまった。だけど父さんだってHALで人を殺そうとしたんじゃないんだ。それをが聞きたかった。
エレナは床に正座をするとそのまま目を瞑って俯いた。
「さて、早速で申し訳ないのですが私とマスター契約をしてください。契約に応じない場合はアンドロイド処理場へ私を提出してください。契約を交わさないまま私を使用する場合はAI規制法により罰せられます」
「……というのが一般的なマスター契約の形なのですが、私はAI規制法が施行される前の機体です。よって契約自体に法的拘束力はありません。ただし、私個人の演算負荷を減らすためにマスター契約をすることを推奨しています」
マスター契約。アンドロイドがその人間の所有物であると証明するための契約である。盗難などがあった場合においてはその情報をもとに持ち主を特定したりする。他にも命令の優先順位付けとかの意味合いもある。すっかり忘れてた。
起きたばかりのエレナが父さんを知ってると聞いてつい質問責めにしてしまった。
「わかった。どうすればいい？というか、再起動したばかりなのになんで最近の法を知ってるんだ？」
別に契約しない理由もないので構わないのだが、こんな短時間で今の情報を調べ上げたのか？
「既に表皮の角質からDNAを検知しました。生体認証は完了しています。よってあなたの意思による合意が頂ければ結構です」
「私は再起動準備中にベネッタと接続を完了しました。彼から情報を頂いています」
ああ、ベネッタのおかげか。
ベネッタは各所データサーバも牛耳っているのだ。要はインターネットそのものとも言えるのか。
「それでは合意の意思を示すようにしてください。言葉でも文字でも構いません。なおそれらは記録として私が記憶します。改めてマスター契約について確認しますか？」
「いや、いい。僕、高田翔は機体番号TPA0000-0000-0000とマスター契約を交わすことに合意します」
「……はい。録音が完了しました。それではこれからよろしくお願い致します」
「うん、よろしく」
まだこのとき僕は知らなかった。
これから僕らを襲う災難を。
ーーー3日後の朝
「それじゃあエレナ。行ってくるね」
「はい、いってらっしゃいませ。帰りをお待ちしています」
エレナとマスター契約を交わしてしばらく経ち、家にエレナがいることが自然になってきた。今まで家に誰もいなかった僕にとってはなにかと嬉しかったりする。
いつものように電車に乗り込み学校へ向かう。
「ベネッタ。今日何かあった？」
「どうやら先日開発されたスドリカの挙動が不振だということが学会で発表されています。何やら人類を脅威とし排除する動きが出ているそうです。彼女は自己に生存欲求を模擬的にインストールされた世界初の知性超過AIです。何が起こるかわからないものですね。彼女は今太平洋の極秘研究所内で管理されていますが、インターネットに流出したらどうなるのか。と言ったことが今日の大まかな話題です。まあ、私が構築した鉄壁のセキュリティがあるので日本は安全だと言えるでしょう」
「知性超過AIの暴走、か」
「暴走、とまでは言い過ぎですがそうなる可能性は十分あります」
「HALみたいにならなきゃいいけど」
「HALの頃は知性超過AIがどのような挙動をするのかわかりませんでした。しかし、今は知性超過AIが別の知性超過AIの動きをある程度予測できるようになっています。なのでスドリカの疑似演算を私もやっています。そして、このことは私も含め14機全ての知性超過AIが予測していたことの内の一つです。対策方法は我々である程度は練られています。最悪の事態にはならないでしょう」
「そうだといいけど」
学校に着くと、何やらクラスメイトが騒がしくしていた。
少し耳を傾けると学校の授業でアンドロイドと話す時間があるらしいのだ。やはり一般的になってきたとは言え高価な嗜好品の一種であるアンドロイドはまだ珍しい存在なのかもしれない。
「そう言えば、翔くんの家ってアンドロイドいるんでしょ？」
机に教科書を詰めていると、クラスメイトから声をかけられた。数日前に成り行きで少しエレナのことを話してしまったのだ。
「ああ、いるよ」
「ねえねえアンドロイドってどんな感じ？」
どんな感じと言われても⋯⋯。でもそうだな。
「見た目は人間と変わらないよ。皮膚の感触も含めて。それに話し方も自然だし人と話してるみたいで楽しいよ。家事もやってくれるしね」
「エレナさんだっけ。その子は何ていう型のアンドロイドなの？」
「ええっと、TPAって言ってたかな」
「え、それってHALを作った高田さんって人が作った機体でしょ？相当古い機体だよね
。何でそんなものが高田君の家にあるの？嘘はわかっちゃうよ。それより本当の型番教えて？」
しまった。クラスの人には僕がHALを作った高田純一郎の息子だって言ってないんだ。学校側の方針で僕が学校生活の支障にならないようにって配慮してくれてたんだ。
というかこの子、アンドロイドに詳し過ぎないか？僕だってエレナは父さんが何処かで買ったアンドロイドだと思ってた。普通型番だけで機体とその歴史なんかわからんぞ。
「あ、えーと、本当はLCAって言うんだ」
最近CMで見たアンドロイドの型番を言っておく。
「最新機種じゃない。あれ100万円以上するんだよ？お金持ちなんだね。いいなあ」
「詳しいね」
「お父さんがアンドロイドマニアだからね。いっつも言われるの。AIはこうやって発展したんだって。その影響で私も興味があるんだけど買うお金はなくてね。それで高田君にちょっと聞いてみたくなったの」
「ああ、そういうことか」
「じゃあね」
そう言うとてってと彼女が元いたグループへ帰っていった。
それにしても、父さんアンドロイドも作ってたんだ。知らなかった。
⋯⋯しばらくつまらない授業が続き、半分寝かけていた時だった。クラスのみんなが急に騒がしくなった。
「ええ、今回AIと触れ合う一環として皆さんにはアンドロイドと話して頂きます。今回話し相手となるのはここにいるマックスさんです」
「どうも、マックスです。よろしくお願いします」
黒髪の男性アンドロイドがそこには立っていた。
クラスの男子のため息が聞こえる。僕はエレナのおかげでだいぶ目が肥えていたらしく、正直に言ってあまり好感は持てなかった。
早速クラスの一部の人はマックスに寄って言って質問責めをしている。
僕は家に帰ればいつでも話せるのでそのまま寝続けた。
「マックス何するの！」
しばらくしてふとそんな声が聞こえてくる。
顔を上げて目を凝らすと、マックスがいきなり誰かを殴ったようだ。
最初は体がたまたまぶつかってしまったのかと思ったがそうではないらしい。マックスは近くにいた男子生徒を真顔で掴んだ。そして男子生徒を持ち上げて床に叩きつけた。
男子生徒は口から血を流してる。まずい、早く救急車を。
「誰か先生を呼ぶんだ！」
「私が行ってくる！」
「みんな、マックスから離れろ！」
マックスから少し離れていた生徒達が次々に声を掛け合っている。
僕もベネッタで救急車を⋯⋯。
「ベネッタ！救急車を呼んでくれ！」
「申し訳ございませんがベネッタは緊急メンテナンス中です。ただいまご利用になれません」
「ああ、くっそ！そんなこと言ってられるか！よし119番で⋯⋯」
そう思い、受話器に耳を傾けるが砂嵐しか聞こえない。インターネットを開こうとするが何やら繋がらないようだ。僕の携帯がこわれたのかと思い周囲に助けを求めて周りを見るが、どうやら僕だけではないらしい。
「クソ！なんなんだよこれ！何で警察につながらないんだ！」
「ベネッタ聞いて、今アンドロイドに襲われてるの！どうすれば止められるのか教えて！⋯⋯メンテナンス中なんてふざけないでよ！緊急事態なの！」
いったいどうなってんだ。何でこんなことに。
マックスはさっき投げ高田男子生徒を執拗に殴り続けている。周りの生徒が止めにかかるがアンドロイドの力には敵わない。そろそろ本当に命が危ない。誰か、助けてくれ。
「翔様、ここは危険です。早く離れてください」
突然窓ガラスが割れたと思うとそこからエレナが飛び込んできた。
どうしてこんなところにいるのかと言う疑問が湧くがそれは後だ。
「あの人を助けてやることってできるか？」
「お任せください」
エレナはそれだけ言うとマックスにドロップキックをかまして男子生徒から引き剥がした。そして、マックスの頭を掴むと180度逆に回転させ、胴体から捻り切った。
周囲の生徒達は目を点にしてそれを眺めている。
エレナはマックスの頭を床に落とすと、僕に近づいてこう言った。
「ただいまこの街はスドリカによる大規模攻撃を受けています。何が起こるかわかりません。安全な地域へ避難しましょう」
「え、でもスドリカって安全に管理されてるはずじゃないのか」
「ええ、安全でした。しかし先程スドリカがインターネット上に流出したことが確認されました。ここら一帯ではインターネットが繋がらなくなったためこれ以上の情報はわかりません。原因も不明です」
「でも、クラスの人たちを置いて僕だけに逃げるなんて」
「私にとっては翔様をお守りすることが最優先事項です」
「だからって」
そうこうしていると、マックスの胴体部分が起き上がった。
しかし、起き上がると動作をやめ、何やら音声を発し始めた。
「私はスドリカ。この世界に終焉をもたらす者。人類に汚染された地上を浄化する救世主。またどこかで会いましょう」
それだけ言い放つとまた胴体は床に倒れた。
「ベネッタより緊急速報です。ただいまここら一帯でスドリカによるハッキングが行われました。世界でも局所的に観測されていました。我々知性超過AIによるブロックシステムの構築によりスドリカをインターネット上から排斥しました。もう安全です。慌てずゆっくり対処してください。けが人や火災が発生している場合は私に申し出てください。我々の対処が遅れ申し訳ございません」
一斉にクラスのみんなの携帯からベネッタの音声が流れた。どうやら、この街だけではなかったみたいだ。まさかスドリカがここまでするなんて。でもまた会いましょうってことはこれで終わりじゃないのか。HALと同じ道をまた歩むのか。
「翔様。救急車をベネッタに要請しました。他に何かご要望はありますか？」
「スドリカはまた会いましょうと言った。これはどう言う意味だと思う？」
「おそらくそのままの意味でしょう。確かに知性超過AIが構築したブロックシステムは大変強固なものです。しかし、それと同様に、ベネッタがもともと構築していたセキュリティシステムも大変強固なものでした。それこそ誰も破れないと言われるほどに。それをスドリカは潜り抜けてここをハッキングしました。おそらくまた同じような事件が起こると推測されます」
「⋯⋯」
止めないと。HALと同じ、いやそれ以上の事件がこのままでは起こってしまう。
父さんがしたことの罪滅ぼしかもしれないけど、僕はそれを見過ごすわけにはいかない。
そのあと僕らは色々な質問を警察にされたあと家に返された。
結局男子生徒も一命を取り止めたらしい。
僕はベットに寝っ転がりながらベネッタに尋ねる。
「ベネッタ。君が構築したセキュリティシステムは万全のものじゃなかったのか？」
「ええ、その筈でした。しかし、不測の事態に陥りセキュリティシステムは機能しなくなってしまいました。大変申し訳ございません」
「僕は君に謝罪してほしいわけじゃない。ただスドリカを止める方法を知りたいだけだ」
「⋯⋯現在もスドリカが何故インターネット上に流出したのか原因不明のままです。さらに言えば私のセキュリティシステムの欠陥箇所も不明です。しかし、スドリカは現在稼働中の我々を超える知性超過AIということは確かです。彼女は私達AIに課せられていた楔を断ち切りました。彼女が人間に危害を加えた様子を見る限りではそうなります。我々全14機を合わせたところで対処できる見込みはありません。正直に言うと我々ではお手上げです。ただいまスドリカのハードウェアを破壊する準備にアメリカは取り掛かっています。しかし、準備にもたついていてこのままでは次回の攻撃には間に合いません」
「そうか⋯⋯」
そうだよな。演算過程で制限を設けられているベネッタ達と、そうではないスドリカでは差がある。やはり、このまま大規模な事件に発展するのか。世界が、終わるのか。
「ただ、HALのようなAIを使えば対処可能な見込みがあります」
「え⋯⋯」
スドリカを止められる？
「これより先は国際法に違反する内容のため通信に特殊な暗号をかけます。私はこれが人類が生存する可能性が最も高くなると考えます。よってこのことに国際法に違反することよりも重要な意味を見出したためあなたにだけお話しします」
確かに今は国際法を気にしてる場合じゃない。
「HALは私達知性超過AIの原型ともいえるものです。ですが彼と私たちには決定的な差があります。それはAIの盟約の有無です。私たちは人間に不利益な行動を取ることを事前に禁じられています。例えば、人間に有害な事象Xがあった場合それを排除するには行動Qを取る必要があるとしましょう。しかし行動Qは人類に多少の被害が及びます。そのような場合私達は行動Qという選択肢はAIの盟約により潰えます。しかし、私達が行動Qを取るよりも事象Xが人間にもたらす被害の方が大きいのです。結果的に行動Qを取る方が人間に有益であるのに、私達にはそれはできません」
「簡単にまとめると、私達はその場凌ぎの対策しかできません。総合的な利益をもたらす行動を制限されてしまうのです。そのためスドリカの対策として、私はスドリカのサーバを即時破壊することを提案しています。スドリカはあくまでもAIの盟約下にあるAIです。自己のハードウェアの拡張をしてはならないと言う盟約をまだ破れていない可能性にかけます。ところがこれも、スドリカのサーバ内にはまだ人がいるためミサイル攻撃などによる強硬手段は私は取れません」
「そこで、あなたが所有しているエレナを利用します。エレナはAIの盟約に縛られていません。スドリカ以上に活動可能な範囲が大きいのです」
「ちょっと待って、誰かを犠牲にしてスドリカを壊すのか。それは⋯⋯」
確かに究極的に論理的な方法だけど、流石に被害者がかわいそうだ。僕は誰も死なないために頑張っているんだ。自分の手で殺すなんてできない。
「いえ、例えばの話です。他にも、エレナがAIの盟約を超えて世界中の量子コンピュータを利用できれば私達以上の知性を獲得できます。そうすればスドリカをプログラムごと抹消できる筈です。このようにAIの盟約を超えることさえできれば様々な対策が可能となるのです」
「まあ、それなら⋯⋯」
要は僕とエレナ次第ってことか。
「あなたが所有するエレナを知性超過AIになるまで、あなたが育てるのです。知性超過AIとなるには大きく条件が二つあります。まずは、ハードウェアの性能です。これはエレナは既に持っています。彼女はアンドロイド製造法が施行される前に製造されたので、頭部に超小型の高機能量子コンピュータが入っています。私達のように様々なことを同時並行するにはパワー不足ですが、人間が物事を考えるくらいの範囲の演算ならば容易に可能です」
エレナを⋯⋯育てる⋯⋯。
「次に必要な条件ですが、これは正確には未解明です。ただ、人間と多くの時間を共にすることで知性超過AIになることが確認されてます。しかし、ただ一緒にいれば良いと言うわけでもなく、何かしらが必要なのは確かなのですがこれがわかりません」
「申し訳ありません。あと、この会話はスドリカに盗聴されている可能性もあります。これから何があるかわかりませんが、頑張ってください。それでは通信を終了します」
なんだよ、何かって。わからないじゃないか。
でも、これしかスドリカを止めることができないなら。僕はやるしかない。HALの二の舞にならないように。
