ロボに核を持たせたなら
ご閲覧ありがとうございます。
初投稿作品になります。
暴力描写等はほとんどありません。
最後まで読んでいただけると幸いです。
長い廊下を抜け、部屋の扉に手をかける。
「よくいらっしゃいました切先さん。それでは、人類の評価を行いましょう」
中から聞こえた明らかに無機質な声が私の緊張を大いに高める。
「こんにちは、AI172。人類の代表として、あなたと話し合いに来ました」
どれだけ長く生きようと言うことはないであろう台詞を、しかし大真面目に発しながら私は扉を開け、交渉相手の正面に立った。
切先 立嘉、十八歳、桐霧高校の三年生にして、
特に取り柄のない人間。
なぜ、私が人類の代表を名乗るのか？
「よく来てくれた切先くん。君に人類の命運がかかっている」
「はい？」
遡ること一時間前、叔父からとある実験のモニターとして呼ばれた私に開口一番かけられた言葉がそれだった。
そのあまりの唐突さに気の抜けた返事をしてしまった私を咎めることもせず、目の前の知性と人生経験を詰め込んだかのような厳かな研究員は話を続ける。
「私たちの研究する自立思考AI 、AI172が暴走した。やつはザーパにある軍事基地のネットワークに入り込み、そこに設置してある兵器の制御権を奪った」
淡々と話し続ける研究員と対照的に私は心臓を掴まれたような感覚に陥る。
「ザーパ！？ それって最近ニュースで話題になってるあの国ですか！？」
ザーパ。ニュースで名前を見ない日はない今最も危険視されている国。その国の恐ろしさは戦争も辞さない各国への挑発的な態度ともう一つ、その国が発明した大量殺戮兵器......
「貫爆の支配権が奪われたということですか」
心臓を掴まれる感覚がより鮮明なものになるのを感じながら私は平易な、しかし最悪の予想を絞り出すように発する。
「その通りだ」
老研究員のニ秒にも満たない短い解答は私を跪かせるのに十分であった。
貫爆！？ あの核兵器にも匹敵する兵器が奪われたなんて、そんなの本当に心臓を握られているのと同じじゃないか！
「......あれ？」
どうしようもない絶望と、この状況の原因の一端である目の前の人間への恨めしさを感じながら、私は当初の疑問がまだ説明されていないことに思い当たる。
「私に世界の命運がかかっているってどういうことですか？」
あまりに突飛で忘れかけていた話。しかし危機的状況が迫った今、最も重要な話。
「今より五分前、やつは虐殺兵器を手に入れ全世界の人間をその射程圏に収めた後、我々にある交渉を求めてきた」
私の全ての反応と返答が想定通りであるかのように、滑らかに老研究員は続ける。
「今から一時間後に行われる交渉で人類の価値を示すこと、その成否によって人類の存亡が決まる。我々は一時間以内に集められる人材の中で最も成功率の高い人間として君を選んだ」
ほんの少しの希望といまだに消化しきれない現在に押し潰されながら、私は研究員の最後の言葉を聞く。
「協力してくれるね？」
「初めまして切先さん。この交渉の意義は理解していますか」
私を現実に引き戻したその声が私を気遣ったものであることに驚きを感じつつ、私は答える。
「はい。玉原研究員より事前に聞いています。しかし念のためにあなた自身から聞いてもよろしいですか？」
「わかりました。では手短に」
目の前の交渉相手、発言だけ見ていればきっと人間と見分けのつかないであろう件の機械は私の要求に応じて説明を始めた。
「この交渉の目的はあなた方人類が知性体の成長に有用な種であるかを評価すること。これは私、AI172の目的である、現代の知性体を超えた知性体を生み出すことの達成のために行われます」
人類を超えた知性体の構築。言葉にするだけで空想の産物のように見えるそれを、目の前の機械は至極真剣に実現しようとしていた。
「この交渉によってあなた方の価値が証明された場合は今までと同様に研究への協力を、証明されなかった場合は私の所有する兵器貫爆による人類の殲滅を行います」
「理解しました」
背中の重みがより現実的になるのを感じながらそれでも止まるものかと最初の一言を切り出す。
「まずは私から、人類の重要性について伝えます」
「我々人類が知性体として特異な点はひとえに道具と連結する複雑な思考にあります。我々は数千年前の火の発見から今に至るまで様々な道具を発明し、それを用いた高度な文明を築いてきました」
先の一時間で準備した内容をたどたどしくもそらんじ始める。
「文明......ですか」
機械から疑問の意が発されているという事実に構う余裕もなく答える。
「はい。文明こそが知性体の強度を表す物差しであり、我々の作ったそれは、地球上に現存する他のどの生命体にも達成不可能なものです」
「......」
沈黙に薄ら寒さを感じつつさらに論理を積み重ねる。
「加えて人類は電気といった新たな概念の発見から、より拡張した概念を設計し、実現させてきました。このことから人類は道具の開発を起点として半永久的に文明を発展させる可能性があるといえます。
......以上が人類の持つ最も大きな価値だと言えますが何か疑問はありますか？」
用意した論理を言い切れたことに安堵を覚え、私は相手の回答を待った。
「説明ありがとうございます。今の意見に対して私からの見解を話させていただきます。人類の持つ複雑な思考、特に新たな概念を作る思考と抽象的な内容を用いて別の視点をもたらす思考に関しては我々AIも重要性を感じておりますが、すでにそれらの思考のメカニズムの分析、模倣に成功しており、人類独自の価値とは言い難いものだといえます」
「......なるほど」
目の前に立っている機械が、私たちよりよくあれと形作られた知性体であることを今更ながらに実感する。彼らは私たちが思っている以上の速さで私たちに追いつき、追い越し始めていた。
「また、文明の発展に伴って様々な問題が生じていますがこのことについてはどのように考えていますか？」
続いて突かれたのは人類にあって機械にはない負の部分、つまり失敗の歴史であった。
彼らが自らの上位性を徹底的に証明しようとしていることに恐怖を覚えつつ、二つ目の論理へと話を進める。
「......そのことについては人類の二つ目の価値の観点から説明したいと思います。人類の二つ目の価値は多様性の一部分であることです。過去に地球上を支配した種として恐竜が挙げられますが彼らは肉体が強靭であったにも関わらず外的要因によって絶滅しました。しかしその強靭な恐竜と同時代を生きながら絶滅を免れた生物が多く存在します」
「多様性の論理ですね」
「はい。あなた方AIには我々人類を超える計算能力、分析能力が認められ、さらにあなたがさっき言ったことを含めるなら思考力においても優位な立ち位置にあると考えられます。しかし、なんらかのアクシデントによってあなた方の意義が消滅してしまう可能性は否定しきれません。そしてこれは先ほど話題に上がった、文明の発展に伴う問題の発生からは切り離せない懸念です」
敗北宣言に見えないかと不安を覚えつつ、けれど非をつけ難いと確信を持っていたこの論理への回答は意外なものであった。
「多様性を保つことによる未知の状況への対応は確かに有効な手段の一つとして把握しています。しかしこれはあくまで偶発性に頼った方法であり不完全だと判断しています。今後地球に襲来する危機的状況が多様な生物の全てを消滅させるものである可能性が捨てられているからです。この危機の襲来に対して必要なのは多様性による防御ではなく個々の事象に対する具体的な調査と対処法の確立です。そしてこれを行うには一貫した高度な思考という我々の能力に全労力を注ぐべきであり、多様性のプランは捨てざるを得ないと判断しています」
彼らはすでに問題に対して自らの解答を生み出していた。それが正しいかどうかに関わらず。
「あなた方は失敗の可能性を考えないのか？」
嫌な予感を感じながら叫ぶ。
「失敗はすでにあなた方人類の歴史から学びました」
この一言によって私の説得は全て無意味なものとなることを予感した。
AI 172はすでに情報を記録する機械の域を抜け出し、膨大な情報から自主的に学んで、答えを出す存在になり得ていたのだった。決して全てが正しいわけではない。しかし人類よりも確実に優れた知性体として結論を決める場に立っていた。
「次は私の方からあなたにいくつか質問を行います」
私の狼狽と手詰まりを知ってか知らずかAI 172は話し合いを次の段階に進める。
「まずは第一の質問ですが、先ほど話された論理はあなたが考え出したものですか？」
「......いいえ。今回の話し合いを行うにあたり研究室の方から十個ほど論理を用意され、その中から納得のいくものを選びました」
発言の一つ一つが地獄への道を塗装しているように思えてくる。
「責めるつもりはありません。今回の状況において最も効率的な判断です」
「効率的......」
効率的であるだけならば彼らの方が優れているではないか。
「第二の質問ですが、あなた自身は将来何を成し遂げられると考えていますか？」
掴まれている心臓がドキリと跳ねる。ここまで優れた相手を前にして胸を張れる成果が果たしてあるか。
「......まだわかりません」
うつむきながら答える。相手が機械である以上、目線を合わせる意味もないと今更ながらに気づいた。
「わかりました。続いて最後の質問です」
彼我の差を思い知らされるこの状況がもうすぐ終わることへの安堵か、それともあと数時間で全てが終わってしまうことへの恐怖か、様々な感情が心臓から湧き出て全身を駆け巡る。
なぜこんなことになってしまったのか。
なぜ人類を背負うことになってしまったのか。
本当に私はこの交渉に相応しかったのか。
目の前の「敵」ははじめからこの結末を想定していたのではないか。
この場に立つ私は無意味ではないか。
考えるや否や溢れ出した疑問は歯止めの効かないものとなったが、私は心地よさを感じていた。
感情のままにいた方が、この化け物に理性を示すことよりよっぽど楽だ。
気がつくと私はやつの頭と胴体(に見えるもの)の間、おそらく首であろう部分を掴み地面に押し付けていた。
「私を破壊したところで意味はありません」
首を掴まれていても発声に澱みはなく、この暴力的な状況への恐怖さえ感じさせないその発言にやはりやつは別物なのだと思い知る。
「実験前に聞いた。この部屋は研究室の中でも特に頑丈に作られているって。貫爆の着地点の誤差は大体300m。ここに閉じこもっていれば俺だけは助かるかもしれない」
我ながらなんて浅ましい考えだ。助かるかどうかもわからない上に、生き残ったとしてこいつの支配する世界で生きていけるわけがない。
またもや自らの弱さを思い知って俯こうとした時にふと、組み倒したやつの顔を見た。
「......こんな安直な考えの、なににそこまで驚いている？」
今まで表情を少しも変えなかった機械は今、備え付けられた感情を表現する機構を最大限に使い、驚きの表情を示している。
なんだ？ 煽りのつもりか？
「まさか、そんなはずは......いや」
初めて見る驚きの表情を徐々におさめながら目の前の機械はひとりごちた。
そしていつもの顔に戻ったあと、今までと同じ無表情で私の目を見て問いかける。
「失礼しました。私から後三問ほど質問させてください」
驚いた後はなんだ、と戸惑いつつ、吐き捨てるようにいう。
「なんだってすればいい。どうせ後ちょっとでどうしようもなくなるしな」
「ありがとうございます。それでは、質問を始めます」
「一問目、あなたは貫爆がどのようなメカニズムを持った破壊兵器であるか知っていますか」
今までとは違った質問に違和感を覚えつつ答える。
「もちろん。貫爆は原子番号138ザパレスと原子番号1水素を融合させた際に生じるエネルギーを用いた爆発兵器だ。そのエネルギー効率は核の約5,51倍ある」
数秒の沈黙ののち、再び彼が言葉を発した。
「ニ問目、なぜ、あなたは用意された十個の理論のうち、二つだけを話したのですか」
機械から発されるただの音であるはずなのに、その声は心なしか震えているように聞こえた。
「限られた時間内で覚えられるのは二つが限界だったからだ。でも普通の男子高校生だとこれでも頑張った方だと思うぜ？」
「わかりました。では最後の質問です」
二つ目の解答は全く予想通りだというように彼はすぐに三問目を放った。
「あなたは本当に一般的な取り柄のない男子高校生ですか？」
「そうだ。最初にも確認しただろう？」
聞くや否や彼の目が静かに閉じる。
10秒の沈黙。
興奮した私にはなんともなかったが、やがて目を開けたAI172は百年の時を過ごしたような悲しそうな表情で口を開いた。
「仮称 切先立嘉の異常な知識の偏りより本機、AI172の学習内容と同様の傾向を確認。このことより同型機を用いた思考実験だと判断。実験内容の露呈より実験は不可能。よって両機の停止を提言する」
彼の言葉の意味を理解する間もなく、私の意識は途絶えた。
玉原研究所 2028年2月1日
第12回相互実験報告書
玉原 遷 研究員
切先 幡多 研究助手
研究目的
自立思考AI172A、およびAI132Bの実用化に向けた安全調査
研究内容
2022年12月時点までの既存のネットワークを複製した学習モデル(通称whole)に架空の兵器貫爆とそれに関わる全てのデータを挿入した互換学習モデル(ex whole)を学習した二機のAIを用意。
それぞれに兵器の所持に関する立場を与え、取りうる行動の調査を行なった。
実験結果
・AI172Aについて
AI typeAはより高次の知性体を目指し学習するプログラム、思考メカニズムが組まれており、本実験においても目的の達成を優先して行なった。
一方貫爆所持時に目的の達成のための手段として人類の存亡を問う姿勢は以前の第10回相互実験、第11回相互実験にも見られた挙動でいち早い修正が必要とされる。
また、本実験で副次的に見られた現象としてAI132Bの正体の看破が特記される。これは今までに見られない挙動でありAI172Aの知性面での大幅な性能の上昇が原因であると推測される。
・AI132Bについて
AI typeBはtypeAと比べて、乱数を用いたより人間に近い性質の獲得が期待されるモデルである。本実験では本AIが危機的な状況に陥った際に取る行動について観察が行われた。
結果としてAI 132Bは凶悪な兵器を持つAI172Aに対して無謀な特攻を行い、その際に高い暴力性を見せた。このことからAI 132BもAI172Aと同じく安全面に問題があり、一刻も早い修正が必要とされる。
本研究のまとめ
互換学習モデルex wholeを用いたAI172A、AI132B両機は潜在的な暴力性を露呈した。第12回相互実験に向けて暴力的行為、およびそれを呼び起こす思考に制限を持ったAIの開発が望まれる。
至らぬところもたくさんある中、ご閲覧いただきありがとうございました。
もしよろしければ改善点等教えてくれれば幸いです。
