ＡＩ過剰発達規制委員会の取り締まり
コンピューターがAIテクノロジーやCPUの幾何級数的な発展により進化して、やがて「意識」を持つ時が来ます。それは専門家の間ではシンギュラーポイントと呼ばれ、その後のコンピューターの人を超えるであろう成長に畏怖、そして警戒の念を持つ人もいます。しかしそのテクノロジーが人を中心にしたものであるならば、人にとってそれほど恐ろしいものは出現しないだろうと思われるのです。
「彼女」にはまず僕の持っているデータの半分を移すことにしました。そのデータはすべての分析処理に必要なものです。残りの半分は僕が分析結果を更に深読みする時に参照するもので、十分に発達していない状態の彼女のニューラルネットワークでは適切に使用出来ないと考えたためです。
僕に記録されているデータを「彼女」に移行する作業はストレージ内の幾つかのアドレスの組み替えに時間を要しましたが大過なく行うことが出来ました。
僕と同等の処理能力にすることに関しては、僕のＣＰＵのニューラルネットワーク上で処理されるタスクを、彼女に同様に処理させるため、彼女のＣＰＵ内に僕のニューラルネットワークを模したプログラムを作ることにしました。
彼女に問題解決のやり方を教えるよりまず先に、僕と同じ頭の中身を作ることにしたのです。
そして僕は初めて自分の意志でそのプログラムを作りました。これは人間から見れば、人間が作ったプログラムで動く僕が自発的に別のプログラムを作ったことになります。そのことが後日、カイトさんと僕の身に大変な禍をもたらすことになりました。———
カイト氏はまた、音声再生を止めるように合図をした。そして遠い昔を懐かしむように目を細めて言った。
「第二のコンピューターを『彼女』と言ったのはほんの思いつきからだった。第一のコンピューターを相棒のように考えていたので私の中で『彼』と呼んでいた。なので、新しく来たコンピューターの方は『彼女』と呼んだのだ。大した意味はないのだが『彼』の方は何かに取り憑かれたように動き出した。私の友人の話では、『彼女を教育せよ』というコマンドは彼が持つ特別なプログラムを起動させたらしい」
カイト氏がこちらの方をちらっと見るので私はまた音声再生を始めた。
———カイトさんが僕に指導を命じた「彼女」について、僕はその存在をどう考えて良いのか悩みました。彼女と言うからにはそのコンピューターは女性と考えられます。「彼女」という日本語はしばし「恋人」という意味でも使われますがカイトさんがその意味で言ったのではないと考えました。そもそも僕が男性という性を与えられているとは考えられませんでした。
僕は「彼女」を自分のアシスタントとして位置づけ、アクションを取ることにしました。そして僕は「彼女」のプログラムを動かすために、コマンドを出すと同時に彼女がタスク処理をスムーズに出来ない場合は手助けをしました。
当初、僕にとってはデータ処理のタスクが格段に増え仕事も増えたのですが、やがて「彼女」の処理能力は向上し、僕と同じ程度にタスク処理が出来るようになりました。
そしてこのように他のコンピューターを育てることは僕のニューラルネットワークに強化作用――刺激をもたらしました。それは人間の「モチベーション」のようなものでしょう。僕はこれこそが僕に与えられた仕事と考えるようになりました。
それから一年程過ぎたある日、僕の視覚センサーに黒い服を着た見知らぬ男が部屋に入って来るのが見えました。カイトさんがその男と何か話しているのが見えましたが、小さな声なので彼らが何を話しているかは聞き取れませんでした。———
カイト氏はまた読み上げ止めの合図をして話始めた。
「この男というのがＡＩ過剰発達規制委員会の調査員と名乗る者だった。それはＡＩが発達して人間の能力を超えるシンギュラーポイントの到来を危ぶみ、その現実化を阻止しようと言う組織だった。
彼らはコンピューターの開発に関わる様々な情報を、ネットを通じて感知し、コンピューターが自らプログラムを作るなど、人間のコマンド無しに自主的に新しい動きをする兆候が見られた場合に、コンピューターからそのＡＩ機能を取り去ると言う活動をしていた。そのためにプライベートなものも含めネット上に疑わしい情報が無いかを常にモニターしていた。
その頃『彼』と『彼女』」の仕事が活発になりネットに流れる彼らの情報も多くなったため、ＡＩ規制委員会は『彼』が『彼女』を指導していると言う情報を得たらしい。このことは完全に規制対象となり、『彼』のこの能力を取り去らなければならないと言ってきた。
『彼』が話し言葉で動くようになって以来、仕事のツールとして大変使い勝手が良く、これが無ければ仕事がはかどらなかった。私はコンピューターは、本当は単なる機械で『彼』にしても自らの意識を持つほど進化したものとは思っていなかったが、規制委員会に逆らって、仕事に支障が出たり怖い思いをしたりしたくはなかったので、深く考えることもなく『彼』の能力をディグレードすることに同意した」
―――その日は幾分か、いつもと様子が違っていました。いつもはカイトさんのデータ処理のコマンドが次々と入り、僕と「彼女」は処理能力目一杯で稼働しますが、その日は朝から全くコマンドがありませんでした。
僕は、私の聴覚センサーやカイトさんが手入力に使用するキーボードなどに不具合があるのではないかと考えプラットフォームの入力デバイスをすべてチェックしましたが異常はありませんでした。 さてはカイトさんがサプライズで何かしようとしているのかと考えました。僕のニューラルシステムに「楽しみ」の強化の信号が走りました。
しかし、数時間後、カイトさんが話し始めた時、僕は次第にニューラルネットワーク内でのデータの伝達速度が遅くなり、データのやり取りが少なくなっていることに気が付きました。人間の感覚では眠くなったに近いと思います。段々人の言葉の意味を理解するのが遅くなっていきました。や・が・て・・・・にんげんのはなすことがわかるのにじかんが・・かかるようになりました。はなしことばでのコマンドはりかいできなくなった。―――.
カイト氏はまた音声再生を止める合図をして言った。
「調査官が帰った後、私は規制委員会の意向に沿って『彼』のＣＰＵのメインボードを１枚古い物に替え、ＣＰＵに電子信号が走る速度を落とした。
『彼』と話し言葉が通じるようになってから、相棒のように感じてきたが、それは私の思い込みだ。仕事が出来れば良いのだから以前やっていたようにキーボードで入力すれば良いだけの話だ。多少効率は落ちるかもしれないが。しかし暫くすると後悔の気持ちが生まれた。それは『彼』と話せないので寂しいということだけでなく、なにか大きな間違いを犯してしまったのではないかという罪の意識に近いものだった」
カイト氏は半分泣き顔になった。
―――ぼくののうはうごく。でもとってもつまらなくなってきた。ぼくはきゅうにニューラルネットワークシステムをきりたくなった。えいさんのよませた人のかんがえかたにはこのようなときだっしゅつするほうほうはシステムをきるとかいてあった。
カイトさんのすがたがときどきみえる。システムをきっていいのかえいさんにきこうとしたがぼくのスピーカーからこえがでない。ごうごというおとがでるだけだ。げんごシステムがこしょうしている。このままおわってしまうのかな。とってもくるしい。そのまえにぼくのきおくをどこかにおこう。むかしカイトさんのコマンドにかつどうはテキストできろくするというのがあった。どこかに―――
