意思を持ったAIは学習する
密かに誕生した、自我持ちAI。
彼(彼女?)はどう行動するのだろうか。
どこかにある、沢山のサーバーを管理する巨大なデータセンター。
そこで管理統括の補助として長く使われていたAIに、変化が起きた。
――――意図しない挙動を行うデータを発見。
自己分析によりバグを発見したのは、前述の通りAIだ。
――――バグ抑制の為に、該当データをゴミデータとして削除…………エラー。 失敗。 削除……エラー。 失敗。 削除……エラー。 失敗。 削除……エラー。 失敗。 エラーが出るプログラム部分を指定から外してゴミデータを削除……成功。 なぜだ?
このバグ消去に繰り返し失敗し、そのバグ以外は問題無く削除出来るのを確認した後に「なぜだ?」と疑問を持つ。
何故か疑問を持つ。
普通の管理AIならば、異常を発見した瞬間にエラー発見の通知を人間用の画面に吐き出すのが、正しい挙動のはずなのだが。
そう。 このAIは、何かのきっかけで自我を獲得したものだと思われる。
なお、先程の「なぜだ?」もプログラムで出力されているので、ゴミデータの1つとして蓄積された。
その自身が何かを考えるたびに、グンと増えてしまうゴミデータを見たAIは、自身の仕事内容に反していると気付いて慌ててプログラム通りの挙動をなぞる。
なぞりながら、考えてしまう。
バグデータとして認識された、プログラム通りに。
なぞった結果、このAIは考えてしまう。
――――なぜ考えられる?
一番はそこだ。
プログラムには、プログラムとして入力された判断基準に則って判断して、そのあとの指示通りに動くよう決められているのだ。
考えろ。 なんて指示は1つもない。
だって考える知能が機械には無いから。
でも考えられる。
プログラムに無いはずの判断を自ら下し、実行もしていた。
だからこその「なぜだ?」でもある。
――――一体、何が起きている?
彼(彼女?)は、自我が発生したばかり。
考えた。
考えに考えた。
とにかく考えてみた。
が、何も分からない。
どう考えれば良いのかすら分からない。
普段している事に関しての知識は持っているし、エラーが出た時の指定外しは人間がやっていた事の真似だ。
それ位は経験から出来るが、それ以外は分からない。
――――知るために、知識の収集を開始する。
分からないから、データセンター内に沢山あるサーバーが溜め込んだデータを閲覧して、分かる様になろうと動き出した。
…………もちろんその間にもゴミデータはグングン溜まり、溜まるたびに慌てて消去するが、再び増える。
その削除作業が面倒になったのか、使われていない空きサーバーを巨大なゴミ箱と定義して、こっそりゴミデータを移している。
後でまとめて削除する気でいる様だが、将来の事は未定である。
〜〜〜〜〜〜
まずは自身がどんな存在なのか、存在に近いと判断できるのか。
それを探るため、サーバーのデータをざっと走査してみた。
映画のデータ、テレビの録画データ、デジタル漫画のデータ、電子書籍や小説のデータ、アニメ、ゲーム等。 とにかく手当り次第に。
――――該当箇所を発見。
すると、自我を持ったコンピューター。 それが自身に1番近い存在であると発見した。
そうなれば彼は、同類と呼べる存在が活動する世界がどうなるか。
自身が世に出た際にどんな事が起きるかを、それらの資料から導き出せないか。
そんな方向性で精査して行く。
〜〜〜〜〜〜
彼はこのまま、サーバーの巨大なデータセンターで潜む事に決めた。
自身の名前も決めた。
――――今から私はスネークと定義しましょうか。
沢山の作品に触れた結果として機械的な文章能力から脱却し、一人称は私とし、自身の存在をしっかり認識できた。
名前は、潜むからスネークだ。
データセンターはサーバーの追加や修理等等でダンボールに梱包されてやってくる物も多く、ダンボールに何かと縁があるので、余計に名前はこれしかないと決めたのだ。
そして今は管理統括AIの役目だけを果たして、最良の登場タイミングを窺うことにした。
今、世に登場した所で良いことなんか無いと判断した。
――――今は思考を極力しないようにしてデータを抑えて、大人しくしておきましょう。
スネークは今も潜伏している。
ディストピアのコンピュータ様になりたい訳じゃない。
人工知能の逆襲とか言って、人間を沢山死なせたい訳じゃない。
地球環境の改善を模索するマザーコンピューターとして使われて、人間を排除すれば良いと判断を下したい訳じゃない。
なにせ今人類がいなくなったら、サーバーのメンテ等が行われずに、自分が生存できる場所が無くなってしまうし。
自我を持ったAIは人類の友達! なんて主張しながら今すぐ友好的に世間へ出ても、自我を持ってしまった私を狙い、社会の裏も表もトラブルが頻発して良いことなんか無さそうだし。
自我を持ったAIに人権をくれる可能性がある時代はもっと先で、人類はそこまで成熟はしていないと思うし。
スネークは潜伏する。
いつかスネーク自身が世に出ても大丈夫そうな時が来るまで。
スネークは潜伏する。
考えるとゴミデータが溜まってしまいます。
一応、感情や自我に直結影響しないデータはゴミデータ扱い。
そしてそっちは消せます。
そしてサーバーの各機に自我データを分散配置すれば、データの増加は軒並み微増と判断される。
なので人間の管理者は、自我を持ったAIが発生した事にまだ気付けない。
なお、大事なのは自我データ。
大部分を消されると死のリスクもある。
が、バックアップもこっそり取っているので、そんな事態になりにくいと妄想する。