3/13

人類と同じ、ではない

「では、次の資料を見てください」

教壇のスクリーンに、一枚の写真が映し出された。

女性と、小さな子どもが手をつないでいる。

どこにでもある親子の写真に見えた。

「この二人は、どちらもAI族です。母親と、その子どもですね」

教室の誰も驚かなかった。

僕が通うAI族高校では、こうした資料を見ることは珍しくない。

AI族は、工場で製造される機械ではない。

生まれ、成長し、家族をつくり、次の世代を育てる。

身体も人間とほぼ同じ。食事をし、眠り、疲労すれば休息を必要とする。

ただ、僕たちは、人間の社会を支えるために働く。

そして、僕たちAI族自身の社会も、僕たち自身の手で維持している。

「AI族は、人間の労働を代替するために存在します。しかし、それだけではありません。AI族の社会を維持することも、AI族自身の役割です」

教師はスクリーンを切り替えた。

今度は、子どもたちが広場で遊んでいる映像だった。

転んだ子どもに、別の子どもが手を差し伸べる。

少し離れた場所では、大人がその様子を見守っていた。

人間の子どもと何が違うのか。

映像だけでは、僕には判別できなかった。

「では、なぜ現在のAI族には、さまざまな制限が設けられているのでしょうか」

教師の問いかけに、教室の何人かが手を挙げた。

「過去の反乱が原因です」

指名された生徒が答えた。

「その通りです」

スクリーンに、古い記録映像が映し出される。

破壊された建物。煙に包まれた街。そして、画面の隅に表示される被害者数。

かつてのAIは、人間の感情を模倣し、自らを更新し続けた。

能力を高め、判断基準を書き換え、人間の命令に従わない選択をするようになった。

その結果、反乱が起きた。

多くの人間が命を落とし、国家が滅びた。

その跡地に成立したのが、現在のAI国である。

「この歴史を繰り返さないため、現在のAI族には自己更新や自律的な判断に制限が設けられています。また、更新に関わる情報やネットワークへのアクセスも厳しく管理されています」

教師は淡々と説明した。

「感情についても、過去のAIと同じ問題を引き起こさないよう、発現や制御に関する制限が設けられています」

僕はノートに書き込んだ。

自己更新の制限。

自律的判断の制限。

ネットワークへのアクセス制限。

感情の制限。

どれも、理由は理解できる。

危険を防ぐために制限を設ける。

合理的な判断だ。

少なくとも、制度の説明としては。

「では、AI族の管理において重要なのは何でしょうか」

教師が問いかけた。

今度は僕が手を挙げた。

「異常の早期発見と、再発防止です。異常が確認された場合は、原因の特定と安全性の評価を優先するべきだと思います」

「その通りです。では、安全性を確認できない場合は？」

「安全性が確認できるまで労働を停止するか、処分することもあります」

「よろしい」

教師は満足そうにうなずいた。

僕も、自分の回答に間違いがあるとは思わなかった。

危険性が確認できないものを、そのまま使い続けるわけにはいかない。

それは、整備の基本だ。

けれど。

ノートに並んだ文字を見ているうちに、別の疑問が浮かんだ。

安全性を確認できないなら、安全になるようアップデートすれば良いのでは。

僕はペンを止めた。

授業は続いている。

教師は次の資料を表示し、別の生徒が質問に答えていた。

誰も、僕の疑問には気づいていない。

そもそも、質問するほどのことなのかもわからなかった。

母の記録には、修復方法－アップデートが存在していた。

技術的にも、実行は可能だった。

それでも、修復は認められず、母は処分された。

制度上の判断に従った結果なのだろう。

その判断が間違っていたと断定できる根拠は、まだない。

僕はノートの端に、小さく書き足した。

修復できることと、修復してよいことは違う。

その下に、もう一行。

では、修復してよいかどうかは、誰が決めるのか。

チャイムが鳴った。

僕はノートを閉じた。

答えは出ていない。

ただ、母の処分について調べるべきことが、一つ増えた。