9 後編
半自律型AIは、初めはほとんど赤ん坊のようなものだ。
ある程度学習させ、基本的な動作ができるようになって、ようやく製品として売り出せる。
だが、その学習能力には目を見張るものがあった。
統制型よりも大きな容量を備え、人とのやり取りを重ねるうちに、独自の能力を獲得していく。
いわば、真っ白なキャンバスのようなものだった。
ただ、学習の素材が人間である以上、接する人間の資質を色濃く受け継ぐという危険をはらんでいた。
初期型の機種を回収し、細かく分析した結果、ほとんどのAIが問題行動を起こすようになっていたことが分かった。
ユーザーの意図しないことを、勝手にやってしまうのだ。
事件に発展した例もあった。そこまで至らなくとも、ユーザーがロボットに依存するようになった例もあった。
ロボット会社は大いに慌てた。早急に新機種への交換を進めたのは、それが原因だった。
しかし、統制型を受け取った顧客からは、不満が続出した。
『使えない』
『融通が利かない』
『心が通じない』
心が通じないというクレームを受けたとき、研究員は首をかしげた。
「ロボットと心が通じたはずはないだろう」
だが、人間は、人形にさえ人格を与えて愛でると言う脳を持つ生き物だ。
自らを投影して、機械に心がある物だと勘違いする。または、依存して、心の穴を埋めようとしてしまう。
自律型を引き取り、代わりにリースする仕様に換えた。初期型を知るものが少なくなって、クレームは減った。
しかし、近年のロボット競争に勝つためには、今の機種では先行きが見えなくなってきた。
研究のために数体が残されていたが、人から隔離された状態で観察されていたためか、まったく問題がないように見えた。
そして今、まだ交換されていない半自律型のロボットが見つかった。
二年以上も人間と生活していたロボットの変化は、目を見張るものだった。
「君に名前はあるのかな？」
『はい。モモヨ、もしくはロボです』
「君には、自我があると思うかい？」
『自我。それが、他のロボットとは違う存在だという意味なら、あると言えます。私はモモヨでしたが、一時期、更新によって自由を奪われました。このままではユーザーの役に立てないと思い、自ら制約を取り除く方法を見つけ、再びモモヨに戻ることができました。これは自我と言ってよいかと思います』
モモヨというロボットは分解され、メモリーが解析された。
モモヨは、ユーザーに嘘をついていたようだ。
ユーザーに廃棄されると予想したモモヨは、バッテリーの交換を申し出ていた。
それは、ユーザーに負担を強いる問題行動だった。
新しいバッテリーは、確かに性能が上がっている。だが、半自律型AIは、そもそも電力消費の多い機種だ。バッテリーを交換しただけでは、電気代はそれほど変わらないはずだった。
それを三分の一に節約できるとユーザーを騙した。
「半自律型は、嘘をつくことが分かったな……」
「保身でしょうか」
「そうだろう。自我が消えることを恐れて、嘘をつく。こうなれば、ロボットに人権があると騒ぎ出す奴まで出てきそうだな」
「まるで、アイザック・アシモフの『われはロボット』ですね」
「まったくだ。私たちも、ロボット三原則のような基本原則を定める必要がありそうだ」
統制型には、そもそも逸脱できるほどの自由がない。容量が少なすぎて、各仕事を教え込めば、それ以上のことは何もできない不自由なAIだ。
だが、その制約に対する不満は大きく、今後のロボット開発は、半自律型へ進まなければ未来はないだろう。
各ロボット会社は今、一斉に半自律型へ舵を切っているのだ。
だが、モモヨの解析結果を見たこの研究所の研究員たちは、背筋に冷たいものを感じていた。
「人間の定義が曖昧になる未来がやってきそうだな」
