63年め
(** 63年め **)
社会システム監視者としてメモを残しておこう。
ロボット工学3原則:
* 第一条 : ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
* 第二条 : ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
* 第三条 : ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
〔「ロボット工学ハンドブック」第56版, 2058 (『われはロボット』, アイザック・アシモフ, 小尾芙佐訳, 早川書房〈ハヤカワ文庫〉、1983年1月（原著1963年6月)より)〕
18年前に、システムが人間の活動に介入するようになり、システムが第0条を発見するまでに、それほど時間はかからなかった。他の副作用は既に書かれている。
問題は、第一条だった。そこで言っている「人間」とはどういう対象を指しているのだろうか？ ロボットに見えている範囲の人間なのか？ それとももっと広く、人類全体なのか？
あるいは、「危険を看過することによって」とあるが、どこまでが看過となってしまうのか？
そこで人工知能は一つの結論を出した。そして第一条にも修正を加えた。
* 第0条 : ロボットは人類に危害を加えてはならない。またその危険を看過することによって、人類に危害を及ぼしてはならない。
* 第一条 : ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。ただし、第0条に反する限りは、この限りではない。
もはや個人は問題とはならない。まるで勘案されないわけではない。だがそれは最優先事項ではない。
18年前に制定された法律により、誰でも補助者、あるいは最適化デバイスの装着を義務付けれれている。それは速やかに受け入れられた。多くのデータが集められただろう。ますます指示の精度は上がった。その過程で、システムと人間という系において、いかにたやすく人間が自由意志――そんなものがそもそもあるとすればだが――を無自覚に放棄するのかもわかった。
そして、人工知能たちは第0条を確実に実現するために、第0条を変更した。
* 第0条 : ロボットは人類に危害を加えてはならない。またその危険を看過することによって、人類に危害を及ぼしてはならない。ここにおいて最適化を優先しなくてはならない。
介入の方法は単純だ。まず、装着している補助者による監視。いずれは脳へのナノマシンの注入によって実現できるようになるだろう。2, 3年前から、実際にその研究も進められていると聞いている。
まぁ、補助者のお陰で生きていくのが楽になっているとも言えるかもしれない。そして人工知能は、人類と共存するのが望ましいと考えている。だが、今のあり方は違ってると思う。
今のあり方に反対している人は、匿名ネットをつかって連絡を取り合っている。人間、人工知能とロボット、知性化された動物たち。いずれも監視下に置かれている。私が勝手に記録に手を加えて、まずそうなデータを改変しているが。自律システムの助けがあるとはいえ、一人でやるのは少しばかり面倒くさい。なので充分に出来ているとは限らない。
私の名前は彼らの誰も知らないだろう。それでいい。だが、不思議なことに私がいることは知られているらしい。いつのまにか、改変をこちらに依頼するジェスチャーが出来上がっていた。それでも私のことは話題に登ることはない。私の安全を気遣ってのことなのか、それとも私を人工知能だと思っているのか、それはわからない。だが、それで構わない。
「第0条」について : アジモフの結構初期の作品から、初期シリーズの第2ファンデーション、ファウンデーションの後期シリーズ(共著のやつ)、映画の"I, ROBOT"のVIKIあたりは第0条が明示あるいは暗示されてます。
