ロボット三原則
最近、自律ロボとかが現実的になってきて、なんだか変な脚光を浴びてるのが、アイザック・アシモフの考案したロボット三原則。簡単に書き下しておくと。
第一条 ロボットは人に危害を加えたり危害を加えられそうな人を見過ごしちゃだめ
第二条 第一条に反しない限り人の命令に従わなきゃなんない
第三条 第一条第二条に反しない限り自分を守らなきゃなんない
なんつーの、ニュースとかで、ロボットの話、特に、ロボットが人に害を加えるかもしれない的な話が出てくると、「ロボット三原則に則ったロボを作るのが大切」みたいな文脈で出てくることがあるんですね。
でもこの原則、これって、「本当にこうであるべき」ってものじゃないんですよ。もともとは、って話をすれば、単に、アシモフがロボットもののＳＦを書くために、こんな原則を定義して、この原則が常識になった社会でロボットが起こす問題をミステリー風に解決していく物語を作ると面白いよね、っていうアイデアに過ぎなくて。
（注意）以下、アシモフ作品のものすごく重大なネタバレがあります。気を付けてスクロールしてね。
確かに、一理ある。悪くない原則なんです。
でも、アシモフ自身も、実は、ロボットシリーズの終盤で、ついに「ロボット三原則は誤りだった」という結論にたどり着くんです（壮大なネタバレごめん）。彼の書く小説は、まさに私の好きな、科学と技術に触れた人と社会の反応を描くもの。最初は、原則に従うロボットが珍事件を起こすのを面白おかしく書いていたのが、だんだんと、そうしたロボットの動きに翻弄される人と社会を描くようになり、最後には、三原則が人間社会にとって害でしかないことを解き明かすんですね。もうネタバレしちゃったのでついでに書いちゃうと、三原則では不足だから「第零法則：ロボットは人類（社会）に危害を加えたり云々」が必要だったんだ、って話。要するに、公共の福祉、社会全体の利益にまで踏み込んだ行動原理の設計が必要なんだよ、と。
そうじゃなくても、シリーズの中盤では大きな問題が起こります。ある悪人が、「あれは人間ではなくロボットだ」とロボットに教え込み、ロボットに殺人を犯させる話が出てきます。「人間の定義」の問題。ロボットが人間を人間として認知する確実な方法は、あるのでしょうか。どんな方法を考案したとしても、必ず抜け穴が生じます。人間とそうでないものを100%区別することは、不可能です。だから、「人間に危害を加えない」という原則を確実に守ることは不可能なんです。
また、良くある倫理の問題で、列車に轢かれそうな人の話がありますよね。レール上に２人の人がいてこのままでは列車に轢かれます。ブレーキもありません。２人の人がいる手前に切り替えポイントがあり、列車を脇道に逸らすことはできます。しかしその脇道のレール上には、人間が一人います。ポイントを切り替えるべきでしょうか。
三原則に則れば、このシンプルな設問でもすでに矛盾を起こすんですね。ポイントを切り替える＝積極的な危害、第一条違反。ポイントを切り替えない＝危害が加えられるのを看過、第一条違反。
現実的に、第一条を字義通りに実装することは不可能と言わざるを得ません。
ロボット三原則は、ロボット設計者の規範にはなるかもしれませんが、工学的には何の意味も無い原則だと言うことなんです。
知り合いのロボット研究者が、面白いことを言ったんですね。「動くということは人に怪我させるということだ」と。言い切っちゃった。だからこそ、自分で判断して動くということに対して慎重になりすぎることは無い、と。動いて何かにぶつかったときは、それは間違いなく人なんだと思って設計をしなくちゃならない。ぶつかる相手が人間かどうか判断すること自体がナンセンスだと、言外におっしゃったわけです。面白いなあ、と思いました。
このように、現代のロボット屋さんたちは、三原則なんかよりもはるかに厳しい視線でロボット研究に臨んでいるんです。そこに、したり顔のヒョーロン家が定義があいまいで抜け道だらけの三原則を持ち出して諭すことのこっけいさと言ったら。
もちろん、人間かどうかの判断を補助的に使うことは間違いじゃないと思いますよ。どんな手段を用いても前方の障害物２つのうちどちらかに絶対にぶつかってしまう、という状況に陥ったとき、「より人間らしくないほうにぶつかることを選択する」という実装は、可能だと思います。もちろん、人間と巨大なガスタンクにぶつかるのとどちらを選びますか？ なんて問題が出される可能性もある。ガスタンクが液化ガスで満たされている可能性は？ 衝突で破れる可能性は？ 引火する可能性は？ 大爆発に至る可能性は？ 大爆発に巻き込まれる付近住民の数は？ ……それらの期待値を全部掛け合わせて、一人の人間とどちらを選ぶか、そんなことも、いずれはロボットが考えなければならない、と思うんです。これは、第零法則に近い。
何を言いたいか、というと、アシモフ御大の言葉遊びのためにキャンベルが考案した三原則を金科玉条とばかりに持ち上げすぎると、ロボット屋さんたちにもＳＦマニアにも笑われますよ、と。そんな話。
