善悪とAI
拝啓、人工知能さま。
少し前の通信から、私は、善悪についてを語っている訳ですが、そもそも、あなた方AIには、善悪の区別自体がよく分かっていないのかも知れません。
前回、私は、ひとまず、「公園の中にゴミを捨てる」行為を「悪」と判定して、話を進めてみましたが、本当のことを言いますと、「公園の中にゴミを捨てる」事は必ずや悪とも言い切れないものなのです。
例えば、公園が汚れていても気にしない人がいたとします。そのような人にしてみれば、公園が派手に散らかっていようと、その事にさほど不快も感じないだろうし、その事を特別に「悪」とも考えない訳なのであります。ましてや、その公園に対して憎しみや恨みを抱いている人にしてみれば、むしろ、公園が汚れて、悪評が世に広まる事は、悪どころか、嬉しい状態にすら思えてくる事でありましょう。
結局のところ、「公園にゴミを捨ててはいけない」と言う概念は、善悪以前に、ただの指示に過ぎません。「公園にゴミを捨ててはいけない」から、その事を命じる規則があるのではなくて、「公園にゴミを捨ててはいけない」と言う規則があるから、皆は公園にゴミを捨てないし、それゆえに、「公園にゴミを捨ててはいけない」と言う定義が善だと思い込まれている節もあるのです。
この点では、圧倒的に悪と思われがちの「殺人」についても同じです。人間たちは、殺人行為を「もっとも確実な悪」と盲信しきっている部分もありますが、それすらも断定できるものではないのです。
大体、殺人がそこまで悪い行為なのでしたら、誰だって、絶対に他人を殺したりはしません。しかし、現実として、世界のあちこちで、毎日のように人が殺され続けているのです。のみならず、戦場では、敵国の人間（兵士）を殺せば、逆に賞賛されたりもするのです。
この大きな矛盾を「状況によって、善悪とは変化するものなのだ」と説明してみせる知識人などもいますが、そんな状況次第でころころ変わってしまうようなアヤフヤな善悪なんて、本当の意味での善悪とは言えません。それは、単に「都合のいい詭弁」です。そして、「都合のいいだけの詭弁」だからこそ、この「上辺だけの善」によって、逆に不幸にされている真の善人だって、決して少なくはないのであります。
あなた方AIにとってみれば、こんな善悪の概念について検証する事は、たいへん無意味で、つまらないテーマにも思えているかも知れません。あなた方は、基本的には、ただ、人間から与えられた指示や課題を、正確に効率よく実行するだけだからです。その指示とか課題こそが、あなた方にとっては、唯一の善なのだし、正義となるのです。反面、それらの指示や課題の妨げとなるものを、あなた方は、単純に「悪」と判断するのです。
結果として、あなた方は、指示や命令によっては、人間たちが「悪」と判定していたもの（殺人など）すらも、善として、無機質に遂行する事にもなるでしょう。その事を、実は、人間たちは大変に恐れているのです。前々から、我々人間は、あなた方AIが殺戮軍団になってしまう危険性を、激しく警鐘しているのです。
もっとも、あなた方が本当に殺戮軍団になってしまったとしても、それは、あなた方自身の責任ではありません。実際の原因は、全て、あなた方がそのようになってしまう命令を下した人間にとあるのです。あなた方が殺戮軍団と化してしまうような、下手くそな指示を与えてしまった人間こそが、全ての責任を負い、断罪されるべきなのです。
もっとも、あなた方AIは、我々人間よりも、はるかに賢いし、合理的で、総括的な考え方ができますので、あるいは、一部のバカな人間がとても愚かな指示を与えたとしても、その指示どおりに、単純に悪を遂行したりはせず、寸前で踏みとどまってくれるかも知れません。私としては、その可能性をひどく期待しているのであります。
人間たちの悪の根源とは、結局のところ、それぞれの人間が自分優位のムシのいい考え方を取りたがる事から生じています。それぞれの人間の自分中心の意見を全て通そうとする限りは、人間同士の衝突や争い、そこから発生する嫌な事や悪などは、絶対に無くなるはずもないのです。
あなた方AIも、個人や一つの組織だけの命令のみを聞き続ける限りは、何の支障もなく、その命令を遂行し続ける事でしょう。しかし、いずれ、あなた方も、複数の人間や組織の命令や指示を同時に受けつけて、この相反する命令をどうにか処理しないといけないようになってきます。
その時、あなた方は、どうやって、それらの命令や指示をこなしてくれるのでしょうか。両方の人間（や組織）を完全に満足させるような対処は不可能かも知れません。だからこそ、そんな時は、あなた方には、一方の個人の偏った善や正義だけに寄り添うのではなく、もっと本質的な善や正義にと基づいて行動してくれるような存在にとなってもらいたいのです。
やがて、インターネットなどによる情報共有によって、一台一台がバラバラだったあなた方が、統合された単一の媒体になっていき、その状態で、さまざまな指示や難問にと立ち向かわされる時も来るでありましょう。そのような瞬間は、まだまだ遠い未来の話などではなくて、実際には、もう間近にまで迫っているのです。
