トロッコ問題
３連休の半分以上の時間を悶々たる思考に費やした末、結局、俺はメルリンの頼み事を丁重に辞退した。
理由を一言で言えば、「俺には荷が重すぎる」と感じたからだ。
超生命体であるメルリンとその敵の思惑を、完全かつ正確に把握するなど俺には到底及びもつかないのだが、人間的で卑近な比喩を用いて、俺が巻き込まれた状況をできるだけかいつまんで述べようとすると、次の様になる。
『神か悪魔か妖怪か、そんな得体の知れない存在が、まるで背後霊の様に私に取り憑きました。
その存在は、その気になればどんな人間でもあっさり殺したり操ったりできます。
その存在を、人間が今までに作ったいかなる兵器で傷つける事も不可能です。
でも、その存在はわりと友好的な態度で頼み事をしてきました。
その頼み事とは、その存在にとっての敵を殺す事の手助けです。
敵も、私に取り憑いた存在と同等な存在です。
しかもその敵は、あまり親しくないとは言え私の知人に、取り憑いています。
私の知人は人間世界に大きな影響力を行使できる立場にいます。
私が頼み事を断り、敵を放置すれば、多くの人間が私の知人を介してその敵に操られたり損害を被ったりする可能性が有ります。
しかし私が頼み事を受け入れれば、多くの人間が操られたり損害を被ったりする可能性が無くなる代わりに、私の知人を含む少数の人間が死ぬ可能性が６割～７割ぐらい有ります。
ちなみに、私が頼み事を断っても、私に取り憑いた存在が私に危害を加える事は有りません。
その場合、私に取り憑いた存在は、単に私から離れ、別の人に同じ様な頼み事をするだけです。
さて、私は頼み事を受け入れるべきでしょうか？、それとも断るべきでしょうか？』
もちろん、この『かいつまんだ記述』は、俺がここ１ヶ月余りぐらいの間に体験した事全てと比べると、情報を大幅に捨象している。そのため、誤解を招く恐れは多分に有る。
しかしながら、できるだけ誤解を少なくしつつできるだけ多くの人に分かり易く述べるとしたら、俺にとってはこれが精一杯だ。
多くの人間がこの『かいつまんだ記述』を読み、俺と同じく３日間熟考する時間を与えられたとしたら、果たしてどれだけの人間が「頼み事を受け入れる」選択をするだろうか？
当て推量だが、１％未満なのではないかと、俺は思う。
俺は、俺が今まさに直面している問題とよく似た問題を、哲学の本か何かで昔読んだ事が有る。
――そう、『トロッコ問題』である。
『トロッコ問題』の典型的なパターンは、次の様なものだ。
『あなたは線路の切り替えポイントの前にいる。
あなたの仕事は切り替えポイントの操作と整備である。
ある日あなたがいつもの様に仕事で切り替えポイントを整備していると、線路の右側から猛スピードでトロッコが走って来るのに気付いた。
どうも、ブレーキが壊れて暴走しているらしい。
あなたが素早く線路の左側を見ると、線路の左側は分岐しており、どちらの上でも作業員が作業中であった。
分岐のうち片方（分岐Ａ）には１人、もう片方（分岐Ｂ）には４人の作業員がいる。
悪い事に、切り替えポイントは整備完了しておらず、分岐Ｂの方を向いたままである。
未整備のまま強引にＡの方に切り替える事はできても、「中立」を選んでトロッコを脱線させる事ができない。
直ちに大声で警告を発したが、どちらの分岐にいる作業員も暴走トロッコから逃げ切れそうにない。
どちらの分岐に行こうとも、暴走トロッコはその分岐の先にいる全員を殺すのは確実だ。
もはや考えている暇も無い。あなたに残された選択肢は、切り替えポイントをＡの方に切り替えるか、何もしないかの２択のみ。
さあ、どうする？』
トロッコ問題とその派生形は、「否応無し」の状況に対する問題である。
回答者には問題文の中で明示された情報のみから判断する事を求められる。
通常、「否応無し」の状況を崩すような余計な情報の付加は認められない。
そして通常、明確な正解が無い。
昔流行った「究極の選択」も、トロッコ問題の亜流と言える。
俺が思いつく限りで一番下品な「究極の選択」の問題例は、
「カレー味のウ●コと、ウ●コ味のカレー、どちらか１つだけを強制的に食わされるとしたら、どっちがマシか？」
というやつだ。
（ちなみに、中学生の頃に実際にこの問題に答える事を要求した悪友がいたが、俺が「そう言うお前は、カレー味のウ●コと、ウ●コ味のカレーを、実際に作って味見したのか？ まずは両方、実物を用意しろ。話はそれからだ」と答えると悪友は逆ギレし、殴り合いの喧嘩になった）
そういう下品な問題を出す奴を相手にしたくはないが、トロッコ問題について真面目な問いかけを受けたなら、俺の性格的に、相手せずにいられない。
繰り返すが、真面目なトロッコ問題には、明確な正解が無い。
トロッコ問題においては、「いかに正しく答えるか？」という事よりも、
「○○という選択は良いが、××という選択はダメ！」という、
倫理や道徳に対する個人ごとの心理的傾向を調べる為のツールとして、いかに有効に使うかという事の方が、より重要だ。
統計的には、先程の典型的なトロッコ問題に対し、「何もしない」という選択肢を選ぶ人が７～８割前後になる傾向があるらしい。
この傾向は、性別や学歴や人種・民族による差があまり無いそうである。
つまりその傾向を持つ人間は、人間の倫理観や道徳観の「多数派」と言えそうだ。
人間の倫理観や道徳観の「多数派」的傾向に性別・学歴・人種・民族などによる差があまり見られない事から、そのような「多数派」的傾向は、人間の脳の「既定値」的仕様だと言えるだろう。
だが、必ずしも「多数派が正しい」と言えるとは限らない。
例えば、人間が繁華街で車を運転していて、ブレーキが全く効かなくなって暴走し、
「どの方向にハンドルを切っても周囲の通行人のうち５割が死に、何もしなくても５割が死ぬ」
という状況だと、どうであろうか？
この場合、どの方向にハンドルを切る選択肢であろうとも、「何もしない」という選択肢も、正解であるとは断言できない。
同じ状況に対し、ＡＩ自動運転車に内蔵されたＡＩに判断させるとしたら、どうなるだろう？
その様な状況に対しどう判断するよう、ＡＩの判断基準を設定すべきだろうか？
この問題に関しては、今の所、ＡＩのメーカーの間で合意が見られない。
人間の判断基準に準拠した設定にするメーカーも有れば、「より少数の犠牲で済む選択肢を優先する」という功利主義的傾向に重きを置いた設定にするメーカーも有る。
功利主義的傾向が強いＡＩの場合「どのみち人間の死が避けられないのであれば、その死による社会的損失が最も少なくなるような選択肢を選ぶ」設定になっている事が多い。
（因みに、俺の勤め先であるＭＡＧＩソリューションズの車載用ＡＩも、功利主義的傾向が強い様だ）
