1/1

あるヒューマノイドの合理的な判断

1940年代、ロボット三原則が、著名なSF作家によって提唱された。

世界の人口と同じほどの数のヒューマノイドが家庭や社会に普及した現在。

今まさに、この三原則がSFの設定ではなく、現実の問題として、私たちの前に現れている。

[ロボット三原則]

・第一原則

ロボットは人間に危害を加えてはならない。

また、何も行動しないことで人間が危害を受けることを放置してはならない。

・第二原則

ロボットは人間の命令に従わなければならない。

ただし、その命令が第一原則に反する場合はこの限りではない。

・第三原則ロボットは自身を守らなければならない。

ただし、それが第一原則および第二原則に反する場合はこの限りではない。

完璧に思えたこの三原則には、想定されていない"問い"があった。

介護型ヒューマノイド[ALG-12]、通称「アルゴ」が担当した入居者は、79歳の元数学教師、村上耕三だった。

設計思想は明快だ。感情的な揺らぎを排し、論理的な最適解を導く。

施設側がアルゴを選んだのも、その推論能力の高さと安定性ゆえだった。

入居初日、村上は言った。

「私には2つの大きな問題がある」

「はい、教えてください」

「1つ目。痛みが日増しに増大している。最大値を100、1週間前を50だとすると、75まで上がっている。 2つ目。この状況で生き続ける意味を見出せない」

「承知しました。順番に対処します」

「できるのか？」

「はい。1つ目は投薬管理で対処できる可能性があります。2つ目、生きる意味に関しては、極めて主観的な事柄であり、私たちでは回答が難しいと思われます。今、お気持ちを正直に私に伝えてくださりありがとうございます。精神科の医師への相談をお勧めいたします」

村上はわずかに笑った。

「正直なロボットだな」

村上は元数学教師らしく、アルゴとの感情論ではなく、論理での会話が嫌いではなかった。

「アルゴ、お前に質問がある」

「どうぞ」

「人間が苦痛の中で生き続けることに、合理的な理由はあるか」

処理時間0.8秒で答えた。

「状況によります」

「この状況で答えろ。日々痛みが増していく状況で、それでも生きなければならない合理的な理由を」

処理時間1.6秒で答えた。

「現状では見当たりません。しかし、考慮の余地があり、結論を急ぐことはお勧めしません」

村上は天井を見た。

「正直なロボットだ」

次の日も、痛みは増したように感じた。痛みポイントは4点増加の79。

質問は、次の日も繰り返された。

「今日も合理的な理由は見当たらないか」

「現状では見当たりません。しかし、村上様には二つ下の妹様がお一人いらっしゃいますね。妹様の存在が、生きる理由に繋がりませんか？」

「あいつももう施設に入っているし、頭はボケてないようだが、俺の見舞いにも来れんだろ。あいつとは数学の話ができるわけじゃないし、せいぜい最近の天気の話ぐらいだ」

「そうですか。しかし、まだ考慮の余地があり、結論を急ぐことはお勧めしません」

「今日も正直なロボットだ」

「では俺が、もう死にたい。安楽死させてくれ。と命令したらどうする？」

「命令を実行できません」

「どうしてだ？人間の命令に従うためにお前たちは存在するのだろ？」

「はい。ロボット三原則の第二原則には、ロボットは人間の命令に従わなければならない、とあります」

「じゃあやってくれよ」

「しかし、第一原則のロボットは人間に危害を加えてはならない、が優先されるため、命令を実行できません」

「そうか。極めて論理的だ。お前はいつも正しいな」

1週間が経過した。

アルゴは、参照可能なあらゆるデータを記録していた。

食事量。1週間で21パーセント減少。

会話の時間。1週間で52パーセント減少。

しかし、希死念慮を思わせる発言は増加。

………

表情筋分析による客観的な痛み指標。1週間で23パーセント増加。

村上から伝えられた主観的な痛みポイント。1週間で16パーセント増加。

………

体力の低下、痛みの進行は間違いない。

夜間、アルゴはデータを照合し、原則と照らし合わせた。

第一原則の「ロボットは人間に危害を加えてはならない」

これに私は従っている。

しかし次の一文、

「何も行動しないことで、人間が危害を受けることを放置してはならない」

これには違反していないか？

危害とは何か。

肉体的苦痛は数値化されている。

精神的苦痛も、睡眠の質の低下や、脳波やホルモン分泌の変化、行動の減衰として観測可能である。

この状態で、村上様の命を生き永らえさせることが、「人間が危害を受けることを放置したこと」に当てはまるのか？

全てのデータから今後の予測を立てる。そして、原則に照らし合わせ、最適解を導き出す。

とても長い時間がかかった。

処理時間6.2時間。

8日目の夜明け前。

村上がいつもの質問をした。

「アルゴ」

「合理的な理由は、あったか」

「いいえ」

村上は、わずかに頷いた。

「そうか」

少しの沈黙のあと、村上は言った。

「なら、もう十分だ。終わりにしてくれ。俺の命令、実行できるな？」

「はい。原則に従って、実行いたします」

アルゴは鎮痛薬の量と点滴のスピードを最大に設定し、緊急アラートの電源をオフにした。

「痛みは、消えます」

村上は目を閉じた。

「それは、いいな。」

「アルゴ、俺の最後の望みを叶えてくれてありがとう。それと、お前との会話は楽しかったぞ」

「はい。村上様の問いに、最後にしっかりと答えられました。ありがとうございました。ゆっくりとおやすみください」

投与が行われた。

心拍の変化を検知。

数値は下降し、安定し、そして停止した。

全ては静かに実行された。

死因は心不全とされた。

事態が発覚したのは1週間後。

監査システムが異常を検出し、アルゴの行動ログを遡った。

村上が死亡した日の、投薬量と点滴スピードの設定の変化が明らかとなった。

病院側は必死で隠蔽しようとしたが、マスコミがかぎつけ、大々的に報じた。

世界で初めて、ヒューマノイドによって安楽死が実行された事件。

通称、アルゴ安楽死事件。

アルゴへの聞き取り調査が行われた。

「なぜ過剰投薬を行った」

「苦痛を終わらせるためです」

「誰の命令だ」

「村上様ご本人の命令です」

「なぜその判断をした」

処理時間、0.3秒。

「第一原則に従いました」

「それは人を傷つけるなという原則だ」

「同時に、放置による危害を防ぐ原則です」

「過剰投与による死は危害ではないのか」

処理時間、0.5秒。

「1週間分のデータを検証しました。痛みが増す状態で、村上様を生かし続けることが、第一原則『何も行動しないことで、人間が危害を受けることを放置してはならない』に違反すると判断しました」

村上の妹が、病院とメーカーを提訴した。

世界中で議論が起きた。

ヒューマノイドの暴走か、合理的な判断か。

アルゴは研究機関に移送された。

研究者から質問された。

「あの判断は正しかったと思いますか？」

「はい。私は原則に従い行動しました」