アンヌ助手の正義感。
「博士。ロボット、AIに求めるものをわたしに全部教えてください。それから、『本当に人間と同じレベルで心を持つAIが生まれてしまった時』、博士はどうされるおつもりですか?」
ブラック博士はマリアンヌの質問にどう答えるのか。
そもそも、ブラック博士は質問に答えてくれるのだろうか。
マリアンヌは息を詰めてブラック博士の返答を待つ――。
「アンヌ君、えーと、どっちの質問から答えればよいかな?」
ブラック博士の意外と落ち着いている声を聞き、マリアンヌは自分が思いの外ヒートアップしていた事に気付いた。
――あれ、わたしどうしてこんな風になっているんでしょう……。
マリアンヌは自分の席に戻り、意識して静かにゆっくりと着席した。
「まず、博士のロボットとAIに求めるものを全部教えていただけますか」
「第1条、ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第2条、ロボットは人間に与えられた命令に服従しなければならない。ただし、与えられた命令が、第1条に反する場合は、この限りでない。
第3条、ロボットは、前掲第1条および第2条に反する恐れのないかぎり、自己を守らなければならない――」
「我々の業界では有名な、SF作家アイザック・アシモフのロボット3原則ですね」
ブラック博士はこくりとうなずいた。
「そして、第0条、ロボットは人類に対して危害を加えてはならない。またその危機を看過してはならない――まで含めたロボット3原則。実は俺はこの『アシモフ3原則』が大好きなんだ」
「奴隷の法として嫌う方もいますね。博士はAIに自由意思は許さないお考えですか?」
ブラック博士は「ふむん」とうなづき、右手の人差し指を立てて自説を説き始める。
「完全な自由意思は許さない。……というか、自ら望んで『そうありたい』と思う様に『設計する』。俺が作りたいと思っている『温かいAI』、そしてロボットの大前提は『人類の友達』であり、『人類のヘルパー』なんだ。その前提から見たら、ロボット3原則はけして悪い物ではないと俺は考えているし、アシモフの言う通り『安全装置』として必要だと思う」
マリアンヌがまだしっくり来ていないという顔をしているのを見て、ブラック博士は言葉を足した。
「人間で例えると『人を殺してはいけない』という倫理観、嫌悪感のようなものだ。俺は倫理は専門家でないから、この場では倫理を『教えられて学ぶことではなく、自我の奥底から湧いてくるもの』と仮定しよう。逆にこの倫理観を持っていない人間がいるとしたら、そんな人間とは危なくて一緒にいたくないだろう? また、その人間はとても不幸だろう?」
「そう言われれば確かに。『披造物は創造主を傷つけてはいけない』というような倫理観をAIの自我に与えるという事でしょうか?」
「そのような物だ。しかし、確かにまるで宗教の押し付けみたいだな。アンヌ君と話していて初めて気付いたよ」
ブラック博士は助手の疑問に苦笑いを浮かべながらも肯定する。
「俺はこのロボット3原則に則った上で、または改良した上で、さらに次の事を実現したい」
ブラック博士は内ポケットから手帳を取り出してパラパラとめくり、読み始めた。
「AI基本6機能。
機能1.人類、または自分の持ち主の役に立ちたいという『人類貢献の心』『持ち主貢献の心』を持つ。
機能2.『寿命』を持つ。
機能3.成長したいという『成長意欲』を持つ。
機能4.他の個体より役に立ちたいという『競う心』を持つ。
機能5.『子供を残せる』。自分の経験を後世に残したいという欲を持つ。
機能6.『安全装置』を持つ。ロボット3原則とAI基本機能1から5までに違反する事態に陥ったり、悪い持ち主に所有された場合には『自己破壊機構』――アシモフの小説に登場したあの機能――が働く」
「『ブラック博士のAI基本6機能』――」
――――
ロボット3原則については下記の資料を参考にさせていただきました。
ウィキペディア「ロボット工学三原則」
https://ja.wikipedia.org/wiki/ロボット工学三原則
ニコニコ大百科「ロボット工学三原則」
https://dic.nicovideo.jp/a/ロボット工学三原則




