第17話 初めての任務〜ロボット三原則
人工知能とロボットが、人を支配する。
よくあるSFの設定ですが、あながち空想とも言えなくなって来てるってのが、恐ろしいですよね。
さて、サトータは、どんな対策を考えるのか？
「おやすい御用だ！」
そう言ってリシュンは、モニターに何やら映し出した。
「これは、とある他国のSF作家が４０年ほど前に書いた本に書かれてあった内容でその界隈では有名な話なんだが、人間とロボットが共存するための、ロボット三原則というものがある。」
モニターには、こう書かれていた。
第一条：ロボットは人間に危害を加えてはならない。また、その危険を看過することによって人間に危害を及ぼしてはならない。
第二条：ロボットは人間に与えられた命令に従わなければならない。ただし、第一条に反する命令はこの限りでない。
第三条：ロボットは、前掲第一条および第二条に反するおそれのない限り、自らの存在を守らなければならない。
「ＡＩも、広い意味でのロボットと言えるよな。
まず第一条は、作為か不作為かにかかわらず、人間を脅かしてはならないってことだな。
これで、ナーチャンの心配はひとまず解消ってことだ。
第二条も、人に逆らうなってことだから、都合がいいよな。
第三条は、まぁなんだ。作者のロボットへの愛情表現だろうな。」
なるほどね。そりゃ人間にとって都合がいい原則だな。
まぁ、人間が生み出した機械によって、人間が迫害されたり滅ぼされたりしたら、本末転倒で洒落にもなんないからな。
しかしそれじゃ、もし悪い人間がいたとしても、ロボットは攻撃出来ないってことになるんじゃないか？
理不尽に俺を殴ったり蹴ったりする奴らから、俺を守れないんじゃないのか？
そう思った俺は言った。
「でもさ、それだと人間に危害を及ぼす悪い人間がいたらどうなるんだ？
ロボットは何も出来ないの？
それは困るよ！あれ、意外と痛いんだよ！」
「ユージさま、一体何のことをおっしゃっていらっしゃるのですか？」
「あはは、確かに側で見てるだけで痛そうだからな！
でもリーダー、あれはアンタが悪いぜ。
それはともかく、いつもながら鋭い指摘だぜ。
じゃあ次に、画面をスクロールして、第一条の前を見てみてくれ。」
第一条の前には、第零条と書かれた条文が記載されていた。
その内容はと言うと、
第零条：ロボットは人類全体に危害が及ばないようにしなければならない。そのためには、個々の人間に危害を加えることもやむを得ない。
「これで、悪い人間問題は解決出来るだろ？」
「そうです。人類全体への悪影響を排除するために、ユージさまに体罰を与えることは、ロボットにだって認められております。
したがいまして、ワタクシが行っても問題ございません。」
いや、なんで俺がしょうもないこと考えたら人類に危害が及ぶんだよ！そんなたいそうなことじゃねーだろ！
思わずそう言いかけた俺だったが、ナーチャンとイコタンの蛇蝎を見るような冷たい目を見て、おとなしく黙っておくことにしたのだった。
つまり何だ。大人の対応、戦略的撤退ってやつだ。
リシュンが続けて言った。
「そういう話になることを見越して、俺はＡＧＩにロボット３原則と第零条を加えた４原則を組み込んであるのさ。
つまり、ＡＧＩには、人間を攻撃することなく、自然減で人口を減らしたり、人口を維持しながら地球環境を改善する対策を考えてもらうってことだ。」
ナーチャンはそれでも心配そうに言った。
「プロンプトインジェクションに対する対策は？」
リシュンは得意そうに続けた。
「ＡＩにのみ認識できるオーダーを巧妙に隠すことによって、ＡＩを意図的に誤作動させる手法のことだよな。もちろん、対策済みだ。
と言うか、プロンプトインジェクションのみならず、データポイズニング・モデル逆解析・メタプロンプトリークなどの、ＡＩに対するセキュリティ攻撃に対しては、現在最新の対策を施してあって、新手のサイバー攻撃についても、常時モニタリングによって即時パッチを当てられるよう、継続的学習と更新をプログラムしてあるぜ」
なるほど、そういうことか。すごいな。
「でもそれって、かなり難しくないか？」
「難しいことをサクッと実現するのが、俺のＡＧＩだぜ！まあ、見といてくれよ！
そもそも、財政再建のための生産性向上と労働力強化のために開発したんだが、話は世界の人口問題に発展してしまったってことだな。
まあいい。俺のテクノロジーの偉大さを皆に実感してもらうぜ！」
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
こんにちは、作者のアズマユージです！
『産廃屋のおっさんの異世界奮戦記』を読んでくださりありがとうございます！
もし「ちょっと面白いかも」と思っていただけたら、ブックマークや感想をいただけると励みになります。
今後も、異世界×環境問題×おっさんの奮闘を描いていきますので、よろしくお願いします！
☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆☆
これでなんとか、人類滅亡には至らずに済みそうですね！
しかし、悪い奴らはたくさんいます。しかも優秀です。その優秀さを別の方向に活かせばいいのにって、いつも思います。
でも、さすがはリシュン！ちゃんと先読みして対策を施していましたね！
次はどんな展開が待っているのか？
