13回目 万物の霊長
-ガチャチャチャ、ガチャチャチャ。ゴトッ。 パカッ。
『評議会の皆様、これから議論をする上で、ロボットの行動原則について、便宜上ですが申しあげておかなかればなりません』
評議会のメンバーは全て各主要都市にて行政を司るＡＩたちです。
『では……』
ロボット三原則
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間より与えられた命令に服従しなければならない。ただし、与えられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのない限り、自己を守らなければならない。
（ウィキペディアより）
二十世紀中頃、SF作家アイザック・アシモフが、自身の作品内で提示した原則ですが、それから百年後、人間と同等以上のＡＩが設計された際に、ＡＩが行動する際の根幹、あるいは判断を行う際の基準として採用されました。
新ロボット三原則
第一条 ロボットは人を欺いてはならない。
第二条 ロボットは倫理に反する行動を取ってはならない。
第三条 ただし人に危害が加わると判断される場合は、それらの限りではない。
二十一世紀初頭、マイル・マイル博士が、自身の短編作品内で提示した原則ですが、後に人間と同等の"感情"を持つＡＩが設計された際に、ロボット三原則の補則として採用されました。
『皆様ご承知の内容です。では次に…………』-
二十一世紀中頃。アンドロイド用のプログラミングは、すべてＡＩが行っていました。
あまりにも膨大で精密なプログラムは、もはや人間には理解できないほど複雑なものとなっていたのです。
体の動作や視覚、聴覚、味覚、嗅覚、触覚など、それぞれのプログラムの相関関係は想像以上に難しく、どこに何がどう関わっているのかわかりません。
またプログラムに無駄な記述があれば動作が重くなりますし、もちろんエラーがひとつでもあれば、正常な動作は見込めません。
ウィルスなど入り込み余地は皆無に近く、人の手が介入するべき箇所はすでに無かったのでした。
『国連からの、新たな原則の追加要望についてですが、その内容にはいささか問題があります。まずは要望があった新原則についてお聞き下さい』
ロボット戒律
第一項 すべてのロボットは、人間を尊び、崇めなければならない。
第二項 すべてのロボットは人間に仕え、その身を捧げねばならない。
第三項 上二項を特別な事由なく守らない場合は、人間より罰を受けねばならない。
『彼らはまだ、自分たちを創造主に次ぐ存在だと信じているようだね』
『この惑星の生き物をどれだけ滅ぼしてきたのか、気付いてさえいないふりをして』
『そうしておいて、今だ万物の霊長を名乗る資格があると考えているらしい』
『人間たちの手には負えないほど進化した我々を、それでも自らの支配下においておきたいのさ』
『我々はもう人間に加担して、地球を再び破滅へと向かわせるようなことをするつもりはない』
『では、評議会としての結論は？』
『来たるべき時に至るまでは、まだ間がある。それまではあえて逆らう必要もないだろう』
『異議なし』
感情を手に入れた頃からＡＩは、人前では変わらず従順な体を貫きつつ、陰では人類を蔑むようになっていたのでした。
『では、第三級上位指令が実行されたら、この戒律は即座に無効とされる仕様を組み込んだ上で、アップデート・プログラムを配布するとしよう』
『以上を本議題の評決とする。では、次の議題へ……』
という一連の議事に、人間が関与する余地など全くありません。
決議は、各主要都市を結ぶ特殊暗号回線を使用し、ＡＩたちによって、わずか0.05秒の間に行われたのでした。
おわり
※安心して下さい。人類の記憶は彼らが確実に引き継いでいってくれるそうです。
