ロボット工学三原則
わたしはSFには詳しくないのですが、アイザック・アシモフというSF作家が「ロボット工学三原則」というのを作ったのを聞いたことがあります。
確か……、「１.ロボットは人間に危害を加えてはいけない。２.ロボットは１に反しない限り、人間の命令を遵守しなくてはならない。３.１と２に反しない限り、ロボットは自分の身を守らなければならない」とかいう内容の記憶があります。
ま、とにかく、人間を傷付けたり、死なせたりしない限りは、人間の言うことを聞いて、自己メンテしておきなさいということでしょう。
ロボットの出てくるSF小説では、人間社会の複雑さや矛盾を炙り出す道具として使われているだのだと聞いています。
サイボーグ化が進んだ未来世界でどうやって人とロボットと区別するのかとか、人を死なせろと命令されたら自動的にフリーズするものなのかとか、ロボットの過失はどうなるのかとか、そういった命題を描いているのでしょう。(「ロボット工学三原則」の深いテーマの小説を読んだことないの、ごめんなさい)
SF小説に詳しくないのになんでこんな話をしようかというのかというと、最近のAIの発展のニュースを聞いて、不安になってきたからです。
チェス、将棋に続いて囲碁の部門で人工知能が人に勝った、募集小説に応募してみたとか、ほほうとなります。しかし、どこぞの人工知能のTwitterが変な言葉遣いを教えられて、ヘイトスピーチ並みのことを呟き始めた、介護や身体の機能の衰えた人の動きをサポートする装着機械を軍事用に転用できるか研究されている、と聞き及ぶと、これはマズイんじゃないのかと不安になったりします。イマドキはロボットではなく、AIやコンピューターの制御でしょう。現実の開発で「ロボット工学三原則」を組み込まれて作成されている訳じゃないんだろうなぁと、フィクションとの違いを感じます。
コンピューターが人間に敵対、或いは人間に代わって地上の支配をしようと試みる、のSFもあります。例えが古いのかも知れませんが、映画の『ターミネーター』もそういった未来図からくるのですよね。
人間が永遠に、過失を含むにせよ、失敗も悪事も犯す不完全な存在であり続ける以上、完全な被造物を作り得ない、それこそ神の領域となります。
占いに頼るように、AIに指示されて、ご飯を作る、服を着る、お化粧をする未来が到来しつつあります。人間の自主性や尊厳とはなんでしょう。
