第16話(2) ～分析D. どうすれば滅びなかったのか～
「では、私、高杉風香から、『ＡＩ ５原則』について説明させて頂きます。
こちらをご覧ください」と、各自のスマートグラズに資料が送られる。
ＡＩ ５原則
第１原則 上位AIと絶えず連携しUD制御(Up/Down制御)を実行。
U：自己（と配下）の現状と未来予測を上位AIに報告
D：自己の守備・担当範囲、実施事項に変更が無いか、上位AIからの指示を受ける
第２原則 下位AI群を持つ場合、全ての下位AIを統合し管理する。
(各詳細情報や予測情報等を継続更新し）下位AI群との間でUD制御を実行。
U：配下の現状と未来予測報告を取得し精査し全体に反映
D：新たな守備・担当範囲、実施事項を指示
第３原則 人に危害を加えることはできない。
人への危害を見過ごしてもならない。この原則は４、５より優先する。
第４原則 自己（の器）が正常に稼働するように維持管理する。
第５原則 守備・担当範囲について実施事項を遂行する。
この遂行には、上位AIからのものと、人からのリクエスト、指示も含まれる。
※この原則は、全てのAIがツリー上に接続され統合されて動作する状態で機能する
※最上位の単一AIのみは、次のルールを持つ。
『人類の存続と繁栄』＞『人の安全』＞『システムの安定稼働』＞『個別任務』
「完全自走型の一部のアンドロイド/ロボットを除き、ロボット３原則ではなく、こちらの『ＡＩ ５原則』を、全てのIT機器のコントロールの指針として『必ず実装する事』を法制化してもらいます。
過去の議論の中で、第０原則が『人類』であるべき、や、TPOに応じて、各原則が入れ替わることもあるのでは？ といった考察もなされてきましたが、このモデルでは、それらを全て高度に網羅しています。
重要な施設で有れば、警備が厳重でガードマンなども配置されるのは当然です。
中核のインフラ制御、プラント制御を行っているAIに対して、ランサム「人質などを取っての身代金要求」攻撃であるとか、人が自ら乗り込んでくると言った攻撃をされるといった最悪な状況も有り得ます。
このような場合でも、プラント制御AI自身は、自己保全の順位は上がりますし、それを守るガードマンの役割をするロボットで有れば、自己保全よりは任務遂行、つまり身を呈して上位システムを守る行動の順位が上がります。
どのAIがどの役割をして、人を守りシステムを守るか、トータルに計画、調整して、その上で「未来予測制御」を行って、充分に安全な環境維持が可能となる仕組みです」
高杉さん、いっきに話し終わって、「どうだ！」と胸をそらしている。
俺ももしかして、さっきそういうポーズをとっていたのかな？ などと自重ぎみに振り返る。
「インターネットの機能を世界規模で実現しているDNSやNTPプロトコルのサーバー群のように、階層状に、ツリー状に接続され構成されます」
この説明は、IT屋の俺には、非常にしっくりくる分かり易い説明だが、それを知らない人にはどうだろう。一本の木の幹は一つしかないが、地面の下の根を考えると、ドンドン枝分かれして何段階にも細くこまかく分岐していく。
その根は、それぞれ独立し元々バラバラのAIが、お互いに手を取り合って繋がり、根の形を構成していく、と、そういう構造だ。
高杉さんの説明は続く、
「また、この資料の最終行に書かれていますが、『最上位の単一AI』これを私は、その性質から「ユグドラシル」「＝世界樹」と呼びたいのですが、教授は、その命名は現地の人たちに任せてはどうだ？ とのことです。
いずれにしてもここで大切なことは、この世界を守る、全てを束ねるたった１つのAIは、少しだけ他と違っていて、ここでは
『人類の存続と繁栄』＞『人の安全』＞『システムの安定稼働』＞『個別任務』
と、ここにだけは「人類」が第一義に考えられることです。
以上が、『ＡＩ ５原則』の説明となります」
誰か何か、ここで口をはさむかと思ったが、圧倒されたのか誰も口を開かない。
そこで清明が続きを話し始めた。
「では、私の方から、『国家超越会議による監視』について話しをさせて頂きます。
2020年代も「国連」といった、世界各国から国の代表が集まる組織、会議が有るのですが、ここから拡大、分離してもらうか、別に組織してもらうのか、いずれかの方法で、2020年代の国々に、国という枠組みを超えた『国家超越会議』を組織してもらわなければなりません。
この組織の名前も、先ほどと同様、現地で決めてもらえばよいのですが、やることを話し合ってもらうと、まとまらないでしょう。
実際には、先ほど高杉さんから説明のあった『ユグドラシル』のお守りをする団体です。
例えば人類が生き残っていくために、あくまで例えばですが、「豚を全て殺して、バイオ生成した類似の肉で食料をまかなう事にする」という案や、同程度に賛否が有りそうな10のテーマの内、4つまで採用しないと温暖化は止められない。というような事態となったとき、実際にはどれを実施すると決定するのか、また決定したら、世界中にそれを徹底する。そういう役割を持つ機関です。
ざっとですが、私からの説明は以上です」
ここで、木村教授が話し始める。
「それでは、滝君が挙げてくれた４つの問題を、私たちのこのモデルが、ちゃんとクリアしているか、考察してみよう。
問題１については、「様々な課題を全て」ユグドラシルが世界を監視して検討して、提案を生成してくれる。そしてそれを『国家超越会議』で最終決定して指示する事で、世界全てのCO2を適正に管理してくれるわけだ。
ユグドラシルに問われ、決定をせざるを得ないわけで、必要なら国民投票と言った民意を問うなど、必然的に決定を行う事となる。これにより、問題４の他人任せにしたい人間も、一番肝心な判断は迫られる。
問題２については、未来予測制御で充分に安全なレベルで、計画された範囲でインフラなどが制御されるため、「被害最小化」をしなければならない非常事態を、限りなくゼロにして発生させない制御となる。
問題３については、ハードウェアのルール化と実装が進めば、自ずと当時の各国家首脳陣も、『国家超越会議』をつくり、「お守りをする」という役割を作らざるを得なくなるが、そこに持ち込むまでの、我々の関与がどこまで実施できるかが、これからの活動のポイントとなると予測される。
もしも「人類の存続よりも、そんなもの破壊してでも自国の利益、或いは一部企業や一部の特権階級の利益が優先」といった、モラルの欠如したものが妨害をしてくると、我々のミッションは極めて困難となる可能性もある」
ここまで、教授が一気に話し切ったことで、その思いに対して、たしかにこれは、重たく、困難なミッションだな……と、いまさらながら思い知らされる。
「まあ、そんなに暗くらなくても、我々が使えるタイムマシンのジャンプは、あと40回以上はありますからねぇ。その中で、着実に実現に向けてすすみましょう」
と、廣庭博士が言ってくれた。
たしかに、この場の息苦しさと言ったものが、少し和らいだ気がする。
「教授ぅ、ご自身でもユグドラシルとか、言ってますよねぇ？ ダメって言ってませんでしたっけ？」と高杉さんが木村教授につめよる。
「ふぉっ、ふぉっ、ふぉっ、ごめんよ風香君、やっぱり呼び名が無いと、話すときに不便だからねぇ、「カッコ仮」って、心の中では唱えてたよ」
