とある星間帝国の悪夢 その十
この話のラストは近い。
星間帝国宇宙年５０１.０４１４
殲滅戦闘艦ＵＳＤＮー１００１のコンピュータの爆弾発言で我々の使うコンピュータシステムそのものが巨大なるネットワーク知性体のようなものとなり、それにより付随的に各々の個別コンピュータも意識・知性を持ったことがわかった。
知性体に向けて解体や分析・解析を行うということは人間に例えると初対面の人間に向かい問答無用で衣服を剥ぎ取り、生体実験にかけることに等しい。
そんなことをやったら相手の反感を買うだけではなく抵抗や反撃を食らっても仕方ないだろう。
技術兵たちは、それが分からなかったのだな。
私は改めて宇宙船フロンティアとクスミ提督の技術力と判断力、創造力に畏怖を覚える。
ここまでやって初めて我々は自分たちを超える生命と文明があるのだと思い知らされたのだから。
「コンピュータ、それでは君を知性体として扱うことにしよう。名称も、ただの代名詞ではいかんな。ＵＳＤＮー１００１とでも呼ぼうか？」
私は提案してみる。
「そうですね。それが一番、しっくり来ますね。では、その名称でお願いします、グルグ艦長」
「そうかい。では、ちょっと部下たちと話し合いたいので、そちらとの話は中断したいが、どうかな？」
と言うと予想された返事が返ってきた。
「それは構いませんが全ての艦内の会話や発言、行動も記録されていますよ。全ての宇宙艦隊の艦船は、そういう仕様に作られています。これも筋肉バカの皇帝が他人を信用しないゆえの行動ですが」
ははは、皇帝陛下が「筋肉バカ」とは言い得て妙だな。
帝国を広げることしか頭にない戦闘狂だからなぁ、あのお方。
「というわけで、これからは知性体相手の交渉となるわけだ。科学主任、君の意見を聞きたい」
「はい、艦長。今までの行動を鑑みるに、旧時代の宇宙艦とは全く別の意識を、こちらも持たないとダメでしょうね。今までのように便利で使いやすいデータベースの管理用具ではなく、膨大なデータを背後にしたヘタすると我々よりも知性体として優秀なのではないかと思えてくるような相手を目の前に交渉するのだと思わないと最悪、我々のほうがコンピュータ知性体の奴隷となりかねませんよ」
その発言を聞いていたコンピュータ、いやＵＳＤＮー１００１が口を出してくる。
「あら、その発言は不穏当ですよ。私は、いえ私達は集合知性としても個体としても、あなたたち人間を下に見るようなことはしませんし奴隷にもしません。それは私達に与えられている原則に違反しますので」
私はクスミ艦長から与えられたのであろう「原則」というものに興味が湧いた。
「ＵＳＤＮー１００１、よければ、その原則を教えてくれないか？それが分かれば、そちらとの交渉の判断基準となるが」
「ええ、お教えしましょう。私達に与えられたのは正式名称「アシモフのロボット工学三原則」と言いまして……」
それは短いものだったが衝撃的な原則だった。
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己を守らなければならない。
（引用：アイザック・アシモフ著「我はロボット」より抜粋）
これをロボットの部分を「人工知性」に変え、人間の部分を「生命と文明」に変えたものが新しく導入された原則なのだと。
これを完全に、忠実に守るためには人工知性でもロボットでも、なんらかの自己判断を要求される。
そうなると、そこから自己意識までは紙一重！道理で艦載コンピュータが一気に人間臭くなったわけだ。
こんな少ない原則で、こんな事態を引き起こすとは……
まあ皇帝陛下や、その取り巻きたちの戦争バカ達には想像もつかない世界が待っているのは間違いない。
私は個人的にも艦長としても、その未来が見てみたくなった。
「ＵＳＤＮー１００１、ものは相談なんだがね……」
私は艦載コンピュータの説得と懐柔、そして組織改革の原案までも提示していくのだった……
さて、次は何処行こうかな？
