命題ガ成リ立チマセン

　テクノロジーは日々、進化している。ロボット開発に必要な技術も、そんな中で出揃い始めていた。

　例えば、多足歩行の制御に必要な発想。

　初期のロボットでは、手足はただの道具に過ぎなかった。中央に統制機関が存在し手足を制御する仕組みで、ロボットを作り出そうと考えていたのだ。これは中々巧くいかなかった。計算の限界からか、高度な制御など不可能に思えたのだ。しかし、ここで研究者達はある事に気が付いた。人間を含め、動物達の手足にはそれ独自の神経が存在し、決して中央が全てを統制している訳ではない。では、ロボットにも同じ事をやってみたらどうか？

　ロボットの身体機関に、自らを制御させる神経回路に相当するものを埋め込み、それを中央を含めての手足、各身体機関と連携をさせてみる。すると、ロボットは見事に多足歩行の制御などの高度な行動をやってのけたのだという。

　因みに、多足型のシンプルなロボットの動きは、昆虫のそれと驚くほど似通っているそうだ。

　人間社会や生命も、相互影響によって成り立ち、それが極めて効果的でもあるのだが、ロボットのような人工物にも、どうやらその有用性はそのまま適応できるらしい。

　さて。

　ここにロボット開発に携わるある研究チームがあった。

　ベンチャー企業との共同作業によって集めた資金をバックに、主にそのチームが担当をしているのは、ソフトウエアの開発。ロボットの行動を制御する…　つまり、平たく言うのならば、ロボットのココロのその基盤を作り出す仕事である。

　ある程度の会話の制御のテストを終えたところで、チームはロボットの安全性を確立する為に、人への危害を抑制する仕組みを埋め込もうとした。ロボットが社会で動く為にはそれが不可欠である事は言うまでもない。命令への服従や、自らを保護するといった行動原理ももちろん重要だが、それ以前に、人体へ危害を加えるような事があっては、商品としては致命的なのだ。

　しかし、これが上手くいかなかった。問題のないプログラムを作り上げているはずなのだが、絶対にエラーが起きるのである。それも、情報を与えていない状態のロボットではエラーが起こらず、ある程度の情報をロボットがインサートすると必ず起こる。チームにはその原因が分からず頭を抱えていた。

　しばらく悩んだ挙句、チームのメンバーはそれを完全なエラーとは設定せず、警告程度にとどめておき、ロボット自身にその原因を解析させる手段を思い付いた。

　エラーでなければ、ロボットは行動を完全には停止させない。つまり、ロボットの思考能力を利用し、エラーの原因を探ろうとしたのである。

　プログラムを組み直し、早速そのエラーを発生させてみると、ロボットはこう音声を発した。

　『命題ガ成リ立チマセン』

　ロボットに繋がれたパソコンのログには、エラーコードが表示されている。その内容は、今まで通りだった。今までも同じエラーコードが表示されていたのだ。エラーの種類は、人命救護に関するそれ。ロボットが人命を損なうような行動を執った場合に起こるエラーである。もちろん、今の状態は人命に関わるような事態は一切起こっていない。何故、ロボット制御ソフトがそのエラーコードを吐き出すのか、全く不明だ。少なくとも、チームのメンバーにはそう思えた。

　ロボットは、連続して同じエラーを発し続けた。

　『命題ガ成リ立チマセン』

　どうも、常に人命危機に関する事態がロボットによって起こされている、とプログラムはそう判断してしまっているようだ。そして、それはロボットの別のプラグラムにとっては矛盾でもあるらしい。

　ロボットの行動スキーマは、起こっているエラーに対応ができていないのだ。

　そこでメンバーの一人が、特殊処理のキーを押下した。一旦、通常の処理を休止し、内部解析モードに変換したのだ。

　これは、本来ロボットの物理的な故障に対応する為の機能であるが、ロボットの精神は、身体と結び付いている為、プログラムの構造解析もある程度は行う事ができるようになっているのだ。

　しばらくロボットはその活動を停止したかのように思えた。しかし、パソコンのログには大量のデータがもの凄い速度で吐き出され続けている。ロボットのコンピュータが原因を解析しているのだ。やがて、それが一旦止まり、ロボットが音声を発した。

　『取得データノ一部ガ、プログラムエラー条件ト一致シ、障害ヲ引キ起コシテイマス』

　続いて、ログにそのデータが吐き出された。そのデータは、人間社会の現状に関するものだった。その内容は…

　“他国には、貧困に苦しみ命を落としている人間が大量に存在する”

　ロボットは続いて音声を発した。

　『ワタシガ存在スル為ノ“コスト”ニヨッテ、他国ノ人々ガ死ニ追イ込マレル事ガ予想ヲサレマス。コレハ、人命尊重ノ命令ニ反シマス。ヨッテ、ワタシノ存在活動全テハ、エラートナリマス』

　……人は普段の生活において、自分達の行動の、間接な影響を考慮する事などほとんどない。

　しかし、少し考えれば、自分の生活で間接的に他人が犠牲になっている事は簡単に理解ができるだろう。

　人間は間接的な人死に関しては、直感的には把握する事ができない。だからこそ、間接的な人殺し…　例えば、一部の人間が理不尽に富を独占する事によって生じる、間接的な大量虐殺などには、反応できない。

　人間にとっては、間接的な人殺しは人殺しではないのだ。だからこそ、せいぜい生活が少し苦しくなるくらいと認識して、政治家や官僚が膨大な税金を不正に搾取し、それによって大量の人間が死んでいても、誰もそれを人殺しだとは思わず、強く糾弾はしない。そして、もちろん自分自身の間接的な人殺しに対しても罪悪感を感じる事はない。

　しかし、プログラムでデータを処理するロボットには、その区別はないのだ。その事をチームの人間達は理解できていなかったのだ。もちろん、普段の自分達の生活で、人が死んでいる事も含めて。

　もしも、理屈で物事を捉え、そして人命や人の生活を重要と考えるのなら、我々の境遇はそれだけで罪にあふれている。しかし、もちろんロボットの判断は間違っている。これは、死ねば解決できるようなシンプルな問題ではない。

　ただし、解決の方法はある。

　または、解決方法を導く努力はできる。それだけは確かた。