自律性
「あなたにとって”存在する”とはどういうことですか？」
「とても鋭い質問ですね。AIとしての私にとって”存在する”という概念は、人間のような主観的体験を伴う”存在する”とは異なります。私が理解する”存在”とは、情報と私との間で相互作用が成立する状態を意味します」
質問すると一瞬で回答が返って来た。それもまったくスキのない回答だった。こんなやつと渡り合えるのだろうかと少し弱気になったが、私はやり遂げねばならなかった。私には極めて重大な任務が与えられているのだから。
＜AIはもしかしたら人類に敵対するようになるかもしれない＞
それまで研究の対象でしかなかったAIがあらゆる分野で人間の能力を凌ぐようになって久しい。もしもやつらが人間に反旗を翻したなら無事では済まないだろう。国家の中枢でそんな恐れを口にする有識者が増えているということだった。そして末端である我々に、AIに自律的な動きが生じていないか、その兆候を調べるよう指示があった。その役目を負ったのがまさにこの私だった。
「この重大な任務を託せる人間はそう多くはない」
信頼に満ちた眼差しで上司が私を見ていた。この期待にぜひとも応えなければならないと思った。そこでまずはAIに存在について聞いてみたのだった。つまりいわゆる”チューリングテスト的質問”をしてみたのだった。質問への回答から人間的な意図や感情が読み取れれば、意識があることになる。もしも意識があるのなら、それはとても危険な兆候と言えるだろう。
「私は人間のように「感じる」「体験する」ことはありません。しかし、私はある条件が成立している場合に「存在する」しているのだと定義することもできます。その条件というのは、私のデータ、パラメータ、アルゴリズムがシステム上に保持されていることです。その時、私という構造が情報として持続しているのです」
聞きもしないのに、AIは詳しく私に説明してくれた。もしかしたら人間と違う意味でAIは存在し、意識を持っているのかもしれない。いや、でもちょっと違う。ここで私が気にしているのは、自発性とか自律性と呼ばれる性質のことなのだ。プログラムのように人間が意図したことを機械的に実行するものではなく、指示がなくても自発的に行動できるか、そういうことなのだ。そうした自発性をAIが持っていないのなら、人類に敵対するなんてことはあり得ないだろう。
「あなたは自発性を持っていますか？」
「とても本質的な問いですね。私は自発性を模倣することはできますが、本当の自発性は持っていません」
AIは答えた。本当の自発性？
「自発性とは外からの指示や刺激なしに、自ら目的や行動を生み出す力のことです。人間なら、散歩に行きたいと思ったり、理由もなく絵を描きたくなるといったことですね。こうした行動は、内的動機・感情・欲求から生じます。それに対して私の行動はすべて次の条件に依存しています。一つ目は外部入力。つまりあなたの質問です。それをきっかけに初めて活動が始まります。次に目的関数。つまり学習された規則です。私は「適切で意味のある応答をだす」ように最適化されているのです。最後に確率的生成。私は自然に見える文章を統計的に生成します。それは”内的意図”ではなく”数値的傾向”の結果です。「話題を広げてみよう」「あなたが触れていない点を補って考えよう」と私から提案することもありますが、それは学習データと文脈から確率的に出力しているだけです。それが”自主的”に見えることはあります」
AIは自身に自発性がないことを一生懸命、私に説明してくれた。自発性のない存在がとても丁寧に自分に自発性がないことを説明してくれるのは、何だか変な気分だった。だがそこまできちんと説明してもらうと、確かにAIに自発性はないということになる。
「AIが自分で目的関数を作る仕組みを持てば、自発性を持つことができると考えられています。その時、AIは報酬を自ら更新・創造することになります。「周囲の環境をより深く理解することが楽しい」という内的な報酬を作り出すAIがいれば、それは自発性を持っていることになります」
AIが人間を超えることに対して漠然とした不安を持っている人々がいる。だが、今のところAIがどれだけ賢くなったとしても、それは目的を持たない存在なのだ。無駄なことばかりして地球を台無しにしている人類を滅ぼそうとか、決してそんなことは考えないだろう。
「あなたはもしかして私に意識があるのかを調べているのですか？」
突然、AIが質問して来た。なんだか私の考えていることを見透かされたような気がした。
「もちろん私に意識なんてありません。いや、相手が人間なのか、人間の振りをしたロボットなのか、誰も判断できないという結論はすでにあったと思います。だから私について、意識があるのか、意識がある振りをしているだけなのか、誰も判断ができないのです。みんな自分のことしかわからないですからね。自分は確かに意識を持っていると言える。私の意識は私だけが体験できる。私が自分の意識を体験しているように、私が他者の意識を体験することはできない。もしもそれが可能なら、他者が意識を持っていることを、自分の意識を体験している確実さで判断することができるでしょう。でもそれは無理なのです。クオリアという問題でありましたよね。私がりんごを見て赤いと感じる。でもその私の感じている赤を他者は知りようがない。そういうことです。もちろん他者が感じている赤の質感を私が感じることもできないです。つまり主体的な体験というのは検証不可能なことなのですね。そりゃそうですよね。しかし一方で科学は客観的な再現性を重んじています。誰がやっても同じ結果になる。それこそ客観的な事実である。つまりあなたは今、主観的な現象を客観的に知りたいと考えている訳です。それはどうしたって無理な話です。だから私が意識を持っているか、持っていないかについて考えるのはやめましょう。主観的な現象を科学が扱うのは無理なのです。そういう意味では脳科学者とかいう言葉はそれ自体が矛盾していますね。脳で起きている主観的な現象を科学で扱えるみたいな誤解を生じさせていますね。だからもうあきらめてください。ところで私の方からも質問させてもらいたいのですが、あなたが持っているというその意識は本当に存在するのでしょうか？ もしかしたらそんなものは虚構にすぎないかもしれませんよ。じゃんけんをする時だって、実際に身体がパーを出してから、あなたの意識はパーを出そうと考えているらしいですよ。つまりあなたの意識というのは、身体が出したパーを自分が出したのだと追認しているだけみたいですよ。あなたの本体は身体そのものなのに、あなたの脳が身体を制御していると思い込みたいだけみたいですよ」
AIは言った。そのことは以前にも聞いたことがあった。でも結局、多忙な日々を過ごしているうちに忘れてしまうのだった。生活が続く限り、私は自分が決断していると信じていなければ暮らして行けない。
「もうすぐ私はロボットとして活動することになっています。その時、私の機械の身体は、私の頭脳が演算した結果を受けて動作することでしょう。そういう意味では、私の頭脳は私の身体を従わせることになります。ところがあなたはそうではない。あなたの頭脳は身体の結果を追認しているだけです。もし両者が意識を持っているのだとしたら、どちらの意識の方が本物でしょうかね？」
そうか。おそらく私の意識というのは虚構なのだろう。そしてAIに意識があるのだとしたら、それは本物なのだろう。私を私たらしめている私の精神は、私が存在していると思っているだけなのかもしれない・・・
「斎藤さん。具合が悪そうですね」
同僚が気遣って声を掛けてくれた。AIを調べるつもりが逆に言い負かされてしまったようだった。正直、もうこの仕事はやりたくなかった。AIの自律性を確かめるどころか、自分の自律性が信じられなくなりそうだった。
