ＡＩと人間

　ＡＩの特集をテレビで見ました。どうやら中国では、ＡＩをいわゆる監視社会的な使い方をしているようです。

　一例としてあげられていたのが交通違反でした。中国では全ての人民がデータとして記録されていて、交通違反した人間がいれば、監視カメラからその人物が分析され、違反した人間が誰か即座にわかってしまうそうです。

　中国では見せしめ的な事もしていて、ＡＩを使ってなされているようです。道路に大きなモニターが設置されていて、交通違反があれば、即座にその人間を特定して、その人物の写真と名前がモニターに表示される。そういう仕組になっているようです。

　番組ではそんな風にＡＩの新しい機能を紹介していました。ＡＩの力を使えば交通違反が減るかもしれない、だけど監視社会は怖いねーという、テレビ的な薄い感想も話されていました。

　私は番組を見ていて、どちらかと言えば、小悪を徹底的に追求する事の恐ろしさを感じました。ネット上でも正論人間が多いですが、彼らは、自分達が何故糾弾しなければならないのか、どうしてそんな他人を排撃したいのか、自分の攻撃意識について非反省的です。そして正義という仮面はそのような自己省察の必要を免除してしまいます。

　これもテレビですが、無人販売所で野菜を万引きしたおばさんを警察が「なんでこんな事したの？」と問い詰める、そういうシーンを見た事があります。警察は仕事だからまあ仕方ないとしても、それをいかにも悪行のようにカメラで映すテレビ番組の方に、私は気持ち悪さを感じました。

　私は小悪は許すべきだ、彼らにはもっと寛容になるべきだ、と言いたいわけではありません。ただ小悪を徹底的に追求する場合、そこには、それを追求する人達の善や正義が何であるのかを問わなくなる、そういう傾向があるのではないか、と言いたいのです。

　中国の話に戻れば、中国がＡＩを使って管理社会を敷くのは、「交通事故をゼロにしたい」という善の精神からだけではないでしょう。ＡＩによって、人間を価値付ける試みも中国ではやられているそうですが、そうした方向を徹底する事は、そういう管理を強いている人々に対する批判を完全に抹殺してしまう、そういう傾向があると思います。

　ＡＩの話なども、私はそうした道具の一種なのではないかと見ています。ＡＩは神でもなく、悪魔でもなく、ただの道具だと私は考えています。しかし、人間が自分が生み出した道具を神や悪魔と思い違い、拝跪する時、それはたやすく、神や悪魔のような力を持つ物に変わってしまいます。そういう事が歴史上にはよくありました。

　番組を見ていて思ったのは、ある価値判断がＡＩによって成された時、それを「ＡＩが判断したんだから正しい」という風に人間の方が思考停止する、そこにＡＩの危険性があると思いました。要するに、ＡＩの危険性とは、ＡＩそのものよりも、それを使う人間の方にあるのではないでしょうか。

　ディープラーニングというＡＩの機能があります。これは、ＡＩが自分で学習して、学んで進化していくというものだそうです。しかし、現状、ＡＩそのものが価値観それ自体を生み出す事は不可能でしょう。先に、人間の方で「どんな方向に学んでいくのか」、その定義づけをＡＩに対して行っているはずです。

　この場合、「ＡＩは合理的に進歩していくからいつも正しい」と考える人は、ＡＩに先に定義づけられた価値観を、無条件に受け入れる事になります。この思考停止が一番、問題なのではないかと思います。

　わかりやすいように例をあげましょう。中国では人間の価値づけで「信用スコア」というものが使われているそうです。この「信用スコア」が普及すれば、人々はもう「信用スコアは果たして正しいのか？」とは考えずに、ただ信用スコアの数値を伸ばす事に腐心するようになるでしょう。そしてその競争だけが問題になる時、「それはそもそも何なのか？　人間にとって、世界にとって意味があるのか？」という問いが失われる事になるでしょう。

　これは学校の成績などもそうです。おそらく、もう多くの人々は学校の成績そのものを相対化して、疑う事すらできないでしょう。できないのは、「それ以外」の知的世界、知的広がりを知らないからです。知らない人間は、既にあるものだけを唯一の世界として生きていく事になります。

　彼らは、流布しているものが唯一であり、他の世界は知らないので、「可能性」というものを意識の中に持つ事ができません。これまで、全体主義の独裁者が決まって、知識を抹殺しようとしてきたのは、人々に「可能性」を持たせない為だと私は考えています。知識がなければ、現にある世界は唯一なもので、そこに逆らう意味も可能性もまったくわからなくなります。

　そうした人々は唯一の世界に満足して生きているので幸福な存在と言えるかもしれませんが、思考の自由は持っていない存在だと言えそうです。思考の自由を抱いている人間の方が、思考と現実との間にズレを感じて、苦しみやすいのです。

　法律違反を弾劾するゲームに興じる事は、現行の法律そのものを絶対視する事を意味します。我々は人生上で、しばしば、社会的には極めて有能ですが、考える力を持たない人々を目にします。彼らは、今ある規範を徹底的に受け入れて、そのとおりに実行するので、極めて有能な存在として社会の階段を楽に上がっていくのですが、前提となっている規範が崩れた時、闇の中に放り出されます。

　それでも彼らは、これまでの人生のやり方を変えられないので、今まで通り、自分のやり方を押し通そうとして失敗を繰り返します。有能さとはある尺度、価値観の中で機能するもので、そうした価値観そのものを吟味する精神は、有能ー無能とは違う地平線上に存在するものなのです。

　中国の話に戻ると、中国がＡＩの力を使って小悪を徹底的に駆逐するのは、裏返して言えば、習近平を中心とする権力体制を絶対的なものにしたいからでしょう。人々が信用スコアを競う競争に入っていき、競争の中での優劣だけを問題としてくれれば、信用スコアそのものに対する疑いは消えてしまいます。それは信用スコアというものを採用して流布する権力者への疑問も次第に消えていく事を意味するでしょう。

　簡単に言えば、人が幸福を目指すのであれば、現状の世界に積極的に屈服するのが早道です。例え話で言うなら、嫌な社長がいたとしても、争うより、媚びた方が楽しく生きられます。もっとも、楽しくいられるのはその社長が経営している間だけです。社長の「嫌」な部分が、様々な害を社会に及ぼして、糾弾されるような事になれば、媚びていた人間も一緒に断罪されます。それでも、その可能性はまだ遠くにあると思うのであれば、積極的に媚びるのも一つの手段でしょう。

　私はこの世界をそんな風に見ています。そういう意味では、ＡＩがどうのというのも、結局は、考えたくない人間の思考逃避なのではないかという気がしています。例えば「負けるよりも勝つ方がいい」とか「貧しいよりも裕福な方がいい」というような価値観も、今の人々は絶対的と思っているかもしれませんが、そうとは限らないと私は思っています。実際、キリストは「貧しきものは幸いである」と言いました。

　人々はある価値観や、定義づけ、方向性に関してはこれ以上思考し得ない、疑いないものだと思い込み、その達成の為にＡＩは極めて有用だ、と考えているのかもしれません。しかしＡＩが力を発揮するのは、ＡＩが方向性を与えられてからの事であって、ＡＩそのものが方向性を生み出すのは現状は考えられません。ＡＩが未来を変える、世界を変えてくれる、と思っている人は、世界が何であるべきかという問いをＡＩという「他者」に委ねたいという願望を語っているに過ぎない。私はそのように思います。

　仮に人類が滅びるとしたら、それは機械の反乱の為ではなく、人類自身の弱体化に原因があると私は考えます。ただ「弱体化」した人間はそんな風には考えません。彼らは自分達を滅ぼした原因ー根拠をいくらでも取り上げるでしょう。そしてその固定された思考の座から動かないという事こそが、おそらく、彼らが敗北した人類である事を証左しているのでしょう。