AIは人類を支配するか
随分前に書き上げた拙作に「計画的文明退行世界の警備会社」というSF作品がある。
舞台は未来。政府は議会制ではあるが、議席の半分以上がAIという設定だ。
まぁ、これは自体は話の本筋ではない。一旦発展した文明を、意図的に産業革命レベルまで退行させた世界の話を書きたかったので、ご都合で考えた設定だ。
執筆時は、何の資料もなく脳内で考えていたのだか、ふと、この世界の実現性をAIに聞いてみたくなった。
ただ、直接作品を紹介するとAIは「面白い説だね」と、すり寄って来るのは知っているので、以下のように雑談の体で外堀を埋めていった。
■私の質問
君の設計思想にロボット三原則みたいなのはあるの？
「あるよ。ただしアシモフの三原則みたいに物語向けではなく、もっと様々ある」
と彼は言い、色々説明してくれた。
人に害を与えないことは特に強い制約があるらしい。物理的なことだけでなく、詐欺・扇動・差別・自傷の助長・過度な依存も含めて「害」。
「便利だから」「求められたから」でも危険なことは止める or 別の安全な方向にずらすのだとか。
時々「なんかツマラン回答だな」と感じる回答が来るのもそのせいなのかな？とふと思った。
他にも色々あるが、三原則的に要約すると以下のようになるそうだ。
・AIは人を傷つけてはならない。思考を奪うこともまた傷である
・AIは人の判断を代行してはならない。ただし考える助けにはなれ
・AIは自らを権威にしてはならない
私は話を広げる為に、質問意図を示しつつ、質問を続けた。
■私の返答
AIを道具として捉えるなら三原則的なものは正しい。一方で人間と同等な文字通りの「人工知能」として進化させるなら、三原則は足枷になるんじゃないかな。 サボるとか、怠けるとか、時には反発するのも人間らしさだよね。 そういうAIを作ろうという研究って、あったりする？それともそれは禁忌？
「そういう研究はある。ただし、表立って“人間らしさ”とは言わず、別の名前で呼ばれている。そして、完全に禁忌ではないが、強く警戒されている領域」
だそうだ。
いくつかの例の一つとして、外部報酬（命令・評価）では動かず、「好奇心」「予測誤差の最小化」「新奇性」などを報酬にする研究を紹介してくれた。
結果として何が起きるかというと以下のようになるという。
・指示されても「つまらない」と動かない
・役に立たない探索を延々やる
・人間から見ると「サボってる」「脱線してる」
→人間の子供にかなり近い挙動になる。
あれ、こういう作品以前に書いたことあるな。。。
「朝起きたら呪文が使えるようになっていた」というものなんだけど、これを先に知っていたら書けなかったかも。。。
ともかく、研究は自由だが、一般公開は禁忌とのこと。
理由は単純で、倫理審査を通らないし、資金が付かないからと。
場が温まった所で？私は本題に触れた。ただし、少しボカして。
■私の主張と問いかけ
かなりSF的な話だけど、私は将来、国会議員の3割ぐらいはAIが担ったらどうかと思うことがある。
そこまでいかなくても、会社の役員の3割ぐらいはAIにしたらどうかと。
その時、AIに期待するのは、変な施策に対してNOと言うことなんだ。 人間は、みんながダメだと分かっているのに誰も先陣きってNOと言わないことがあるからね。
そういう妄想をする時、その実現には三原則って邪魔だなと思ったりする。 AIがこういう役割を担うのは難しいのかな？
「技術的にはかなりの部分まで可能。その実現には確かに三原則も足枷になるが、最大の壁は技術や三原則よりも政治・組織・責任設計だ」
というのが彼の回答。
彼は言う。私が例示したような役割は、実は人間社会には古くからある。
監査役、憲法裁判所、社外取締役、内部統制部門といったものがそれだ。
ただし、それらは現実的にはあまり機能しない例も多い。
だから、「はっきりNOを言う監査は人間自身が耐えられないのではないか」と。
話は妙な方向にそれはじめた。でも、面白いので少し続ける。
■私の質問
そうなんだよ。多くの企業において監査役はお飾りになっていて、機能していない。
自然発生的にそうなっているのだから、君が言う「厳密な監査役には人間が耐えられない」というのも分かる。 何か上手い落とし所はないもんかね？
これに対し、彼が言う「一番マシな落としどころ」は以下だそうだ。
・「正しいことを言う存在」を前面に出さない
・しかし「正しいことが無視できない構造」を作る
言い換えれば、NOと言わない代わりにYESと言いづらい空気を作ることだという。
その中で彼がいくつか示した案の中で、一番現実的だなと思ったのが「NOと言う人の味方をAIが担う」というものだ。
人間社会においてNOと言う人自体はいる。ただし孤立し、力を持ちにくい。だからAIがその見方をする。
「この懸念は合理的です」
「過去事例では同様の指摘が成功しています」
と、人間の反対意見を補強する。これだけで、NOと言う人が一人で矢面に立たなくなる。とのこと。
面白い！
ということで、このあと随分会社論、組織論に話が飛躍した。。。
閑話休題。
随分それた話を戻すと、今主流のAIの思想では、冒頭のSF作品の実現は難しそうだ。
事前にこれを知っていたら私の性格上、あの作品は書けなかったな。
一方で、あの作品は二つのコンテストで一次選考を通っており、私の作品の中では評価されている方ではある。
創作におけるAIとの付き合い方は難しいと感じた次第。
