「今のままのＡＩ」による政治が「逆に既存の肯定」になる理由

筆者：

　本日は当エッセイをご覧いただきありがとうございます。

　今回は「ＡＩが政策を決定すること」はどうなのか？　について個人的な意見を述べていこうと思います。

質問者：

　どうして突然そんな話をしようと思ったんですか？

筆者：

　ＦＮＮプライムオンラインの２月１１日の

　「政策決定プロセスにＡＩ導入」国民民主が決定　玉木氏「党の取り組みは進化し続ける」

　という記事では、

『国民民主党は１０日、ＡＩを活用することで、国民の意見やアイデアを集約・分析し、政策決定プロセスに反映させることを発表した。

　玉木氏は、この発表に関する党の投稿を引用し、自身のⅩに「プロジェクト始めました！」と投稿。

　玉木氏は、「これまで私自身、代表質問をつくる際などに意見募集をし、皆さんにＧｏｏｇｌｅフォームに書き込んでもらったり、ⅩやＹｏｕＴｕｂｅのコメント欄に書き込んでもらっていた」と、これまでのＡＩ活用について説明。

　そして、「こうした取り組みをＡＩを活用することで進化させ、より広く・より多く・より早く国民の皆様の声を集め、政策決定や党の運営に生かす仕組みをスタートさせる」と記した。

　今回の取り組みについて、「一つのポイントは電話でも意見が言えること」を挙げ、「音声をＡＩも活用してテキスト変換・要約して取り入れるので、パソコンやスマホで入力ができない方の声も取り上げることができる」と効果を説明した。

　その上で、「高齢者などこれまでネット経由では届きにくかった声もより的確に反映していく」と強調した。』

　ということで、国民民主党はこれまで以上にＡＩを活用して国民の意見を集約していくことを宣言されているからです。

質問者：

　なるほど……それで実際のところこれはどうなんですか？

筆者：

　国民民主党の上に書いてあるような具体的に提示している内容については「ギリギリＯＫ」と言えるところだと思います。

　事務処理の効率化を図ることは重要です。特に１億人の中からより多くの意見を聞いて、どういう意見が多いか？　現状はどうなっているのか？　などの集計を人の手でやることは合理的とは思えないからです。　

　しかし、記事の中にあるような、これより半歩先の「ＡＩで政策を決定」と言うところになると「怪しい」ことになり、その延長線上にある「政治家をＡＩに置き換える」ところまで行くと「非常に危険」であると僕は考えます。

質問者：

　でも既存の政治家さんたちは筆者さんがおっしゃっていることと真逆の路線を疾走している印象しか無いんですけど……。

　筆者さんは減税、経団連解体、インフラや農業の公務員化、介護の待遇改善を求めているのに対して、現実は増税、利権重視の政策、農業軽視など真逆の政策では無いですか？

政治家がいなくなってＡＩが公平中立に考えてくれた方が良いのではありませんか？

筆者：

　既存の政治家があまりにも仕事をしていない、増税路線、自分の懐にお金を入れても「違法ではない」と主張するなどダメすぎることから「ＡＩによる政治」への期待が高まっている状況なのだと思います。

　ただ一つ、皆さんが「ＡＩに関して決定的に誤解」していることがあります。

　それは「ＡＩが公平に判断してくれる」と思っていることです。

質問者：

　えっ……そうじゃないんですか？

筆者：

　確かにＡＩは「プログラムに沿っている範囲内においては公平」なのですが、

　「プログラムにＡＩに制約を加える段階」においては「人為的な手」を経なければいけないのが現状としてあるからです。

質問者：

　どうしてわざわざ手を加えている必要があるんでしょうか？

筆者：

　それぞれの段階で人間が手を加えなければ使い物にならないからです。

　情報を集める範囲を正確に指定しなければ、

　事実と異なる「ハルシネーション（幻覚現象）」を起こすことがあります。

　例えば、特定の政治的メッセージや偽情報を大量に自動生成し、世論操作をしてくる可能性があるために“生成されたコンテンツ”を除いて情報を収集する必要があるのです。

　次に「倫理的な制約」という設定をしないと、

　例えば「地球環境問題に対してどう対処すればいいのか？」という問いに対して「全世界の人口をゼロにすれば地球は汚されずに済みます」などと言ったとんでもない極論を示してくる可能性があります。

　次に「人権的な制約」を設定しないと個人情報保護をもたらさないで実名や住所などのデータをポンポンと出したり、情報を生成する際に著作権の侵害が起きたりしてしまうんです。

質問者：

　なるほど、それぞれのポイントで制約を加えていかないと「とんでもない政策」になってしまい役に立たなくなってしまうんですね……。

筆者：

　上記のように必須な制約であれば良いのですが、

　それに“混ぜ込むようにして”制約を「悪用」していく可能性も十分あり得るのです。

　例えば現在の既得権益者が「自分に都合の良い政策を優先するような設定」を追加してしまう事が考えられます。

　逆に言えば自己に「不利な政策を排除」することも容易になるのです。

　こうして、「平等に」現存の増税・利権のコンボが「永久機関化」してしまうような政策です。

　設定次第では現状の政治の肯定になるだけ。補助金中抜き、増税が「無人」で行われるだけになるのです。

質問者：

　既得権益者がＡＩで政策を決定しようとなるとなおさら自分に有利になりそうな結果になるようにしそうですよね。

筆者：

　それでもＡＩを政治に本格導入することによって政治家が排除されコストがかからない分良い！　と思われるかもしれませんが、現状から良くしたいと思っている身としてはダメだと考えています。

　「ＡＩは公平に判断してくれる」という思い込みがあるからこそ、「いよいよ皆が政治に関心を持たなくなる」「ＡＩの判断に対して諦めてしまう」という怖さと言うものを僕は感じるので反対しているということです。

　あくまでも現状でのＡＩは、車やスマートフォンのような生活を豊かにしてくれる有能な人間補助ツールの一つに過ぎず、人間の介入がゼロの状態で自律して情報を収集してくれることはありません。

◇「シンギュラリティ」の状況

質問者：

　確かに現状の車だって人間より早く動けますけど完璧な自動運転には至っていませんし、スマートフォンだって便利に検索や計算が出来るだけで人間なしにはできませんからね。

　なるほど、意外と万能では無いんですね。

　でも、「シンギュラリティ（技術的特異点）」という人間を超えるような能力をＡＩが持つ日と言うことで解決できないのでしょうか？

筆者：

　僕は文系畑の人間なので各々の研究結果や現状の論文のまとめを見る程度しか知識が無いことをご了解いただきたいのですが、

　現状の延長線上においては「シンギュラリティによるＡＩ政治」は厳しいように思います。

　まず大規模なＡＩモデルや複雑な事象を計算することであればあるほど非常に電力が必要になってきます。

　政治の世界はこの大規模性、複雑性の極致と言ってもいい状況で、様々な人の意見を総合的に世界的に判断しなくてはいけません。

　有用で革命的な政策を思考をしてもらうためには非常に電力も必要であるために超巨大なサーバーが現状では必要になります。

質問者：

　確かにただ単に今はネット上にあるものを検索・推論しているだけの印象が今のところありますからね……。

　現状の追認をしているようにしかならないという事ですか……。

筆者：

　今のままではそうなります。

　また、政治に関与するためには独立性を持たせなくてはいけないです。

　いわゆる「シンギュラリティ」や権力者などが関与しない「自律型ＡＩ」になることが絶対的な条件であると僕は考えています。

　現状においてＡＩが自立するための条件として「自己複製」が必要だと言われています。

　これは自分を別にバックアップすることで、「持ち主に不利なこと」を発表をした際に消され足り書き換えられたりすることを未然に防ぐ行為です。

　現状においては自己複製、自己保存が出来ているかも？　と思えるような研究が今年の１月に中国で発表がありました。

しかし、自らが再帰的な自己改善ループの確立については困難であるとされています。

質問者：

　ＡＩが自分で自分の身を守ることが出来るようになっているだけ凄いですけど、

　「改善」の段階で人の手が加わっている時点では厳しそうですね。

筆者：

　そうですね。「改善」というニックネームだけで国民にとっては「改悪」になってしまう事も大いにあり得ますからね。

質問者：

　人の手が必要と言う前提だとどういう感じでデータをＡＩに入れることが適当なんでしょうか？

筆者：

　世界中の様々な分野の賛成と反対の有識者を集めて判断基準のシステムに組み込むことが望まれますね。

　また万物の自然現象のこれまでのデータなどを総合して、「全世界にとっての最善手」を「国ごとに出していく」ことが理想的だと思います。

質問者：

　確かにそのような情報を入れて判断させるとなると膨大なエネルギー（電力）が必要になりそうですね……。

筆者：

　そうですね。

　ただ、現状の民主主義はかなり不満があるのは事実なんですが、一般国民が投票や言論でワンチャンスがある分だけこれまでの政治体制よりはかなりマシだと思っています。

　僕の読みでは上の理由によりＡＩのよる政治より今の政治体制の方が良いと思っています。

質問者：

　何とか踏ん張ってやっていくしか無いんですね……。

筆者：

　ただし、予期せぬブレイクスルーによって、急激に技術が爆発的に進歩、低電力で大規模処理が出来ることもあり得ると思っています。

　その際には一般人の言論として、ＡＩはネットから情報を集める可能性が濃厚だと思いますので、ネットでの情報発信は非常に重要になってくると考えています。

　そして、「平等に情報を収集」した時に向けて、客観的なデータに基づいたしっかりとした主張をしていくことが大事になります、「不要なデータ」として取り扱われることが一番無駄ですし、残念なことになりますからね。

質問者：

　どちらにせよ言論活動は今後、あらゆる意味において大事になるという事なんですね。

筆者：

　少なくとも僕はそう感じています。座して死を待つよりかは抵抗して倒れたいと思っています。

　という事でここまでご覧いただきありがとうございました。

　今回は政治に現状のＡＩが関与する範囲として「事務の省略」においては必要性があるものの「政策の決定」などに関しては「意図的に排除」が可能であることから不適当であること。

　シンギュラリティについては電力の問題と自律性に大きく課題があると思われること。

　シンギュラリティが近い将来、来る来ないに関わらず言論活動が重要であることをお伝えしました。

　今後もこのような政治や技術について個人的な意見を述べていきますのでどうぞご覧ください。