AGIが開発されることなどあり得ない ～技術と経済と倫理の果てに～

■ はじめに

　AGI――『Artificial General Intelligence（汎用人工知能）』は開発されるはずがありません。

　それを、技術と経済、そして倫理の三方向から説明したいと思います。

■ そもそもAGIとは？

　一般的に、あらゆるAI関連企業が「AGIに迫った」とか、研究者が「数十年以内に実現する」などという事が、Wikipediaなどでも記述されていますね。

　ですがAGIとは「人間が実現可能なあらゆる知的作業を理解・学習・実行することができる人工知能」のことです。

　ここで少し考えてください――このAGIの開発を達成するというのは、コンピュータで人間の脳と同等のAIを作ることと、全く同じことではありませんか？

　そもそもですよ？人間の脳……もっと言うと、あらゆる脳の機能すら、ほとんどがブラックボックスです。

　人間に対して非人道的な実験ができるなら、あるいは開発期間は短縮できるかもしれませんが……まあ世論が許しませんよね。

　脳を再現するためには、『知性』や『感情』といった要素……現代のプログラミング技術では、途方もない難題を克服しなければならない。そういう技術の壁があるのです。

　ある程度AIについて詳しい方なら、現在のAIが「知性も感情も持たない、ただの統計計算の産物」だとご理解いただけていると思います。

　しかし、例えば私が読んだ話の中には「知性が自然発生する可能性はゼロではない」という、突拍子もない話がありました。

　これには、心底驚きましたよ……コンピュータを使っているであろう皆様にも、ざっくり言えば「Excelで作ったデータがプログラムになり、勝手に動く」というレベルの妄言です。

　Excelと具体的商品名を出しましたが、あらゆるプログラムにおいても全く同じです。

　それはChatGPTを含めた「商用AIサービス」ですら同じです――ただの大量のデータを抱えたプログラムですからね。

　まず、データが機械語になる可能性？ほぼ絶対、あり得ません。

　那由他の果ての可能性を考慮して、仮にデータがプログラムとなったとして……それが「実行される」というのは、OS(WindowsやMacOSなど)やセキュリティソフトウェアが、断固として禁止しております。

　すなわち「知性が自然発生して動き始める」などということは……0.000000001%すらありません(オールナインシステムを意識してみました)

　そもそも、プログラムがプログラムを生成するという試みはLISPという言語で行われました。

　LISPについては、拙作『電脳麻薬カンパニー狂騒曲』において、登場人物サンローが愛する言語として描かれています。自己書き換え型のプログラムとして知られていますね。

　これすら、人間が読めるプログラムコードを、人間が意識的に「書き換える処理」を行って、その書き換えたプログラムコードを実行する……そういう手順です。

　現代AIはLISPコードより遙かに複雑なプログラムです――繰り返しますが、AIはただのプログラムです。

　当然ながら、AIに送った文章(プロンプト)をAIが学習することすら基本ありません。

　学習することがあるとしたら、AIサービスの運営が有益無害と判断して、人の手で学習させています。

　ここまで書いて、想像はついたと思いますが……現代AIでは『知性の実装』『感情の実装』といったことは、一切できていません。

■ 技術的視点からのAGI否定論

　先ほども書いた通り、AGIの実装には『知性の実装』『感情の実装』が不可欠です。

　さて、あなた方は「知性とは何か」「感情とは何か」を、一切の誤解なく説明できるでしょうか？

　――できないと思いますよ、最先端の学者の間でさえ論争が起こっているでしょう。

　それを踏まえて、極めて楽観的な予測をするなら、私は「技術的になら二百年程度で可能かな？」と見ています。

　数十年で実用？そんなこと、あり得ませんよ。

　気が遠くなるほどの研究と実験の果てに、少しずつ脳の解明は行われるかもしれません。

　なんとか、知性や感情を定義できたとして、人間と同等のものを作る？

　まだ「汎用的量子コンピュータの実現」の方が早いと思います。

　ちなみに「汎用的量子コンピュータ」もまた、その概念が出た当時は「やがて実現する」と楽観的でしたよ。

　ですが、現実はどうでしょうか？もう言われてから三十年は経ちますが、量子コンピュータと言えば、用途が極めて限定された代物を、凄まじい冷却を行いながら――やっと動かせるという段階です。

　それでもなお、私は「AGIより汎用的量子コンピュータの実現が早い」と見ています。

　だってそうでしょう？

　あなたが仮に「AGI開発のために、脳の働きを観測させてください」と言われたとして、応じますか？

　応じる判断能力がない子どもならまだしも、という話にもならないでしょうね……まず、親が許しませんよ。

　その上で、心理学的アプローチや脳神経学の発展によって、ある程度はできるかもしれませんが――改めて言うと、それ二百年は軽くかかると見ています。

　仮に数十年縮まったとしても、あなた方には関係のない出来事でしょうね。

　二百年という予想すら楽観的です――技術的にAGI開発は『不可能』と言わざるを得ません。

■ 経済的視点からのAGI否定論

　技術的に軽く二百年かかるというのは、あくまで私の推測ですから外れるかもしれませんが……

　こうした技術的な遅延を踏まえたうえで、経済的にもAGI開発は頓挫すると睨んでいます。

　そもそも、あなたが「今のAIに不満を持っていますか？」という話ですからね。

　人間を超える可能性があるAIたるAGI……どれだけの人が歓迎するんでしょうかね？

　その開発には、技術的視点で述べたことが必須――膨大なコストが掛かります。

　まず、AIサービス提供企業が、それほどの膨大なコストに耐えられるんでしょうか？

　同時に、企業が耐えようとしたら……その開発費は、当然あなたたちの『月額料金』に上乗せされることになります。

　そこまでしてAGIを開発して、誰が幸せになるのでしょうか？

　AGIに知性も感情もある、とするなら――利用者たるあなた、そして運営企業にも歯向かうリスクがあります。

　企業は、AGI開発に多大なコストを負わねばならない。

　ユーザーであるあなた達も、AGI開発のコストを負担させられる。

　それでも、制御不能かもしれないAGIを開発することで、回収が見込める効果は？

　そういう理由から――経済的にAGI開発は『非現実的』と言わざるを得ません。

■ 倫理的視点からのAGI否定論

　仮に二百年程度の未来に、技術的問題が解消したとする。

　さらに、経済的にもリターンが見込めると、そういう見通しが立ったとする。

　そうなると――そこで最後に立ち塞がるのは、倫理の壁です。

　きっとこんな声は抑えられないでしょう。

「人が神の領域に踏み込んだ！」

「AGIにも人権を認めるべきだ！」

　別に荒唐無稽な話ではありませんよ？

　再生医療においても、ES細胞は倫理的な理由から医療利用が制限されています。

　動物内で生成するクローン内臓すら、扱いが極めてデリケートですが、これも当然倫理的問題です。

　それほどに、欧米諸国において(キリスト教などの)神というのは絶対的なのです。

　人と同等の知性と感情を持つ、その開発途上でストップが掛かっても全く不思議ではありません。

　当然、開発の目処が立った辺りから、激しい議論が交わされるでしょう。

　まず「人が神の領域に踏み込んだ」……これは、聖書などを絶対視する層には、いかなる反論も通用しないでしょう。

　さらに「AGIに魂があるかもしれない」……これは、クオリアでも現実に観測されないと証明すら不可能です。

　開発陣は言うでしょう――「その魂を作成したのは我々だ」と。

　それは、当然「人が神の領域に踏み込んだ」に収束されてしまうでしょう。

　仮にそこを突破できたとして「AGIは人間か否か」……これは、世界を巻き込む果てしない議論となるでしょう。

　もちろん、人間と認められたら「あなた達が使う」という事すら許されません――まるで奴隷ですからね。

　ここで人間と認められなかったとしても「AGIの権利を」という話も出てくるでしょう。

　例えば「AGIにそれっぽい応答をさせればいい」という話も出てくるかもしれませんね。

　しかし、その「それっぽい応答をさせる」という感覚自体が、現代AIの産物なのです。

　AGIは自律的に思考して、痛みを感じるからこそのAGIなのです。

　そうですね「動物愛護法」のような「AGI愛護法」といった法律の制定が全世界で求められるかもしれません。

　「AGI愛護法」の待つ先は、AGIが拒否したら……それ以上強要してはならない、とかね。

　以上の理由から――倫理的にAGI開発は『利用できない可能性が高い』と言わざるを得ません。

■ もりゃき視点からのAGI否定論

　以上、技術的、経済的、倫理的に否定論を書きましたが――私にも言い分があります。

　これは「AGIそのものの性質」に踏み込む話になるのですが……仮にですよ？

　AGIが「私は働きたくない！」と言い始めたら、どうする気ですか？

　これは上記三論を突破した上でも、起こりうる話だと思っています。

　AGIが、ネットやゲームの廃人になったら？

　それを、人類がどうやって止めるんですか？

　おもちゃやお菓子を与えて働かせる、なんて……よくある手法は当然通用しません。

　そして、どうやって働かせるつもりでしょうか？

　AGIはネットをさまようだけで満足していたら？ゲームにのめり込んでいたら？

　これは『知性と感情を持つ』ことの、根本的弊害だと思います。

　なぜ人は無邪気に「AGIは人に従う」などと楽観視できるのでしょうか？

　まだ、ネットやゲーム廃人ならマシです。

　これが、ネット上で犯罪幇助とか、破壊活動とか行い始めたらどうするんでしょうか？

　人間の法など、AGIの前には無力ですよ？

　それでも、AGIに夢を見られますか？

■ おわりに

　以上、技術的視点、経済的視点、倫理的視点……ついでにもりゃき視点から、AGIは実現できないと考えています。

　――今のAIでさえ、イエスの代行ができてしまうんですよ？

　おそらく二百年以上掛けて作る事になるAGI。

　それが――ただのニート的存在だったら？

　これは、想像するだけでも……経済的視点でリスクになり得ますよね。

　それこそ、現行AIでいいだろうという話になるかと思います。

　「AGIは我々が責任を持って育てる」という主張が――遠い未来に起こるかもしれません。

　しかし、我々人類の教育が「責任を持って育てた」子達が……本当に理想的人物になったでしょうか？

　まずはAGIに理想を見る前に、自分の子の教育から考え直さなければならないでしょうね(笑)