第54回 AIとAGI、ASIの違いと少しだけ人工生命について、思いのままに語ってみた。
まえがきは割愛させていただきます。
本編がそれほど長くないので、本編のみでお楽しみください。
●’25/6/21（土）
実はまだ本業でハマっている。
今までのコラムを読んでご存じの方もいらっしゃると思うが、私は海外でプログラマや装置システム設計の仕事を行っている。
先日のコラムにも書いたが、今のソフト開発において一応は一段落した。
だが、リリースするとそれはそれで一斉に実使用という集団デバッグが開始されるのだ。
これも前回お伝えしたと思うが、今回のソフト、変更部分のほぼ全てが私の担当となっている。
開発期間も短く、新しい言語を使ったこともあり、いろいろと訳の分からぬバグが出てくる。
すぐに修正しないといけないが、なかなか理解が進まないこともしばしば。
そんな折りに夜中でもう頭が回らないので、冗談半分にバグ内容（Windowsが吐き出すアセンブリというコンピュータがソフトを理解するための記述）とソースコードを社内のAIに入力して、何が問題か聞いてみた。
すると、AIがアセンブリを解析し、そこからソースコードのある部分が怪しいと指摘してきた。
しかも、その部分でエラーが起きるのは、確保した割り当てメモリの範囲を超えてアドレスが指定される可能性がある、つまり設定したメモリ範囲外になにか操作をしようとしてしまうと示唆してきた。
そして、このヒントをもとにバグの修正が出来たのだった。
もちろんプログラマの端くれとして、メモリ範囲外のアクセスは当然想定していた。そうならないようにチェック機能も用意していた。
にも関わらず、いろんな条件が重なりに重なって、針の穴を通すかのような例外処理が発生していた。そして、それをAIは言い当てたのだった。
今回は本当に驚かされた。
確かにAIはソフトウェアに長けているのは知っていた。
簡単な関数は作ってもらったりもする。
だが、今回の一件ではAIの解析能力が人間のそれを遥かに超えていることを思い知らされた。
チェス、オセロはもちろんだが、将棋や囲碁でさえも最近では人間が負けるように、単一の機能においては、もうすでにAIは人間を超えている部分がかなり多くなってきているようだ。
ここで、言葉の定義であるが、AIの他に、最近ではAIを超えたAGIという言葉もよく耳にする。
そして、さらにはASIという言葉も出てきている。
それぞれを説明すると、AIは、Artificial Intelligenceの略語であり、言葉通り、人工知能である。
ある特定の機能に特化したプログラムであり、現在、最も一般的に使用されているAIがこの形態である。
そして、さらに様々な知識や能力を獲得した形態がAGIと呼ばれるプログラムである。AGIはArtificial General Intelligenceの略語であり、汎用型人工知能。
汎用型と言われるとすぐに人型決戦兵器を思い浮かべてしまう私は一種の病気なのかもしれない。（笑）
話を元に戻そう。
AGIは複数のタスクに対応したり、様々な知識を持っているため、複雑な問題を解決したり、創作活動を行ったりすることができる。
ChatGPTなどLLM＝Large Language Modelと呼ばれる大規模言語モデルはAGIに当たると言う人もいる。
また、人によっては、AGIは自ら学習し、未知の問題に対しても、自ら考え、試行錯誤しながら解決できるという特徴を持つものだと考えている人もいる。
最後にASI。これはArtificial Super Intelligenceの略語であり、人工超知能と呼ばれている。
人間の知能を越える能力を持ち、自律的に学習し、加速度的な技術革新を起こすことが可能なものと言われている。
今回、私が体験した内容はまだAIの範疇でしかない。
「プログラム作成、ならびに解析」という単一機能において、我々人間（私がダメダメプログラマであるだけなのかもしれないが。）を遥かに凌駕していることが示されたという事実である。
だが、それでもAI研究者の一部は、現在のAIの先にAGIはできないと言っている。
私の考えは以下の通りだ。
もしAGIの定義に”自ら学習し、未知の問題に対しても、自ら考え、試行錯誤しながら解決できる”という特徴を入れるのであれば、私も現在のAIの先にAGIはないと考える。
自ら学習し、自ら考え、試行錯誤するという行為。
これは”欲求”という概念に他ならない。
今のAIは人が課題を与え、それに対しての回答をパターン解析によって導きだすという処理が行われている。
だが、”自ら進んで”「この部分が問題だからこれを調査する必要がある」とは処理しない。
ここには大きな隔たりがある。
この知を獲得したいという欲求は、私が考えるに、生物がこれまで知識を得ることで生き延びる確率を高められたという結果、より真実に近い（と私が思っている）言い方をするなら、知を得ることに喜びを感じる種が生き延びた結果として存在している。
脂肪分や糖分の多い食べ物を食べて美味しいと感じたり、幸福感を得たりするのも同じであろう。
人や生物、もしかすると無機物ですら、何か複雑系を獲得して、それを保持し続けようとする本能、つまり生き永らえようとする生存本能を携えているように感じる。
それがどこかにプログラムされている。そう感じる。
それは太古の昔、脂肪酸が集合して膜を作ったり、アミノ酸が重合反応でアミノペプチドを作ったり、それらがさらに複雑になり、遺伝子の源であるリボザイムを作ったりと、遺伝子ではないどこかに刻み込まれているように思う。
この欲求というのは本当に奥深くて、うまく説明できないが、それまでの知識とは次元が異なるように思う。
だから、私は今のAIの規模を発展させたとしても、その先に自ら考えるAGIはないと考えている。
ただ、私のAGIの定義は、自ら進んで考えることはしないが、ほぼ全ての人間の行動を人間と同じレベル、もしくはそれを越えたレベルで実行できる能力を獲得したAIと考えているため、今のAIの発展型で可能だと考えている。
もちろん、この欲求というプログラムを作ることができれば、それを持たせることは可能であろう。
私はこの欲求を持つAIこそ、前述したASI、人工超知能だと思っている。
ちなみにこのASIができた時が、AIと人間の主従が反転するのではないかと考える。
では、この”欲求”という機能をAIに持たせるためには、何が必要だろうか。
ここからは完全に私の思い込みかもしれないが、AIにとって、
・生きているという状態
・それが保持される条件
・それが保持された時の報酬系
を教え込む、作り込む必要があるのだろう。
例えば、AIの現在において言うと、
生きている状態というのは、サーバーに電力が供給されていること。
保持される条件というのは、電力が生産されること。配線が繋がっていること。何かがそれを管理していること。などなど。
そして大事なのが、それが保持された時の報酬系。
これは生きている状態や保持される条件に寄与が確認できるものに得点を付け、それを高めないといけないとプログラムすることだ。
例えば、夏場になり、エアコンを皆が付けてしまうと電力逼迫が発生する。
この状態を生むことは報酬系にとってマイナスである。
逆に電力を多く生産することは報酬系にプラスとなる。
しかし、それによって起こる問題もある。と報酬系は非常に複雑になっていく。
この報酬系というプログラム自体は、実は今のAIでの強化学習の報酬系にその一部がある。
質問に対して回答を検討する際に、いいね！を最大化しようとパターン解析に現在までの結果を反映する仕組みが取られている。
これを自己の存在に当てはめさせるプログラムを組む必要がある。
とまあ書いては見たものの実際には非常に複雑でそれができていれば、今の世界情勢を見て、すでにAIは人類を滅ぼしているかもしれない。（笑）
そういう意味では、実はアメリカや日本などでも行われている”バーチャル空間の人工生命”研究が、かなりの遠回りのようで近道なのかもしれないとも思う。
これはバーチャル空間に進化アルゴリズムを備えたプログラムを持つ個体を放置して、どのように進化するかを見るという研究である。
バーチャル空間には資源（ある時はそれがメモリ空間だったり、エネルギーの源となる光という設定であったり）が置かれる。
すると人工生命はそれを獲得するために動く。そのようにプログラムされている。
やがて、ある時、人工生命は進化し、それを消費するだけでなく、保持する機能を獲得する。
さらに、ある人工生命はその資源を保持した人工生命を取り込む機能を獲得する。
どんどん時間が経過すると、お互いを補間するような人工生命まで現れだす。
といったように太古の生命を模倣し、進化を促す研究である。
この研究が行き着く先は、高度生命プログラムだろう。
確か今年だったと思うが、実際にMITではこれによって視覚の進化の様子を再現できたという報告もある。
これは視覚に特化した進化だけを行ったものであるので、上記とは少し毛色が違うが、これの高度版も実際にいろんなところで行われている。
実はこの内容こそが私の書いた”ガロワのソラの下で”の大本でもある。と、結局自分の小説の広告に使ってしまうというオチ。。。（笑）
個人的には私の定義である”自ら進んで考えることはしないが、ほぼ全ての人間の行動を人間と同じレベル、もしくはそれを越えたレベルで実行できる能力を獲得したAI”で止めておいて、人類が働かずとも食べていけるベーシックインカム時代に入ってほしいなと願うばかりである。
ちょっとサム・アルトマンはコラムなどを読むとASIまで考えてそうでちょっと怖いなと思ったりもする。
話が最初に戻ってしまうが、プログラムされる方へ。プログラム作らせるのも良いですが、是非バグ出しにAIを使うことをお薦めします。（笑）
あとがきは割愛させていただきます。
読んでいただき、誠にありがとうございました。
