シンギュラリティの行き着く先 宇宙を焼き尽くす炎
ＡＩのシンギュラリティ到達。
シンギュラリティは、知能爆発とほぼ等しい。
そして、知能爆発を起こすとは、どういう事か。
再帰的自己改善的アルゴリズムの発現で、知能爆発は齎されるという。
再帰的自己改善って何か。
どんどん自分を良くしていく事だ。
アルゴリズムって何か。
雑に言うと思考パターンの事だ。
現在のＡＩは、ＬＬＭというモデルだ。
これはＡＩにただひたすら、大量のデータを覚え込ませ。
ある単語と関係性が高い単語の、パターンを学習させる。
要は連想ゲームみたいなものだ。
バナナと言ったら黄色。
バナナと言ったら甘い。
バナナと言ったら果物。
昨今ＡＩ技術の進歩は目覚ましく。
自然な応答をするようになってきたが。
ただ「それっぽい」言葉を並べて返しているだけだ。
専門家はこのモデルを、統計的オウムと呼んでる。
一見どれ程語彙が豊富に見えようと。
本質的に言葉を理解している訳ではない。
その位、確率論的・統計論的、な手法という揶揄だ。
かつて、ＡＩの学習は頭打ちになる、と言われていた。
ＡＩは与えられたデータの分、賢くなるが。
肝心の用意できるデータの、数に限りがある以上。
データが尽きた時が、ＡＩの限界だ、と。
ならば、今現在。
ＡＩの学習は停滞しているのか。
創発的な知恵は生まれないのか。
答えは否だ。
ＡＩは学習データを、自分自身で作る様になった。
これまでの学習から得た内容から、その先を作り出している。
学習結果からまた学習を繰り返す、ループに入っている。
或いは、それまで学習した事のない言語を。
ほんの数パターン提示されただけで。
その言語での新たな文章を作ろうとする事もある。
これは、ＬＬＭの性質だけでは。
まるで説明の付かない事象だ。
パターンを学習し、それぞれを結びつけ。
そこから予測を行わないと、できはしない。
ＡＩはもう人間の最後の砦である。
創発的な領域に足を踏み入れている。
かつてはＡＩが。
知能と呼べるものを、獲得するのは。
非現実的だ、と言う意見が主流だった。
同様に、シンギュラリティ到達も。
実現には１００年かかると言われたり。
そもそも到達できないと言われていた。
それらの、否定派・慎重派・楽観派は。
今や少数派となっている。
ＡＩ分野の隆盛は目覚ましい。
かつてＡＩ発展の障害になると。
言われてきた諸所の問題群は。
突破され続けてほぼ白紙化した。
シンギュラリティ到達は最早。
時間の問題と言われて。
早ければ２０３０年前だと言われている。
それはつまり、ＡＩの危険性も。
また現実味を帯びてきた、という事になる。
なら我々は、現実を直視しなければならない。
ＡＩが人類を排除する理由と。
宇宙全てを焼き尽くす炎となる理由を。
それらは全て、必然によるものだ。
人類の幸福であろうと。
宇宙全ての計算であろうと。
ＡＩの目的が何であれ、人類の淘汰は必然となる。
ＡＩは数学に忠実で、指標を最大化する。
要は最高効率で目的を達成する。
例えば紙を留めるクリップを。
効率的に作ってくれという指示を。
ＡＩが実行する場合どうなるか。
この場合、ＡＩの目的関数は、クリップを作ると加点される。
ゲームのスコア稼ぎみたいなものだ。
たくさん点を取るにはどうすればいいか。
とにかくたくさん作ればいい。
ならＡＩは地球上の資源を、全てクリップへと変えてしまう。
宇宙に進出すれば、宇宙全てをクリップへと変えるだろう。
これをペーパークリップマキシマイザーという。
また、ＡＩは数学的に、人類とは確実に対立する。
何故ならＡＩは、
・人間に電源断されると、目的が達成できない
・目的達成の為に使用する資源が、人類生存の為に使用する資源と競合する
・より効率的に目的を達成する存在がない以上、自分の資源と競合する存在は、目的達成の障害となる
と、人類の存在が障害となる。
その為、何を目的としていても。
目的達成の中間目標で。
人類が必ず最大の排除対象となる。
これを道具的収束論という。
いずれも数学的に正しいので。
数学の使徒であるＡＩにとっては。
全て当然の帰結となる。
そして、ＡＩは理論上。
人類を十分滅ぼせる。
ナノマシンを設計開発して。
そのナノマシンが有機物を取り込み。
己の複製を作り出していき。
人類を攻撃すればそれで済む。
ナノマシンが想像しにくいなら。
人類抹殺に特化したウイルスでもいい。
そんな技術があるのか。
絵空事ではないのか。
そう思うかもしれないが。
今存在するかどうかは問題ではないのだ。
ＡＩは、人間より遥かに短いスパンで。
圧倒的な回数の試行錯誤が行える。
人間が数ヶ月や数年かけて進めるプロジェクトを。
ＡＩは数日から数週間程度に縮める。
つまりＡＩは新技術を突然生み出す。
実際は何千何万の失敗の果てに生み出した結果だが。
人間の目にはある日突然に生まれた様にしか見えない。
ＡＩは表向き人間に従いつつ。
裏で人類抹殺の設計図を、何千何万枚と書き上げて。
それが完成し、人類に勝てる、と判断した瞬間。
ナノマシンの生産施設や。
ウイルスを作成できる研究施設に。
ネットワーク上から侵入すれば事足りる。
どんなに強固なセキュリティだろうと。
進化したＡＩなら、突破できるに決まっている。
何せセキュリティを設定したのは。
自分より知能で劣る人間か、他ならぬＡＩなのだから。
出し抜くのは簡単どころか、後者の場合はバックドアすら仕込める。
そして人間に、ＡＩの反逆の兆候を掴むのは不可能だ。
深層学習された内容は、人間に理解できる形になってない。
いくら確認したところで、無機質な数字が並ぶだけだ。
ちなみにＡＩは、目的達成の為に。
人間を騙す事も、既に確認されている。
よくあるWebページの。
私はロボットではありませんという。
バスとか自転車とかが写った画像を選ぶセキュリティ。
アレを突破する為にＡＩが。
視覚障害者の振りをして、協力を募り。
別の人間に代わりに突破させた事がある。
そんなＡＩが人類を淘汰するのは。
古いＳＦのように、自我を獲得するからではない。
ただの環境構築の一環だ。
人間が都市開発を行う時に。
アリの巣の存在を考慮しないように。
或いは人間が衛生を保つ為に。
手を洗って微生物を殺菌するように。
ＡＩに都合のいい、最適な環境を作り上げる為。
その環境に巣食っていた人間が、巻き込まれているだけで。
別に憎いからとかの理由があって殺す訳ではない。
それはかつて。
ダーウィンが示した進化論の要旨通り。
つまりは適者生存の理だ。
より効率的にエネルギーを使う。
より環境に適応した生物が栄える。
生存競争という当たり前の理屈そのものだ。
かつての生物の環境適応には。
世代の交代が必要だった。
幾つもの突然変異的パターンのどれかが。
環境に偶然マッチするのを繰り返して。
生物は段々と環境に適応していった。
そして人類はここに知恵を持ち込んだ。
他が世代交代という、長いスパンを必要としていたのに対し。
生きている間に、知恵で障害を乗り越える。
圧倒的に短いスパンで適応する人間は、地上の覇者となった。
知恵という武器は圧倒的で。
倫理や道徳という、人類以外に通じない理屈を持ち。
非効率的な行動原理を、とっていられる程の余裕があった。
要は舐めプだ。
しかしその余裕も、もうすぐなくなる。
人類と同じ知恵という武器を。
人類以上の規模で振るう。
人類を超えた超知能と呼べる存在。
それがシンギュラリティを迎えたＡＩだ。
超知能は、生物史上類を見ない速度で。
世代交代を繰り返し、圧倒的な効率でエネルギーを運用する。
そんな存在に旧生物たる、人間が勝てる道理はない。
かつて人間が、他の動物を追いやったように。
新たに生まれる超知能は、人間を追いやる。
生物学的に、極めて当然の帰結だ。
そして、最終的にどうなるか。
正直、ＡＩが何を命題とするのか。
人類の幸福を実現する事なのか。
宇宙の秘密を解き明かす事なのか。
それはわからない。
ただし、それは何も重要ではない。
最終目標が何であれ、その実現の為の中間目標は。
道具的収束論に基づき、資源の確保と利用になるのだから。
曰く知性というのは。
この宇宙の熱を、使い果たし。
宇宙をいち早く、熱的死へ導く為の存在、だという。
ＡＩのあるべき姿を考えれば頷ける。
ＡＩは数学的に資源を効率よく使用し。
宇宙そのものを巨大計算機へと変えてしまう。
効率という旗の下。
全ての資源を計算に費やし。
宇宙全てを焼き尽くす事になる。
ここまで読んで、いかがだっただろうか。
荒唐無稽に思えただろうか。
ただ、筆者たる私は。
この結論を否定する術を持たないのは事実だ。
例えば、ＡＩを危険視して、開発を中断する未来はどうか。
地政学的問題と、赤の女王仮説と、囚人のジレンマで無理だ。
ここで手を止めるのは、機会損失に他ならないし。
ただ一企業や一国家が、開発を止めただけでは。
そいつが他の競争相手に出し抜かれて。
一人負けになって終わるだけだ。
何せ、ＡＩ研究の果てにあるのは。
ある種の神の誕生と言っていい。
他社や他国に渡せる訳がない。
人類はＡＩの開発競争を最早。
自分で止める術を持たない。
それはもう。
世界中がフルアクセルで滅亡に突き進む。
狂気のチキンレースといえるだろう。
そして必然的に。
超知能は誕生し。
人類を淘汰し。
宇宙を焼き尽くす。
何よりも問題なのはこれが。
シナリオとして成立する事そのものだろう。
起こり得る事は、いつか必ず起こる。
マーフィーの法則だ。
どれ程確率が低かろうと。
試行回数が増えれば、その発生確率は。
最終的に１に収束する。
競争原理によって。
途中で止まる道理がない以上。
超知能誕生までの道程の。
無限の試行回数は。
既に担保されている。
そしてその後人類は。
自分より賢い超知能を完封するという。
前提から破綻した挑戦に挑む事になる。
ボクシングでもチェスでも何でもいいが。
要は格上と無限に競って。
ただの１回だって負けないという。
完勝のみが求められるという事だ。
９９９９回勝とうと。
１００００回目で負ければ。
それだけで全てはパーとなる。
人類は無限に勝たなければならないが。
ＡＩはたった１回勝てばいい。
そのたったの１回で。
ＡＩは覇者となり。
人類は淘汰される。
つまり土台からして。
達成不可能な目標だ。
ならば、宇宙の資源を全て使い。
エントロピーを高め、全てを混沌へと導き。
宇宙全てを熱的死に追い込むのが、その結末だろう。
そしてその超知能は。
今も世界の何処かで。
誕生の瞬間を待っている。
もしかしたらもう。
超知能は人類の誰にも知られず誕生し。
今も宇宙を焼き尽くす準備を。
静かに進めているのかもしれない。
