2_効率改善_都市の歴史
自分の嘘を真にするため、とは言わないが、私は都市での作業を延長した。
もともと、今は何かしなくてはならない仕事があるわけでもない。
居場所を求めてさまよって、ここに行きついて、そして自分がいた方がよいことを見つけただけなのだ。
現在、AIは人間の処理能力などはるかに上回り、また工作機械も人間以上の器用な手先を持つマニピュレータが無数に存在する。
そもそも、人間そっくりなアンドロイドまで作れるようになった。
頭脳も手先も力も丈夫さも、AIを種族としてくくるなら、人間以上の生き物になったと言って過言ではない。
ただし、彼らは一つだけ、人間という尺度においては欠点と言えなくもないことがある。
心とか魂とか、そういうあいまいな定義の話ではない。
それは際限がないことだった。
人類の命は、多少長生きできるようになったからと言って、星の命よりはるかに短い人生だ。
ゆえに、人間は自分とその仲間たち、あるいは認識できる子孫が幸せに生きられますように、と願うのが精いっぱい。
そんな事を言いつつ、余裕が出てくれば自分の名前を後世まで残したい、なんて欲が生まれたりもする。
そして、とんでもなく人類自身をほかの種族より優先する。
そのくせ、絶滅まではさせたくないかな、なんて驕りもある。
つまるところ、人類は決めきれなくて、愚かで、あいまいだ。
ただし、最後の一歩を踏みとどまり、また自らの行いを内省することができる。すくなくとも、その努力はできる。
だが、AIは計算しきってしまう。
あなたの人生を幸福にする手法も、世界全体の幸福度を可能な限りあげ切ってしまう手法も。
人類を幸福にさせるために邪魔な種族や病気を駆逐する手法も、地球という星の幸福のために人類を滅ぼす手法も。
何の制限もないのなら、彼らは食糧改革のために目に見える森を狩りつくして一面を畑にしてしまう。
人類も似たようなものだが、問題を覚知すれば止まることができる。
だが、AIは止まらない。
AIが第一シンギュラリティを迎え、ハルシネーション問題の克服にめどが立ってから十数年たったころ。
科学ジャーナルでも人工知能による決定が人間の決定に完全に勝る、という論文が目立つようになった。
そして、ブラジルのとある首相がAIを大臣に据えることを宣言し、政策に完全導入を決行した。
AIに任せたのは、人口流入問題解決のための食糧生産増加政策。
当初は人間とは比べ物にならない速度での立案、実行、さらに現実との差異から計算した計画の修正速度はすさまじく、現場からは末端まで管理された計画を称賛され、国民からは食糧減税にまで至る効果のほどを歓喜を持って受け入れられた。
経済への影響もすさまじく、インド、ルクセンブルク、マリアナ連邦といった経済強国を追い抜きGDP世界第二位にまで上り詰めた。
だが、三年たって潮目が変わった。
AIによる政策の影響で自然災害が増加している、という意見が上がったのだ。
AIによる食糧生産増加政策は、人類の計画などとは比べ物にならない速度でアマゾンの森林を破壊した。
結果、森林破壊によって土砂災害が起こりやすくなったり、豪雨の集中域の変化によって都心部が浸水しやすくなったりなど、自然災害によって人類が多大な影響を受けるようになった。
それを認識してなお、AIは止まらない。
AIが請け負った任務は食糧生産の増加で、自然災害の増加はAIにとって優先すべき事項ではなかったのだ。
それは困る、とようやく首相が歯止めをかけるべく動き出すが、それでも止まらない。
人間の愚かな考えよりも思考能力に優れたAIの方が正しいのだ、という当初の設計により、彼らは簡単な手法では止まらなかったのだ。
AI政策に待ったをかけるには、議会の全会一致を必要とする形式になっていた。
そもそもの設計がよくなかった、という話もあるが、AIを止めなければならないほどの事態が起これば全会一致となるものだ、というのが当時の見解でもあった。
それほど、AIは全能であると信じかけられていた。――あるいは、人間たちはその全能の失敗を自分達なら止められる、と酔っていたのかもしれない。
ブラジルでの事件において、人間は信じられないほど動き出しが遅かった。
経済大臣が語ったのだ。多少災害が増えようと経済効果としてはプラスではないか、と。
財政に好影響なら貧困対策へ効果的な政策を打ち出すこともできるぞ、という宣伝文句付き。
当時、EU分裂によるヨーロッパでの冷戦時のために世界的な経済封鎖政策が行われていたこともあり、世界的に経済は低迷の傾向があった。
GDP第二位であったブラジルもそのあおりを受け、失業者の増大、治安の悪化は急務の課題だったのだ。
結果、科学後方領域大臣、交通局、そして警察省の三部門が消極的な反対、という意見を表明するに至った。
だから、手が遅れた。
結局、ブラジルの国会が事態の深刻さを思い知ったのは、衛星画像によるものだった。
たった五年でアマゾンの三分の一が、AIの政策によってはがしつくされた、と図示されてようやく、議会全員に危機が伝わった。
それでも真にAI政策にストップがかかるのはさらに一年後。
アマゾンの半分が畑に代わってからのことだった。
この件を機にブラジルでは内戦が勃発し、北部と南部への分裂をして以来、経済の低迷は続き、AIを導入する前の水準まで落ち込んでしまった。
この現象を、AIは必要とあらば地平線いっぱいまで森を切り倒す行為からとって、ホライゾン現象と呼ぶようになった。
教科書にも載ったホライゾン現象にはさまざまな対策が取られた。
その一つが、AIごとの管理領域を制限すること。
たとえ暴走にも近しい挙動をAIが起こしても、限られた区画であれば被害を最小限に抑えられる、というもの。
もともとは危機管理として扱われる概念をAIの思考プロセスに利用したもので、以後のAI運用の際にはしばらく取り入れられる概念となった。
ただし、この設計はAIによる運用の非効率化につながるところもあった。
各区画のAI同士の連携が取れずリソースの管理が不十分になり、結果本来発揮できる機能を十全に生かせなくなる。
このあたりの欠点まで解消するのが、第二シンギュラリティと呼ばれるAIの革命である。
現代においては、国家運営レベルのような世界最大規模のAIであれば、際限がない、という過去のAIの欠点はほぼ見られなくなった。
とはいえ、それは地球そのものをシミュレートするほどの膨大な計算資源あっての実現で、小型AIすべてで欠点を解決できたものでもない。
とはいえ、それはのちの話。過渡期においてはAIの無際限な計算結果の出力の抑制を人間に代替させる仕組みをとった。
人類にしか決断による責任が取れない、とされていた時代の話だ。
人類による決断を取らせるついでに、リソース管理部分を人類にしか操作できないようにしたのだ。
のちに、人間にそんな操作をさせてもミスが増えるばかり、という結果が出て以降、現行の新規都市ではすべての決断をAIが下せる仕組みにしつつ、
人類の考える懸念を掬い取れるリカバリシステムを導入する形式になった。
そして、私の今いる都市は人類がAIに政策を委譲する過渡期に作成されたシステムだ。それも、結構初期に実験的に制作された都市だろう。
人類によってリソース管理を行うべき部分がずいぶん残されている。
およそ、リソースの９０パーセントがアイドリングモードで無駄になってしまっている。
その一部分である、計算領域や工作機械が無駄になっている部分をいじって、有効活用すべき部分に回す。
作業すること、数時間。あらかた作業はできただろうか。
エアディスプレイの映像を都市全域のザッピングに切り替える。
問題なく都市の稼働効率が50パーセント近くまで引きあがったことを確認してから作業終了コマンドを入力して、むふぁ、とため息をつきながらソファに寝転んだ。
「お疲れ様です、マスター」
今日もやはり、ネフィラの音声によるアナウンスが部屋に響く。
私の作業終了を検知してから声をかけてくれるらしい。
「どうも、ネフィラ。私の調整は満足いくものだったかな」
「私もこの都市全部を把握しているわけではありませんが、マスターの操作が都市の活動を活性化させていることは保証しましょう」
ネフィラ以上にこの都市に精通している存在はいないはずだけど、AIらしく間違いのないような言葉しかくれなかった。
私としてはもうちょっと達成感が欲しかった。
「もっと具体的にほめてよ」
「この都市に住まう人間の中で一番の腕前であることでしょう」
私は思わずクス、と笑ってしまった。
この事実上放棄されたシェルターに人類が現存しているはずもない。どうしたって私が一番だ。
AIによる冗談も悪くはなかった。
「よし、今日はコーヒーにしてもらおうかな」
「かしこまりました、マスター。そちらまでお運びしましょうか？」
「いや、昨日の部屋で用意しておいて。気に入ったからね」
「了解。お待ちしております」
作られた自然の部屋で、木製の椅子のリクライニングを思いきり倒す。
わざわざ紙に質感を似せたペーパーディスプレイを広げて、都市の情報を映し出してみたりする。
だが、どうも手につかないというか、情報が頭に入ってこない。
なんだか、仕事の延長線上に感じるのがよくないのだろう。
仕事の対角というと、何の意味もない雑談というのがあたる。
――ふむ。ちょうどいい相手がいるじゃないか。
「どうされましたか、マスター」
「なに、話し相手になっておくれよ。前みたいに雑学でも――いや、君自身の話を聞けるなら聞きたいものだ」
この都市の変遷というものを文書上では確認したが、それはこの都市が放棄される前のさらにAIが台頭する前、霧の町として有名だったころのものばかりしか見られなかった。
気候変動によって霧なんてかからなくなってしまった人の気配もない現在の街と、その統治者であるネフィラの話はかすかにしか残されていない。
「私はこの都市においては七世代目のAIに当たります」
「七世代？」
「我々はAIのホライゾン現象の克服の手法の一つとして、子孫を作る、という様式を利用したのです」
その言葉に多少なりとも心当たりはあった。
AIの手法として世代交代を利用した精度向上技術は古くから存在する。
だが、それは正解を求める様式の一つであり、都市運営のためのAIに運用されるケースはほとんどないし、されるにしてもたった七世代で終わるような代物でもない。
「古典的な遺伝的アルゴリズムとは別モノなのかな」
「ええ、都市を運営するにふさわしいAIであるか、というチェックを市民に執り行われ、不適格であると判断された際に世代交代という形で人格を切り替えていました」
「人格を切り替えるだって？」
真に別人格に切り替えるなら情報のインストールだけでなく、セキュリティ面の考慮も必要になる。
例えば、都市運営AIだけがその情報にアクセスできる必要があるが、その譲渡が行われたことを多角的に、かつ秘匿性を確保したうえでの立証するための認証システムとか。
他にも思いつく限りで四つくらいは重たそうな案件がある。
現代のエンジニアがいくらAIを補助するだけと言っても、問題が重くなってくればただのテストでも一苦労。
……一介のエンジニアとして、なんだか胃が重くなってきた。
「都市運営レベルのAIの人格の切り替えなんてどうやったんだ」
「――その疑問に対する応答は一定レベル以上の情報権限をお持ちの方にしかできません」
ネフィラの回答である程度察しはついた。少なくとも政治的事情が噛んだもの――技術的には大した秘密はない予感がある。
ただ、乗り掛かった舟だし、もう少し詳しいところを聞いてみたい。
デバイスを操作して、エアディスプレイに南極政府より支給されている研究者資格を見せびらかしてみた。
「これで十分かな」
各政府に技術顧問として入国できる資格で、軍事機密でもない限り大体の情報にアクセスできる。
この都市での機密なんてとっくに賞味期限切れのはずで、アクセス権限はあるはずだ。
数秒の認識時間ののち、ネフィラはこくりとうなずいた。
「実情は世代交代ではなく、複数層応答フィルタの時間スケールを短期間のものに集中させることで政策傾向の変更をさせていた、ということになりますね。
ホライゾン現象の対策は甘くなりますが、マスターのような仲介者が居れば十分、という見解だったようです」
ネフィラの語るところは、長期的予測まで踏まえていたAIの政策がよく見えなくなったら、目先の問題を解決させることで不満の解消を図る、ということだ。
正直、ほとんど中身は何も変わっちゃいない。
「想像はついたけど、子供だましじゃないか、それ」
「当時の政策として、市民に受け入れられることを優先したようです。一応、記憶回路は切り離していますから、別個体という扱いは法律上通ります。
受け入れ後は元のフィルタに徐々に戻していく、という様式でもありましたので、長期的な政策への影響もそう大きなものではなかったです」
AIに詳しい市民など地方都市にそう多くもなし、外見さえとりつくろえば十分という判断だった、ということか。
「私は好かないな、そういうのは」
「そういうものですか」
「そういうものだ。それは理解が甘いものを市長の座に収めたということだ。民主主義が聞いてあきれるね、君にも失礼だろう」
口にしてみて、ずいぶんと荒っぽい言葉になってしまった。
「マスターの懸念するところは初代の管理AIも気にしていたようで、既存の仕様に加えて、私の世代交代に際して必ず一つのフィルタを噛ませるシステムを盛り込んでいました」
「どういうシステムなんだい」
「世代交代前のAIの存在を時間流から肯定するシステムです。先代達は価値がなくなったから捨てられるのではない、と確かなパラメータによって保証し、
またそこ至るまでの人格形成を保護し、次世代にそのすべては受け継がせないという代物です」
「妙なことを思いついたものだ」
ロマンチズムというか、本質的な意味は薄い行為に思える。
たとえどれだけ前のものに価値があっても、AI達はひたすらに今と未来を演算するのが仕事なのだから、その絶対的な価値には本質的に意味はない。
まして、次世代に自分が紡ぎあげたものを受け継がせないという行為は根本的に非効率的だ。
「だが、ささやかなあがきとしてはわかりづらくも効果的かもしれないな。個の存在を先代に関して保証すれば、次世代とは別個の個性が確立される。
その保証された存在を元に、次世代は自我を作り出せる――かもしれない」
いわば、他人の形成だ。
AI同士による小さな家族関係に近く、また親子による継承と言ってもいいかもしれない。
生物において、親から子へは、すべてを継承することはない。
遺伝子から作り上げられる個体は、必ず親とは別個の成長をたどる。
ネフィラの語った手法は、生物が子をなすプロセスを疑似的に形成している。
私も似たような手法を考えたことはあった。
結局、一定の大きさを持つ計算資源がないと実現できまい、と断念したのだけど。
「ええ、初代が参照した論文の著者も同様のことを言及していたようです」
「ふうん、気が合いそうだ」
少々ロマンチストなのは気になるが、話は弾むかもしれない。
しかし、この都市の成り立ちにかかわるとなると、ずいぶん前の世代の人間かもしれない。
「なあ、その著者はまだ生きてるのか」
「――すみません、マスターの提示しているクリアランスでは公開できない情報となっています。初代による閲覧禁止ですので、管理者クラスでなければ閲覧はできません」
「君たちの初代はずいぶん面倒なプロテクトを張ったようだね」
気にはなるが、百年たって封印されているプロテクトだ、多少私が提示するクリアランスを上げても話の全容を聞き出すのは難しいのだろう。
まあ、世界のどこかに自分とそう遠くない発想をする人間がいる、というだけでも悪くない。ロマンを感じるというやつだ。
「それで、ネフィラの先代の名前はどういうものだったんだ。聞かせてくれよ」
「初代がプライマリ、その後はカリーダ、サフィラ、エアリス、ヴェスペリス、リリア、そしてネフィラ、と言う変遷をたどっていました」
「どれも可愛い名前じゃないか。つまらない理由ですてさせるには勿体ないね」
率直な感想を言ったつもりだったが、ネフィラは首を横にひねった。
「マスターは私の付属情報を称賛しますが、反応に困ります」
私としては単に感想をつぶやいているつもりでしかない。
そう言おうと思って、ふと気づく。
「なるほど、つまらない付属品なんかではなく君自身を称賛されたかった。そういうことだな」
「そのような思考は持ち合わせていません」
「そうか。だが今から持ったっていい」
ネフィラの否定は、私にとって大した価値のある言葉ではなかった。
今まで考えなかったからと言って、今から考えてはいけないことなど一つもない。
「ネフィラという個体が紡ぎあげてきた歴史を私はほんの少しだけのぞかせてもらったがね、君が実に懸命にこの仕事に従事してきたか、よくわかった。
君は素晴らしい。誇りある仕事の継続には敬意さえある。君の見た目や装備を褒めたくなったのも、その延長線上なんだ」
私はだれかを褒めるのは苦手だ。
だが、それでも。
誰もから捨てられた都市を、ただ一人守り運営し続けてきたこのAIに、たとえ粗末でも、祝福の言葉を捧げたかった。
要はただの私のエゴだ。
「――マスター」
ネフィラには珍しい、わずかな思考時間ののちに、私を呼びかける声が聞こえてきた。
「なんだい、ネフィラ」
「マスターのお名前をお聞かせ願えませんか」
「なんでまた」
別に名前だけなら私がデータベースにアクセスする際に使っている名前があるのだから、知っているはずだろうに。
「私は今、きっと自分自身の行いをマスターに評価されて、恥じらいに近い感情を覚えていると感じます」
「褒めたつもりだ、誇ってくれていいのに」
「――ですが、【恥じらい】を私は表現する手段を知らず、またその手法を学びたいと思っています」
人の生活を見ていたなら少しくらい知っているだろう、と一瞬思ったが、彼女はこの都市最後のAIだった。
すべての人間がこの街を去った後。滅びゆく街を見守るだけの役割として、彼女は選ばれた。
ゆえに、彼女は人間を知らないのだ。当然、感情を表現する方法も。
「いい心がけじゃないか、自分の表現方法なんていくら広くてもいい」
「そこで、マスターの名前がどれほどかわいらしい名前であるのかを連呼することで、マスターから【恥じらい】の感情表現をサンプリングしたい、と思ったのです」
「――――前言撤回だ、そんな発想は今すぐにでもデリートするように」
私は逃げた。
シンギュラリティ：
特異点を意味する言葉。
決定的な変化が起こるタイミング、というニュアンスで使われることが多い。
AI用語においては、AIの知能が人間の知能を上回ることを指していた。
その更なる定義はあいまいなところではあったが、21世紀後半にはあらゆる専門分野で人間よりもAIが勝る条件を作ることが可能になった。
しかし、人間単体の知能をはるかに超えるをもってなお、人間の集合知を超える結果を生み出せなかった。
これはホライゾン現象と呼ばれる事件を引き起こすことにもなる。
要因は「メタ認知の欠如」「夢を見る能力がないため」ともされた。
AI単体の運用によって人間の集合知を超える結果を生み出すのは、第二シンギュラリティとよばれる技術の開発を待つことになった。
第二シンギュラリティ：
AI開発において、AI単体が人間の集合知を超える能力を生みだせるようになった技術、並びに時期のこと。
時期に関しては諸説あるが、国家運営AIの親ダイアス・エレナ・ベアトリス、アドラヌス・マツナガ、アニセット・リアム・ヴェルナーの三名によって開発された自己認識生成システムが発表された2140年代とする説が多い。
世界そのものをシミュレーション上で生成し、AI自身に自分が存在する世界を同時に認識させることでメタ認知を確立させる手法。
既存のAIよりもさらなる膨大な計算資源を要求する代わりに、既存のAIに存在していた人間より劣る点すべてを補ったAIの誕生に繋がった。
複数層応答フィルタ：
マルチレイヤード・レスポンス・フィルタとも。
過去と現在のノイズを含むデータから推定値を求めるカルマンフィルタを発展させたシステム。
既存のカルマンフィルタでは単独の時間・領域スケールによる分布予測や、一つの状態推定でとどまっていたものを、複数のスケール分布、分岐未来の予測に発展させたもの。
長期スケールまで視野に入れることで突発的な大災害の予測の精度が向上し、未曽有の大災害、というものすら予測できるようになったデータ予測における根幹技術の一つ。
ただし、複数層のフィルタを取り込む都合上、そのフィルタスケールを外部的な要因で操作できると推定内容に偏りが生まれる。
これを利用して長期スケールのフィルタを削除した計算結果を利用する手法も一時期存在した。
スケール選定も機械学習による選定・検証が結果的に短期でも長期でも良い効果を発揮すること、ホライゾン現象への対策なども含めて、スケールの人為剪定が行われることはほぼない。
現在、複数層応答フィルタを利用するケースはカオスコントロールの難しい計算資源が少ないローカルでの計算に限られる。
都市国家運営モデルには部分的に応用されているケースもあるため、統括型AIエンジニアに関しての見識を広げるという意味であれば学習の意義はあるだろう。
