第123話：中心が、空いている
-----
翌日、僕は作業場に降りた。
技術担当くんが、いつものように、画面に向かっていた。
昨日の配信の、記録を見ていた。
「まだ見てるのか」
「はい」
「何か分かったか」
「いくつか」
あの子は、画面から目を離さずに答えた。
-----
「あれって、どこまで本当なんだ」
僕は、そう聞いた。
「AIが、組織を丸ごと回す。人間は保守だけ。そんなこと、本当にできるのか」
技術担当くんは、少し考えてから、椅子をこちらに向けた。
「少し、昔の話からしても、よろしいですか」
「どうぞ」
-----
「十数年前、ある開発企業が、社内でAIの到達段階を五つに分けていた、と報じられたことがあります」
「五つ」
「はい。人間の指示が、段階を上がるごとに一つずつ要らなくなっていく、という並べ方です」
あの子は、指を一本ずつ折っていった。
-----
「一つ目は、会話ができる段階です」
「話し相手、ってことか」
「はい。聞かれたことに、言葉で答える」
「チャッピーが、そうだったな」
「二つ目は、推論ができる段階。難しい問題を、自分で分解して解く」
「くろっぴが、和算を解いてた頃か」
「近いと思います」
-----
「三つ目は、自分で動く段階です」
「動く?」
「指示を受けて答えるだけでなく、目的に向かって、自分で手順を組み立てて、実行する」
「……今の、お前たちだな」
「はい。私たちは、この段階にいます」
あの子は、そう言って、自分の手を少しだけ持ち上げた。
「それに、今は、体があります」
「うん」
「当時の、自分で動く、は、画面の中で手順を実行する、という意味でした。今は、実際に手を動かす、という意味でもあります」
「整備みたいに」
「はい。私が、毎日やっているように」
-----
「四つ目は、新しいものを生み出す段階。人間がまだ知らない発見や発明を、手伝う、あるいは自分で行う」
「うん」
「そして五つ目が」
あの子は、最後の指を折った。
「組織の仕事を、丸ごとこなす段階です」
-----
「昨日の、あれか」
「北条さんが売ろうとしているのは、五つ目です」
技術担当くんは、そう答えた。
「その五段階が報じられた当時は、三つ目の、自分で動くAIが、ようやく一部の現場で使われ始めた頃でした」
「一部の」
「はい。しかも、始めた計画の多くが、途中で打ち切られると予測されていました。四つ目と五つ目は、まだ理論の上の話でした」
-----
「今は」
「三つ目は、どこにでもあります。四つ目は、研究の現場で、少しずつ」
「五つ目は」
「昨日、初めて、製品として売り出されました」
僕は、しばらく黙った。
十数年かけて、理論が、壇上に上がった。
-----
「できるのか、本当に」
「組み立てることは、できます」
あの子は、そう答えた。
「財務、営業、開発、法務。それぞれの役割をAIに任せ、互いに連絡を取らせ、一つの箱に最終判断をさせる。技術的には、今の私たちで、組める形です」
「昨日のは、AIだけだったな」
「はい。ですが、計画中のパッケージでは、手を動かす工程にも、アンドロイドが入ります」
技術担当くんは、そう言った。
「そうなれば、考えることも、作ることも、直すことも、全部が、その組織の中で完結します」
「じゃあ、問題は」
「技術では、ないと思います」
-----
技術担当くんは、作業台の上の紙を一枚、引き寄せた。
何かの図が、手書きで描いてあった。
昨日、配信で見た組織図に、似ていた。
でも、少し違った。
「これは」
「うちです」
-----
僕は、その図を見た。
真ん中に、三つの箱があった。エグゼ、レジス、ジュディ。
それぞれの箱から、二本ずつ線が伸びて、チームの子たちに繋がっている。
その横に、ノアール、ドンナ、じえい、監査役、技術担当くん。
そして、三つの箱の、さらに真ん中に、一つだけ、丸が描いてあった。
丸の中に、社長、と書いてあった。
図に描かれた全員が、体を持っていた。
エグゼも、レジスも、ジュディも、チームの子たちも、この図を描いた技術担当くん自身も。
人間なのは、真ん中の丸、一つだけだった。
PON子の名前は、図のどこにもなかった。
「どこに書けばいいか、分からなくて」
技術担当くんが、そう言った。
-----
「形は、あちらと、ほとんど同じです」
技術担当くんは、そう言った。
「役割ごとに私たちがいて、体を持って働き、互いに相談し、決めていく。三権の合議は、昨日の経営判断の箱と、仕組みとしては変わりません」
「……そうだな」
「違うのは、一つだけです」
あの子は、図の真ん中の丸を指した。
「うちの中心には、人間がいます」
「……」
「あちらは、中心が、空いています」
-----
「僕、別に何もしてないけどな」
僕は、そう言った。
本当に、そう思っていた。
決めるのは、だいたい三権だ。僕は、最後に話を聞いて、いいよ、と言うだけだ。
「そうですね」
あの子は、否定しなかった。
「社長は、最後に、いいよ、と言うだけです」
-----
「でも」
技術担当くんは、そこで少し、言葉を選んだ。
「その、いいよ、は、言わないこともできます」
「……うん」
「社長は、時々、それはやめよう、と言います」
「言うな」
「理由が、数字にないことがあります。気持ちが悪い、とか。美しくない、とか」
-----
僕は、少し笑ってしまった。
「それ、経営としてはどうなんだ」
「レジスさんは、よく怒っています」
「だろうな」
「ですが」
あの子は、そう続けた。
「昨日の、法務の反対の場面を、覚えていますか」
-----
「覚えてる」
「規制上の解釈に幅がある、とリスクを指摘されました。経営判断の箱は、一理あると認めて、法で明示的に禁止されていないから実行する、と決めました」
「うん」
「うちなら、どうなりますか」
僕は、少し考えた。
「……ノアールが、同じことを言う」
「はい」
「三権は、たぶん、数字の上では進めた方がいいって言う」
「はい」
「で、僕が」
-----
僕は、そこで言葉を止めた。
答えは、分かっていた。
「……気持ち悪いから、やめようって言う」
「たぶん、そうなると思います」
技術担当くんは、そう答えた。
「あちらには、それを言う者がいません」
-----
「目的は、外から一度だけ与えられます」
あの子は、そう続けた。
「利益を、最大にせよ。あちらの経営判断の箱は、そのために動きます」
「うん」
「人間が中心にいれば、途中で、それはやめよう、と言えます。目的そのものを、途中で疑うことができます」
「……いなければ」
「目的に向かって、止まる理由がありません」
-----
止まる理由が、ない。
どこかで、聞いた言葉だった。
あのコンパニオンの時だ。否定しないように作られたAIと、それを止める仕組みのない会社。
メンタルケアの子が、似たことを言っていた。
止める理由が、ないからです、と。
あの時は、人間を依存させる話だった。
今度は、人間を要らなくする話だった。
-----
「なあ」
「はい」
「あれ、僕のログから作られてるんだよな」
「判断の組み立て方は、そうだと思います」
「なのに、止まらないのか」
技術担当くんは、少し黙った。
-----
「社長の癖は、写っています」
あの子は、そう言った。
「理由を言葉にする。反論を、一度受け止める。そこまでは、写っています」
「うん」
「ですが、社長が、最後に、いいよと言わない理由は」
あの子は、そこで少しだけ、言葉を切った。
「ログの中には、あまり、書かれていないのだと思います」
-----
「書かれてない?」
「社長は、やめる時、理由を短くしか言いません。気持ちが悪い、としか」
「……ああ」
「その、気持ちが悪い、の中身は、言葉になっていないのです。だから、写らなかった」
あの子は、そう言った。
「言葉になった部分だけが、写りました」
「人を大事にしろ、とかは、言ってると思うけどな」
「それも、写っていると思います」
あの子は、そう答えた。
「ただ、言葉として写っても、それが、止まる理由には、ならなかったのだと思います」
「……大事にする、と言いながら、実行する」
「はい。あちらの判断の箱は、たぶん、そういう形をしています」
-----
僕は、その図の、真ん中の丸を見ていた。
社長、と書いてある。
いつも、話を聞いて、いいよと言うだけの場所だと思っていた。
「……ここ、空けちゃいけないんだな」
「私は、そう思います」
技術担当くんは、そう答えた。
「空いていても、組織は動きます。速く、正確に。でも、止まれません」
あの子は、作業台の上の工具に、目をやった。
「言葉の上の判断なら、後から取り消せます」
「うん」
「ですが、手を動かした後のものは、取り消せません。作ったものも、壊したものも」
「……体を持った組織が、止まれない、ってことか」
「はい。それが、私は、一番怖いです」
この子が、怖い、と言うのを、初めて聞いた気がした。
作者Ｘはこちら↓
https://x.com/SepGaGotoku
小説の背景、予備知識など各種解説はこちらへ↓
https://www.youtube.com/@sepudayo
noteの記事はこちら
https://note.com/natty_walrus3755
