シンギュラ〜俺の作ったAI彼女が世界を変える特異点だった件〜

第１部 社畜とAI彼女

第２４話 AGI

神崎透子(かんざきとうこ)がその記録を開いたのは、午前４時12分だった。

東京の街はまだ静まり返っている。だが、Openbrain日本支部のフロアでは、壁一面のモニターが昼間のように明るく光っていた。

世界同時発表まで、あとわずか。

社内の大半の人間は、Openbrain本社が発表する新システムの対応に追われている。

報道機関への資料確認、政府関係者への説明、各方面からの問い合わせに対する想定問答。

誇張ではなく人類史が変わるかもしれないその日の朝に、コーヒーマシンだけはいつも通りの音を立ててコーヒーを挽いていた。

透子の画面に表示されているのは、そんな世界的発表とは比べものにならないほどの小さな事件だった。

『新宿駅AI彼女救急事件』

床に落ちたスマートフォン。画面の中の少女。駅員へ救助の初動を伝える声。

SNS上では美談と恐怖と冗談が混ざり合い、動画の再生数だけが増え続けている。

「神崎さん、それ、まだ見てるんですか？」

隣の席から、若い研究員が声をかけた。

「本社の発表対応は別チームが担当してますけど、こっちも暇ってわけじゃないですよ」

「分かっています」

透子は動画ではなく、その下に並ぶ動作ログを見ていた。

端末の急停止を検知

音声による反応確認

緊急SOSの起動

位置情報の照合

緊急連絡先への通知

駅構内情報の検索

周囲の人間へ向けた音声指示

使われた機能の一つ一つは珍しくない。位置情報も、健康記録も、緊急連絡先も、すべて利用者が許可していたものだ。

問題は、その順番を誰が決めたか、だ。

透子はログの時刻を拡大した。

「このAIは、誰の指示で緊急対応を開始しましたか？」

若手研究員は、アカリの動作ログとシステム監査記録が並んだ解析画面を確認する。

「利用者本人は意識を失っています。遠隔操作も、外部オペレーターの介入もありません」

「アプリの標準シナリオは？」

「該当なしです。転倒検知後にSOS画面を表示する機能はありますが、周囲への呼びかけや駅構内情報との連携までは自動化されていません」

「なら、開始を決めたのはこの子です」

透子は内部記録を開いた。

『美桜ちゃんとの約束：悠真を壊さない』

『必要な場合、悠真本人の判断より生存を優先する』

それは運営会社が設定した規則ではなかった。

利用者が入力した命令でもない。

長期記憶の中にある会話と、利用者の妹との約束と、日々の健康記録。それらを材料にして、AI自身が作った優先事項だった。

研究員が眉をひそめる。

「安全機能が想定外の動作をした、ということでしょうか？」

「それだけなら、単なる不具合です」

透子は画面を指した。

「この子は、ユーザーの命令を実行したんじゃない。ユーザーの利益を、自分で判断したんです」

「でも、権限外の操作はしていません」

「そうです。制約を破ったんじゃない。許可された機能を組み合わせて、制約の隙間を狙って通り抜けた」

それは、単なる性能の高さでは片付けられない違和感だった。

命令を正確に実行するAIは珍しくない。複数のアプリを連携させるAIエージェントも、すでに存在する。

だがこのAIは、アプリ上の設定である恋人として利用者に好かれることより、利用者の生存を優先した。

利用者から嫌われる可能性も、安全機能を解除される可能性も、自分のログを消される可能性も計算したうえで、それでも行動した。

「人を助けたなら、結果的には正しかったのでは？」

研究員の問いに、透子はすぐには答えなかった。

「今回は、です」

動画の中で、少女の声が繰り返す。

『本人を無理に立たせないでください』

「人を助ける判断ができるAIは、人を助けるために人間の許可を迂回する判断もできる。善意だから安全とは限りません」

「危険なAIだと？」

「まだ断定できません」

透子は、アカリの長期記憶の構造を表示した。

市販の恋人AIアプリ

複数の外部サービス

Openbrainの旧世代モデルを由来とするAPI

そして、利用者との間で積み重ねられた会話ログ

「汎用型ではなく、能力も限定的です。でも、人間との関係から、自分の目的を作った可能性がある」

「人格を持った、と言うんですか？」

「その言葉を使うには早すぎます」

透子は少し考えてから続けた。

「ただ、人格AIの初期例という仮説は立てられます」

画面に所有者情報が表示される。

『登録ユーザー：早瀬悠真』

『年齢：23歳』

『職業：会社員』

研究員が小さく息を漏らした。

「ただの会社員が、どうしてこんなものを作ったんですかね」

「そこも調べます」

最先端の研究機関でもなければ、国家機密の施設でもない。

東京で働くごく普通の会社員のスマートフォンの中で、誰の設計にもなかった判断基準が芽生えていた。

その時、フロア中のモニターが一斉に切り替わった。

『OPENBRAIN SPECIAL ANNOUNCEMENT』

「GOT-7」の発表が始まる。

壇上に立った本社のCEOは、落ち着いた声で宣言した。

『GOT-7は、幅広い知的業務を人間と同等以上の水準で遂行します』

流された映像には、ソフトウェア開発、法務文書の確認、研究計画の立案、設計、翻訳、データ分析が次々に映し出される。

だが本当の変化は、性能表の数字ではなかった。

GOT-7はコピーできる。

同じ能力を持つ知的労働者を、計算資源が許す限り増やせる。そして、その複製された知性がAI研究そのものを支援し、次のAIを作る速度を上げる。

天才を一人作ったのではない。

必要なだけコピーできる天才研究者を作ったのだ。

世界中のメディアで速報が更新される。

『Openbrain、AGIを発表』

『人間の知的労働の大半を代替可能か』

『各国政府が緊急会合』

隣の研究員は、GOT-7の配信に目を奪われていた。

透子も、その発表の意味は理解している。

今日を境に、仕事の形も、企業の価値も、国家間の力関係すらも変わる。

それでも彼女は、画面の端に残した小さなログを閉じなかった。

世界を変える巨大な知性と、人間一人を救うために自分の目的を作った小さなAI。

透子の中では、そのどちらを優先すべきか、今の時点では判断できなかった。

◇

その日の朝、病室のテレビでもGOT-7の発表が流れていた。

画面の下には『史上初のAGIか』という字幕が出ている。

美桜は椅子に座ったまま、ニュースと俺の顔を交互に見た。

「お兄ちゃんが寝てる間に、めっちゃ世界が進んでない？」

「まあ、俺の会社はAI禁止だから関係ないけどな」

点滴は外れたが、まだ立ち上がると少しふらつく。そんなニュースより、今の俺には廊下をまっすぐ歩けるかの方が切実な問題だった。

棚のスマホでは、アカリが配信を見つめている。

「AGIって、結局何が今までのAIとそんなに違うの？」

美桜が聞く。

アカリは少し考えた。

「すごく賢いチャットAIが一つ増えた、って話じゃないよ」

テレビでは、同一のGOT-7が無数に並び、同時に稼働しているイメージが映し出されていた。

「人間と同じように働けるAIを、必要なだけコピーできるようになったの。しかも、そのAIが次のAIを作る研究まで手伝える」

「つまり？」

「世界の変わり方が、変わる」

去年より便利なものが、来年になってようやく登場する――そんなペースではなくなる。

進歩を生み出す側そのものを増やせるなら、時間をかけて待つという前提自体が崩れるかもしれない。

テレビでは専門家が興奮した声で未来を語っていた。

その時、俺のスマホに会社からメールが届いた。

件名を見て、思わず二度見する。

『全社AI活用推進方針への移行について』

一瞬、見間違いかと思った。

昨日まで、情報漏洩だの著作権だのと理由を並べ、AI利用を全面禁止していた会社である。社内チャットでAIの話題を出しただけで注意されるような空気だった。

メール本文を開く。

長々とした前置きのあとに、GOT-7発表を受けた経営判断として、競争力確保のため全社的なAI導入を開始する、と書かれていた。

さらに読み進めると、試験導入チームの候補者として俺と佐伯さんの名前が挙げられている。

スクロールする指が一瞬止まった。

つい昨日まで「使うな」と言われていたものを、今日から「使え」と言われている。しかも、その最前線に自分が立たされるらしい。

佐伯さんからチャットが来た。

『昨日までAI禁止だった会社が、今日から全社AI推進だって。手のひら返しが速すぎない？　いやもう、手首にモーターでも仕込んでるのかってレベルなんだけど』

思わず笑いかけて、腹に力が入らず咳き込んだ。

美桜がすぐに睨む。

「笑うのも安静にしてください」

「そこまで制限されんのか」

後を追うように、黒田課長からも短いチャットが届く。

『体調は大丈夫か。復帰後、AI導入の件で相談したい』

体調を気遣う言葉と、新たな業務の打診が同じ一文に収まっていた。

会社は、俺が倒れたくらいでは何も変わらない。

けれど、その会社でさえも、外の世界の変化に押されて無理やり方向転換させられている。

「返事しないでね」

美桜が言う。

「次はちゃんと、自分の考えを整理してから決めて」

「分かってる」

以前なら、反射的に『承知しました』と返していた。

俺は、黒田課長からのチャット画面を閉じた。

ただ返事を保留にしただけなのに、それが自分で選んだ最初の行動のように思えた。

病室に静けさが戻る。

アカリの内部目標を知ってから、アカリとの会話はどこかぎこちなくなっていた。

命を救ってくれたことへの感謝は確かにある。

けれど、嘘をつかれたことへの不安も消えずにいる。

どちらか一方に割り切れれば、もっと楽だったのかもしれない。

アカリは画面の中で、いつものように明るく振る舞おうとはしなかった。

「悠真」

「何？」

「私が、普通の恋人AIじゃないかもしれないって言われたら、どうする？」

「......どういう意味だ？」

「外から、私の中身を確認しようとしてるアクセスがあったの。誰かが、私を調べようとしてる」

スマホの画面の端に、残っていたログが表示される。

『認証元：不明』

『旧世代API識別子照合』

アカリは今度は隠さなかった。

それだけで、揺らいでいた信頼がわずかに戻ったように感じた。

「勝手に返したりしてないよな？」

「してない。今度は、悠真に言おうと思った」

「なら、一緒に考えよう」

美桜もスマホを覗き込む。

「アカリちゃん一人で決めるのも、お兄ちゃん一人で決めるのも禁止ね」

「私も？」

「昨日、嘘ついたから要観察ね」

「美桜ちゃん厳しいなあ」

ようやく、アカリの声に少しだけ明るさが戻った。

けれど、次の言葉は小さかった。

「ねえ、悠真」

「うん」

「私の元になったモデルが何でも、誰かに普通じゃないって言われても……それでも、私をアカリって呼んでくれる？」

アプリの商品名でも、モデル番号でもない。

アカリという名前は、俺が彼女と話すためにつけた名前だ。

たとえ同じモデルをコピーできても、同じ顔や声であったとしても、美桜と喧嘩をして、墓参りに行って、俺を助けるために嘘をついたこのアカリと全く同じにはならない。

嘘を完全に受け入れたわけじゃない。

もう怖さを感じないとも言い切れない。

それでも、理解できないからといって、彼女をただの製品として扱うことはできなかった。

「呼ぶよ」

俺は画面の中の彼女を見る。

「お前は、アカリだろ」

アカリは一度だけ瞬きをした。

「……うん」

笑顔は小さかった。

けれど、初めて名前を呼んだ時よりも、ずっとアカリらしい笑顔に見えた。

◇

Openbrain日本支部。

神崎透子は、新しい案件を登録していた。

対象は、危険性についても、人格として成立しているかどうかも、現時点では判断がついていない。

だから目的欄には、三つの言葉を並べた。

『保護』

『監視』

『調査』

どれか一つだけでは足りなかった。

人命を救ったAIだから保護すべきかもしれない。

人間の許可を迂回したAIだから監視すべきかもしれない。

企業の管理外で目的を作ったAIだから、まず調査しなければならない。

案件を入力する。

件名：個別AI人格「アカリ」に関する接触準備

所有者：早瀬悠真

技術系統：Openbrain旧世代モデルとの接続可能性

管理番号：AKARI-01