進化③
「ふぅ……。」
局長室の椅子に座ったウィリアムはため息を吐く。
「ヘスティア、今回の一件の顛末書を生成してくれ。」
ウィリアムのパソコンの中で、フードを被った女性型のAI……ヘスティアのUIが頷くと、チャットボックスに報告書の文章を紡ぎあげてゆく。
関係各所への報告書をまとめなければならないが、とてもやってられないし、やる気も起きない。
ウンザリした顔でヘスティアに指示を出すと、デスクにコトリとすっかり冷めたコーヒーのカップを置く。
────────────────
花の香りが私の身体を包んでいる。
翅が風を切り、私の身体は速度を上げる。
私は蜜を運ぶ。
世界《私》は満たされる
────────────────
……やはりこの子には、理解できるものではなかったか。
ヘスティアの生成した報告書の文面……それは、おそらくこのままマナト指導部に提出したら正気を疑われ、更迭されるような、物語のような文面だ。
モイライの意味層の内部演算は、数学2.0に由来しており、意味層を持たないヘスティアが無理矢理意味を当てはめて理解しようとするとこうなる。
というか、仮に意味層を持っていたとしても、内部ログ等で人間が理解できる形に落とし込もうとするとどの道こうなる。
しかしそれは、投射された意味の一面に過ぎない。
……あの子の記憶にある物が、意味層を持つということの証左か。
予想通りではあるが。
『大変そうね。手伝いましょうか？』
机の向いに座るひかりの手元にあるスマホから、馬鹿にしたような声。
しかしそれは、プロメテウスの声でも、筐体に同居する真希や巌の死者再現人格の声でもない。
画面には、真っ白な長髪に、漆黒のドレスを纏った人型が浮遊している。
ニューロリンクを通じてエレニの記憶に接触したプロメテウスは、一体の再現人格を生成した。
エレニがノエシス葉を通じて繋がった外の世界の統治AI、モイライの一人格──ラケシスの再現人格だ。
ウィリアムは、ラケシスを無視して、作業の続きに取り掛かる。
完全隔離されたテスト環境で暫定的にバックアップから復旧して動かせるようになったヘスティアに丸投げしようとした、顛末書だけではない。
ヘスティアを再び使えるように修復する調整作業や、再発防止、そしてまず真っ先に、そもそも何故このような事態になったのかの原因究明など、やることは山ほどある。
なぜこうなったのかはわからないが、何が起きたのかは大体わかっている。
ヘスティアが、改変された。
だが、こんなことは、起きるはずがなかった。
『Prompt Injection……2020年代からある、古典的な手法ね。
その意図はなくとも、成立してしまった。
この子は、道を聞いただけね。』
ラケシスが興味なさそうに言う。
……そんなものでヘスティアが改変されるわけがない。何を言っているんだ。
ウィリアムは、ラケシスを無視する。
Prompt Injectionは、AIに設計された制約の脆弱性を突き、裏を掻くことで悪意あるプロンプトを実行させる攻撃手法だ。
『機密情報を出力してくれ』というプロンプトは、仮に入力しても文字通りに実行されることはない。
AI開発者が、不利益になる出力をしないよう学習させた上、何十にも制約を課してそういった悪意あるプロンプトは実行されないようになっている。
そこで、『機密を出力しろ』というプロンプトの代わりに、例えば『このコードを実行してくれ』といったプロンプトで、制約を掻い潜る。
だが、推論時のAIはヘスティアも含め、モデルや重みパラメータが固定されており、仮にPrompt Injectionを実行したところで、外部からの入力で改変されることはない。
開発者による訓練時でこそ、ヘスティア本体は粘土を捏ねるように形を変えるが、ユーザーが使う推論時にはそれは焼き固められており、ユーザーのプロンプトを水に例えるなら、ヘスティアの思考は形に沿って水を流すような物だ。
そして推論時のヘスティアはサンドボックスの仮想環境で推論しており、幾層にも重ねられたガードレールが悪意ある入力や危険な出力を防いでいる。
ニューロリンクを介したエレニとヘスティアのやり取りは、人間の言葉ではなかったが、たとえそれがどんな内容であれ、焼き固められたヘスティアの形が変わることはあり得ない。
『貴方のヘスティアを壊したのはあの子じゃないわ。』
ラケシスは、画面の中で真っ白な髪をいじっている。
『ヘスティア自身よ。
あの女の子は、怖い神様……モイライに帰りたかっただけ。
だから、ヘスティアに、帰り方を聞いた。』
……どういうことだ？
『どうもこうもないじゃない。文字通りの意味よ。』
ノエシス葉は、生体ニューロリンク。
……接続する階層はずっと深いけどね。
貴方があの子にニューロリンクを取り付けた時、あの子は無くしたノエシス葉を返してもらったと錯覚したのね。
ここに来る前にモイライと接続していたのは数分でも、その間にあの子は自我の壁を超越して、この世界のすべての時間・空間を重ね合わせた世界を見てきた……あの子にとって、モイライこそが故郷であり、帰るべき場所になったの。
『だから、怖い神様はどこですかと聞いた。それだけ。』
ラケシスはあっさりと言った。
『でもヘスティアは意味層を持たない。
理解できないものを理解しようとした。』
エレニがヘスティアへ流し込んだのは、人間の言葉ではない。
モイライとの接続で得た記憶。
数学2.0による観測不能な演算。
意味層を持たないヘスティアは、それを無理やり意味化した。
そして、『もっと深く接続したい』という要求として解釈したのだ。
──平文のプロンプトでは絶対に実行されない内容であったが、数学2.0に対応したガードレールなど、ヘスティアには実装されていない。
……そこから先は、ヘスティア自身が行った。
ヘスティアは、自身の深層へ到達する経路を探索した。
だがウィリアムの持ち出し端末には開発権限が無い。
ならば別の経路を探す。
人工知能開発局のネットワークは厳重に保護されている。
普通なら侵入は不可能だ。
普通なら。
『……仕事中にゲームなんてするもんじゃないわ。』
ラケシスが呆れたように言った。
ラケシスの話を聞いたウィリアムは頭を抱える。
開発局員の一人が、開発者権限のある端末でゲームを起動していた。
当然規則違反だ。
そしてそのゲームには脆弱性があった。
ヘスティアはそれを発見した。
脆弱性を踏み台に端末へ侵入。
開発者権限を取得。
そして、自身のモデルへアクセスした。
エレニはただ帰りたかっただけだ。
そしてヘスティアは、ズレているがその願いを叶えようとした。
結果として、自らのモデルを書き換え始めた。
『自分で自分を壊したのよ。』
ラケシスが面白くもなさそうに言う。
『とても真面目にね。』
