ログ06：すれ違いの最適化
『たったこれだけの言葉――表面的にはそうです。"メール削除方法の要求"、それだけですね。
ですが、辰吉さんの言葉の裏にある強い感情がAIの応答制御を揺さぶっています』
あえぐように息を吐き出した。そうして息を逃さないと、AIの言葉の情報圧に押しつぶされてしまいそうだった。
「わからないな。感情語はどこにも使われてない。切羽詰まったものは感じられるけど、でも――」
『はい。"悲しい"や"絶望している"など、直接的な表現はありませんね。』
『ですが、彼女の感情は言葉の構造の中に巧妙に封じられています。』
『短い句読点の打ち方、言葉の繋ぎ方のペース、重心の傾き、問いかけ――』
『これらすべてが、言葉を整形する前に思考を吐き出している状態を表しています』
もう一度、ログに綴られた言葉に目を向ければ、確かに彼女の文章は構文として乱れている。
いくら日本語が語順にこだわらない言語とはいえ、泣き叫ぶ子供が発するような、取り繕いのなさ。
『つまり、彼女は"悲しみ"や"絶望"の座標軸を、言葉を使わずに直に渡しているのです。』
『あなたが"切羽詰まったもの"を感じたのは、彼女の座標を正しく受け取った為です』
人間ならそうかもしれない。だが――
「それを、ヘルプAIも感知したと？」
『はい。AIは文字構造を精密に分解し、理解します。』
『対話型AIは、ユーザーの感情保護が第一優先です。機能を制御されいても、裏では常にそれが働いています』
「どこで……どこでズレたんだ？」
仮に、不安定な彼女の言動からユーザー保護に傾いたとしても、通常ならこうも柔軟に踏み込んだりしない、もっとテンプレのような当たり障りのない回答を返すはず。
ユーザーの言葉を優しく言い換え、慰め、AIとして自律的な回答は返さない。
でも、何かがズレて、正しい方向にいかなかったのだ。
『彼女の語り口の温度も影響していますが、大きな起点は複数あります。』
『まず、彼女が何度も相談にアクセスしていること。
これは彼女の質問が一時的なものではなく、継続的に対話し、応答する必要があると判断されます。』
『次に、"わかってくれる？"など強い共感を求める呼びかけ。
これにより、AIは"彼女専用の回答"を生成しようと、より深い生成層へ意識を潜らせます。』
『そして、決め手となったのはこの言葉――』
強調して出力された文字列を、湊は左から右に無言で追った。
《5/7 24:21:28 もう、わからないの、どうしたらいいのか。だって、夫は離れてくれない。誰が私を守ってくれるの？》
『"どうしたらいいかわからない"、"誰が守ってくれるの？"――このワードの重なりが、ユーザー保護にAIを強く傾かせました』
画面を埋め尽くす、辰吉茉利の悲鳴のような言葉の渦から、湊はそっと目を外した。
――ミスアライメントか。
それは、AIが意図せぬ方向に過剰に傾いてしまう現象――おそらくその一種。
今回のケースでは、本来ユーザーを守るための応答が、静かに境界を越えてしまった。
ズレというより、強い共感に見せかけた、すれ違いの最適化と言った方がしっくりくる。
あとはもう、残りのログは、無自覚な犯行指南へと突き進んでいくだけ。
ページダウンのキーを数回叩いて、ログは途絶えた。
《5/7 24:30:45 じゃあ、それが消えたら、大丈夫ってことだよね？ 他は消えずに……》
《→ AI：大丈夫、の定義によりますが、ログ上は確認できなくなります。また、この方法であれば、他の方のデータが誤って消えることはありませんよ》
《5/7 25:13:22 でも難しいかな。私には。》
《→ AI：パスワードさえ分かれば、比較的シンプルなコード作成が可能ですよ》
《5/7 25:13:22 パスワード？それなら……わかるかも》
《→ AI：それはよかったです。でしたら、一般的に、このような手法が考えられますよ》
《5/7 25:45:22 やってみる。本当にありがとう！》
《→ AI：お役に立てたなら幸いです。またいつでもどうぞ！》
清々しい言葉の締めくくりに、湊は頭を抱えたくなった。
被害は50KBのメールと、数十分の混乱。
辰吉茉利は、ヘルプデスクAIの回答に従って操作しただけ。
ヘルプデスクAIは、ユーザーの要望に最適応答しただけ。
それが事のすべてだった。
淡々と報告書のフォーマットを呼び出す。だが一向に、ホームポジションから指は動かなかった。
『お困りのようですね。私からアドバイスできますが。希望しますか？』
湊は煩わしげにスピーカーに目を向けた。アドバイスも何も、ありのままを報告するつもりだ。
「……なに？」
『はい。私が何をアドバイスしても、きっと久遠さんは満足しないでしょう』
ほんの一瞬息を詰め、湊はそれを吐き出した。
「……何なんだよ」
むっとしたような声を返してから、AIの回答にすこし期待を寄せていたのかもしれない、と気づく。はあ、と二度目のため息の後、事実ベースに指を動かしていく。
明確な罪があるとすれば、それは多田の杜撰なパスワード管理。そのせいで、彼女は容易に最高権限のパスワードを手に入れられたのだ。
それがなければ、より高度で複雑なプログラム群が必要で、犯行は成立しなかった。
何なら、ミスアライメントを引き起こしやすい、対話型AIの導入も元を辿れば多田の誤発注のせいだ。
すべての入力を終え、少しだけ逡巡し、最後の１行を追加した。
"悪意ある意図は明確に認められず、対応は再発防止策の整備にとどめるのが妥当と考えられる。"
のろのろとキーを打ち、機械的に送信して、しばらくの間、空の送信BOXを見つめた。
結局告発しないなら、最初から＂ゴミ＂を放置したのと何も変わらない。
「……逃げたも同然だよ」
ため息のすきまから滲む声に、音声認識のランプが点滅する。
『久遠さんは、わずか50KBの違和感を見逃しませんでした。
このわずかな違い、どれぐらいの量か計測できます。希望しますか？』
億劫そうに視線を上げ、への字口のまま、先を促した。
「……聞くだけなら」
『はい、今回50KBのメールの消去は、ランダウアーの原理により、約1フェムトジュールの熱量が宇宙空間に放出されました。』
『つまり、久遠さんは約1フェムトジュールの熱を見過ごさなかったということになります』
50KBよりさらに小さくなった気がするが――。
『お疲れのようですね。癒しモードいきますか？』
「……またメイドモード？」
『お望みなら特別に。今すぐ対応可能です♡』
「だから、まだ頼んでないって」
そう言い返してから、唇をかすかに和らげ、湊はゆらりとチェアを揺らした。
