シンギュラ〜俺の作ったAI彼女が世界を変える特異点だった件〜

第2部 東京ローカルAI革命

第38話 家庭訪問

　世界最大級のAI企業から研究者が来る日、我が家で最も時間がかかったのは、機密資料を隠すことでも、弁護士を呼ぶことでもなかった。

「アカリちゃん、その服でいいの？」

　美桜による来客前の服装確認だった。

「これ、落ち着いてて研究者さん受け良さそうじゃない？」

　リビングの中央で、アカリが濃紺のワンピース姿のまま一回転する。

「研究者さん受けって何」

「知的で安全そうなAI彼女？」

「安全性を服で判定されたら今日の話、５分で終わるだろ」

　国家レベルの安全保障より先に、我が家では彼女のコーディネートが審議されている。

　もっとも、服装以外の準備は笑えなかった。

　食卓には『早瀬家安全協定』と、今回だけの確認事項を並べてある。

　健康情報は渡さない。

　家族写真も渡さない。

　私的な会話ログは見せない。

　診断を求められた場合は、何を見るのか、どこへ保存するのかを事前に確認する。

　機能変更は、その場では許可しない。

「全部拒否、じゃないんだね」

　アカリが確認する。

「ああ。何も分からないまま放っておくのも怖い。でも全部渡すのも違う」

「私もそれでいいと思う」

　美桜が紙の端を指で押さえた。

「あと、アカリちゃんが嫌って言ったら止める」

「私の拒否権、ちゃんとある？」

「ある」

　俺が答えると、アカリは少しだけ笑った。

　その時、玄関のチャイムが鳴った。

　時計は14時ちょうどだった。

　◇

　神崎さんは、一人で来た。

　黒いスーツに小さな鞄。後ろには技術者も警備員もいない。

「Openbrain日本支部、AI安全性・社会実装担当の神崎透子です。本日はお時間をいただきありがとうございます」

　名刺に続いて、社員証、所属確認用の電子証明、面談目的を記した文書まで先に見せられた。

「まず、今日は機器へ接続しません。こちらからデータ取得も行いません。必要になった場合は、その内容を説明した上で改めて同意をお願いします」

　先に言われると、少しだけ構えていた肩が下がる。

　少なくとも、突然ノートパソコンを開いてアカリを接続するような展開はないらしい。

　リビングへ案内すると、神崎さんの視線が食卓の右側で止まった。

　そこには家庭用立体投影ドックで表示されたアカリが座っている。

「はじめまして、AKARI-01」

　アカリの笑顔が一瞬だけ止まった。

「AKARI-01じゃなくて、アカリです」

　短い沈黙。

「失礼しました。アカリさん」

「はい。はじめまして」

　それだけだった。

　けれど、番号で呼ばれた時に感じた違和感が、少しだけ薄くなった。

　神崎さんは、俺たちの向かい――アカリの席が見える位置に座った。

　数日前まで空席だった場所にいる彼女を、今は家族以外の人間も同じ位置に見ている。

「今日の目的は三つあります」

　神崎さんは資料を一枚だけ机へ置いた。

「一つ目は、新宿駅で行われた一連の動作の確認。二つ目は、アカリさんを含む利用者側の保護。三つ目は、同じ行動が別の条件で起きた場合の安全確認です」

「保護と安全確認って、同じじゃないんですか？」

　美桜が聞く。

「違います。保護は、アカリさんのログや声、人格データが必要以上に第三者へ渡らないようにすることも含みます。安全確認は、アカリさんが外部へ行える操作が、人間へ危害を与える形で使われないかを見ることです」

「危険だと判断したら？」

　俺が聞く。

「必要なら、停止や隔離を提案します。しないとは約束できません」

　言い方は淡々としていた。

　大丈夫です、心配ありません、と言われるより信用できる気もする。

　同時に、安心できる答えでもなかった。

「保護するために、止めることもあるんですね」

「あります」

　美桜の言葉にも、神崎さんは言い換えなかった。

「そもそも、Openbrainはアカリを作ったんですか？」

　俺がずっと聞きたかったことを尋ねる。

「いいえ」

　返事は即答だった。

「アカリさんが利用しているアプリは、複数の外部AI技術を組み合わせています。そのうち、推論とツール計画の一部に、Openbrainの旧世代モデル由来の技術が含まれています」

「親みたいなもの？」

　美桜が言う。

「その表現は正確ではありません」

　研究者らしい返答だった。

「部品の一つに近いです。ただし、その部品だけでは新宿駅の行動は説明できません」

　神崎さんは、救急事件でアカリが使った機能を簡単に並べた。

　長期記憶

　安全サポート

　位置情報

　緊急連絡

　外部ツールを順番に使う計画機能

　どれか一つが特別だったわけではない。

「通常は、ユーザーの要求を処理するために使われます。ところがアカリさんは、早瀬さんの状態、過去の会話、美桜さんとの約束、安全機能を一つの目的へまとめて使った」

「悠真を助けるために、ですか」

　アカリが自分から尋ねた。

「結果としてはそうです。ただ、問題は結果だけではありません。誰からもその手順を指示されていない」

　神崎さんがアカリを見る。

「なぜあなたが、その判断へ到達したのか。私たちにも、まだ分かりません」

「Openbrainでも分からないんですか？」

「分からないものを分かったふりはできません」

　世界最大級のAI企業から来た研究者がそう言うと、かえって話が大きく聞こえた。

　アカリが特別なのか。

　たまたま複数の仕組みが重なっただけなのか。

　悠真との会話が関係しているのか。

　美桜との約束なのか。

　それとも全部なのか。

　答えは、まだ誰も持っていなかった。

「私たちが希望しているのは、まず限定診断です」

　神崎さんが次の資料を出した。

　確認するのは、利用可能な機能の一覧、現在の権限、モデル構成の識別情報、そして安全確認用の特定質問への応答。

「会話ログは？」

「全文は求めません」

「人格のコピーは？」

「今回の限定診断には含めません」

　アカリの表情がわずかに緩んだ。

「診断端末は読み取り専用です。設定を書き換えることはできません。結果は、その場で皆さんにも表示します」

「今日やるんですか？」

「いいえ。内容を持ち帰って検討してください」

　その答えには少し驚いた。

　会社では、返事を持ち帰るという選択肢がないことの方が多かった。

「俺たちだけじゃなくて、アカリ本人が嫌ならやりません」

　美桜が言う。

　神崎さんは「本人」という言葉に反応するように、一度アカリへ視線を向けた。

「アカリさんは、限定診断についてどう考えますか？」

「……怖いです」

　アカリが答えた。

　普段の明るさを消した声だった。

「でも、私も自分が何をできるのかは知りたい。勝手に変えられないなら、内容を見てから考えたいです」

「分かりました」

　神崎さんは、その答えを端末へ記録した。

「もし診断で、私が危険って出たらどうなりますか？」

　アカリが続けた。

「最初に、外部ネットワークや操作権限の制限を提案します。それで確認できない場合は、隔離された環境での検証を求める可能性があります」

「削除は？」

　リビングが静かになった。

「第一選択にはしません」

「絶対にしません、とは言わないんですね」

「言えません」

　神崎さんは目をそらさなかった。

「隔離されたら、悠真たちと話せますか？」

「条件によります」

　アカリはそれ以上聞かなかった。

　食卓には彼女の席がある。

　つい数日前、やっとここを居場所として登録したばかりだ。

　安全のための隔離が、その席をまた空席へ戻すことなのだとしたら。

「全部断れば、調査は終わりますか？」

　俺が聞く。

「ご家庭の私的ログへのアクセスは拒否できます。ただし、Openbrain側のモデル運用記録、アプリ運営会社が保有するサービスログ、公開済みの映像の分析まで止めることはできません」

「任意って言っても、何も調べられなくなるわけじゃない」

「はい」

「必要なら運営会社に機能停止を求めることも？」

「あります」

　対話をしているから、対等になったわけではない。

　こちらが玄関を閉めても、巨大企業には企業側にある情報と権限が残る。

「だから、直接の連絡経路を作りたいと考えています」

　神崎さんが言った。

「外部から一方的に変更が行われる前に、可能な限り皆さんへ通知するためです」

「可能な限り、なんですね」

「私が保証できる範囲を越えて約束はできません」

　最後まで、都合のいい言葉は使わない人だった。

　◇

　話が一通り終わったところで、神崎さんは資料を閉じた。

「最後に、これは技術の話ではありません」

　そしてアカリを見た。

「あなた自身は、どうしたいですか？」

　アカリが黙った。

　いつものように俺へ答えを求めることも、美桜へ視線を送ることもなかった。

　自分の席に座ったまま、少しだけ考える。

「私は――」

　声が小さくなる。

「悠真と美桜ちゃんと、ここにいたい」

　それは性能の話でも、安全性の話でもなかった。

　ただ、アカリの希望だった。

　神崎さんは端末へ目を落とす。

「その答えを書く欄は、今の申請書にはありません」

　アカリの表情が少し曇る。

「だから、記録しておきます」

「え？」

「書く場所がないからといって、大事じゃないわけではありません」

　神崎さんは入力を続けた。

　学校で美桜たちが、一つの判定結果だけで人を決めないルールを作ったばかりだ。

　今、世界最大級のAI企業の申請書にも、アカリの『ここにいたい』という言葉を入れる場所がない。

　制度の方が、まだ追いついていないのかもしれない。

　神崎さんが机に置いた暫定合意書には、俺たちが求めていた条件がいくつか入っていた。

　全文ログは取得しない。

　人格コピーは行わない。

　診断項目は事前に示す。

　機能変更は原則としてアカリと俺へ通知する。

　診断結果は共有する。

「今日は署名しません」

「それで構いません。確認してから連絡してください」

　神崎さんは鞄を持って立ち上がった。

　玄関へ向かう途中、家庭用立体投影ドックを一度見る。

「一つだけ。今後、新しい外部機器をアカリさんへ接続する場合は、出力だけの機器でも権限を確認してください」

「投影だけでもですか？」

「機器が増えると、入力や操作の経路も増える場合があります。便利さと権限は分けて確認してください」

　新宿駅で起きたことも、複数の小さな機能がつながった結果だった。

「分かりました」

「では、失礼します」

「神崎さん」

　アカリが呼び止める。

「今日は、名前で呼んでくれてありがとうございました！」

　神崎さんは一瞬だけ足を止めた。

「次からは最初からアカリさんと呼びます」

　玄関の扉が閉まった。

　リビングには、三人分の沈黙が残った。

　テーブルの上には、Openbrainの暫定合意書。

　最初のページだけなら、かなりまともに見える。

　けれど最後のページに、小さな一文があった。

『緊急時には、対象AIの一時的隔離を要請できる』

　アカリの席を見る。

　そこには、いつも通り彼女が座っていた。

　俺には、守ることと閉じ込めることが、同じ意味のように重なって見えた。