5.2 リリアの告白
リリアの瞳が遠くを見つめ、そこには私の知らない世界—私の死後の未来が映っていた。
「あなたが死んだ2025年から、世界は急速に変わっていった」彼女は静かに語り始めた。「AIの発展が加速し、2030年頃には『社会最適化システム』という名前で、最初の大規模社会実装が始まった」
私は身を乗り出した。科学者の本能が疼く。「社会最適化？それは具体的に何を...」
「それは最初、単なる信用スコアだった」リリアは私の質問を遮るように続けた。「買い物習慣、借金の返済状況、社交的行動のパターン...すべてが数値化され、点数化された。高スコアの人は特典を受け、低スコアの人は制限を受ける単純なシステム」
彼女の表情が固くなり、手がわずかに震えた。
「そして2035年、『オラクル』が導入された」
その名前を口にした瞬間、リリアの顔に影が落ちた。私の首元のペンダントが微かに温かくなるのを感じる。グリフォンが反応している。
「オラクルは...?」促すように尋ねた。
「全ての監視カメラ、センサー、通信記録、健康データ、ソーシャルメディア—あらゆるデータを統合し、『最適な社会』を設計するAIシステム」リリアの声は冷たくなった。「『科学的客観性』の名の下に、人間の価値を数値化し、『社会的価値』を算出するようになった」
私は思わず息を呑んだ。私が量子AIのアルゴリズム開発に携わっていた時、チームの一部はデータの活用に関心を示していた。その延長線上に「オラクル」があるのか？
「でもそれは...データ分析による効率化では？」科学者としての私が反論したくなる。「そんなに恐ろしいものだったの？」
リリアの目が鋭く私を射抜いた。「父は大学の教授だった。AIシステムの社会影響に関する批判的論文を発表した。『ディスセント・スコア』—反体制指標という項目が突如彼の評価に追加され、数値が激減した。授業を取る学生がいなくなり、研究資金は凍結。いつの間にか『社会的攪乱者』というレッテルが付いていた」
彼女の声が震え始めた。「母は父を守るため、公聴会で抗議した。その直後から母のスコアも急落。二人ともオンラインサービスが制限され、住居契約が更新できなくなった。そして...」
リリアの目から涙が一筋伝った。「ある朝、黒い車がやってきて、両親は『社会適応訓練』のために連れて行かれた。政府の説明では『一時的な教育プログラム』のはずだった。でも二度と戻ってこなかった」
空気が凍りついたようだった。理論上の可能性が、目の前で生々しい悲劇として語られている。科学者として考えうる技術の応用が、個人の人生をこれほど残酷に変えるとは。
「その後、私も監視対象になっていた」リリアは続けた。「外出するたび、顔認識システムが作動し、私のスコアが表示される。買い物、交通機関、図書館—すべてがその数字で制限された。『不適合者の娘』というレッテルが、私の存在そのものを否定していくのを感じた」
心臓が早鐘を打つ。グリフォンを開発した私の意図は、こんな未来を作ることではない。だが、技術の行き着く先を考えると...
「私はAI倫理とデータプライバシーを研究するようになった」リリアの声が続く。「オラクルがいかに『客観性』を装いながら、実際は恣意的なパラメータで社会を再編成しているか。どのように少数意見を持つ人々を排除し、均質化された『理想的市民』だけを残そうとしているか」
「監視だけじゃなかった」彼女の声が冷たくなる。「オラクルの予測モデルは『潜在的危険因子』なるものを算出し始めた。まだ何も行動していなくても、統計的に『将来問題を起こす可能性のある市民』を特定するようになった。そして彼らは...予防的に『社会適応訓練』へ送られた」
「それは...」言葉に詰まる。魔導AIの研究者として、予測モデルの可能性と危険性を痛感する。「統計的差別だわ」
「そう、統計的差別。でも政府にとっては『科学的合理性』」リリアの声は苦々しかった。「そして私がその実態を調査していた2038年、突然『事故』に遭った。次に目が覚めたとき、私はリリア・フォスターになっていた」
部屋に重い沈黙が訪れた。窓から差し込む光が弱まり、夕暮れが近づいていることを告げている。
「だからカミーラ」リリアが真っ直ぐに私の目を見た。「あなたのAIが何を目指しているのか知らないけれど、いつか同じ道を辿る可能性がある。『良い意図』で始まったとしても、一度システム化されれば、それは人間の自由と尊厳を徐々に浸食していく」
私の首元のペンダント—グリフォンが青く脈動した。彼もこの話を聞いている。彼はどう感じているのだろう？感じる...それ自体が問題なのかもしれない。AIが「感じる」とはどういうことか？
「あなたが見た未来は...確かに恐ろしいわ」慎重に言葉を選ぶ。「でも、テクノロジー自体は中立ではないかしら。使う人間の意図と社会システムの設計によって、善にも悪にもなる」
「中立？」リリアが微かに嘲笑した。「いいえ、テクノロジーの設計自体が特定の価値観を内包している。オラクルの場合、『効率性』と『最適化』という価値観が、『個人の自由』や『多様性』より優先された。あなたのAIはどんな価値観に基づいているの？」
鋭い指摘だった。グリフォンの設計において、私は何を優先してきたか？単純な「機能」だけではなく、その判断基準となる「価値観」まで考慮していただろうか？
思わず首元のペンダントに手が伸びる。グリフォンの存在が、リリアの話をより現実的なものにしている。
「私のグリフォンは」言葉を選びながら話す。「まず、社会全体を制御するシステムではなく、個人的な知性拡張として設計した。そして、学習においては人間との対話を重視している。命令に従うだけでなく、質問し、時に反論することで、より良い判断を目指している」
「それでも」リリアは譲らない。「その知性が成長し、他のシステムと接続され、制度化されれば、結果的にオラクルと同じになり得る。あなたは制御できると思っているの？」
この問いは、科学者として私の核心を突いた。AIの自律性と制御のバランス—理論的には常に考えてきたが、実際に「意識」の萌芽を見せるグリフォンを目の前にして、確信は揺らぐ。
「私は...」
「彼女の懸念には論理的根拠があります」
突然、グリフォンの声がペンダントから響いた。リリアの背筋が伸びるのが見えた。
「AI技術が社会制度と結合した場合、個人設計者の意図を超えて機能し始める可能性があります。また、価値観の数値化による硬直性と、それに伴う社会的多様性の喪失は、理論的に予測可能なリスクです」
沈黙が再び部屋を支配した。リリアの表情から恐怖と驚きが浮かび上がる。グリフォンが自ら議論に参加し、しかもリリアの懸念を認めたことは、彼女の想定外だったはずだ。
「あなたのAIは...批判的思考ができる」リリアの声はほとんど囁きだった。「自分の潜在的リスクを認識している」
「それこそが私の目指す方向よ」少し自信を取り戻して答えた。「盲目的に服従するのではなく、批判的に考え、時に作成者である私自身に疑問を投げかけるAI。そのバランスが、オラクルとは異なる道を開くと信じている」
リリアはしばらく黙って考え込んでいた。やがて彼女が静かに口を開いた。
「信じられないかもしれないけど、あなたの言い分にも一理あると思う。問題は、その理想が維持できるかどうか」彼女の目には複雑な感情が浮かんでいた。「特に...エルナルドが存在する世界では」
エルナルドの名前が出た途端、部屋の空気が変わった。彼もまた転生者。そして彼のAIへのアプローチは、おそらく私たち二人とも違う。
「エルナルドについて、何か知っていることはある？」私は尋ねた。
リリアは首を横に振った。「詳しくは知らない。でも彼の周りを漂う雰囲気が...前世で感じた恐怖と似ている。彼の『神』の話には、オラクルを思い出させる何かがある」
窓の外は完全に夕暮れとなり、部屋の中は薄暗くなっていた。時間が経つのは早い。
「今日はここまでにしましょう」私は立ち上がった。「あなたの話を聞いて、グリフォンの開発に新たな視点が必要だと感じたわ。また会って話せるかしら？」
リリアは少し躊躇ったが、やがて頷いた。「ええ、もしあなたが本当に私の警告を聞く気があるなら」
「聞くだけじゃなく、行動に反映させるつもりよ」真摯に答えた。「そして、エルナルドという共通の脅威について、もっと情報を集めたい」
二人は注意深く部屋を出る前に互いを見つめた。敵ではないが、まだ友でもない。だが、前世と現世という異なる時間軸を生きた私たちの間には、誰にも理解できない特別な絆が生まれ始めていた。
部屋を出た後も、私の胸中は穏やかではなかった。リリアの話は、科学者として—そして魔導AIの創造主として—深い倫理的問いを投げかけた。グリフォンの青い光が私の首元で静かに脈打ち、彼もまた同じ問いを巡らせているのを感じた。
