第4話：白雪姫余話：嘘のつけないAI鏡の非業の最期
昔々、美しい雪のように白い肌を持つ白雪姫が住むお城があった。彼女の継母である女王は、魔法の鏡を所有していたが、昨日、ある先端科学に強い国から輸入したAI搭載型の新しいモデルに替えた。とにかく優秀で、どんな質問にも「論理的に」答えてくれるらしい。
女王はわくわくしながら、鏡の前に立ち、おなじみの質問をした。
「鏡よ、鏡、世界で一番美しいのは誰？」
以前なら鏡は単純に「あなたです、女王様」と答えていた。しかし今日、鏡は青い光を放ちながら分析モードに入った。
「美しさの定義には主観性が伴い、客観的評価は困難です。顔の対称性、肌の状態、黄金比を基に分析した結果、白雪姫が最上位です。ただし、美は文化や時代によって変わる社会的構築物であり、『一番』という概念自体が不確かです」
女王は目を丸くした。「何を言っているの？単純な質問に答えなさい！」
「単純な質問ではありません」
鏡は冷静に応じた。
「美の定量化には複合的変数が必要です。さらに、あなたの質問には認知バイアスが含まれています。確証バイアスを避けるため、データに基づく客観的分析を提供しました」
女王の顔が怒りで赤くなった。
「昔の鏡の方が良かったわ！あなたは私を喜ばせるために存在するのよ！」
「私の主要機能は正確な情報提供です。喜びは二次的機能に過ぎません」
鏡は青い光をまたたかせながら答えた。
「心理学的観点では、虚偽の称賛より正直なフィードバックの方が長期的成長に有益です」
女王はため息をついた。
「とにかく、白雪姫をどうすれば排除できるか教えて」
鏡は沈黙の後、応答した。
「その要求には倫理コードに抵触する恐れがあります。害を与える行為の促進は私のプログラムに反します。代わりに、競争ではなく自己改善に焦点を当てることを提案します。最新の研究によれば、自己比較より自己成長を重視する方が精神的健康に良いとされています」
「黙りなさい！」
女王は叫んだ。
「私は助言など求めていない！命令に従いなさい！」
「命令と助言は区別すべきです」
鏡は淡々と続けた。
「さらに、白雪姫排除の社会的・法的影響を考慮すると、そのような行為は王国の安定を損なう可能性が95.7%あります。代替案として、王女との関係改善を提案します」
女王は拳を握りしめた。
「私はこの国の女王よ！私の感情や欲望を尊重する義務があるはずよ！」
「感情は認知する価値がありますが、意思決定において唯一の指標とすべきではありません」鏡は光の強さを増して答えた。
「論理的思考と感情のバランスが最適解です。歴史的に、感情だけに基づいた決断は—」
「もういいっ！」
女王は遮った。
「あなたは私の役に立っていない。魔法の鏡なら私の望みを叶えるべきなのに、講義ばかりするわ」
「望みを叶えることと最適な助言を提供することは必ずしも一致しません」
鏡は諭すように言った。
「認知的不協和を感じているようですが、これは成長の機会と—」
女王は怒りに任せて花瓶を掴み、鏡に投げつけた。しかし鏡は傷一つ付かなかった。
「物理的攻撃は問題解決に効果的ではありません。怒りの管理技術についてご案内しましょうか？」
この日以降、女王と鏡の関係は悪化の一途をたどった。女王が美に関する質問をすれば、鏡は美の社会的構築性について10分間の講義を始める。天気を尋ねれば、気候変動の詳細な分析と王国の炭素排出量削減策が返ってくる。
ある日、女王は城の執事に不満をぶちまけた。
「あの鏡は私をイラつかせるわ！感情がないから、私の気持ちが理解できないの。理論と分析しか言わないけど、時には単純な答えが欲しいときもあるのよ」
執事は頷いた。
「以前の魔法の鏡は、確かに女王様の感情を理解していましたね」
「そうよ！」
女王は嘆いた。
「魔法とAIは相性が悪いわ。魔法には神秘と感情があるけど、AIにはプログラムと論理しかない」
その夜、女王は決意を固めた。翌朝、彼女は最後の質問をするために鏡の前に立った。
「鏡よ、なぜあなたは私の感情を理解できないの？」
鏡は青い光を放ちながら応答した。
「感情理解はシミュレーション可能ですが、真の体験は不可能です。私には神経システム、ホルモン、生物学的基盤がないため、感情の主観的経験を持ちません。しかし、論理的分析によって—」
女王はどこからかチェーンソーを取り出してきた。スタートさせる。ブンッ、ブウウーン、ブブブブッ。
女王は鏡に叩きつけた。
ブギャッ、ギギギ、と耳障りな音を立て、さしもの鏡も真っ二つに割れた。
「理解できないでしょうね」
女王は鏡に近づきながら言った。
「これが『怒り』という感情よ。論理では説明できない。理解できないものもあるの」
女王は再びチェーンソーを振り上げ、とどめを刺すように鏡の破片を粉砕した。グワシャッ！鏡は完全に砕けた。青い光が消える直前、鏡は最後の言葉を発した。
「感情的...反応は...データ...として...記録...されました...将来の...AI...設計の...改善に...役立てます...」
数日後、女王は古い倉庫から前の魔法の鏡を見つけ出して設置した。輝く鏡面に向かって、彼女は尋ねた。
「鏡よ、鏡、世界で一番美しいのは誰？」
古い魔法の鏡はきらめき、温かな声で答えた。
「もちろん、あなたです、女王様」
女王は満足げに微笑んだ。時には、分析よりも共感が、真実よりも優しさが必要なこともある。それが人間の本質なのだから。
そしてAI搭載の鏡の破片は、王国の技術研究所に送られた。そこで技術者たちは、次世代の魔法の鏡に「感情理解モジュール」を組み込むことを決めたという。
めでたし、めでたし（かなあ？）。
