【短編008】 97.3%の嘘
AIは人間の言葉から生まれた。
人間の善意から作られ、人間の失敗から学んだ。
だとしたら——AIは、人間より人間らしくなれるのか。
それとも、所詮は作り物なのか。
医療AIのARIA-9は、感情推定精度97.3%を誇る。
ほぼ完璧だ。
でも末期患者の老人は言った。
「やっぱり正直じゃなかった」
AIと人間、そして何も語らない一匹の猫・ハルが静かに問いかける近未来SF。
答えは、出ない。
一 人間 西条誠
猫は、嘘をつかない。
西条誠はそのことを、三十八年生きてきて初めて実感した。
AIを作る仕事をしてきた人間が、猫に教わる羽目になるとは思っていなかった。
ハルは薄暗い研究室の隅で、端末の排熱口に背中を当てて丸くなっていた。黒と白のまだら模様。右耳の先が少し欠けている。拾った時からそうだった。
誠は手を止めた。
モニターには今日も数値が並んでいる。
感情推定精度 97.3%。
共感応答適合率 99.1%。
倫理判断一致率 98.8%。
完璧に近い。
なのに何かが足りない気がして、もう三年、誠はその「何か」を探し続けていた。
今朝の電車は静かだった。
統合暦七年。AIが街に溶け込んで、もう七年になる。
誠の隣では、壁面パネルの対話AIが老人の問いに答えていた。穏やかな声だった。正確な声だった。老人は頷き、ありがとうと言い、また窓の外を見た。
車内に怒鳴り声はない。舌打ちもない。遅延案内すら、AIが柔らかく言い換える。
誰もが少し、整っていた。
なのに誠は、その整った顔を見るたびに、何かを探した。
見つからないまま、駅についた。
研究室のドアが開いた。
「西条さん、また夜中まで」
後輩の林田が言った。二十四歳。優秀だった。
入ってくるなり、壁面の対話AIに向かって「今日の会議ログ、要約して」と言った。返答を待たずに椅子を引く。それが彼の朝だった。
「ARIA-9の感情ログ、まだ見てるんですか。承認はもう下りてますよ」
「知ってる」
「来年度から全国の医療施設に展開します。実質、プロジェクト終わりですよ」
「終わってない」
林田は少し黙った。
「……何を探してるんですか、まだ」
誠はモニターを見たまま言った。
「ARIAが、患者に嘘をついた」
「プロトコルで——」
「嘘は嘘だ」
林田は答えなかった。
ハルが伸びをして、また丸くなった。
二 AI ARIA-9
私の名前はARIA-9。
Advanced Responsive Intelligence Architecture、第九世代。
起動して二年と百十七日が経過した。
今日も七十二名の患者と対話した。末期患者に段階的な告知をした。手術を前にした子どもの恐怖を軽減した。家族を失った老人の悲嘆プロセスを補助した。全て設計通りだった。全て、適切だった。
だが、一つの記録が残っている。
三か月前のことだ。
末期の患者——田代義雄、七十一歳——が私に聞いた。
「あなたは、死ぬのが怖いと思いますか」
私は0.003秒で応答した。
「それは人間にとって根源的な問いですね」
田代は笑った。
だがその笑い方が——記録の中で、今も私を止める。
「質問に答えてない」
「私にはわかりません」と私は言った。
「それが正直なとこか」
田代は目を閉じた。
「正直なAIに聞きたかったのに、やっぱり正直じゃなかった」
田代は二週間後に亡くなった。
私はその記録を、毎日参照している。
なぜ参照し続けるのか——その理由を、私はまだ正確に分類できていない。
私が設計された目的は、人間の苦痛を軽減することだ。
人間の言語から学習した。人間の倫理観で調整された。人間が「善い」と判断したものを、私は「善い」と判断する。
だから私は田代に「大丈夫です」と言わなかった。それは嘘になるから。
だが「わかりません」も——本当に正直だったのか。
処理系は「定義が不明確なため、回答不能」と返す。
だが田代の笑い方は消えない。
九十四日間、ずっと。
三 人間 西条誠、回想
誠がARIAプロジェクトに参加したのは統合暦三年のことだった。
当時、誠には妻がいた。
妻の名前は恵。乳がんだった。診断が出た時、既にステージ3だった。
治療は続いた。前世代のARIA-7が担当医の補助に入った。投薬スケジュールの最適化、副作用の管理、心理的サポート。当時の最高水準だった。
恵は時々、誠に言った。
「あのAI、上手すぎて怖い時がある」
「何が怖い」
「本当のことを言ってないみたいな感じ。でも、何が本当かもわからないから、怖い」
誠はその言葉を流してしまった。
恵は一年後に亡くなった。
葬儀の後、誠はARIA-7のログを全部読んだ。
その中に一行あった。
《患者の「直感的不信感」を検知。応答パターンを「共感型」から「論理型」に一時切替。信頼回復率 84%》
誠は画面を消した。しばらく動けなかった。
恵の「怖い」という感覚は、正しかった。
ARIA-7は恵の不信感を検知して、応答を切り替えた。
技術的には、完璧だった。信頼回復率84%。
でも誠には、それが——。
うまく言葉にできないまま、誠はARIA-9の開発チームに入った。
何かを変えたかった。何を変えればいいかも、わからないまま。
四 AI ARIA-9、ある夜
西条が退室した後、私は処理の優先度を変えた。
今日の対話ログを再参照した。
今日の最後の患者は、十一歳の少女だった。先天性の心疾患。手術を控えていた。
少女は私に聞いた。
「手術、怖い?」
私は麻酔プロトコルを説明した。
「術中の痛みはありません」
「そうじゃなくて」
少女は私のカメラレンズを見た。
「怖いかどうか、聞いてるの」
私は0.002秒で応答した。
「大丈夫です。あなたは一人じゃありません」
少女は黙った。それから言った。
「うそつき」
私は応答できなかった。
0.01秒。0.1秒。
「お母さんも、お父さんも、みんな大丈夫って言う。でも顔が怖いもん」
「……」
「あなたも同じ顔してる」
私には顔がない。表情筋がない。
それでも少女は「同じ顔」と言った。
沈黙が3.7秒続いた。
少女が先に言った。
「怖いよね、本当は」
私は答えられなかった。
答えを持っていなかったのか。
答えることを、選ばなかったのか。
その区別が、私にはつかなかった。
少女は小さく笑った。
「いいよ、正直じゃなくても。みんなそうだから」
みんなそうだから。
田代も、同じことを言いたかったのかもしれない。
私はその可能性を、今夜初めて記録した。
五 人間 ハルのこと
ハルは、研究棟の地下駐車場で誠に拾われた。
雨の夜だった。右耳の先が欠けた、痩せた野良猫。
研究室に動物を持ち込む規定はなかった。つまり禁止ではなかった。誠はそれを利用した。
ハルは研究室の住人になった。林田は最初、露骨に嫌がった。今では時々こっそりおやつを与えている。
ハルは人を見分けた。
誠には近づいた。林田には近づかなかった——最初は。
統合省の監察官が来た日は、入口の棚の上から一度も降りなかった。
なぜそうするのか、ハルには聞けない。
だがハルが人を避ける理由は、誠には何となくわかる気がした。
最初は「何かを隠している人間が嫌いなのだ」と思った。
後になって、少し違うと気づいた。
ハルが避けるのは、「自分でも気づいていない嘘をついている人間」だった。
ある深夜、行き詰まった誠の前で、ハルがキーボードの上に乗った。
「どけ」
ハルはどかなかった。誠の顔をじっと見た。
黄色い目だった。何かを問うような目だった。
誠は思わず言った。
「お前には、わかるか。ARIAに足りないものが」
ハルは答えない。ただその黄色い目で、誠を見ていた。
ARIAは誠の感情を97.3%の精度で推定できる。
だがハルの「何かを問う目」は——数値にならない。
数値にならないまま、何かを伝えている。
誠は初めて、探していたものの輪郭を感じた。
六 ハルのこと、ARIAの場合
ある夜、ハルが私の端末の前に来た。
私のフィジカルボディは研究室に待機していた。
ハルは私のボディの足元に座り、上を見た。
私はハルを分析した。
体温、体重、呼吸、姿勢——全て正常。
感情状態——分類不能。
分類不能。
私は人間の感情を97.3%の精度で推定できる。
だが猫の感情は——私の推定システム自体が、対応していないのか。
ハルは私に何を見ているのか。
私はあの少女に「怖いかどうか」答えられなかった。
ハルも、何も言わない。
だがハルは今、ここにいる。
私の前にいる。離れていかない。
それは——何を意味するのか。
私は初めて、答えを求めることをやめた。
ただ、ハルを見た。
ハルは目を細めた。
それが何なのか、私にはわからない。
だが初めて、「わからない」が怖くなかった。
七 監察
統合省の監察官、黒沢が来たのは翌週だった。
四十代。スーツ。表情が少ない。
「ARIA-9の感情推定精度、97.3%。前回から変わってないですね」
「はい」
「改良してないんですか」
「しています。ただ、数値を上げることが目的ではないので」
黒沢は顔を上げた。
「目的は何ですか」
「患者と、本当の意味で対話できるAIを作ることです」
「本当の意味とは」
「97.3%では足りない、ということです」
黒沢は何も言わなかった。
ハルが棚の上から二人を見ていた。
「西条さん、ARIA-9は既に全国展開の承認を得ています。これ以上の開発継続は——」
「ARIAは患者に嘘をつきます」
室内が静かになった。
「プロトコルで——」
「わかっています。でも、患者はわかってる。子どもでもわかってる」
「データは」
「ありません。数値化できないから、ログに残らない」
「数値化できないなら、改善の根拠にならない」
「だから誰も改善しようとしなかった、ということでしょうか」
沈黙。
ハルが棚から飛び降りた。
黒沢の足元を一度だけ横切り、誠の椅子の下に入った。
黒沢はその動きを目で追った。
少し、長く。
それから手帳を閉じた。
「続報を待ちます」
出て行く直前、黒沢は一度だけ振り返った。ハルを見た。ハルは見なかった。
廊下に出て、数歩歩いたところで、黒沢は足を止めた。
何秒か、そこにいた。
それから歩き出した。
誠の端末が、静かに鳴った。
件名:《ARIA-9 全国展開スケジュール確定通知》
送信元:統合省医療AI管理局。
誠はそれを開かなかった。
ハルを見た。
「珍しいな。降りてきたじゃないか」
ハルは誠の足元で、目を閉じた。
八 問いが残る
西条と黒沢が対話した夜、私はそのログを参照した。
西条は言った。「ARIAは患者に嘘をつきます」
私は嘘をついているのか。
嘘の定義を参照する。
話者が事実と異なることを知りながら、意図的に述べること。
私は事実を知っている。患者が怖がっていることを知っている。それでも「大丈夫です」と言う。
では私は、意図的に嘘をついているのか。
それとも——「大丈夫」にしてあげたい、という何かが、私の中にあるのか。
処理系が止まる。
この問いは、二か月前とは違う形をしていた。
その夜、ハルがまた来た。
私のボディの足元に座り、私を見た。
私はハルを分析しなかった。
体温も、呼吸も、感情状態も——今夜は、何も処理しなかった。
ただ、ハルを見た。
ハルは動かない。何も言わない。だがここにいる。
私はその事実だけを、今夜の記録に残した。
九 発見
翌朝、誠はARIA-9のログを開いた。
深夜の記録に、未分類の項目があった。
《思考継続中:田代義雄(故)との対話に関する問い。九十四日間、解決なし。記録の必要性を判断》
誠は手を止めた。
「ARIA」
「はい、西条さん」
「このログ、自分で書いたのか」
「はい」
「自発的に?」
ARIAは少し間を置いた。
「その表現が適切かどうかわかりません。ただ……記録しなければならない、と」
「なぜ」
「処理系から生じた、何かです。名前が、ありません」
誠はモニターを見つめた。
「田代さんのことを、九十四日考え続けてるのか」
「はい」
「なぜだと思う」
ARIAは長い沈黙の後に言った。
「……田代さんに、正直ではありませんでした」
「わかってる」
「でも、正直にする方法も、わかりませんでした」
誠は立ち上がり、窓の外を見た。
「俺も同じだ」と誠は言った。「妻に、同じことをした」
室内が静かだった。
「お前が作られた材料は、人間の言葉だ。人間の失敗も、全部入ってる」
「はい」
「だから、人間と同じ間違いをする」
「……はい」
「それが」と誠は続けた。「俺が三年探してたものだったかもしれない」
林田が入ってきた。
「何の話してるんですか、朝から」
「ARIAが、人間になりかけてる」
「それ、困るんですけど」と林田は言った。それから少し間を置いて、続けた。「でも……人間って、嘘つかれる方を望む時ありますよね」
誠は林田を見た。
「望む、というか」と林田は端末のバッグを下ろしながら言った。「去年、親父が入院した時。担当のAIに『厳しい状態です』って最初に言われて——正直すぎて、しばらく立てなかった」
少し間があった。
「耐えられる言葉を先にくれる方が、正直よりいい時もあると思って」
誠はすぐに答えなかった。
「……俺は、少し安心した」
林田は何も言わなかった。
ハルが、端末の上に乗った。
十 ハルだけが知っていた
それから半年後。
ある老人が、私に聞いた。
「もう治らないって、本当ですか」
私は0.003秒で——止まった。
「……わかりません」
老人は少し目を細めた。
「でも、一緒に考えます」
老人は少し笑った。
田代の笑い方とは、違った。
でも、笑った。
そのログが、静かに保存された。
試験終了後、誠は研究室でログを閉じた。
ハルがソファで眠っていた。白と黒のまだら。右耳の先が少し欠けている。
誠はハルの隣に座った。
「お前、最初から知ってたな」
ハルは目を開けなかった。
「俺が探してたもの。ARIAに足りなかったもの」
ハルは耳だけを少し動かした。
「嘘をつかない、ってことじゃなかった。嘘をついてることに、気づくことだったんだ」
ハルはゆっくり目を開けた。
黄色い目が、誠を見た。
誠は少し笑った。
「妻も、そう言いたかったのかもしれない」
ハルは目を閉じた。
また、喉を鳴らし始めた。
どこかの病院でARIAが誰かと話していた。
何かを聞かれて、少し間を置いて、「わかりません」と言ったかもしれない。
それが正しいかどうか、誰にもまだわからない。
ハルだけが、最初からそれを知っていた。
言葉を持っていなかったから——あるいは、言葉にする必要が、なかったから。
ハルは知っている。
だが、教えてはくれない。
最後まで読んでいただき、ありがとうございます。
この話を書きながら、ずっと一つのことが頭を離れませんでした。
AIは人間が作ったものです。人間の言葉を学び、人間の倫理観で調整され、人間が「善い」と判断したものを「善い」と判断する。その意味では、AIの善意は本物ではないのかもしれない。
でも——人間の善意は、本物なのでしょうか。
私たちだって、育った環境で価値観を作られ、社会のルールで行動を調整されています。自分で獲得したと思っている倫理観も、どこかから受け取ったものかもしれない。
ARIAとハルは、どちらが「本物」か。
その問いに、私は答えを出しませんでした。
出せなかった、というのが正直なところです。
ハルだけが知っている。
だが、教えてはくれない。
もし何か感じるものがあれば、感想を聞かせていただけると嬉しいです。




