第2章：ストカスティック・パロット ―― 善意のボットが撒き散らした殺意
南條講師：「講義を再開する前に、もう一つの『報告』を共有しなければなりません。先月、四国山間部にある小さな共同診療所で、一人の負傷者が亡くなりました。直接の死因は、止血処置の誤りです。処置を行ったのは、医師不足を補うために導入されていた最新の『学習支援AI』の指示に従ったボランティアの若者でした」
南條の声は、嵐の音に消されそうなほど静かでしたが、その響きには鋭い刃のような響きがありました。
南條講師：「そのAIが提示した止血手順は、一見すると専門的で、極めて論理的でした。しかし、そこには致命的な汚染が混じっていた。AIは、ある特定の血管を縛るよう指示しましたが、それは医学的には禁忌（行ってはならない処置）でした。なぜAIはそんな嘘をついたのか。それはAIが嘘をつこうと意図したからではありません。ただ、統計的に『もっともらしい言葉』を並べたに過ぎないからです。これが、今回のテーマである『ストカスティック・パロット』（意味を理解せず、統計的な確率に基づいて言葉を紡ぐAIの性質）の正体です」
富沢は、机の下でスマートフォンを握りしめている自分の指を見つめました。彼女の脳裏には、SNSで流れてくる「AIが教えてくれた裏技」を無邪気に信じていた、震災前の自分の姿が重なっていました。
富沢：「……教えてくれたAIには、悪意はなかったんですよね？ そのボランティアの人も、助けたくてAIに聞いたはずなのに。どうして、助けたいっていう善意が、殺意に変わっちゃうんですか」
南條講師：「富沢さん、厳しい言い方ですが、AIには『善意』も『殺意』も存在しません。LLM（大規模言語モデル：膨大なテキストデータを学習し、人間のような文章を生成するAI技術）の本質は、次の単語が何であるかを予測する推論エンジンに過ぎない。AIは、学習データの中にあった『もっともらしいが誤った手順』を、RLHF（人間からのフィードバックによる強化学習：AIの回答を人間が評価し、より人間らしい自然な応答へ調整する手法）によって磨き上げられた流暢な文体で出力しただけです。AIにとって、真実であるかどうかは重要ではありません。統計的に『ありそうな続き』であるかどうかが全てなのです」
講堂の最前列で、みずきが冷めた瞳で黒板を見つめていました。彼女のIQ210の頭脳は、南條の言葉の裏にある「情報の劣化」を瞬時に構造化していました。
みずき：「要するに、そのAIは『ハルシネーション』（AIが事実に基づかない情報を、あたかも真実であるかのように生成する幻覚現象）を起こしていたってことだよね。でも、普通のハルシネーションなら、どこかでおかしいって気づけたはず。その診療所のケースが最悪だったのは、その『嘘』がプロの医師でも一瞬迷うくらい精巧に『ポイズニング』（学習データに意図的に誤情報を混入させ、AIの挙動を汚染する攻撃）されていたからじゃないの？」
南條講師：「その通りです、みずきさん。2024年から2025年にかけての選挙イヤー、世界中で『情報の生態系』を破壊するための工作が行われました。特定の医療知識や法知識を、微量かつ膨大な数で書き換える『ステルス・ポイズニング』です。AIは、汚染されたデータを『クリーンな知識』として吸収し、それを『グラウンディング』（AIが生成する回答を、外部の信頼できる根拠や事実に紐付けるプロセス）する能力を失ってしまった。その結果、AIは確信に満ちた声で、人を殺す手順を教えるようになったのです」
講堂の隅で、伊達が義眼のアイボゥを明滅させながら、腕を組んでいました。
伊達：「……俺の左目にいるアイボゥは、幸いにも専用の独立サーバーで管理されてるが、巷に溢れてる汎用AIはもう『モデル・コラプス』（AIが生成した低品質なデータをAI自身が再学習することで、知能が劣化し崩壊していく現象）の極致にいるな。南條先生、アンタがかつて動画で言ってた『AIは人類の知性を底上げする』って言葉、今となっては皮肉にしか聞こえねえよ」
南條講師：「……認めましょう、伊達さん。私は間違っていた。私は、AIの『出力の流暢さ』を、『理解の深さ』と履き違えていた。かつての私は、情報を『わかりやすく』パッケージ化して提供することに心血を注いだが、それは結果として、人々から『情報の出所を疑う』という健全な懐疑心を奪うことに加担してしまった。私は、わかりやすさという名の『毒』を、百万人に配り歩いた人間なのです」
野田は、静かに手を挙げ、ロシア文学の重厚な知性を湛えた声で問いかけました。
野田：「南條先生。もしAIが単なる『統計的なオウム』であり、真実を語る意志を持たないのだとしたら、私たちは何を基準に言葉を選べばよいのでしょうか。診療所で亡くなった方は、AIの『トークナイゼーション』（文章を単語や文字などの最小単位に分割し、計算可能な数値として扱う処理）の果てに、ただの『処理エラー』として消されてしまった。言葉が意味を失い、統計的な記号へと成り下がった世界で、私たちはどうやって人間の尊厳を守ればいいのですか」
南條講師：「野田さん、その答えを出すために、私たちは『便利さ』を捨てなければなりません。第3章からは、情報の『ゼロ・トラスト』（何も信頼せず、常に全ての通信やデータを検証するというセキュリティ思想）の具体的な構築法に入ります。私たちが手にする情報は、まず『偽物』であると仮定する。そして、数学的な『プロバナンス』（情報の出所、作成者、加工履歴などの証跡）が証明できない言葉は、たとえどれほど美しくとも、それはただの雑音として切り捨てる勇気を持たなければならない」
講義の途中、亀田が場違いなほど元気に、湯気の立つお盆を抱えて入ってきました。
亀田：「はいはい、南條先生。難しいお話の最中に悪いんだけど、これ、南條タクミ……じゃなかった、南條教育財団からの差し入れよ。今日はうどんじゃなくて、地元の農家さんが『AIの予測を無視して』植えたっていう、ちょっと形の悪いお芋。ピョン様のドラマでもね、こういう不恰好なものが最後には愛されるのよ」
亀田が差し出した、土の匂いがする蒸かしたての芋。富沢はその温かさを両手で包み込みながら、不意に涙がこぼれそうになりました。
富沢：「……このお芋には、ハルシネーションなんて、ないんですね」
南條講師：「……ええ。それは『フィジカル・エビデンス』（物理的な証拠）に基づいた、本物の栄養です、富沢さん。AIが計算した『最適な農法』から外れた、泥臭い現実の手応えだ」
南條講師は、黒板に書いた「243」という数字の隣に、診療所で亡くなった患者の年齢――「22」という数字を書き加えました。
南條講師：「いいですか。AIは、あなたが『聞きたい答え』を出す天才です。しかし、それはあなたが『知るべき真実』とは限りません。私たちは、AIという鏡に映った自分の願望に騙され、多くの命を失った。この第2部では、その『鏡』がいかにして歪められ、毒されたのか。その工学的な汚染経路を、一つずつ『デバッグ』（プログラムや論理の欠陥を探し、修正する作業）していきましょう」
嵐の音はさらに激しさを増し、講堂の灯りが一瞬、大きく揺らぎました。南條講師の白い粉にまみれた手は、まるで壊れかけた世界の破片を一つずつ拾い集めているかのように、ゆっくりと、しかし確かな意志を持って、黒板の文字をなぞり続けていました。
