第19章：フォーマル・ベリフィケーション ―― AIのブラックボックスを論理の光で切り裂く
南條講師：「……まず、この数字を直視してください。昨年末、徳島で起きた『新大橋崩落事故』で失われた命の数です。設計に当たったのは、世界最新の構造最適化AIでした。計算機の中では、その橋は完璧な強度を誇っていました。しかし、現実の風と振動が加わったとき、それは一瞬で鉄の屑へと変わった。なぜ、完璧なはずの計算が、現実の死を招いたのか。それは、AIの設計プロセスが、人間には解明できないブラックボックス（内部の動作原理や論理プロセスが不透明で、入力と出力の関係しか見えない状態）だったからです」 南條の声は、極北の氷山のように冷たく、しかし一点の曇りもない決意に満ちていました。彼は黒板に大きく「フォーマル・ベリフィケーション」と書き殴りました。
南條講師：「今日のテーマは、フォーマル・ベリフィケーション（形式検証：数学的な証明を用いて、システムの設計やプログラムが仕様通りに正しく動作することを厳格に確認する手法）です。私たちは今、AIという『神託』に頼るのをやめ、論理という名のメスで、そのブラックボックスを解体しなければならない。AIが『たぶん大丈夫だ』と出力するインファレンス（推論：学習データに基づき、統計的な確率で答えを導き出すこと）の世界から、数学的に『絶対に正しい』と言い切れるプルーフ（証明：論理的な前提から、結論が真であることを一分の隙もなく導き出すこと）の世界へ、強制的に帰還するのです」 最前列で、富沢は自分のノートを握りしめました。彼女の脳裏には、あの日、崩れ去った橋のニュース映像が、情報の汚染という名の呪いのようにこびりついています。
富沢：「……南條先生。あの日、橋を作った人たちは、AIの出した『100点』の設計図を信じたんですよね。先生が昔の動画で言っていた、『AIは人間を超えた最適解を出す』っていう言葉を、みんな守っただけなのに。どうして、数学的に完璧なはずの答えが、人を殺すための罠になっちゃったんですか？」
南條講師：「富沢さん。それは、AIの導き出した答えが、トポロジー最適化（構造の強度を保ちつつ、材料の無駄を極限まで省いて形状を決定する手法）という名の、単なる『統計的な賭け』に過ぎなかったからです。AIは、過去の膨大なデータから『壊れなかった形』を模倣しているだけで、重力がコンクリートの分子をどう引き裂くかという『論理的な必然性』を理解しているわけではない。かつての私は、その効率性に目を奪われ、バリデーション（妥当性確認：成果物が利用者の意図や目的に合っているかを検証すること）の重要性を説きながらも、その根底にある数学的な厳密さを疎かにしていました」 講堂の最前列で、みずきが冷めた瞳でタブレットを叩いていました。彼女の天才的な頭脳は、AIの設計図に潜む「論理の欠落」を既に特定していました。
みずき：「南條先生。あの大橋の設計データ、アイボゥに解析させたよ。AIは、特定のバウンダリ・コンディション（境界条件：解析やシミュレーションを行う際に設定する、周囲の環境や物理的な制約範囲のこと）では完璧だった。でも、潮風による腐食と微振動が重なったときの複合的な負荷は、AIの学習データの外側……つまり、エッジ・ケース（通常の運用範囲から外れた、極めて稀だが致命的な事態を招く境界領域）だったんだよね。今のエンジニアに求められているのは、AIの出した『最適解』を、数学的なモデル・チェッキング（モデル検査：システムのすべての状態を網羅的に探索し、論理的な誤りがないかを自動的に検証する手法）で焼き払うことなんじゃないの？」
南條講師：「その通りです、みずきさん。だからこそ、私たちは形式手法（フォーマル・メソッド：数学的な論理体系を用いて、ソフトウェアやハードウェアの仕様記述や検証を行う手法の総称）を、再建のインフラにおける『絶対の義務』としなければならないのです。AIが生成したコードや設計は、すべてが『汚染されている』という前提に立つ。そして、それが物理法則と矛盾しないことを、一つひとつの数式で証明していく。これをゼロ・トラスト・エンジニアリング（何も信頼せず、すべての設計プロセスを厳格に検証する工学的な姿勢）と呼びます」 講堂の隅で、監査官のタキが冷徹な手つきで通信ログを監視しながら、言葉を添えました。
タキ：「富沢さん。感情で橋を架けることはできません。私の管理するシステムでは、C2PA（情報の出所や加工履歴を証明する技術規格）によって署名された設計図であっても、それが形式検証を通過していない限り、クリティカル・パス（プロジェクトの完遂に不可欠な、遅延の許されない一連の重要工程）への投入は拒否します。数学的に証明できない『美しさ』は、情報の焦土においてはただの『脆弱性』に過ぎないんです」
千佐：「タキ……相変わらず厳しいね。でも、南條先生。数学で全部解決できるなら、人間はもういらないんじゃない？ AIが設計して、別のAIがそれを数学的に検証する。そこに『心』が入る余地なんて、どこにもないよ」
南條講師：「千佐さん。逆ですよ。AIに数学的な検証をさせても、その『前提条件』を決めるのは人間です。何を優先し、何を救うべきか。そのインテンショナリティ（指向性：意識が特定の対象に向かうこと。転じて、設計における人間の意図的な判断）だけは、AIには決して持てません。形式検証という鋭いメスを握り、ブラックボックスを切り裂いて『真実』を取り出す責任は、私たち人間にしか残されていないのです。かつての私は、その責任をAIに丸投げし、『わかりやすさ』という名の逃げ道を作ってしまった」 南條は黒板を消し、代わりに「セマンティック・整合性（意味論的な整合性：言葉や記号の並びだけでなく、その背後にある意味や論理が矛盾なく一致していること）」という言葉を書き、その下に「泥臭い数学」と記しました。
南條講師：「これから行う実習では、AIが生成した『一見完璧な自動運転アルゴリズム』を、皆さんの手で解体してもらいます。そこには、特定の状況下で論理が破綻するバックドア（特定の条件下で意図的に作動する、セキュリティ上の抜け穴や論理的な不具合）が仕込まれています。それを、シミュレーションではなく、数式による論理矛盾の指摘だけであぶり出してください。富沢さん。あなたには、AIが『安全だ』と言い張るコードの裏に潜む『嘘』を、論理の光で焼き切る感覚を掴んでもらいます」
富沢：「……はい。画面の中の『正解』を疑って、自分の頭で『絶対に正しい理由』を見つける。それが、橋の上で死んだ人たちへの、せめてもの償いだと思って、やります」 講義の最中、廊下から聞き慣れた重い足音が近づいてきました。扉が開き、亀田が少し照れくさそうに、大きな布に包まれた「古びた計算尺」を運んできました。
亀田：「南條先生、ごめんなさいね。お話の途中で。南條タクミさんから、『デジタルの計算が信じられないなら、このアナログな定規で論理の道筋をなぞれ』って、財団の倉庫に眠っていた、半世紀以上前の『計算尺（けいさんじゃく：目盛りが刻まれたスライド式の棒を用いて、掛け算や割り算などの複雑な計算を行うアナログ計算用具）』が届いたのよ。ほら、この使い込まれた木の感触。目盛りと目盛りを合わせるっていう、これ以上なく単純で、嘘のつけない『物理的な論理』だわ。ピョン様の国の古い宮殿を建てる時もね、最後はこういう一本の基準が、大きな建物を支えたのよ」 亀田が差し出した、飴色に輝く古い計算尺。学生たちが、恐る恐るその「数学的な実体」に触れます。
南條講師：「……亀田さん、ありがとうございます。皆さん、この目盛りを見てください。これはAIが生成したものではありません。物理法則を数学という言語で固定した、グラウンディング（言葉や理論を、現実の物理的事実に紐付けること）された知恵の結晶です。2026年のエンジニアにとって、最後に信じられるのは、こうした数学的な厳密さを伴った『手触りのある論理』だけなのです」 南條は、計算尺のカーソルを静かに合わせました。
南條講師：「第19章を終わります。次回、第20章では、この実証主義をさらに推し進めるリバース・エンジニアリングの義務化について。AIが隠した『物理的欠陥』を、完成品を分解し、構造を遡ることでいかに暴くのか。伊達さんとみずきさんが得意とする、情報の剥ぎ取りの技術を学びましょう」 講堂の外では、重機が瓦礫を掻く音と、止まない雨の音が混じり合っていました。情報の焦土を歩くための、重く、苦しい「論理の光」という名の鎧を、学生たちはそれぞれの胸の中に、計算尺の刻印のような確かな跡として整え始めていました。
