第七話 暗転
川崎工場の第三製造ラインが停止していた。
沢村美佐紀が現場に駆けつけたとき、すでに田所孝平が作業員たちと対策に追われていた。ライン周辺には緊張した空気が張り詰め、蛍光灯の白い光が無機質に降り注いでいた。
「何が起きたんですか」
沢村の問いに、田所は渋い顔で答えた。
「AIの品質管理システムが、製品の出荷を承認した。だがそのロットの中に、基準値を外れた製品が含まれていた。東翔エレクトロニクスに納入した精密研磨機五台のうち二台の研磨精度が規格外だ」
「AIが見逃した？」
「見逃した、というより──判断を誤った」
田所は作業台の上のモニターを示した。品質管理AIのログが表示されている。
「このロットの検査データを見てくれ。研磨精度の数値は、確かに基準値の範囲内に収まっている。AIはそれを見て合格と判断した。だが──」
田所はデータの一部を拡大した。
「温度センサーのデータに、微妙な異常がある。約0.3度の偏差だ。通常なら無視できる範囲だが、この特定の材料ロットでは、0.3度の温度差が研磨精度に影響する。佐藤さんなら手で触って分かったはずだ」
「佐藤さんは──」
「先週から体調不良で休んでいる。代わりにAIの判断に任せた。その結果がこれだ」
沢村は血の気が引くのを感じた。
「東翔エレクトロニクスでの被害は──」
「まだ分からん。だが、あの研磨機で加工されたウエハーに問題があれば、半導体の不良につながる。最悪の場合──」
「リコール」
「ああ」
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
その日の夕方、緊急の役員会が招集された。
会議室の空気は、前回の取締役会とは比べものにならないほど重かった。
「東翔エレクトロニクスの山田部長から連絡がありました」桐島が沈痛な表情で切り出した。「納入した研磨機で加工されたウエハーの一部に品質不良が確認されたとのことです。現在、影響範囲を調査中です」
「損害賠償の規模は」大前が即座に聞いた。
「まだ確定していませんが、最悪の場合、数十億円に達する可能性があります」藤堂が答えた。その声は平坦だったが、机の下で握りしめた拳が震えていた。
「原因はAIの品質管理システムですね」大前は沢村を見た。「八十億円のAIが、基本的な品質検査を見誤ったわけだ」
沢村は立ち上がった。
「責任はDX推進室にあります。品質管理AIの学習データに、材料ロットごとの温度感度の違いが十分に反映されていませんでした。これは──」
「いや、待ってくれ」
意外にも、声を上げたのは田所だった。
「責任はDX推進室だけにあるんじゃない。現場の判断として、佐藤さんが不在のまま、AIの判断だけで出荷を承認したのは俺だ。最終的な出荷判断は製造部の責任だ」
会議室に沈黙が落ちた。
田所が沢村を庇っている──その事実に、沢村自身が一番驚いていた。
「田所部長──」
「勘違いするな。庇ってるんじゃない。事実を言っている。AIはツールだ。ツールの出した結果を最終判断するのは人間の仕事だ。そのことを忘れて、AIに丸投げした。それが原因だ」
桐島は二人を見つめていた。
「今大事なのは、責任の所在を議論することではありません」桐島は言った。「東翔エレクトロニクスへの対応が最優先です。藤堂、法務と連携して、損害の範囲と対応策を至急まとめてくれ。田所さん、工場の該当ロットをすべて回収し、再検査を。沢村室長、品質管理AIの問題点を洗い出し、再発防止策を提示してください」
「社長」大前が手を挙げた。「その前に一つ、確認しておきたいことがあります」
「何でしょう」
「AI駆動経営プロジェクトの追加投資七十億円の件です。この状況で、投資を継続する理由がありますか」
桐島は答えなかった。答えられなかった。
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
深夜、沢村はDX推進室で一人、品質管理AIのログを精査していた。
劉がリモートで分析を続けてくれている。画面には、AIの判断プロセスが詳細に表示されていた。
「沢村さん、原因が特定できました」
劉の声がスピーカーから流れた。
「品質管理AIは、過去十年分の検査データを学習しています。しかし、今回問題になった材料ロットは新しいサプライヤーからのもので、従来の材料とは熱膨張係数が微妙に異なりました。AIの学習データにこの種の材料は含まれていなかった」
「つまり、AIは過去の経験にないパターンに遭遇した──」
「そうです。人間なら『何かおかしい』と直感的に気づく可能性がある。しかし、AIは学習データの範囲外のパターンに対して、過度に楽観的な判断を下すことがあります。これは『未知の未知』の問題です」
沢村は目を閉じた。
田所が最初から言っていたことだ。「データには現れない、職人の知恵がある」と。あの言葉は比喩ではなく、文字通りの真実だった。
「劉さん、再発防止策は？」
「技術的には、AIの判断に不確実性スコアを導入します。AIが『この判断には自信がない』と表明できるようにする。そして、不確実性が一定以上の場合は、人間の確認を必須にするフラグを立てます」
「AIに自分の限界を認めさせる、ということ？」
「はい。完璧なAIより、自分の弱さを知っているAIの方が安全です」
沢村はその言葉を、自分自身にも向けた。
完璧を目指した。AIがすべてを解決すると信じた──いや、信じたかった。だが、AIにも人間にも、限界がある。問題は限界があることではない。限界を無視することだ。
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
翌朝、沢村は桐島の元を訪ねた。
「社長、お時間をください」
「ああ、どうぞ」
桐島の顔は一晩で十歳老けたように見えた。
「原因と再発防止策がまとまりました。技術的な対応は劉が進めます。ですが──私からはもう一つ、提案があります」
「聞こう」
「東翔エレクトロニクスの山田部長に、直接会いに行かせてください。私と田所部長で。AIの問題を正直に説明し、再発防止策を提示し、そして──」
「そして？」
「お詫びをします。AIの判断ミスではなく、AIに任せきりにした人間の判断ミスとして」
桐島はしばらく考えた。
「田所さんは、了承しているのか」
「これから話します。でも──昨日の田所部長の態度を見て、断られないと思います」
「なぜ」
「田所部長は昨日、私を庇ったのではなく、ものづくりの人間として、品質問題の責任を自分のところに引き受けたんです。あの人は、AIを憎んでいるのではなく、品質を愛しているんです。──同じ方向を向いている人とは、一緒に謝りに行けます」
桐島は微かに笑った。久しぶりに見る笑顔だった。
「行ってきなさい」
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
その日の午後、沢村と田所は東翔エレクトロニクスに向かった。
車中、二人はほとんど口を利かなかった。だが、その沈黙には、半年前とはまったく違う質があった。
かつての沈黙は、相互の不理解と警戒から生まれたものだった。今の沈黙は、言葉を超えた理解──少なくとも、理解しようとする意志──の上に成り立っていた。
「沢村室長」田所が運転席から言った。
「はい」
「お前さん──あんた、このプロジェクトをどうするつもりだ」
「どうする、とは？」
「辞めるか、続けるか」
「続けます」沢村は即答した。「ただし、やり方を変えます」
「どう変える」
「AIに任せすぎていました。AIは人間の判断を補助するもので、代替するものじゃない。そのバランスを、一から見直します」
田所は前を向いたまま、小さく頷いた。
「……それなら、協力してやる」
それは、この半年間でもっとも重い一言だった。
