後編 最後に、人が見る
翌朝。
出社して端末にログインすると、未処理トレイの一番上に、見慣れた数字があった。
七〇四一。
『人による確認が必要です』
三十二回目。
木戸美代子。
六十八歳。
一万二千八百円。
電気ケトル、保存容器。
「藤沢さん」
横から石井くんが画面を覗き込んできた。
「まだその案件、見てるんですか？」
「……また戻ってきた」
「もういいんじゃないですか。昨日保留にしたんなら、放置しときましょうよ。どうせシステムのエラーか何かのバグですよ」
「放置したら、この人はずっと買い物ができないままだよ」
「でも、藤沢さんが個人の首を賭けて抱え込むような仕事じゃないですよ」
石井くんの言葉は、組織人として百パーセント正しかった。
誰の持ち案件でもない。
個別の顧客に感情移入することは、このセンターでは明確な規律違反とみなされる。
処理履歴のログを開いた。
三十二行にわたる処理ログ。
そこには、十五人の同僚たちの名前が並んでいた。
問題なし（再判定）。
問題なし（再判定）。
保留。
問題なし（再判定）。
保留。
誰も間違ったオペレーションはしていない。
ただ、誰も「自分が責任を持って決める」ことを拒み、右から左へとデータを流し続けていただけだ。
＊
午前十時。
社内内線で、リスク統括部のシステムアーキテクトに繋いだ。
「審査AIが特定案件を差し戻し続ける理由について、詳細パラメータを開示してもらえませんか」
『開示はできません』
受話器から返ってきたのは、予想通りの冷淡な声だった。
「どうしてですか。現場が目視確認するにも、何を検証すべきか分からない状態です」
『機械学習モデルの特徴量の重み付けは多次元に及ぶため、単一の因果関係として説明できる性質のものではありません。それに、モデルの機密保持規定に抵触します』
「社内のオペレーターに対しても？」
『社内であっても例外はありません。ブラックボックスであること自体が、セキュリティの担保ですので』
「じゃあ、わたしたちは何を確認すればいいんですか」
『UI上に表示されている所定の確認項目をチェックしてください』
「全部確認しました。不正の兆候はありません」
『であれば、再判定処理をかけてください』
「それを三十二回繰り返して、三十二回とも跳ね返されているんです」
電話の向こうが、わずかに沈黙した。
『……三十二回？』
「はい。同一の申請です」
受話器の奥で、衣擦れの音がした。
『手動での強制承認権限、お持ちですよね』
「持っています」
『なら、現場の業務判断で承認してください』
乾いた笑いが喉元まで出かけた。
「業務判断？」
『ええ』
「AIが三十二回弾いた理由も分からないのに、現場が勝手に通していいんですか」
『アルゴリズムが拾えない定性的な文脈を補完するために、人間のオペレーターを配置しているんです。最終判断を人間に委ねる――それがこのシステムの基本設計ですから』
通話を終え、受話器を置く。
最後は人間が決める。
それは温かみのある救済措置などではない。
機械が責任を回避するために残された、ただの「責任の押しつけ先」だった。
＊
午後一番の定例ミーティングで、前田課長が人員整理の具体案を切り出した。
「来期における本課の人員体制について、経営企画より正式な通達がありました。現在の十名体制から、六名体制へと再編されます」
会議室の空気が一気に凍りつく。
四人が溢れる。
石井くんが青ざめた顔で視線を落とした。
「残る六名には、これまでのようなマニュアル準拠のオペレーションではなく、より高度な判断業務にシフトしてもらいます」
わたしは手を挙げた。
「前田さん」
「何かな、藤沢さん」
「その『高度な判断』の基準を教えてください」
課長は怪訝そうに首を傾げた。
「規定に則った、リスクの総合的な判断だよ」
「規定通りに処理できないから、例外案件として残っているはずです。規定にないケースは、誰がどう判断するんですか」
「それは、ケースバイケースで……チームとして協議の上でだね」
「昨日の木戸美代子さんの申請は、誰が判断するんですか」
前田さんの口が止まった。
周囲の同僚たちが、息を潜めてわたしたちを見つめている。
「あれは、保留で調査中だろう」
「システム部に確認しました。判定理由は開示されません。原因の究明は不可能です。その上で『最後は現場の業務判断で承認しろ』と言われました」
会議室に重苦しい沈黙が広がる。
「前田さん。現場の誰が、首をかけてその承認ボタンを押すんですか」
前田さんは顔をしかめ、指先で眉間を強く揉んだ。
「……藤沢さんは、どうすべきだと思うわけ？」
まさか、その問いが自分に返ってくるとは思わなかった。
「承認すべきです」
「理由は」
「本人確認完了。過去の支払い事故ゼロ。不正の蓋然性なし。住所の不一致は、夫の死に伴う一時的な生活環境の変化によるものと確認が取れています」
「貸倒れのリスクは？」
「ゼロではありません」
「なら、通せないよ。会社の損失になる可能性がある以上、リスクのある案件を弾くのが我々の役目だ」
「リスクがゼロじゃないから承認できないなら」
わたしは前田さんの目を真っ直ぐに見据えた。
「ここに人間がいる意味、ないじゃないですか」
誰も何も言わなかった。
壁の掛け時計の秒針が進む音だけが、やけに大きく響いていた。
＊
自席へ戻る。
七〇四一を開く。
三十二回の往復履歴。
カーソルを【承認】のボタンの上へ乗せる。
これをクリックすれば、監査ログにわたしの個人名が半永久的に残る。
手動承認実行者：藤沢真紀。
もし木戸美代子がこの一万二千八百円を踏み倒せば、来期のリストラ要員リストの筆頭にわたしの名前が載るだろう。
波風を立てず、保留を押してキューから流してしまえば、誰からも責められない。
それが、この会社で生き残るための「正解」だった。
「藤沢さん」
隣で、石井くんが震える声を出した。
「本当に、押すんですか」
「……」
「保留にしとけば、誰も藤沢さんを責めませんよ。でも、承認してもし焦げ付いたら、全部藤沢さんのせいにされます」
「知ってる」
「じゃあ、なんで……」
「石井くん」
「はい」
「このおばあさん、何か悪いことした？」
石井くんはディスプレイの数字を見つめ、唇を噛んだ。
「……してないです」
「だよね」
カチリ、とマウスをクリックした。
【承認】
画面が白転し、砂時計のアイコンが回る。
わずか二秒。
『ステータスを【承認済】へ更新しました』
ダイアログが消えると、七〇四一はトレイから跡形もなく消滅した。
三十一回戻ってきた案件が、呆気なく消えた。
フロアに警報が鳴り響くこともなければ、エラーログが赤く光ることもない。
何事もなかったかのように、次の例外案件が一つ繰り上がってきただけだった。
＊
三日後。
社内チャットに、コンプライアンス監査部からの呼び出し通知が入った。
地下二階。空調の唸りだけが低く響く、窓のない小さな会議室だった。
長机の中央には、黒いICレコーダーが置かれている。赤い録音ランプが、一定の間隔で小さく瞬いていた。
向かいには、濃紺のスーツを着た監査員が二人、隙のない姿勢で腰掛けている。
「藤沢さん。あなたの職責は、規則を逸脱した善意を発揮することではありません」
若い方の監査員が、薄型ノートPCのキートップをパチパチと無機質に叩きながら口を開いた。視線はディスプレイに向けられたままだ。
「申請番号七〇四一。AI審査モデルが三十二回にわたりリジェクトを推奨した案件を、あなたは単独で手動オーバーライドした。これはシステム監査上、極めて異例のログです」
「電話による直接の本人確認、および過去四年間の正常な決済履歴に基づき承認しました」
わたしは膝の上で両手を揃え、呼吸を整えて答えた。
「生活実態の希薄化による貸倒れリスクを、AIは継続して警告していたはずです」
「夫との死別に伴う一時的な娘宅への滞在です。生活困窮による夜逃げや詐欺の類ではないと判断しました」
「それを、あなたの主観以外でどう証明しますか？」
年配の監査員が身を乗り出し、机の上に置かれたログの束を指先で弾いた。
「昨今、高齢者の名義を買い取り、配送先や居住実態を曖昧にして商品を詐取する組織犯罪が多発しています。居住安定性スコアの急落は、その典型的な前兆パターンだ。AIはそれを検知して警告を出していた」
「木戸様は過去四回、すべて期日通りに支払っています。買おうとしていたのも、電気ケトルと保存容器です。転売目的の品とは思えません」
「少額決済を積み重ねて信用枠を広げ、最後に回収不能に陥らせる『育成型』の手口もあります」
若い監査員の乾いた声が、冷たい壁に跳ね返る。
「客観的な事実として残っているのは、AIが三十回以上危険を知らせていた案件を、あなたが一人の裁量で強引に通したというログだけです。――外部の不正グループと内通して、審査枠を意図的に融通したと疑われても弁明できませんよ」
背中を冷たい汗が伝った。
ただの一万二千八百円の決済が、社内査問の論理に呑み込まれ、底知れない背任の構図へと仕立て上げられていく。
「わたしは不正などしていません」
「誰もあなたを犯人だと決めつけてはいませんよ」
年配の男が、眼鏡のブリッジを押し上げながら低く囁いた。その目には敵意も怒りもなく、ただマニュアル通りに不要な部品を処分するような、乾ききった事務処理の光だけが宿っていた。
「ただ、来期の人員再編について耳に入っているはずです。席は六つに減る。その削減枠に、自らルールを破ってリスクを背負い込むオペレーターの名前が入っていないとでも思っていますか」
喉の奥が引きつるように張りついた。
冷房の冷気が、足元からじわじわと這い上がってくる。
正しい手順を踏んだはずなのに、この密室の中では、自分が重大な罪を犯したかのような錯覚に追い込まれていく。
わたしは深く息を吸い込み、レコーダーの赤いランプをまっすぐに見つめ返した。
「リスクがないと断定したわけではありません。ですが、人生の不幸によって一時的に生活環境が変わったというだけの理由で、利用者を排除する正当な基準は、当社の利用規約のどこにも存在しません」
若い男のタイピングの音が、ぴたりと止まった。
「……記録に残します」
「お願いします」
席を立った。
ドアを開けて廊下へ出ても、背中に貼りついた氷のような視線は消えなかった。
＊
一週間後。
木戸美代子の決済ステータスが更新された。
コンビニエンスストアにて入金完了。
支払期日より四日早い完済だった。
画面に残ったのは、鮮やかなグリーンの『決済完了』の文字だけだ。
届いた電気ケトルで湯を沸かしたのか。
保存容器に残り物を詰めて、仏壇に供えたのか。
彼女が今、三〇七号室にいるのか、娘の家で小さくなっているのか。
システムは何も語らないし、知る由もない。
「藤沢さん」
モニターを見ていた石井くんが、小さく息を吐いた。
「払われましたね」
「うん」
「よかったですね。これで藤沢さんの判断が正しかったって証明されましたよ」
「違うよ」
「え？」
「期日通りに払われたから、わたしの判断が正解だったわけじゃない」
「どういうことですか」
少し考えた。
「もし彼女が支払えなかったとしても、あのとき承認を押したこと自体は、間違っていなかったと思う」
「……分かりませんよ、そんなの。査問まで呼び出されて、首が飛ぶかもしれなかったのに」
「そうだね。わたしにも、よく分からない」
ただ一つ言えるのは、人間が引き受けるべき責任とは、そういう割り切れない場所にしか存在しないということだった。
＊
月末。
チーム内に一枚の業務連絡シートが配布された。
『審査例外案件における手動処理新設基準』
・AIが同一案件を一定回数以上リジェクトした場合、システムエラーの可能性を考慮し、チームリーダーによる確認プロセスへ移行する。
・本人確認が完了し、明確な規約違反が認められない場合、オペレーターの裁量による最終承認を認める。
・承認に際しては、判断理由のログ入力を必須とする。
わずか数行の箇条書き。
デスクの島へやってきた前田課長が、わたしの椅子の背もたれに手を置いた。
「七〇四一の件、監査やリスク統括部とも協議して、正式にルール化したから」
「ありがとうございます」
「藤沢さん、来期の体制のことだけどね」
周囲に聞こえないよう、課長が声を極端に落とした。
「まだ確定じゃないから、変な期待はしないでほしいんだけど」
「はい」
「高度な判断力って、要するに君がやったようなことなんだろうね。機械のケツを拭く覚悟があるかどうかだ」
課長は力なく笑った。わたしは笑わなかった。
「前田さん」
「ん？」
「判断した現場の人間が、首を切られない仕組みも一緒に作ってください」
課長の笑顔がぴたりと引きつり、数秒の沈黙が落ちた。
「……厳しいこと言うなあ」
「機械じゃなくて、人間に判断させるんですよね」
見つめ返すと、前田課長は困り果てたように両手を軽く上げた。
「善処するよ」
＊
翌朝、九時二十一分。
トレイの右下に、警告色のバッジが灯った。
AI判定、アラート。
カーソルを合わせ、展開する。
見知らぬ若い男性の氏名。
申請金額、三千九百円。
過去の取引実績なし。
現住所と配送先住所に軽微な差異あり。
そして、判定理由の欄には、あの無機質な文字列が張り付いている。
『人による確認が必要です』
「また来ましたね」
石井くんがパーテーションの隙間から覗き込んできた。
「来ちゃいましたね。どうします？」
わたしは画面のテキストを一行ずつ目で追った。
名前。
住所。
購入品目は、就職活動用と思われるビジネス手帳と、安価な万年筆だった。
どんな事情があるのか、データだけではまだ何も分からない。
「見るよ」
「AIに差し戻しますか？」
「ううん」
深く腰掛け直し、椅子を机の奥へ引き寄せた。
「わたしが見る」
受話器を取り上げ、確認のための外線番号をプッシュした。
最後までお読みいただき、ありがとうございました。
