前編 人による確認が必要です
その申請だけ、三十一回戻ってきた。
理由は、毎回同じだ。
『人による確認が必要です』
それだけ。
何を確認すべきなのかは、システムログのどこを掘っても記されていなかった。
*
わたしの仕事は、人間が見なくていいものを増やすことだった。
三年前までは違った。
通販会社の後払い決済サービス。
商品を先に発送し、代金は後からコンビニや銀行で支払ってもらう。
申し込みが入るたび、氏名、住所、過去の購買歴、決済金額、支払い状況を人の目で照合する。
かつてはフロアを埋め尽くす数十人のオペレーターが、そのすべてを目視で確認していた。
今は、AIが瞬時に裁く。
デュアルモニターの左から右へ、申請データが無機質な帯となって流れていく。
承認。
承認。
承認。
保留。
却下。
承認。
一時間に何千件。
人間が目を通すのは、機械が白黒をつけられなかったわずかな端数だけだ。
社内では、それを「例外案件」と呼んでいた。
「藤沢さん」
低いパーテーションの隙間から、押し殺した声がした。
石井くんだ。
二十六歳。
わたしより十一歳若い。
「また来てます」
「何が?」
「三十一番」
指定された作業トレイを開く。
申請番号の末尾は、七〇四一。
氏名、
木戸美代子。
六十八歳。
利用金額、一万二千八百円。
購入品目は、電気ケトルと耐熱ガラスの保存容器だった。
転売が疑われるような高額商品ではない。
初回利用でもない。
過去に四回の利用実績がある。
いずれも期日内に全額が回収されていた。
住所の番地も同じ。
固定電話も携帯番号も変わっていない。
それなのに、システムは自動承認のゲートを頑なに閉ざし続けている。
『人による確認が必要です』
「昨日も見ましたよね」
「見たね」
「一昨日も」
「見た」
「その前も」
「うん。見た見た」
石井くんが周囲を伺いながら、乾いた笑いを漏らす。
「藤沢さん、専任担当になってません?」
「なってないよ。そんなの」
例外キューに担当制など存在しない。
手が空いた者が機械的に拾い、ステータスを更新したら処理完了。
次に同じ案件が戻ってきても、別の誰かが何食わぬ顔で処理する。
個人の判断や責任の所在を意図的に霧散させるための、合理的な仕組みだった。
「じゃ、今日ぼくが拾いましょうか」
「いいよ」
わたしはカーソルを滑らせ、七〇四一を自分のトレイへ引き込んだ。
「好きですね」
「何が」
「七〇四一」
「好きで見てるんじゃないよ」
ただ、薄気味悪かった。
三十一回。
同じ人間。
同じ金額。
同じ商品。
申し込んでは、戻る。
申し込んでは、戻る。
木戸美代子という老女が、三十一回も画面の前で注文ボタンを連打しているわけではない。
データベース上のトランザクションは一件だけだ。
現場の人間が確認して「問題なし」としてAIへ戻すと、数分後、機械が判定を覆してこちらへ押し戻してくる。
その不毛なキャッチボールが、もう三週間も続いていた。
最初に見たオペレーターは「問題なし」で再判定に回した。
二人目も。
三人目も。
誰も却下する理由を見つけられないのに、決して承認の許可は下りない。
わたしも昨日、
『問題なし』
をクリックした。
十分後。
何事もなかったかのように、それはキューへ戻ってきた。
『人による確認が必要です』
何かが引っかかっている。
機械だけが嗅ぎつけている、目に見えない綻び。
申請内容を改めて上から精査する。
木戸美代子。
六十八歳。女性。
住所、神宝町三丁目。
マンション名、部屋番号。
過去の取引実績、延滞ゼロ。
外部信用情報の事故履歴なし。
同一IPからの不審アクセスなし。
不審な点は、どこにもない。
「藤沢さん」
「うん」
「朝会、始まりますよ。前田さん、もう会議室入ってます」
九時半。
ガラス張りの会議室へ移動する。
課長の前田さんが、壁一面のモニターにダッシュボードを映し出していた。
「自動承認率、今月は九十二・六パーセント」
前月は九十一・八。
確実に上がっている。
「本部の必達目標は九十四です」
オペレーターの誰も口を開かない。
「例外処理の発生件数も順調に圧縮されています」
青い折れ線グラフが、綺麗な右肩下がりを描いていた。
三年前、一日約六千件あった手動確認。
今月は、一日平均千四百件を割り込んでいる。
「来期には、モデルのアップデートにより自動判定の対象範囲をさらに拡大します」
前田さんの声は滑らかで、一切の迷いがない。
「現在、現場が目視している例外案件のうち、およそ半数を自動判定に移行させる見通しです」
隣で、石井くんが唾を飲み込む音がした。
「それに伴い、本チームの業務体制についても適正化を進めます」
何人切られるのか。
誰も尋ねない。
尋ねたところで、人事は決定事項として冷淡に言い渡されるだけだ。
「今後は、マニュアルに沿った単純確認ではなく、機械の判断を補正できる『高度な判断力』を持った人材のみを配置することになります」
高度な判断。
この半年、上層部が好んで繰り返す標語だった。
何をもって高度とするのかは、一度も明文化されたことがない。
会議室を出るなり、石井くんが声を潜めて耳元に囁いてきた。
「半分削減ですって」
「うん」
「藤沢さんは、大丈夫そうですけどね」
「何が?」
「残るほうですよ」
「どうだろうね」
「だって、一番社歴長いじゃないですか。ベテランですし」
ベテラン。
かつては技能への敬意だった言葉が、今では「コストの高い人員」という整理対象の符牒にしか聞こえない。
機械にできない仕事だけが残され、機械ができる領域が増えるたびに、席が間引かれていく。
自席へ戻り、スリープを解除した。
七〇四一が、冷たい光を放って待っている。
*
昼休み。
デスクで冷めたサンドイッチを口に運びながら、木戸美代子の過去ログを遡った。
一件目、三年前の夏。
粉末洗剤の詰め替えセット。
二件目、二年前の秋。
婦人用ウォーキングシューズ。
三件目、去年の初夏。
卓上扇風機。
四件目、今年の四月。
綿のボックスシーツ。
どれも滞りなく代金が回収されている。
違和感があったのは、お届け先住所の履歴だった。
市区町村、番地、マンション名は完全に一致している。
だが、部屋番号だけが異なっていた。
三年前は、五〇二号室。
二年前も、五〇二号室。
去年は、三〇七号室。
今年の四月も、三〇七号室。
そして今回の申請も、三〇七号室。
同じ棟内で、階下の狭い部屋へ住み替える高齢者は珍しくない。
わたしは社内CRMのコンタクト履歴を展開した。
そこには、過去のオペレーターが残した短い業務メモがあった。
三年前――『架電にて本人確認完了。夫同席』
二年前――『架電にて本人確認完了。夫同席』
去年――『架電。娘様対応。本人口座からの引き落とし希望とのこと』
今年四月――『架電。娘様対応。本人は現在、別住所に滞在している場合ありとのこと』
指先がマウスの上で止まる。
別住所。
今回の申請フォームには、そんな記載はどこにもない。
請求先住所は三〇七号室。
配送先も三〇七号室。
春の通話録音ログを検索したが、すでに音声データは保存期間を過ぎて破棄されていた。
残されているのは、すでに退職したオペレーターの走り書きだけだ。
『本人より送付先について相談あり。現登録住所の維持を強く希望。郵便物の回収について家族内で調整中とのこと』
理由は書かれていない。
規定上、理由まで深掘りして記録する義務はないからだ。
七〇四一の審査詳細画面へ戻る。
ディープラーニングを用いた不正検知モデルのアルゴリズムは、現場の人間には開示されていない。
リバースエンジニアリングによる不正手口の流出を防ぐため、というのが本社の建前だった。
どの変数がスコアを押し下げているのか、ブラックボックスの内部を窺い知ることはできない。
ただ、画面の片隅に、参考パラメータが数行だけ吐き出されていた。
氏名突合:一致
電話番号有効性:確認済
過去決済実績:極めて良好
居住安定性スコア:【要確認】
そのフラグを、わたしは初めて視認した。
「石井くん」
「はい」
「これ、見たことある?」
画面を指差す。
「どれですか……ああ、居住安定性ですか」
「何を見て判定してるの?」
「住民票の異動データとか、配送業者の不在持ち戻り率じゃないですかね。外部の信用機関と裏で勝手にAPI連携してるって噂ですよ」
「でも、三〇七号室には住んでるはずでしょ」
「さあ。AIが『生活の実体がない』って踏んだんじゃないですか」
「生活の実体?」
石井くんがキーボードから手を離し、声を一段落とした。
「要するに、そこに本人がいないかもしれないってことです。夜逃げか、あるいは名義貸しか。分からないから、人間に丸投げされてるんですよ」
その通りだった。
AIが理解できないから、人間の画面にアラートが出る。
だが、投げられた人間側にも、判断の根拠は与えられていない。
「不気味ですね」
「え?」
「藤沢さん、ちょっと笑ってましたよ」
「……笑ってないよ。ちょっと、怖いだけ」
*
午後三時。
受電ランプが赤く点滅し、ヘッドセットから鋭いコール音が響いた。
外線が一本、わたしの端末へ直接ルーティングされてくる。
発信者番号は、七〇四一の登録番号だった。
『……もしもし』
掠れた、頼りなげな老女の声だった。
『すみません、あの、ネットでお買い物ができなくて……』
「後払い決済のサポート窓口でございます。木戸様でいらっしゃいますでしょうか」
『はい、木戸です。何回やっても、最後でお止めされてしまうんです』
「ご不便をおかけして申し訳ございません」
『前は、普通に使えていたんですけれど……何か、わたし、悪いことでもしましたでしょうか』
胸の奥を、冷たい針で突かれたような気がした。
「いえ、決してそのようなことはございません」
『お金は、ちゃんとお支払いしてきたつもりなんです。引き落としができなかったことも、一度もないと思うんですけれど……』
「はい、過去のご利用履歴はすべて正常にお支払いいただいております」
『じゃあ、どうして……』
息が詰まる。
機械があなたの生活実態を疑っているからだとは、口が裂けても言えない。
「恐れ入ります。ただいまご注文の審査状況について確認を行っております。少々お待ちいただけますでしょうか」
保留ボタンを押す。
悪いことなど、何一つしていない。
ただ、システムが彼女のパラメータを「低スコア」と判定しただけだ。
保留を解除する。
「木戸様、お待たせいたしました。安全な決済のため、いくつかご登録情報のご確認をさせていただいてもよろしいでしょうか」
『はい、何でも聞いてください』
生年月日。
連絡先電話番号。
すべて一致している。
マニュアルにはない問いが、喉元までせり上がってきた。
「木戸様、現在、神宝町三丁目のマンションには、普段通りお住まいでしょうか」
受話器の向こうで、呼吸の音が止まった。
『……今は』
「はい」
『娘の家に、置いてもらっているんです』
「左様でございますか」
『でも、三〇七号室を引き払ったわけじゃないんです。家財も全部そのままですし、週に一度は風を通しに戻っています』
「はい」
『帰るつもりなんです。本当は、あっちで暮らしたいんです』
声に、微かな切迫感が滲んでいた。
「承知いたしました」
『主人が、あそこで亡くなったものですから』
キーボードを打つ手が止まる。
『主人がいなくなって、急に一人になったら、夜が急に怖くなってしまって……。それで娘が、無理に連れていくものだから。でも、あそこは主人が残してくれた家なんです。だから、住所もなくしたくなくて』
点と点が、残酷なほど綺麗につながった。
居住安定性のスコア低下。
郵便受けに溜まるチラシ。配送業者の持ち戻り。別住所からの断片的なアクセス。
システムは、夫を亡くした老女が娘の家へ身を寄せながら、それでも思い出の詰まった自室を手放せずにいる痛切な事情を、「実体不明のゴースト住所」「貸倒れリスク」と解釈したのだ。
『あの……』
「はい」
『こういう暮らし方をしていると、もうお買い物はできないんでしょうか』
手元の画面を見る。
『人による確認が必要です』
その直下に配置された三つのボタン。
【承認】
【保留】
【却下】
「木戸様、恐れ入ります。もう少々お待ちいただけますでしょうか」
再び保留音を流し、立ち上がって前田課長の席へ向かった。
「前田さん、七〇四一の件ですが」
自席のモニターを指差す。
「手動で承認を通してよろしいでしょうか」
前田さんは椅子を回転させ、腕を組んで画面を覗き込んだ。
「AIの判定ステータスは?」
「判定不能による差し戻しです」
「なら保留だね」
「ご本人と通話がつながっています。身元も確認済みで、不審点はありません」
「でも、AIが弾き続けてるんだろ?」
「居住安定性のフラグです。夫と死別され、一時的に娘さんの家に身を寄せているだけです。部屋はそのまま維持されています」
前田さんの目が、値踏みするように細められた。
「それ、本人が電話口でそう主張しただけだよね?」
「……はい」
「客観的なエビデンスはないわけだ。なら通せないよ」
「過去四回、一度も延滞はありません」
「それは過去の話。AIが三十回以上もエラーを吐いてるってことは、何か別のリスク因子を拾ってる可能性がある」
「何のリスクですか」
「それが分からないから、例外案件なんだろう」
前田さんの口調には、悪意のかけらもない。ただ純粋に、組織の自己防衛としてそう告げている。
「もう一回、AIへ再判定で戻して」
「もう三十一回戻しています。木戸さんは今、電話の向こうで待たれているんです」
「一万二千円の電気ケトルとタッパーだろ」
前田さんは声を一段低くした。
「藤沢さん、来期の体制の話、聞いてたよね。もしこれを手動で通して、後から焦げ付いたらどうなると思う? 『AIの警告を無視して独断で通したオペレーター』の社員番号が、監査ログに一生残るんだよ。君、その責任を取れるの?」
喉の奥が乾ききった。
「保留にして、リスク管理チームにエスカレーションしといて」
「……いつまで保留にするんですか」
「AIのモデルが更新されるか、判定ロジックのエラーが解消されるまで」
通話タイマーは十二分を超えていた。
この通話を切れば、木戸美代子は自分がなぜ拒絶されたのかも知らされないまま、システムから静かに排除される。
席へ戻り、ヘッドセットの保留を解除した。
「木戸様、大変お待たせいたしました」
『どうでしたでしょうか……?』
マウスを握る。
画面上の三つの選択肢。
手動承認を押せば、わたしの社員IDが刻まれる。今期、半分が切られる。
人差し指がわずかに震えた。
わたしは、
【保留】
をクリックした。
「誠に申し訳ございません。現在、システムの確認に時間を要しておりまして、本日の決済はお受けすることができません」
『……そうですか』
電話の向こうで、小さく息を吸い込む気配がした。
『すみませんでした、お忙しいのに』
謝らなければならないのは、こちらのはずだった。
通話が切れる。
ツーツーという無機質な電子音だけが、耳の奥に残った。





