第5話 悪魔は技術評価AIのフリをしている（八）
それも事業側の確認としては筋が通っている。
使われない透明性は、ただの負荷になる。
負荷が増えれば、利用は減る。
利用されなければ、事業の根拠にもならない。
僕は、支援条件欄へ言葉が並ぶのを見ていた。
代表は「ユーザーの不安」と言う。
CVC室側は「利用率と離脱率」を支援条件欄へ足す。
ユーザーの負担。
事業継続。
監査。
ログ利用。
どれも一つだけなら悪くない。
表の中では、本人が後から確かめる導線が、最後の行に置かれていた。
僕は休憩中に書いた一行の下へ、短く足した。
> 理由を表示できても、提示順を後から再現できなければ監査できない。
弱い仮説だった。
でも、今度は自分のメモ欄に置いてから聞いた。
「候補提示順は、後から同じ条件で再現できますか」
代表は、すぐには答えなかった。
「再現、というのは」
「同じ利用者、同じ時点の状態で、
どの入力特徴量を使い、どのモデル版で、
どの候補を除外して、何を上に出したのかです。
表示順位と理由文を、一つの監査IDで追えますか」
会議室の空気が、少し変わった。
使いやすさの話から、作ったものを後でたどれるかの話へ移ったからだ。
代表は資料のページを戻し、監査ログの欄を開いた。
「推論時のモデル版と入力カテゴリは残します。
ただ、ユーザー向け理由文は別の説明生成を通します。
すべての特徴量をそのまま表示するわけではありません」
「理由文と、実際に順位を決めたスコアがずれた場合は」
「内部ログを正とします」
「その差分を、外部評価者が確認できますか」
代表は一度、口を閉じた。
悪い答えを隠した沈黙ではなかった。
その確認を、今の資料に用意していなかった沈黙だった。
「その差分確認は、現時点の共同検証案では未定です」
僕はメモ欄に、仮説の横へ小さく丸をつけた。
正解の丸ではない。
次に確認する項目が見えた、というだけの丸だった。
CVC室側も、手元の支援条件欄へ一行足した。
「導入条件に入れましょう。
共同検証に進むなら、提示順の再現ログ、
理由文と内部スコアの差分、
未選択候補を除外した条件を確認できること」
代表は、反論しなかった。
むしろ、少しだけ顔つきが技術の方へ戻った。
「そこは、技術チームと詰めます」
そこで初めて、僕はもう一度手を挙げた。
「詳細理由画面を標準では閉じる設定は、誰が決めますか」
代表は答えようとして、事業開発側の担当者を見た。
担当者は資料のページを一つ戻す。
「法人契約では、管理者設定です」
「個人契約では」
「現時点では、標準表示は簡易理由画面です。詳細理由画面は設定から開く想定です」
「設定にたどり着けない人ほど、提示順の影響を受けませんか」
代表の眉が寄った。
反論の声は出なかった。
代表は資料の初期設定欄へ目を戻した。
「初期設定は、検討します」
担当者は、さっきの支援条件欄に追記した。
「詳細理由画面への到達性も、導入条件に入れます。
標準設定のまま、利用者が迷わず確認できること。
そこが曖昧なままでは、利用率だけを見ても判断できません」
僕はうなずいた。
何かを止めた感触はなかった。
支援条件の表に項目が二つ増えただけだ。
不正な相手を止めたのではない。
普通の支援が、候補の出し方まで扱う。
木曜深夜の閉じた評価環境。
金曜から土曜の業務支援。
土曜の生活用AI。
日曜の十円玉の接触面。
全部が同じではない。
でも、どれも人が選ぶ前に、最初に見る画面や確認する順番を変えうる。
僕は、その一点だけをメモ欄に残した。
質疑が終わると、会議室前の案内表示が終了に切り替わった。
切り替わったことは、壁の表示で分かる。
胸のざわつきまで消えたわけではない。
カナメの作業欄に残るのは、外部評価として必要な範囲だけだった。
> 本日外部評価ログ：質問、回答要旨
> 事前共有デモ概要：参照のみ
カナメは、許可された範囲を処理して終える。
アゼルは、そこから僕にだけ次の問いを渡してくる。
代表は帰り際、僕に礼を言った。
「厳しい質問でしたが、必要な観点でした」
代表は一瞬だけ口元を結んだ。
それでも反論はせず、資料の余白へ短く書き込んだ。
その場で丸め込むより、持ち帰る項目にした。
「本人開示は、後回しにしない方がいいと思います」
僕は言った。
代表はかすかに笑った。
「はい。今日の質問は持ち帰ります」
持ち帰る、という言葉だけが耳に残った。
代表のメモに入った時点で、僕の質問は改善項目か支援条件になる。
評価者の言葉も、次の画面を変える材料になりうる。
CVC室の担当者は、会議室を出る前、僕と牧野へ向き直った。
古賀マネージャーのメールで名前は見た。
顔を合わせるのは今日が初めてだった。
