第5話 悪魔は技術評価AIのフリをしている（六）
代表は今度、半拍置いた。
「未選択候補そのものをすべて見せる設計ではありません。
ただし、本人開示については今後の検討項目です」
「削除要求が出た場合は、
未選択候補のログと、学習に反映済みの部分を分けて扱いますか」
「個人情報としての削除要求には対応します。
学習済みの統計モデルへの反映は、
別途ポリシーで整理しています」
その言い方は、法務的には普通なのだろう。
業務上は通る答えだからこそ、どこまで残るのかが見えにくい。
CVC室の担当者は、事業側の指標を示した。
「未選択候補は、製品改善に重要です。ユーザーが何を選ばなかったかは、次に何を出せば負担が減るかを示します」
負担が減る。
その言葉は、聞くたびに反論しにくくなった。
「たとえば研究テーマ選択では、候補を減らすことで、着手率が上がります」
代表が続ける。
「健康領域では、迷った末に何もしないことが一番危険です。
続けられる案を上に出すことは、ユーザーのためになります」
間違っていない。
健康支援の説明としては、筋が通っている。
筋が通っているほど、どこで判断が押されたのか見えにくくなる。
視界の端に、技術評価AIらしいカードが出た。
> 仮説候補：未選択候補を製品改善に使うほど、本人が後から確認できない提示順まで次回提示に反映される。
> 確認点：提示順ログを次回提示に反映する条件と、反映しない条件。
> 質問案：未選択候補を製品改善に使う場合、提示順ログを次回提示への反映から除外する条件を確認。
質問だけではない。
仮説まで整っている。
本来なら、ここで自分のメモ欄へ写し、違うと思う部分を削るはずだった。
それなのに、僕は口へ移す方を先に選んだ。
「未選択候補が製品改善に使われる場合、
提示順ログを次回提示への反映から除外する条件はありますか」
代表は、その質問で初めて眉を寄せた。
「除外、というのは」
「本人が後から確認した時、
検討に残したかった候補が下がっている場合です」
「消すというより、優先順位を下げます」
「本人からは、消えたように見える」
言いながら、自分の声が硬くなるのが分かった。
本人の画面では、どれも「見えなくなった候補」に見える。
でも、ログでは同じではない。
本人が閉じた候補。
AIが優先順位を下げた候補。
最初から表示されなかった候補。
そこまでは分かる。
でも、どの提示順を次回に反映してよくて、どの提示順を反映してはいけないのか。
そこを組み立てる前に、アゼルの仮説候補と質問案だけが会議室へ出ていた。
◇
デモの後半で、CVC室の担当者が初期検討の進め方を説明した。
画面に並んだのは、投資判断というより支援メニューに近い言葉だった。
検証費用。
法務支援。
大企業顧客との接点。
社内実証の場。
共同検証。
どれも、スタートアップが次へ進むには必要なものだった。
共同検証といっても、ここで本契約を結ぶわけではない。
MIRAI Technologiesの中で小さく試すため、先に条件をそろえる段階だ。
Lattice Mindの代表も、その説明にはうなずいた。
支援メニューとしては、説明し慣れた内容なのだ。
次の面談に進むなら、何を見せ、何を残すかという確認だった。
CVC室の担当者は、共同検証に進む場合の確認事項に移る。
画面の表は五行だけだった。
どのデータを使うか。
匿名化したログをどこまで残すか。
外部評価コメントを成果物に含めるか。
優先検討の期間を何日置くか。
窓口を誰に固定するか。
項目名は短い。
短いから、前へ進むための確認に見える。
でも、途中で止まった時ほど、その短さの中に何が含まれるのかを確かめにくくなる。
僕は、契約写しを思い出した。
『契約は読みましたが、見落としと写しが最新かを確認できていません。』
日曜の夜、そう書いた。
読んだ。
それでも、見落としているかもしれない。
写しが最新かも、僕だけでは確認できていない。
視界の端に、補足カードが出た。
> 確認対象：成功時の取り分ではなく、停止後のデータの行き先。
僕はその文を、すぐにはメモにしなかった。
メモにすれば、アゼルの言葉をそのまま借りることになる。
聞きたいのは、失敗した時に誰が悪いかではなく、止めた後も残る記録を次に誰が使えるのかだった。
僕は、技術評価の質問に置き換える。
「共同検証が途中で止まった場合、
残った記録のうち、モデル本体、評価ログ、
外部評価者のコメント、未選択候補の分析結果は、
どこまで利用範囲に入りますか」
今度は、誰もすぐには答えなかった。
CVC室の担当者は、表情を崩さなかった。
代表は、笑顔を保ったまま、早口になった。
