第26話 最初の技術者 Part3 決めた人
技術者が次の資料を開いた。
《行政予測運用基準》
《改訂履歴》
現在使われている版ではなかった。
画面の上に、
《制度導入期資料》
と表示されている。
「少し古い資料です」
技術者が言った。
「現行基準の考え方を説明するために、必要な範囲だけ共有します」
悠真は一覧を見る。
版番号。
改訂日。
変更項目。
十年以上分の記録が並んでいる。
最初の数行は簡単だった。
《予測結果の行政利用条件を制定》
《本人通知の基本形式を制定》
《再評価手順を追加》
《異議申立て時の再計算手順を追加》
そこから少し下。
《説明可能性基準を制定》
悠真がその項目を開いた。
《行政判断に利用する予測について、主要な寄与要因を人間が確認可能であること》
《説明可能性が基準を満たさない場合、行政利用を保留する》
短い。
例外についての記載はなかった。
「最初は、なかったんですね」
悠真が言った。
「何がです？」
「例外」
「はい」
技術者は答えた。
「初期版にはありませんでした」
「説明できなかったら使わない」
「そうです」
「シンプルですね」
「作る側としては、その方が扱いやすかったです」
技術者が少し笑った。
「責任の線も分かりやすい」
悠真は画面を見る。
《説明可能性基準を満たさない場合》
《行政利用を保留する》
「この頃から関わってたんですか？」
悠真が訊いた。
技術者は一度だけ頷いた。
「予測運用基盤の方にいました」
「Nexus-21の？」
「その前身を含めてです」
ミライ庁の担当者が補足する。
「モデルそのものの開発担当ではありません。行政システムとの接続と、運用条件の設計を担当した技術者です」
「じゃあ、使い方を作った？」
悠真が訊く。
技術者は少し考える。
「一人で作ったわけではありません」
「もちろん」
「法律の人もいましたし、行政職員も、医療や福祉の担当者もいました。私たちは、技術的に何が確認できるかを出していただけです」
「説明できないものは使えないって決めたのも？」
「それも、技術だけの判断ではありません」
画面が次へ進む。
数年後の改訂。
《例外運用条項 追加》
悠真はそこを開いた。
現在見たものより、文章が長い。
《説明可能性基準を満たさない予測であっても、重大な不利益発生の可能性が高く、判断保留による不利益が予測利用による不利益を上回ると行政責任者が判断した場合、限定的な暫定利用を認める》
《適用範囲を明記する》
《本人の法的権利および選択可能性を維持する》
《再評価期限を設ける》
《継続には再承認を必要とする》
現在と同じ形だった。
「何で変えたんです？」
悠真が訊いた。
技術者はすぐには答えなかった。
古い資料をもう一枚開く。
《改訂検討資料》
《運用上の課題》
《予測精度は高いが、説明生成が基準を満たさない事例が存在》
《行政利用を完全保留した場合、早期支援機会を失う可能性》
《誤予測による介入リスクと、未対応による不利益を比較する必要》
「予測は当たる。でも説明できない」
悠真が言った。
「そういう事例が出始めました」
「それで使えるようにした」
「限定的に、です」
技術者は言った。
「当時もかなり議論になりました」
「何が？」
「説明できないものを行政が使っていいのか」
「今も同じじゃないですか」
技術者が少し笑った。
「そうですね」
画面には、当時の検討項目が並ぶ。
《利用しないことで発生する責任》
《利用することで発生する責任》
《本人への情報提供》
《予測と行政判断の分離》
《期限付き運用》
《事後検証》
「技術側では、反対もあったんですか？」
悠真が訊いた。
「ありました」
「あなたは？」
少し間があった。
基盤運用統括室の担当者が画面を見る。
ミライ庁の担当者も何も言わない。
技術者が答えた。
「私は、条件付きなら必要だと思っていました」
「使う方？」
「はい」
「説明できなくても？」
「説明できないこと自体を説明する。その上で、できることだけ先にやる」
悠真は画面を見る。
「今の仕組みですね」
「だいたいは」
「後悔してます？」
技術者が少し眉を上げた。
「大きい質問ですね」
「すみません」
「いえ」
技術者は少し考えた。
「今でも、条項そのものが間違っていたとは思っていません」
答えははっきりしていた。
「例えば、支援を出せば防げたかもしれないことを、説明文が完成していないという理由だけで何もしない。それも判断です」
「使わないのも判断」
「はい」
「何もしない方が中立じゃない」
「そう考えました」
悠真は頷いた。
理解できる。
予測が間違っているかもしれない。
だから使わない。
その結果、予測していた問題が本当に起きるかもしれない。
どちらを選んでも、何かを選んでいる。
「だから、人間が決めるようにした？」
「そこは最初からです」
技術者が答えた。
「モデルには責任を取れませんから」
「責任？」
「行政として、どの不確実性を受け入れるかを決める責任です」
画面に古い設計原則が表示される。
《Prediction is not Decision》
《予測は決定ではない》
悠真はその英語を見る。
その下には日本語もあった。
《予測結果は行政判断の材料であり、行政判断そのものではない》
第一話から何度も見てきた仕組みだった。
AIが候補を出す。
人間が確認する。
本人が選ぶ。
「今も変わってない」
悠真が言った。
「変えていません」
技術者が答える。
「変えられなかった、でもあります」
「どういう意味です？」
「予測が高度になるほど、全部を理解してから使うことは難しくなる」
「でも使わないわけにもいかない」
「そう判断した分野が増えました」
「それで確認する人が増えた？」
「役割を分けました」
技術。
行政。
本人。
外部組織。
監査。
それぞれが、自分の範囲だけを見る。
誰か一人が全部理解してから押す仕組みではない。
悠真は今まで見てきた資料を思い出す必要はなかった。
画面自体が、その構造を示していた。
《技術確認》
《行政判断》
《本人選択》
《実施》
《事後監査》
「これ、全部通ったら正しいことになるんですか？」
悠真が訊いた。
技術者は首を横に振った。
「なりません」
答えは早かった。
「手続きが正しく行われた、というだけです」
「予測が正しかったかとは別」
「はい」
「行政判断が良かったかとも？」
「別です」
「本人が選んだから正しい、ともならない」
「なりません」
悠真は画面を見た。
技術者が続ける。
「だから記録を残します」
「後から見るため」
「はい」
「間違ってたら直す」
「直せるものは」
その言葉で、悠真は顔を上げた。
「直せないものもある」
「あります」
技術者は特別な調子では言わなかった。
「制度の記録は戻せます。支援内容も変更できます。区分も再評価できます」
「でも生活は」
「その時点から続きます」
Part2で聞いたことと同じだった。
＊
画面が現行基準へ戻る。
《Case-04》
《例外運用 継続》
《更新回数 六回》
《次回再評価 七月二十五日》
技術者が言う。
「ここまでで、例外運用の仕組みについては説明できたと思います」
悠真は一度頷いた。
「一つだけ」
「はい」
「六回って、多いんですか？」
技術者は答えなかった。
代わりに画面を操作する。
《例外運用統計》
《現行制度》
《個別事例詳細 非表示》
集計だけが出る。
《例外運用適用事例》
《初回再評価までに終了 多数》
《第二回再評価までに通常運用へ移行 多数》
《三回以上継続 少数》
具体的な件数は出ていない。
「少数」
悠真が言った。
「はい」
「六回は？」
「長い方です」
「最長？」
「それは今日の資料にはありません」
「Case-04が特別長い？」
「比較できる表示がありません」
技術者はそこを曖昧にしなかった。
「ただ、六回継続しているという事実は、そのままです」
悠真は画面を見る。
四月十八日。
五月二日。
五月十六日。
五月三十日。
六月十三日。
六月二十七日。
七月十一日。
同じ予測。
同じ再計算。
説明可能性は基準未達。
それでも、毎回継続判断が行われている。
「毎回、人が承認してるんですよね」
悠真が訊いた。
ミライ庁の担当者が答えた。
「はい」
「同じ人？」
「確認できる範囲が必要ですか？」
「いや」
悠真は少し考える。
「仕組みとして」
「単一の個人が自動的に更新しているわけではありません」
「責任者の承認がある」
「あります」
「六回全部？」
「あります」
悠真はそこで黙った。
AIが勝手に続けているわけではない。
期限が来る。
再計算する。
説明を試す。
状況を見る。
そのたびに、人が継続を認める。
「誰かが、毎回これでいいって決めてる」
悠真が言った。
ミライ庁の担当者が少しだけ言葉を選ぶ。
「継続条件を満たすと判断しています」
「同じ意味じゃないですか」
「近いですが、判断対象は本人の人生全体ではありません」
「例外運用を続けるかどうか」
「はい」
技術者が口を挟む。
「そこは大事です」
悠真が見る。
「誰も『この人の未来はこれで正しい』とは承認していません」
「でも支援は続く」
「行政として、現時点で限定支援を続けることを承認している」
「違う？」
「違います」
技術者は言った。
「少なくとも、制度上は」
悠真はそれ以上訊かなかった。
＊
予定していた四十五分を、九分過ぎていた。
最後に確認画面が出る。
《本日の説明》
《Explainable》
《Reversible》
《例外運用》
《更新手順》
《責任分界》
すべてに、
《確認済み》
が付いている。
《追加照会》
《なし》
《後で確認》
悠真は《なし》を押しかけて、止めた。
「制度導入期の改訂資料って、あとで見られます？」
技術者が答える。
「公開範囲のものなら」
「今日のやつ」
「会議資料に添付します」
「ありがとうございます」
《会議資料を保存》
を押す。
《担当業務資料へ保存しました》
技術者が言う。
「では、私はここで失礼します」
「ありがとうございました」
「こちらこそ」
画面が一つ消える。
六十代の技術者がいなくなり、残ったのは基盤運用統括室とミライ庁の担当者だけだった。
「佐伯さん」
統括室の担当者が言う。
「設備側として追加確認はありますか？」
「ありません」
「では本件は完了にします」
《技術照会》
《完了》
悠真は《確認》を押した。
接続が切れる。
自席の通常画面へ戻った。
十二時を少し過ぎていた。
岸本が横から訊く。
「長かったですね」
「九分オーバー」
「面白かった？」
「研修に面白いも何もないだろ」
「じゃあ眠かった？」
「それでもない」
「珍しい」
悠真は保存された会議資料を見る。
《行政予測運用基準》
《制度導入期資料》
その下に、
《例外運用条項 追加》
がある。
さらに、今回のCase-04。
《更新回数 六回》
岸本が言う。
「昼どうします？」
悠真は時計を見る。
「行く」
「今日はちゃんと行くんですね」
「昨日じゃないだろ」
「前回です」
「細かいな」
悠真は端末を閉じた。
立ち上がる。
その直前、保存された会議資料に一件だけ新しい関連資料が追加された。
《例外運用》
《行政継続判断記録》
《閲覧条件 担当範囲確認》
悠真は一度だけ見た。
開かなかった。
画面を閉じる。
第26話 完
