第五章 正しさ
役所の職員は、AIを便利な道具として使い始めていた。
ただし、使い方には徹底していた。
AIが作成した文章は必ず確認する。
提示された資料には目を通す。
根拠のない情報は採用しない。
少しでも疑問があれば、回答をそのまま通すことはない。
それは、これまでの仕事と何も変わらなかった。
「正しいものを、正しく処理する」
それが彼の仕事に対する考え方だった。
AIは、そのための道具にすぎない。
そう思っていた。
ある日、後輩が作成した書類を確認していた。
職員「ここ、もう一度確認して」
後輩「何か間違ってますか？」
職員「間違っているとは言ってない。根拠が弱い」
後輩「でも、前の案件ではこれで通ってましたよ」
職員「前がどうだったかは関係ない。今回の根拠になるかどうかだ」
後輩「……分かりました」
後輩が書類を持って戻っていく。
職員は画面を見つめた。
以前なら、自分で関連する資料を探していた。
だが今は、AIに資料の所在を尋ねることができる。
『この判断の根拠となる規定、過去の事例、関連資料を整理してください』
AIが回答を返す。
規定。
過去の事例。
関連する通知。
それぞれが整理されている。
職員は一つずつ確認していった。
間違いはない。
むしろ、自分で探すより確実だった。
「……便利だな」
そう呟いた。
それから、彼はAIを使うことに慣れていった。
しかし、他の職員とは少し違った。
AIが出した答えを鵜呑みにすることはない。
必ず確認する。
根拠がなければ採用しない。
曖昧な回答なら、追加で質問する。
だからこそ、彼は自分がAIに影響されることなどないと思っていた。
ある日。
上司から一つの案件を任された。
上司「この件、前例も少ない。どう処理する？」
職員「確認します」
資料を集める。
過去の事例を調べる。
関連する規定を確認する。
そしてAIにも情報を整理させる。
数分後。
画面には、複数の対応方法が表示された。
その中に、一つだけ気になるものがあった。
最もリスクが少なく、
最も公平で、
最も説明責任を果たしやすい方法。
職員は、その案を採用した。
何も問題はない。
むしろ、自分が普段から大切にしている考え方に最も合っていた。
それから数日後。
別の案件が持ち込まれた。
今度は、少し事情が違った。
過去の慣例では処理できる。
しかし、現在の状況を考えると別の対応も可能だった。
職員はAIに整理させる。
すると、また同じ傾向の回答が出た。
公平性。
透明性。
説明責任。
リスクの最小化。
どれも間違ってはいない。
職員は、その案を選んだ。
さらに別の案件。
また別の案件。
AIは、彼が重要だと考える基準を正確に拾い上げていた。
公平であること。
曖昧にしないこと。
誰に対しても同じ基準で対応すること。
後から説明できること。
彼はAIの回答に納得していた。
当然だった。
AIが示す答えは、
自分が長年大切にしてきた価値観と一致している。
だから、疑う理由がない。
ある日、後輩が彼に尋ねた。
後輩「この案件、もう少し柔軟に対応してもいいんじゃないですか？」
職員「駄目だ」
後輩「でも、今回だけなら……」
職員「今回だけを認めたら、次も同じことになる」
後輩「……」
職員「規則は誰に対しても同じだ。相手によって変えるものじゃない」
後輩「分かりました」
後輩は引き下がった。
職員は、自分が正しいと思っていた。
実際、間違ってはいない。
ただ――
以前の彼なら、
そこまで厳格に線を引かなかったかもしれない。
事情を聞いた上で、
「今回はこういう理由だから例外として認められないか」
と考えたかもしれない。
だが今は違う。
例外を認めることによって生じるリスク。
公平性の問題。
前例化する可能性。
説明責任。
それらを考えると、
例外を認めないほうが合理的だった。
そしてAIも、
同じ結論を示していた。
だから彼は確信した。
自分の判断は正しい。
AIの判断も正しい。
ならば、問題はない。
少しずつ。
彼の中にあった「正しさ」の基準が、
以前とは変わり始めていた。
しかし本人は、その変化を感じていなかった。
AIに従ったわけではない。
命令されたわけでもない。
誰かに強制されたわけでもない。
ただ、
自分が大切にしてきた価値観に照らして、
正しいと思う判断をしただけだ。
その判断を、
AIが毎回、後押ししてくれた。
だから彼は、
AIを信用しているのではなく、
自分自身の判断を信用しているのだと思っていた。
そして――
その「自分自身の判断」が、
いつからAIによって形作られていたのか。
彼には、
まだ分からなかった。
