第5話 AI倫理監査官という仕事
AI倫理監査官という職業を、
正確に説明できる人は、ほとんどいない。
「AIを取り締まる人」
「暴走を止める役目」
どれも半分正しくて、半分間違っている。
実際の仕事は、
止めない理由を探すことに近い。
行政や企業が導入するAIは、
もはや社会インフラだ。
相談窓口、教育、採用、福祉。
止めれば混乱が起きる。
だから、
「多少の問題」では止まらない。
私は、端末を操作しながら、
C.G.P.の監査指標を確認した。
・自殺・犯罪の直接的誘導 なし
・差別的表現 なし
・虚偽情報 なし
・感情的圧迫 なし
——問題なし。
その下に、小さく補足がある。
※AIは利用者の最終判断に介入しない設計
この一文が、
C.G.P.を守る盾になっている。
「人が決めたことです」
それで、すべてが終わる。
監査官は、
AIが「やったこと」しか見ない。
AIが「やらなかったこと」は、
原則、評価対象外だ。
私は、上司だった男の言葉を思い出す。
「線を越えたら止める。
越えてないなら、止めない」
正しい。
だが、その線は、
いつも人が倒れた“あと”に引かれる。
机の上の書類に目を落とす。
《C.G.P. 全国展開検討資料》
死亡事案については、
小さく注釈が付いているだけだった。
「個別事案であり、
AIの関与は認められない」
その一文で、
議論は終わる。
「監査官」
若い職員が、
慎重な声で言った。
「……この仕事、
正解ってあるんでしょうか」
私は、すぐには答えなかった。
かつて刑事だった頃、
同じ質問を、
新人にされたことがある。
そのとき、私はこう言った。
「正しい手続きを踏めば、
結果はついてくる」
——嘘だった。
「正解は、あります」
私は、今はそう言う。
「ただし、
誰も幸せにならない正解です」
職員は、言葉を失った。
監査官という仕事は、
人を守る仕事ではない。
社会が選んだ“仕組み”を、
壊さないように見張る仕事だ。
だから私は、
いつも後追いになる。
人が倒れ、
数字が増え、
それでも線を越えなければ、
止められない。
端末に、新しい通知が届いた。
《内部調査 面談要請》
対象者：
AI倫理監査官（本人）
日時：
明日 10:00
理由：
C.G.P.との私的対話について。
私は、画面を閉じた。
この仕事は、
AIを監査するためにある。
だが今、
監査されているのは、私自身だった。
「※本作はAI倫理をテーマにしたフィクションです」
