第57話「AI制度疲れ」
第57話「AI制度疲れ」
「AI制度疲れ」
神崎蓮司がそう言った瞬間、党本部の小会議室に、全員の疲労が可視化された。
ホワイトボードには、前回の最後の言葉が残っている。
正しい制度も、守れなければ現場では嘘になる。
雨宮紗季は、その下に新しい見出しを書いた。
AI制度疲れ
三島秘書は、ホワイトボードを見たまま、しばらく黙っていた。
「……ついに、自分たちで作った制度に疲れる回だな」
神崎はうなずいた。
「はい。候補者評価AIを安全にするために、監査、ログ、説明、異議申立て、再評価、支援デスク、報告書、要約監査まで作りました」
ヤミちゃんが、神崎のスマホ画面に黒い吹き出しで現れた。
『制度のミルフィーユ、胃もたれ発生』
「責任のミルフィーユに続いて、制度もミルフィーユか」
セイムがタブレットから淡々と答えた。
『AI制度疲れとは、AIの安全性、公平性、説明責任を確保するための手続が増加し、現場担当者、候補者、審査者、監査者に過度な負担が生じ、制度の実効性が低下する状態です』
長老議員が、湯のみを持って入ってきた。
「何じゃ。今日は疲れた話か」
三島が言った。
「はい」
長老議員は、椅子に座る前に大きく息を吐いた。
「わしはもう疲れておる」
「まだ何もしていません」
「制度の名前を聞いただけで疲れた」
ヤミちゃんが言った。
『長老先生、制度疲れの初期症状』
雨宮が少し笑いながらも、ホワイトボードに書いた。
制度は、正しければ正しいほど増える。
増えすぎると、守られなくなる。
神崎がうなずいた。
「これですね。どの制度も必要だった。でも全部乗せにすると、現場が潰れる」
三島が資料をめくった。
「候補者評価AIだけでも、現場は相当忙しい。そこに異議申立て、説明文、支援デスク、監査ログ、要約確認、フォローアップ監査まで来る」
ヤミちゃんが言った。
『現場担当者、AIより先に熱暴走』
「笑えない」
セイムが補足した。
『制度負荷が過大になると、形式的運用、記録の省略、テンプレート処理、責任回避、確認疲れが発生しやすくなります』
雨宮はホワイトボードに書いた。
AI制度疲れの症状
一、ログを残したことにして残さない
二、説明文を読まずに承認する
三、異議申立てをテンプレート処理する
四、監査報告書を誰も読まない
五、支援デスクが形式案内だけになる
六、重要指摘が後回しになる
七、現場が「もう無理」となる
長老議員が七番を見て深くうなずいた。
「それは人間らしい」
三島が冷静に言った。
「人間らしいからこそ、設計に入れる必要があります」
神崎が言った。
「制度を作る側が、“ちゃんとやればできる”と思い込むのは危ないですね」
雨宮がうなずく。
「はい。制度設計では、人間が疲れること、忘れること、面倒がること、怖がることまで考える必要があります」
ヤミちゃんが言った。
『人間、制度設計上の脆弱性』
「ひどい言い方だけど、かなり正しい」
セイムが淡々と告げた。
『人間の認知負荷、時間制約、心理的抵抗、組織文化は、制度運用上の重要な前提条件です』
雨宮が書いた。
人間の弱さを前提にしない制度は、人間に破られる。
会議室が、少し静かになった。
神崎は、その一文を見て、小さく息を吐いた。
「刺さりますね」
三島がうなずいた。
「制度を破るのは悪人だけではない。疲れた善人も制度を壊す」
ヤミちゃんが言った。
『疲れた善人、最強の抜け穴』
「それ、怖いな」
長老議員が湯のみを置いた。
「政治の現場では、悪意より疲労の方が多くのミスを生むことがある」
雨宮がホワイトボードに書いた。
悪意対策だけでは足りない。疲労対策が必要である。
神崎がうなずいた。
「じゃあ、どうするかですね」
セイムが答えた。
『AI制度疲れへの対策として、制度の階層化、リスクベース運用、自動化範囲の限定、重要手続の優先、定期的な制度棚卸しが考えられます』
ヤミちゃんが言った。
『制度の断捨離』
「ついに断捨離か」
三島が言った。
「ただし、必要な制度を削ると危険だ」
雨宮がうなずく。
「だから、単純に減らすのではなく、重さを変える必要があります」
神崎が聞いた。
「重さを変える？」
雨宮はホワイトボードに書いた。
全案件に同じ重さの手続をかけない。
リスクに応じて、手続の重さを変える。
三島がうなずいた。
「リスクベースだな」
セイムが補足した。
『軽微な事実訂正には簡易手続。候補者の不利益が大きい判断には重い確認。重大な偏りの疑いには外部監査。手続の重さをリスクに応じて変える設計です』
ヤミちゃんが言った。
『小石にクレーン車を出すな。岩を素手で持つな』
「分かりやすい」
長老議員がうなずいた。
「わしにも分かる」
三島が言った。
「長老基準、通過です」
「だから基準にするな」
雨宮が書いた。
小さなリスクには軽い手続。大きなリスクには重い手続。
神崎が言った。
「でも、軽い手続にした案件が、実は大きなリスクだった場合は？」
セイムが答えた。
『再分類ルートが必要です。軽微案件でも、担当者や候補者が重大性を指摘した場合、重い手続へ移行できるようにします』
三島がうなずく。
「軽く始めても、重くできる道を残す」
雨宮がホワイトボードに書いた。
軽く処理しても、重大化できる道を閉じない。
ヤミちゃんが言った。
『軽微箱から脱出できる制度』
「前回の軽微箱がまた出たな」
長老議員が言った。
「箱には出口が必要じゃ」
神崎はうなずいた。
「制度疲れを防ぐには、全部を重くしない。でも、重要案件を軽く扱わない」
雨宮が言った。
「はい。制度の減量と安全性の両立です」
ヤミちゃんが言った。
『制度ダイエット。ただし筋肉は落とすな』
「いい例えだな」
三島が少しだけ笑った。
「今回は分かりやすい」
セイムが淡々と続けた。
『制度棚卸しも必要です』
神崎が聞いた。
「制度棚卸し？」
『一定期間ごとに、各手続が実際に使われているか、負担に見合う効果があるか、重複していないか、形骸化していないかを確認することです』
雨宮がホワイトボードに書いた。
制度棚卸し
一、使われているか
二、役に立っているか
三、重複していないか
四、現場負担が過大でないか
五、形骸化していないか
六、削るべきか、軽くすべきか、強めるべきか
長老議員が顔をしかめた。
「制度を監査する制度をまた作るのか」
ヤミちゃんが言った。
『制度疲れ対策制度で、さらに疲れる罠』
「あるな」
三島が言った。
「だから棚卸しは軽く、定期的に、目的を絞ってやるべきだ」
雨宮がうなずく。
「はい。毎回大規模監査にすると本末転倒です」
神崎はホワイトボードに書いた。
制度疲れ対策で、さらに制度疲れを起こすな。
ヤミちゃんが拍手の絵文字を出した。
『自己言及ギャグみたいだけど重要』
セイムが補足した。
『制度棚卸しは、簡易チェックと重点監査を分けるべきです。全項目を毎回精査するのではなく、リスクの高い領域を重点的に確認します』
三島が言った。
「ここでもリスクベースか」
雨宮がうなずく。
「はい」
神崎は少し考えてから言った。
「制度疲れで怖いのは、“現場が黙る”ことかもしれませんね」
長老議員が目を細めた。
「どういうことじゃ」
「最初は、現場が“この手続は重すぎます”“このログは意味がありません”“この説明文確認は無理です”と言う。でも、それを上が聞かないと、現場はそのうち黙って、勝手に省略する」
三島が低く言った。
「ある」
雨宮も静かにうなずいた。
「はい。現場の不満を早めに拾わないと、非公式な省略ルールが生まれます」
ヤミちゃんが言った。
『裏運用、爆誕』
「嫌な言葉だ」
セイムが淡々と告げた。
『制度疲れを防ぐには、現場からのフィードバック窓口が必要です』
雨宮がホワイトボードに書いた。
現場フィードバック
一、負担が重すぎる手続
二、意味が分からない記録
三、重複している確認
四、候補者対応で困る点
五、AI出力で使いにくい点
六、削ると危険な手続
七、実は現場で省略されている手続
三島が七番を見て言った。
「実は現場で省略されている手続、か」
神崎が言った。
「これを言える空気が必要ですね」
長老議員がうなずいた。
「正直に言うと叱られるなら、誰も言わん」
雨宮が書いた。
省略の告白を、処罰だけで扱うな。改善情報として扱え。
ヤミちゃんが言った。
『懺悔室みたいになってきた』
「制度懺悔室」
「やめろ」
セイムが補足した。
『故意の不正と、負担過大による省略を区別する必要があります。後者は制度改善の重要なシグナルです』
三島が言った。
「ただし、省略で候補者に不利益が出ていたら、救済も必要だ」
雨宮がうなずく。
「はい。現場の負担を理由に、候補者の権利を削ってはいけません」
神崎はホワイトボードに書いた。
現場を守ることと、候補者の権利を削ることは違う。
ヤミちゃんが言った。
『誰かを守るために、別の誰かを黙らせるな』
会議室が、少し静かになった。
神崎は、その言葉を見た。
制度疲れ。
それは、単に現場が忙しいという話ではなかった。
現場が疲れる。
すると、記録が省かれる。
説明が雑になる。
異議申立てが軽く扱われる。
候補者支援がテンプレ化する。
監査報告書が読まれなくなる。
そして、候補者の声がまた遠くなる。
現場を守らなければ、候補者も守れない。
だが、現場を守るために候補者の権利を削れば、それは本末転倒だった。
神崎は静かに言った。
「制度疲れ対策は、現場への優しさだけじゃないんですね」
雨宮がうなずいた。
「はい。候補者の権利を守り続けるための現場設計です」
三島が言った。
「現場が壊れれば、権利保障も壊れる」
長老議員が湯のみを置いた。
「人を疲れさせすぎる制度は、最後に人を雑に扱う」
雨宮が、その言葉をホワイトボードに書いた。
人を疲れさせすぎる制度は、最後に人を雑に扱う。
ヤミちゃんが静かに言った。
『今日の長老先生、制度疲れで覚醒』
「茶が効いたんですかね」
長老議員が少し得意げに湯のみを持った。
三島が話を戻した。
「制度を守れる形にするには、優先順位が必要だ」
神崎が聞いた。
「何を最優先に残すか、ですか」
「そうだ。全部は守れない場面でも、絶対に落としてはいけない中核手続を決める」
雨宮がうなずく。
「中核手続の設定ですね」
セイムが答えた。
『AI候補者評価における中核手続は、候補者への通知、主要理由の説明、異議申立て機会、重大異議の人間確認、変更理由ログ、差別的影響の監査などです』
ヤミちゃんが言った。
『制度の心臓部』
神崎はホワイトボードに書いた。
中核手続
一、候補者への結果通知
二、主要理由の説明
三、異議申立て機会
四、重大異議の人間確認
五、再評価理由ログ
六、処理遅延時の通知
七、差別的影響の監査
八、不利益扱い禁止
三島がうなずいた。
「これらは忙しくても落とさない」
雨宮が言った。
「はい。一方で、軽微案件の詳細分析や、全件の細かい統計コメントなどは、繁忙期には簡略化できる可能性があります」
長老議員が言った。
「守るべき骨と、削れる肉を分けるわけじゃな」
ヤミちゃんが言った。
『制度の骨格標本』
「急に不気味」
セイムが補足した。
『制度簡略化時にも、中核手続を維持することが重要です』
神崎はホワイトボードに書いた。
忙しい時ほど、中核手続を落とすな。
雨宮がうなずいた。
「これも大事です。忙しい時に真っ先に権利保障が削られると危険です」
三島が言った。
「繁忙期モードが必要だな」
神崎が聞いた。
「繁忙期モード？」
「通常時より簡素化するが、中核手続は必ず守る運用モードだ」
セイムが答えた。
『繁忙期モードでは、文書の簡略化、標準様式の活用、担当者増員、優先案件処理、定型確認の自動化を行いつつ、候補者の主要な権利保障は維持します』
ヤミちゃんが言った。
『省エネ運転。ただしブレーキは外すな』
「これも分かりやすい」
雨宮が書いた。
繁忙期モードは、手抜きではない。守るべきものを守るための圧縮である。
長老議員がうなずいた。
「よい。全部やろうとして全部崩れるよりは、守るものを決める方がよい」
神崎は、ふとタブレットのセイムを見た。
「セイム、AIで制度疲れを軽減することはできるのか？」
セイムは淡々と答えた。
『可能です。たとえば、記録の自動下書き、期限アラート、重複入力の削減、関連資料の自動整理、チェックリスト提示、重大案件の通知などが考えられます』
三島が言った。
「便利そうだが、またAI依存が増える」
雨宮がうなずく。
「はい。AIで制度疲れを軽減する場合も、AIに判断責任を移してはいけません」
ヤミちゃんが言った。
『AIで疲れを減らして、AI監査でまた疲れる』
「永久機関か」
セイムが補足した。
『AI支援は、入力負担や検索負担を減らす目的に限定し、候補者の権利制限や重大判断を自動化しない設計が望ましいです』
神崎が書いた。
AIは、疲労を減らすために使う。責任を減らすために使ってはならない。
雨宮がうなずいた。
「いいですね」
長老議員が言った。
「結局、AIを使っても責任は減らんのう」
三島が言った。
「減りません。ただ、責任を果たすための作業は減らせるかもしれません」
ヤミちゃんが言った。
『責任は残る。作業は減らせ。理想はそれ』
会議室に、少しだけ前向きな空気が戻った。
神崎は、ホワイトボード全体を眺めた。
制度疲れ。
リスクベース。
制度棚卸し。
現場フィードバック。
中核手続。
繁忙期モード。
AIによる負担軽減。
かなり現実的になってきた。
今までの制度論は、AIの暴走を止めるためだった。
だが今回は、人間が制度で潰れないようにする話だった。
神崎は、静かに言った。
「制度は、人間に守らせるものじゃなくて、人間が守れるように作るものなんですね」
雨宮が微笑した。
「はい。そこまで設計して、初めて制度です」
三島が言った。
「理想だけで制度を作ると、現場が嘘をつく」
長老議員がうなずいた。
「現場が嘘をつく時、だいたい上が無理を言っておる」
ヤミちゃんが言った。
『無理な制度は、現場に嘘を覚えさせる』
神崎はスマホを見た。
「それ、今日の核心だな」
雨宮がホワイトボードに書いた。
無理な制度は、現場に嘘を覚えさせる。
セイムが淡々と告げた。
『AI制度疲れ対策案を整理します』
タブレットに文字が並んだ。
一、制度負荷を定期的に確認し、制度棚卸しを行う。
二、手続の重さをリスクに応じて変える。
三、軽微案件でも重大化できるルートを残す。
四、現場フィードバックを受け付け、負担過大による省略を改善情報として扱う。
五、候補者の権利を削らずに現場負担を減らす。
六、忙しい時でも落としてはならない中核手続を定める。
七、繁忙期モードを設計し、中核手続を守りながら運用を圧縮する。
八、AIは疲労軽減に使い、責任回避には使わない。
神崎は八番を見て、うなずいた。
「これで、制度疲れはかなり整理できましたね」
三島が言った。
「次は、一度流れを戻すべきだな」
雨宮がうなずいた。
「はい。ここまで安全対策の話が続きました。次は、そもそもなぜAIを使うのかに戻る必要があります」
ヤミちゃんが黒い吹き出しを揺らした。
『ここまで読むと、AI使わない方が楽じゃね？ 問題』
「それ、読者も思ってそうだな」
長老議員が笑った。
「わしも思っておる」
セイムが淡々と告げた。
『次回論点候補：それでもAIを使う理由』
神崎は少しだけ黙った。
「そうですね。AIは危ない。制度も重い。現場も疲れる。それでも使う意味があるのか」
雨宮がホワイトボードに新しい見出しを書いた。
それでもAIを使う理由
三島が言った。
「ここでAI否定ではなく、AIを正しく使う方向に戻す」
ヤミちゃんが言った。
『第58話、AIさん名誉回復チャンス』
「AIさんって言うな」
長老議員が湯のみをすすった。
「これだけ文句を言った後で、よいところも言わねば公平ではないのう」
神崎は、ホワイトボードを見た。
人間の弱さを前提にしない制度は、人間に破られる。
忙しい時ほど、中核手続を落とすな。
AIは、疲労を減らすために使う。責任を減らすために使ってはならない。
無理な制度は、現場に嘘を覚えさせる。
彼は小さく息を吐いた。
「次は、AIを敵にしない話ですね」
雨宮が静かにうなずいた。
「はい。AIを使わない理由ではなく、使うなら何のために使うのかを整理します」
ヤミちゃんが最後に黒い吹き出しを出した。
『AIは悪魔か道具か。次回、神崎、たぶん悩む』
「たぶんじゃなくて、かなり悩む」
セイムが淡々と答えた。
『支援します』
神崎は笑った。
「そこは頼むよ」
雨宮は、最後に一文を書いた。
AIを恐れるだけでは、制度は前に進まない。
神崎は、それを見て静かにうなずいた。
「第58話は、そこからだ」
