46/60

第46話「AI評価を覆した人間の責任」

「AI評価を覆した人間の責任」

神崎蓮司がそう言った瞬間、党本部の小会議室に、重たい沈黙が落ちた。

ホワイトボードには、前回までの言葉が残っている。

AIに言い返す権利。

正当な反論は、民主的資質である。

AIに言い返す人間を、制度は守らなければならない。

雨宮紗季は、その横に、新しい一文を書き足した。

AI評価を変える権限は、誰にあるのか。

三島秘書が腕を組んだ。

「ここからは厄介だな」

神崎はうなずいた。

「はい。候補者が反論して、AI評価が変わる。そこまではいい。でも、その変更を誰が認めるのか。誰が責任を負うのか」

セイムがタブレットから淡々と答えた。

『候補者評価AIにおける再評価責任とは、AIの初回評価を候補者の反論や追加資料に基づいて変更する際、その変更理由、判断主体、検証手続、説明責任を明確化することです』

ヤミちゃんが、神崎のスマホ画面に黒い吹き出しで現れた。

『つまり、AI様の判定をひっくり返した犯人探し』

「犯人じゃない」

『じゃあ、勇者探し』

「それも違う」

長老議員が湯のみを持って、ゆっくり入ってきた。

「何じゃ。今日はAIに逆らった者を裁く話か」

三島が即座に返す。

「裁きません。責任設計の話です」

「政治では、それを裁くと言う」

「言いません」

ヤミちゃんが言った。

『長老先生の政治辞書、だいたい物騒』

神崎は苦笑した。

「でも、実際にそう見られる危険はありますよね。AI評価を変えた人間が、“なぜ変えたんだ”“誰かの圧力か”“情実か”と疑われる」

雨宮がうなずく。

「はい。だから、AI評価を覆すこと自体を悪と見てはいけません。ただし、理由なく覆すことは危険です」

三島が低い声で言った。

「理由ある変更と、恣意的変更を分ける制度が必要だ」

セイムが答えた。

『その通りです』

雨宮はホワイトボードに書いた。

理由ある変更

恣意的変更

神崎がそれを見て言った。

「理由ある変更は、候補者の反論や追加資料によって、AIの前提が変わった場合」

雨宮がうなずく。

「はい。たとえば、過去発言の文脈が誤って解釈されていた。経歴データが古かった。地域活動が反映されていなかった。本人の責任ではない誤情報が混入していた」

三島が続けた。

「一方、恣意的変更は、幹部の一声、派閥の都合、地元組織の圧力、選挙区事情という名の裏都合」

長老議員が咳払いした。

「選挙区事情を全部悪者にするでない」

神崎がすぐに返した。

「悪者にしていません。ただ、便利な言葉として使うと危ないという話です」

ヤミちゃんが言った。

『出ました。政治界の万能調味料、選挙区事情』

「総合的判断と並ぶやつだな」

雨宮が苦笑しながら書いた。

選挙区事情は、説明不能の免罪符ではない。

長老議員が、それを見て少しだけ目を細めた。

「厳しいのう」

三島が淡々と言う。

「必要です」

セイムが補足した。

『候補者評価AIでは、定量評価で捉えにくい地域事情を考慮する余地は必要です。しかし、その場合でも、考慮した事情と判断への影響を記録すべきです』

神崎が指を鳴らした。

「つまり、“AI評価は非推奨だったが、地域事情を考慮して推薦に変更”では足りない」

雨宮がうなずく。

「はい。“どの地域事情か”“誰が確認したか”“なぜ評価を変えるほど重要なのか”まで残す必要があります」

ヤミちゃんが黒い吹き出しを揺らした。

『地域事情、領収書つきでお願いします』

「領収書じゃない」

『じゃあ、説明書』

「それなら近い」

長老議員が湯のみを置いた。

「昔ならな、そういうことは空気で分かった」

神崎が言った。

「でも、AI時代に空気で評価を覆したら、ただのブラックボックスになります」

長老議員は少し黙り、ゆっくりうなずいた。

「まあ、そうじゃな。空気は記録に残らん」

三島が言った。

「そして、記録に残らない空気は、後から責任を取らない」

雨宮がホワイトボードに書いた。

空気で覆すな。理由で覆せ。

ヤミちゃんが即座に言った。

『今日の標語、早くも出ました』

「まだ始まったばかりだ」

セイムが淡々と続ける。

『AI評価を覆す場合、変更理由ログが必要です』

三島がため息をつく。

「またログか」

『はい』

「即答するな」

雨宮が書いた。

変更理由ログ

神崎が尋ねた。

「具体的には何を残す？」

セイムが答えた。

『初回AI評価、候補者反論、追加資料、確認者、再評価内容、変更理由、反対意見、最終判断者、通知内容です』

ヤミちゃんが言った。

『ログ、もう戸籍謄本くらい分厚くなりそう』

「相続手続きじゃないんだから」

長老議員が笑った。

「しかし、政治も相続も、後から揉めるものほど書類が増える」

三島がうなずいた。

「否定できません」

雨宮が、変更理由ログの下に項目を書いていく。

一、初回評価

二、反論内容

三、追加資料

四、確認担当者

五、再評価結果

六、変更理由

七、反対意見

八、最終判断者

九、候補者への説明

神崎が「七、反対意見」を指差した。

「反対意見も残すんですか」

雨宮が即答する。

「必要です。評価を覆す時、全員一致とは限りません。反対意見を消すと、後から“なぜ誰も止めなかったのか”という問題になります」

三島が言った。

「逆に、反対意見が残っていれば、判断のリスクを認識していたことが分かる」

長老議員がうなずく。

「昔は反対意見を議事録に残すのを嫌がったものじゃ」

神崎が尋ねる。

「なぜですか」

「後で責任を問われるからじゃ」

三島が冷静に言う。

「だから残すべきです」

「三島君はいつも正論で刺すのう」

ヤミちゃんが言った。

『反対意見を消す会議、だいたい危険』

雨宮がホワイトボードに追加した。

反対意見は、組織を攻撃するためではなく、判断を検証するために残す。

神崎がうなずいた。

「いいですね」

セイムが続けた。

『ただし、反対意見の記録方法には注意が必要です。個人攻撃や内部対立の材料にされないよう、論点単位で記録する方法が望ましいです』

三島が言った。

「つまり、“三島が反対した”ではなく、“過去発言の文脈確認が不十分との意見があった”と記録する」

雨宮がうなずく。

「はい。個人名を残す場合もありますが、公開範囲は慎重に設計すべきです」

ヤミちゃんが言った。

『反対した人リスト、流出したら地獄』

「それは確かに地獄」

長老議員が低い声で言った。

「反対意見を出した者が干される組織では、誰も本当のことを言わなくなる」

神崎は、その言葉に少し黙った。

「……AI以前の問題ですね」

「そうじゃ」

長老議員は湯のみを両手で包んだ。

「AIは、古い問題を新しい画面に映すだけのことがある」

雨宮が静かにうなずいた。

「だから、AI制度論は組織文化の問題でもあります」

セイムが淡々と告げた。

『補足します。AI評価を覆す制度があっても、組織文化として異論が許されなければ、制度は機能しません』

ヤミちゃんが言った。

『制度はあるけど空気で死ぬ』

「短くて嫌な真理だな」

三島が資料に書き留める。

「異論保護も必要か」

神崎が顔をしかめた。

「また項目が増える」

雨宮が言った。

「でも必要です。候補者の反論だけでなく、審査者側の異論も守らなければ、AI評価を覆す判断は健全になりません」

神崎はうなずき、ホワイトボードに書いた。

候補者の反論権。

審査者の異論権。

ヤミちゃんが黒い吹き出しを揺らした。

『権利が増えて、政治が権利鍋になってきた』

「権利鍋って何だ」

『具材が多い。火加減が難しい。放置すると焦げる』

「変な例えなのに、ちょっと分かる」

長老議員が笑った。

「鍋はよい。政治も鍋も、火が強すぎると台無しじゃ」

三島がすぐに言う。

「先生、今は鍋の話ではありません」

「分かっとる」

雨宮は話を戻した。

「AI評価を覆す場合、もう一つ大きな問題があります」

神崎が聞いた。

「何ですか」

「覆した後に問題が起きた場合です」

会議室が静かになった。

セイムが補足する。

『例として、AIが炎上リスク高と評価した候補者を、人間が反論を踏まえて推薦に変更した。その後、候補者が実際に炎上した場合、誰が責任を負うのかという問題です』

ヤミちゃんが小さく言った。

『ほら来た。地獄の責任玉突き』

神崎は顔をしかめた。

「これは揉めるな」

三島が言った。

「党内では必ず言われる。“AIの警告を無視したからだ”と」

雨宮が続ける。

「逆に、AI評価を覆さず非推奨にした候補者が、実は優秀で他党から出て当選した場合、“なぜ拾えなかったのか”とも言われます」

長老議員が苦笑した。

「どちらにしても、後から賢い者が増える」

ヤミちゃんが言った。

『後出し孔明、大量発生』

「やめろ」

セイムが淡々と告げた。

『重要なのは、結果責任だけでなく、判断時点の手続妥当性を評価することです』

神崎が反応した。

「判断時点の手続妥当性」

雨宮がホワイトボードに書く。

結果だけで裁くな。判断時点の手続を見よ。

三島がうなずいた。

「これは大事だ。後から炎上したからといって、当時の再評価が必ず間違いだったとは限らない」

雨宮が続ける。

「はい。当時入手可能だった情報、候補者の反論内容、確認手続、リスク対応策。それらが妥当だったかを見る必要があります」

長老議員が言った。

「政治は未来を完全には読めん」

神崎がうなずく。

「AIでも読めません」

セイムが淡々と答えた。

『はい。AI評価は確率的リスク推定であり、未来の断定ではありません』

ヤミちゃんが言った。

『AIの予言者コスプレ禁止』

「それ、いいな」

雨宮がホワイトボードに書いた。

AI評価は予言ではない。

三島が言った。

「だから、AIの警告に従わなかったことだけをもって責任追及してはいけない」

神崎が続ける。

「ただし、警告を無視した理由が記録されていなければ、責任を問われる」

セイムが答えた。

『その整理が妥当です』

ヤミちゃんが言った。

『AIの言うことを聞かなくてもいい。でも、聞かなかった理由は書け』

「制度文書に使えそうで悔しい」

雨宮が笑いながら書いた。

AIに従わない自由はある。

ただし、従わない理由を記録する義務がある。

長老議員が目を細めた。

「おお。これは良い」

三島も小さくうなずいた。

「実務で使えます」

神崎は少し照れた。

「ヤミちゃん由来ですけどね」

『ヤミちゃん、制度設計に進出』

「闇から出てくるな」

雨宮が、次の論点に進んだ。

「では、AI評価を覆す判断主体をどう設計するかです」

三島が言った。

「一人では危険だな」

「はい。担当者一人がAI評価を覆せると、圧力や情実のリスクがあります」

セイムが補足した。

『複数人承認、理由記録、利害関係確認、第三者レビュー条件が必要です』

神崎が言った。

「利害関係確認？」

雨宮がうなずく。

「たとえば、再評価を承認する人が、その候補者の派閥関係者、後援会関係者、親族、過去の秘書、地元利害関係者だった場合、判断の公正性が疑われます」

ヤミちゃんが言った。

『政治、人間関係が全部ねっとりしてる問題』

「言い方」

長老議員がうなずく。

「じゃが、事実じゃ」

三島が資料に書く。

「再評価判断者の利害関係申告が必要か」

神崎がため息をついた。

「また申告書が増える」

雨宮が言った。

「でも、AI評価を覆す権限が強い以上、必要です」

セイムが淡々と告げる。

『候補者評価AIの再評価判断には、最低限、二名以上の確認と、利害関係のない責任者の承認が望ましいです』

神崎はホワイトボードに書いた。

一人で覆すな。

利害関係を隠すな。

理由なく急ぐな。

ヤミちゃんが言った。

『三ない運動みたい』

「政治AI三ない運動」

三島が真顔で言う。

「意外と使えるかもしれません」

「使うんですか」

雨宮が少し笑った。

「研修資料には向いています」

長老議員が楽しそうに言った。

「わしでも覚えられる」

三島が即座に返す。

「先生向け研修ですね」

「三島君、今日も冷たい」

セイムが続けた。

『再評価判断には、変更幅の概念も必要です』

神崎が聞いた。

「変更幅？」

『たとえば、非推奨から保留への変更、保留から推薦への変更、非推奨から推薦への大幅変更では、必要な確認手続の重さを変えるべきです』

雨宮がうなずいた。

「重要です。小さな訂正と、大きな判断変更を同じ手続で扱うと危険です」

三島が言った。

「非推奨から推薦に変える場合は、特別承認が必要だろうな」

ヤミちゃんが言った。

『大逆転公認チャンス』

「クイズ番組にするな」

長老議員が笑った。

「だが、非推奨から推薦は、政治ではあり得る」

神崎が言った。

「あり得るからこそ、理由が必要なんですよね」

雨宮はホワイトボードに表を書いた。

軽微変更：数値・経歴訂正によるスコア微修正

通常変更：補足資料による項目評価変更

重要変更：保留から推薦、非推奨から保留

重大変更：非推奨から推薦

三島がうなずく。

「重大変更は、反論審査パネルと外部監査対象にすべきだ」

セイムが答えた。

『妥当です』

ヤミちゃんが言った。

『AI判定を大きく覆す時は、みんなで見よう』

「交通安全標語みたいに言うな」

雨宮が書いた。

変更幅に応じて、承認手続を重くする。

神崎は腕を組んだ。

「ただ、手続きを重くしすぎると、正しい変更も遅れる」

三島がうなずく。

「そうだ。候補者公認には時間がない」

セイムが言った。

『そのため、通常時手続と緊急時手続を分ける必要があります』

雨宮が続ける。

「緊急時でも、理由記録と事後監査は省略できません」

長老議員がうなずいた。

「急ぐ時ほど、後で見られるようにしておく。これは政治でも災害対応でも同じじゃ」

神崎は書いた。

緊急時は、手続を消すな。後で検証できる形に圧縮せよ。

ヤミちゃんが言った。

『圧縮民主主義』

「変な圧縮ファイルみたいに言うな」

三島が言った。

「ただし、実務的には正しい。全部の会議を開けない時でも、誰が何を理由に決めたかは残せる」

雨宮がうなずく。

「はい。音声記録、短縮議事メモ、承認ログ、後日レビューで補完できます」

神崎はふと、タブレットを見る。

「セイム、AI評価を覆された側のAI、つまりお前としてはどうなんだ？」

『質問の意図を確認します。AI評価が人間により変更された場合、AIシステム側がどのように扱うべきか、という意味ですか』

「そう」

セイムは淡々と答えた。

『AI評価が変更された場合、その変更結果を学習データとして自動反映することは慎重であるべきです』

雨宮が反応した。

「それは重要です」

三島が聞く。

「なぜだ」

セイムが答えた。

『人間による変更が常に正しいとは限らないためです。情実や圧力による変更をAIが学習すると、将来の評価にも偏りが拡散します』

ヤミちゃんが叫んだ。

『忖度を学習するAI！』

「最悪だ」

長老議員が眉をひそめる。

「昔の悪い政治をAIが覚えるわけか」

雨宮がうなずいた。

「はい。だから再評価結果をAI改善に使う場合、変更理由の妥当性を確認したうえで、学習用データと監査用データを分ける必要があります」

神崎はホワイトボードに書いた。

人間が覆した結果を、AIに無条件で学習させるな。

三島が言った。

「これは大きいな。人間がAIを修正する。その修正をAIが学ぶ。すると、人間の政治的歪みがAIに固定される」

ヤミちゃんが言った。

『忖度の永久機関』

「嫌すぎる」

セイムが補足した。

『再評価データは、少なくとも三分類が必要です。事実訂正、文脈補正、裁量判断です』

雨宮が書いた。

事実訂正：AIに反映してよい可能性が高い

文脈補正：条件付きで反映

裁量判断：学習反映は慎重に

神崎が言った。

「たとえば、経歴年数の誤りは事実訂正だから反映していい」

雨宮がうなずく。

「はい」

三島が続ける。

「過去発言の文脈補正は、類似ケースには参考になるが、自動学習は慎重」

「はい」

長老議員が言った。

「派閥事情で推薦に変えた場合は？」

ヤミちゃんが即答した。

『学習させたらAIが派閥犬になる』

「言い方！」

セイムが淡々と告げた。

『その種の裁量判断は、AIモデルへの直接反映ではなく、監査対象として扱うべきです』

三島がうなずく。

「つまり、人間の判断をAIの教師データにする前に、その人間の判断がまともかを見る必要がある」

雨宮が書いた。

AIを直す前に、人間の判断を検証せよ。

神崎は深く息を吐いた。

「これ、ものすごく面倒ですね」

長老議員が笑った。

「面倒じゃ。じゃが、楽をしようとしてAIを使い、結局、楽をしてはいけない部分が見つかっただけじゃ」

ヤミちゃんが言った。

『AI導入で楽になると思ったら、人間の宿題が増えた』

「それがこの話の本質かもしれない」

会議室に、少し柔らかい沈黙が落ちた。

AIは、判断を速くする。

AIは、資料をまとめる。

AIは、リスクを示す。

AIは、候補者を並べる。

だが、AIの評価を覆す時、人間は逃げられない。

なぜ覆すのか。

誰が覆すのか。

どの資料で覆すのか。

どこまで覆すのか。

その結果を、AIに学ばせてよいのか。

AIが出した答えに従う時よりも、AIに逆らう時の方が、人間の責任はむしろ重くなる。

神崎は、静かに言った。

「AI評価を覆す権利は必要だ。でも、それは“好きに変えていい権利”じゃない」

雨宮がマーカーを構える。

神崎は続けた。

「AI評価を覆す権利は、理由を示して、人間が責任を引き受ける権利だ」

雨宮は、ホワイトボードの下に大きく書いた。

AI評価を覆すとは、人間が理由と責任を引き受けることである。

長老議員が、それを見て小さくうなずいた。

「よい」

三島も静かに言った。

「今回の結論ですね」

ヤミちゃんが黒い吹き出しを揺らした。

『人間、AIに逆らうときだけ急に重くなる』

「軽く言うな。でも、その通りだ」

セイムが淡々と告げる。

『次回論点候補：AI評価を覆した場合、その変更を候補者本人と党内にどう説明するか』

三島が顔を上げる。

「説明責任の二重構造か」

雨宮がうなずく。

「はい。候補者本人への説明と、党内・他候補者への説明は違います」

長老議員が言った。

「他の候補者が怒るぞ。“なぜあいつだけ覆った”とな」

ヤミちゃんが言った。

『公認逆転劇、控室が燃える』

「燃やすな」

神崎はホワイトボードを見た。

空気で覆すな。理由で覆せ。

結果だけで裁くな。判断時点の手続を見よ。

AI評価は予言ではない。

AIに従わない自由はある。ただし、従わない理由を記録する義務がある。

人間が覆した結果を、AIに無条件で学習させるな。

AI評価を覆すとは、人間が理由と責任を引き受けることである。

彼は、ゆっくりうなずいた。

「次は、説明ですね」

雨宮が言った。

「第47話の論点は、“覆した理由を、誰にどう説明するか”です」

ヤミちゃんが即座に言った。

『言い訳と説明の境界線』

三島が冷静に返す。

「それは重要だ」

長老議員が笑った。

「政治家は言い訳を説明と言い、説明を言い訳と言われる職業じゃ」

神崎は苦笑した。

「嫌な職業ですね」

「今さらじゃ」

セイムが淡々と告げた。

『説明責任プロトコルを準備します』

ヤミちゃんが言った。

『またプロトコル増えた』

神崎は、タブレットの候補者評価AI画面を見た。

非推奨。

再評価。

推薦変更。

説明生成。

その文字が、以前よりも少し重く見えた。

AIは判断する。

人間は反論する。

人間は覆す。

そして、その理由を語らなければならない。

沈黙すれば、密室になる。

語りすぎれば、個人情報を傷つける。

曖昧にすれば、不信が残る。

正直に語れば、責任が生まれる。

神崎は、小さく息を吐いた。

「政治って、本当に、説明から逃げられないんだな」

長老議員が湯のみを持ち上げた。

「逃げてきた者ほど、最後に説明に追いかけられる」

ヤミちゃんが黒い吹き出しを出した。

『説明責任、足が速い』

「怖いな」

雨宮は、最後にホワイトボードの端へ一文を書いた。

AIを覆す人間は、沈黙してはならない。

セイムが淡々と告げた。

『記録しました』

神崎は静かにうなずいた。

「じゃあ、次はそれを、どう説明するかだ」