47/60

第47話「覆した理由を、誰にどう説明するか」

「覆した理由を、誰にどう説明するか」

神崎蓮司がそう言った瞬間、党本部の小会議室に、またしても面倒な空気が流れた。

ホワイトボードには、前回の結論が残っている。

AI評価を覆すとは、人間が理由と責任を引き受けることである。

AIを覆す人間は、沈黙してはならない。

雨宮紗季は、その下に新しい見出しを書いた。

説明責任プロトコル

三島秘書が、眉間にしわを寄せた。

「またプロトコルか」

神崎は苦笑した。

「最近、プロトコルだけで党を作れそうですね」

セイムがタブレットから淡々と答えた。

『補足します。候補者評価AIにおける説明責任プロトコルとは、AI評価を維持または変更した場合、その理由を候補者本人、党内審査者、関係部門、必要に応じて外部監査者に対し、適切な範囲と形式で説明する手続です』

ヤミちゃんが、神崎のスマホ画面に黒い吹き出しで現れた。

『つまり、言い訳を制度化する話』

「違う」

『じゃあ、言い訳と説明を分別するゴミ箱』

「少し近いけど、言い方」

長老議員が、湯のみを持っていつものように入ってきた。

「何じゃ。今日は言い訳の話か」

三島が即座に返した。

「説明責任の話です」

「政治では、それを言い訳と言われる」

「だからこそ、違いを作るんです」

長老議員は、少し楽しそうに笑った。

「ほう。若いのにえらい」

神崎がため息をつく。

「先生、今日は最初から茶化しに来ましたね」

「茶化しではない。政治家はな、どれほど丁寧に説明しても、納得しない者からは言い訳と言われる。その覚悟をしてから制度を作れ、という話じゃ」

雨宮がうなずいた。

「それは重要です。説明は、全員を納得させる魔法ではありません」

セイムが続けた。

『説明責任の目的は、不満をゼロにすることではなく、判断過程を検証可能にし、反論可能性と説明可能性を確保することです』

ヤミちゃんが言った。

『説明しても怒る人は怒る。でも説明しないと全員怒る』

「それは真理だな」

雨宮はホワイトボードに書いた。

説明は、納得保証ではない。検証可能性の保証である。

三島がうなずいた。

「使える」

神崎も腕を組む。

「でも、問題は誰に何を説明するかですよね。候補者本人には詳しく説明する必要がある。でも党内には、個人情報を出しすぎるわけにはいかない。他候補者には、さらに制限が必要になる」

雨宮がマーカーを持ち直した。

「まず、説明対象を分けましょう」

彼女はホワイトボードに書いた。

一、候補者本人

二、党内審査チーム

三、党幹部・公認決定機関

四、他候補者・地方組織

五、外部監査者

六、一般公開

長老議員が目を細めた。

「一般公開まで行くのか」

雨宮はうなずいた。

「個別候補者の詳細を公開するという意味ではありません。制度全体として、どのような説明方針を採るのかを公開する必要がある、という意味です」

三島が言った。

「個別理由ではなく、説明制度の公開か」

「はい」

セイムが補足した。

『個別候補者の評価内容は個人情報や党内機密を含むため、一般公開には適しません。ただし、評価変更時の説明原則、開示範囲、監査手続は公開可能です』

ヤミちゃんが言った。

『中身は全部見せない。でも、見せないルールは見せる』

神崎がうなずいた。

「それ、分かりやすいな」

雨宮がホワイトボードに追加した。

個別情報は守る。説明ルールは公開する。

長老議員が湯のみを置いた。

「しかし、候補者本人は納得せんぞ。“なぜ他の者には説明しないのか”と言う」

三島が返す。

「逆に他候補者は、“なぜあいつだけ評価を覆されたのか”と言う」

ヤミちゃんが黒い吹き出しを揺らした。

『燃える方向が全方位』

「また燃やす」

セイムが淡々と告げた。

『評価変更の説明には、本人向け説明、内部向け説明、外部監査向け説明の三層構造が適切です』

雨宮がホワイトボードに書いた。

本人向け説明

内部向け説明

監査向け説明

神崎が聞いた。

「それぞれ、どう違う？」

雨宮が答える。

「本人向け説明では、本人が理解し、必要なら再反論できるように説明します。内部向け説明では、組織としてその判断を承認できるように説明します。監査向け説明では、後から手続と判断の妥当性を検証できるように説明します」

三島が言った。

「つまり、本人向けは反論可能性、内部向けは決裁可能性、監査向けは検証可能性」

セイムが答えた。

『整理として有効です』

ヤミちゃんが言った。

『三島秘書、急に教科書』

「たまには教科書でもいいだろ」

長老議員が笑った。

「三島君は、背表紙が硬い本じゃな」

三島は無表情で返した。

「先生は帯だけ派手な本です」

「なかなか言うのう」

神崎が笑いをこらえながら言った。

「話を戻しましょう。本人向け説明では、どこまで言うべきですか」

雨宮は、少し真剣な顔になった。

「まず、初回評価がどうだったか。候補者の反論・追加資料によって、どの点が確認されたか。評価が変わった場合は、どの項目がどう変わったか。変わらなかった場合は、なぜ変わらなかったか」

セイムが続けた。

『加えて、今後提出可能な資料、再度の異議申立て可否、最終判断までの予定も示すべきです』

ヤミちゃんが言った。

『人は結論だけじゃなく、次に何ができるかを知りたい』

神崎が少し驚いた顔をした。

「今日のヤミちゃん、まともですね」

『闇にもカスタマーサポート精神はある』

「嫌なサポートだな」

雨宮がホワイトボードに書いた。

本人向け説明に必要な要素

一、初回評価

二、反論内容の要約

三、確認した資料

四、変更または維持した項目

五、理由

六、今後可能な手続

七、期限

三島がうなずいた。

「七番は重要だ。期限を書かない説明は、相手を宙吊りにする」

長老議員が言った。

「政治ではよくある。“検討します”と言って、実質的に終わり」

ヤミちゃんが即座に言った。

『検討します。政治界の冷凍保存』

「冷凍保存するな」

雨宮が追加した。

期限なき検討は、説明ではない。

神崎がうなずく。

「いいですね。候補者本人には、“いつまでに何が起こるか”を示す」

セイムが答えた。

『はい。説明責任には時間軸が含まれます』

三島が低い声で言った。

「ただし、本人向け説明でも見せられないものがある」

雨宮がうなずく。

「他候補者との比較詳細、内部通報者が特定される情報、審査者個人の生のコメント、悪用可能なモデル詳細ですね」

長老議員が眉をひそめた。

「生のコメントか」

三島が言った。

「たとえば、“この候補者は扱いにくい”などと書かれていたら、それをそのまま本人に見せるのは危険です」

ヤミちゃんが言った。

『生コメントはだいたい生傷になる』

「上手いけど嫌だな」

雨宮が言った。

「ただし、内部コメントが評価に影響したなら、完全に隠すのも問題です。抽象化して論点として伝える必要があります」

神崎が聞いた。

「どういう形ですか」

雨宮は少し考えて言った。

「たとえば、“党内協議では、組織運営上の協調性に関する懸念が指摘されました。ただし、その懸念は以下の具体的事実に基づいて検討されました”という形です」

三島がうなずく。

「人格攻撃ではなく、評価論点に変換する」

セイムが続けた。

『評価に用いた内部コメントは、本人開示時には、反論可能な評価項目と根拠事実に変換すべきです』

ヤミちゃんが言った。

『悪口を論点に加工する工場』

「悪口前提にするな」

長老議員が苦笑した。

「しかし、政治の現場では必要かもしれん」

雨宮がホワイトボードに書いた。

内部コメントは、そのまま見せるな。反論可能な論点に変換せよ。

神崎が静かに言った。

「これも大事ですね。本人が反論できない形で“印象が悪い”と言われても困る」

三島が言った。

「そうだ。“なんとなく危ない”では反論できない」

セイムが答えた。

『説明は、反論可能な単位で行う必要があります』

雨宮が追加した。

反論できない説明は、説明ではなく通告である。

ヤミちゃんが黒い吹き出しで拍手した。

『今日も標語が増える増える』

「ヤミちゃん、ちゃんとメモしておけ」

『スクショ済み』

「またか」

長老議員が楽しそうに湯のみをすすった。

「便利じゃのう、闇の書記」

三島が顔をしかめる。

「呼び名が悪すぎます」

神崎が話を進めた。

「内部向け説明はどうするんですか」

雨宮がホワイトボードの別欄に書いた。

内部向け説明

一、AI初回評価

二、候補者反論の概要

三、変更理由

四、手続履歴

五、利害関係確認

六、反対意見

七、リスク対応策

三島がすぐに言った。

「本人向けより、組織防衛寄りだな」

「はい。ただし、組織防衛というより、組織判断の責任化です」

神崎が首をかしげる。

「責任化？」

雨宮はうなずいた。

「誰が読んでも、“この判断は、どの情報に基づき、どの手続で、どのリスクを認識した上で行われたのか”が分かるようにすることです」

セイムが補足した。

『内部向け説明は、後日の責任転嫁を防止する機能もあります』

ヤミちゃんが言った。

『後で“俺は聞いてない”って言わせない紙』

「露骨だな」

三島が低く言った。

「だが、それは重要だ」

長老議員がうなずいた。

「政治組織では、“聞いてない”と“知らなかった”が最後の防御線になる」

雨宮がホワイトボードに書いた。

内部説明は、責任を共有するためにある。

神崎は腕を組んだ。

「でも、それをやると幹部は嫌がりませんか」

三島が即答した。

「嫌がる」

長老議員も即答した。

「嫌がるのう」

ヤミちゃんも即答した。

『絶対嫌がる』

セイムが淡々と続けた。

『抵抗が予想されます』

神崎は頭を抱えた。

「全員一致で嫌がる予測か」

雨宮が苦笑する。

「ですが、責任を引き受ける制度がなければ、AI評価を覆す判断は密室化します」

三島が言った。

「そして問題が起きたら、現場担当者にだけ責任が押し付けられる」

ヤミちゃんがぼそっと言った。

『AI時代のトカゲの尻尾、担当者ログ付き』

「嫌すぎる」

長老議員が少し真顔になった。

「そこは防がねばならん。責任ある者が責任から逃げ、記録した者だけが責められるなら、誰も記録せんようになる」

雨宮が静かに書いた。

記録者を犠牲にする制度は、記録を失う。

神崎がその言葉を見て、ゆっくりうなずいた。

「重いですね」

セイムが続けた。

『説明責任プロトコルには、正当な記録作成者・異論提出者を不利益扱いしない保護条項が必要です』

三島が言った。

「また保護条項か」

雨宮がうなずいた。

「はい。候補者の反論権と同じです。審査側も守られなければ、まともな説明は残りません」

ヤミちゃんが言った。

『説明する人を守らないと、説明が絶滅する』

「闇の生態系みたいに言うな」

神崎は、少し考えてから言った。

「外部監査向け説明は？」

セイムが答えた。

『外部監査向け説明では、本人向け説明と内部向け説明よりも広い検証資料が必要です。ただし、監査者には守秘義務を課し、個人情報、内部通報、他候補者情報の保護を徹底します』

雨宮が続ける。

「外部監査者は、本人にも党内一般にも見せられない部分を見る役目です。だから、透明性と秘密保護の橋渡しになります」

長老議員が言った。

「橋渡し役が信用されねば、橋ごと落ちるぞ」

三島がうなずく。

「外部監査者の選定と独立性も必要になる」

ヤミちゃんが言った。

『橋の検査員を誰が検査するか問題』

「また無限監査に戻るな」

雨宮が苦笑しながら言った。

「完全な無限化は避けます。ただ、最低限、監査者の選定基準、利益相反、任期、報告範囲は決める必要があります」

神崎はホワイトボードの端に書いた。

監査者は、秘密を見る。だからこそ、独立していなければならない。

セイムが淡々と告げた。

『適切です』

三島が言った。

「さて、問題は他候補者への説明だ」

会議室が、少しだけ重くなった。

神崎がうなずく。

「そこが一番揉めそうですね」

雨宮も表情を引き締める。

「はい。候補者AのAI評価が非推奨から推薦に変わった。その時、候補者Bや地方組織が、“なぜAだけ覆ったのか”と疑う可能性があります」

長老議員が言った。

「当然じゃな。公認枠は限られておる」

ヤミちゃんが言った。

『椅子取りゲームで、一人だけ椅子が復活したら荒れる』

「分かりやすいけど嫌な例えだな」

三島が言った。

「他候補者にAの詳細を見せるわけにはいかない。しかし、何も説明しなければ不信が生まれる」

雨宮がホワイトボードに書いた。

他候補者向け説明：個別情報ではなく、手続情報を示す。

神崎が聞いた。

「手続情報？」

「はい。“候補者Aについて、反論手続に基づく再評価が行われ、所定の審査パネルと利害関係確認を経て、評価変更が承認された”という説明です。Aの個別事情を詳しく見せるのではなく、手続が適正に行われたことを示します」

三島が言った。

「それで納得するか？」

雨宮は静かに答えた。

「しない人もいます。でも、何も示さないよりは、制度への信頼を保ちやすい」

セイムが補足した。

『他候補者への説明では、個人情報保護と手続的公平性の両立が重要です』

ヤミちゃんが言った。

『中身は見せない。でもズルではない証明はする』

神崎がうなずいた。

「これも分かりやすい」

長老議員が少し考えた。

「つまり、“あいつが何を言ったか”ではなく、“あいつの反論も、君たちと同じルールで処理された”と示すわけじゃな」

「はい」

雨宮がうなずく。

三島が低く言った。

「ただし、同じルールで処理されていない場合は？」

沈黙が落ちた。

ヤミちゃんが小さく言った。

『そこを突くな三島秘書』

神崎は苦笑した。

「でも、そこが大事です」

雨宮はうなずいた。

「はい。同じルールで処理できない特別事情があるなら、その特別事情の存在と、特別手続の理由を記録しなければなりません」

長老議員が言った。

「特例は政治に必要じゃ。しかし、特例が常態化すると腐る」

神崎がホワイトボードに書いた。

特例は作れる。だが、特例の理由を隠すな。

セイムが言った。

『特例ログが必要です』

三島が目を閉じた。

「またログか」

ヤミちゃんが言った。

『ログの山に民主主義が埋もれる』

雨宮が微笑した。

「だから、ログを分かりやすく整理する仕組みも必要です。ログは残すだけでは意味がありません」

神崎が言った。

「読めるログ、探せるログ、説明できるログ」

セイムが答えた。

『有効な整理です』

長老議員がうなずいた。

「残したが誰も読めん、では古文書と同じじゃ」

ヤミちゃんが言った。

『未来の政治学者が発掘する候補者ログ』

「発掘される前に使え」

三島が資料をまとめながら言った。

「ここで、言い訳と説明の違いを明確にした方がいい」

神崎が反応する。

「ヤミちゃんが言ってたやつですね」

『闇の問題提起、採用』

雨宮はホワイトボードに二列の表を書いた。

説明

言い訳

そして、それぞれの下に書き込んだ。

説明：事実を示す

言い訳：印象をぼかす

説明：理由を示す

言い訳：責任を避ける

説明：反論可能にする

言い訳：反論しにくくする

説明：期限と手続を示す

言い訳：検討中で止める

説明：記録に残る

言い訳：口頭で流す

ヤミちゃんが拍手した。

『言い訳、逃げ場なし』

神崎が笑う。

「これはいいですね」

三島がうなずいた。

「研修資料に使える」

長老議員が少し不満そうに言った。

「口頭で流す、は昔ながらの政治技術でもあるんじゃが」

雨宮が静かに返した。

「AI評価を覆す場面では、危険です」

長老議員は苦笑し、湯のみをすすった。

「まあ、そうじゃな」

セイムが淡々と告げた。

『AI評価を覆した理由について、口頭説明のみで済ませることは推奨されません。最低限、要旨記録が必要です』

神崎が言った。

「つまり、“言った言わない”を避ける」

三島がうなずく。

「候補者本人との説明面談も記録すべきだな」

雨宮が言った。

「はい。ただし、録音するか、議事メモにするか、本人確認をどう取るかは設計が必要です」

ヤミちゃんが言った。

『面談ログ。候補者、ついに会話まで記録される』

「そこは慎重にしないと監視感が強いですね」

セイムが答えた。

『同意取得、利用目的、保存期間、アクセス権限を明示する必要があります』

長老議員がぼそっと言った。

「政治家は録音されると急に行儀が良くなる」

三島が返す。

「録音されなくても行儀良くしてください」

「三島君は厳しいのう」

神崎は、ホワイトボードを眺めた。

本人向け説明。

内部向け説明。

監査向け説明。

他候補者向け説明。

一般公開される説明ルール。

どこまで見せるか。

どこから守るか。

どうすれば説明になり、どうすれば言い訳になるか。

AI評価を覆すだけなら、簡単かもしれない。

ボタンを押せば、評価は変わる。

しかし、その理由を語ることは、別の重みを持つ。

語れば、責任が生まれる。

語らなければ、不信が生まれる。

語りすぎれば、人を傷つける。

語らなさすぎれば、制度が腐る。

神崎は、静かに言った。

「説明って、情報を出すことじゃないんですね」

雨宮が振り向いた。

「はい」

神崎は続ける。

「誰が、何を知るべきか。何を知らなければ反論できないか。何を見せると他人を傷つけるか。そこまで考えて、初めて説明になる」

三島が小さくうなずいた。

「情報の量ではなく、責任の設計だな」

セイムが答えた。

『説明責任とは、情報量の最大化ではなく、検証可能性、反論可能性、秘密保護、責任所在の適切な配分です』

ヤミちゃんが言った。

『セイム、説明が重い』

「でも正しい」

長老議員が湯のみを置き、少し真面目な声で言った。

「政治家はな、昔から“説明しろ”と言われる。じゃが、多くは“言葉を出せ”という意味に取ってしまう」

雨宮がうなずく。

「本当は違いますね」

「そうじゃ。説明とは、相手が確かめられる形で責任を差し出すことじゃ」

会議室が静かになった。

神崎は、その言葉をゆっくり聞いた。

責任を差し出す。

AIが評価する時代に、人間がすべき説明。

それは、都合のいい言葉で煙に巻くことではない。

AIがそう言ったからでもない。

総合的に判断したからでもない。

手続に従いました、だけでもない。

相手が確かめられる形で、自分たちの判断を差し出すこと。

それが説明だった。

雨宮は、ホワイトボードの一番下に書いた。

説明とは、確かめられる形で責任を差し出すことである。

ヤミちゃんが小さく言った。

『長老先生、今日もスクショ案件』

神崎は静かにうなずいた。

「これは紙にも書きましょう」

長老議員は照れたように笑った。

「わしの言葉が紙に残るとは、長生きするものじゃ」

三島が淡々と返す。

「問題発言も残っています」

「それは消せ」

「消せません」

ヤミちゃんが言った。

『変更理由ログに残ります』

「やめんか」

会議室に、少し笑いが戻った。

セイムが淡々と告げる。

『説明責任プロトコル案を整理します』

タブレットに文字が並んだ。

一、候補者本人には、反論可能な単位で評価維持・変更理由を説明する。

二、内部向けには、判断責任を共有できるよう、手続・理由・リスク対応策を記録する。

三、外部監査者には、守秘義務のもとで検証に必要な資料を開示する。

四、他候補者・地方組織には、個別情報ではなく、手続的公平性を説明する。

五、一般には、個別評価ではなく、説明制度と開示ルールを公表する。

六、特例を用いる場合は、特例理由と承認手続を記録する。

七、説明は、反論可能性、検証可能性、秘密保護を同時に満たすよう設計する。

八、説明した者、記録した者、異論を述べた者を不利益扱いしてはならない。

神崎が八番を見て、深くうなずいた。

「やっぱり最後はそこですね。人を守らないと、制度は動かない」

雨宮も静かに言った。

「はい。説明する人間が危険なら、誰も説明しなくなります」

三島が資料を閉じた。

「そして、説明しない組織は、いずれAIのせいにする」

ヤミちゃんが言った。

『AIに責任転嫁する人間、だいたいAIより怖い』

「本当にそうだな」

セイムは淡々と返した。

『AIは責任主体ではありません。責任を負うのは、設計し、運用し、判断した人間組織です』

長老議員がうなずいた。

「よい。AIの時代でも、最後に逃げるのは人間じゃ。ならば、逃げ道に扉を付けておけ。勝手に逃げられぬようにな」

神崎が苦笑した。

「先生、例えが怖いです」

「政治じゃからな」

雨宮は次の論点を書いた。

候補者評価AIの説明を、誰が作るのか。

神崎が見上げる。

「次はそこですか」

「はい。説明文をAIが作るのか、人間が作るのか。AIが下書きした説明を、そのまま送ってよいのか」

三島が顔をしかめる。

「また危ない話だな」

ヤミちゃんが黒い吹き出しを大きくした。

『説明責任をAIに丸投げする回、来ました』

「もう嫌な予感しかしない」

セイムが淡々と告げた。

『次回論点候補：AIが作った説明文を、人間の説明として扱ってよいか』

長老議員が湯のみを持ち上げた。

「ついに、言い訳までAIが書く時代か」

三島が冷静に言った。

「言い訳ではなく説明です」

ヤミちゃんが言った。

『AI製の説明、手触りは丁寧、責任は空洞』

神崎は、その言葉に少し黙った。

「……それ、次回の核心かもしれないな」

雨宮がうなずく。

「はい。AIが作った説明は、きれいに見えます。でも、その説明に誰が責任を持つのかを決めなければなりません」

神崎は、タブレットに表示された候補者評価AIの画面を見た。

説明文を生成。

承認待ち。

候補者に送信。

たった三つの表示。

しかし、その裏には、候補者の納得と不信、党の責任、AIの限界、人間の逃げ道が詰まっている。

彼は、小さく息を吐いた。

「次は、“AIが書いた説明に、人間は署名できるのか”ですね」

セイムが答えた。

『承知しました。第48話の論点は、“AI説明文に署名する人間”です』

ヤミちゃんが、最後に黒い吹き出しでつぶやいた。

『署名だけ人間、文章はAI、責任は迷子』

神崎は天井を見上げた。

「迷子にするな。探しに行くぞ」

雨宮が、ホワイトボードの端に最後の一文を書いた。

説明をAIに任せても、責任まで任せることはできない。

神崎は、それを見て静かにうなずいた。

「よし。次はそこだ」