48/60

第48話「AI説明文に署名する人間」

「AIが作った説明文に、人間は署名できるのか」

神崎蓮司がそう言った瞬間、党本部の小会議室に、また妙な緊張が走った。

ホワイトボードには、前回の最後の一文が残っている。

説明をAIに任せても、責任まで任せることはできない。

雨宮紗季は、その下に新しく書いた。

AI説明文に署名する人間

三島秘書は、資料をめくりながら低く言った。

「これは現場で必ず起きる」

神崎はうなずいた。

「ですよね。AI評価を覆した理由を説明しなきゃいけない。でも文章を書くのは大変。だからAIに下書きさせる」

セイムがタブレットから淡々と答えた。

『候補者評価AIにおける説明文生成機能は、判断理由、評価項目、手続履歴、再評価ログをもとに、候補者本人向け、内部向け、監査向けの説明文案を生成できます』

ヤミちゃんが、神崎のスマホ画面に黒い吹き出しで現れた。

『つまり、言い訳自動販売機』

「言い訳じゃない」

『ボタンを押すと、丁寧な責任回避文が出ます』

「最悪の自販機だな」

長老議員が、湯のみを持ってゆっくり入ってきた。

「何じゃ。今日はAIに謝罪文でも書かせるのか」

三島が即座に返す。

「謝罪文ではありません。説明文です」

「政治では、説明文が謝罪文になり、謝罪文が炎上燃料になる」

「否定しきれないのが嫌ですね」

雨宮が苦笑しながらも、真剣な顔に戻った。

「AIが説明文を下書きすること自体は、悪ではありません。問題は、人間がそれを読まずに承認することです」

神崎がうなずく。

「AIが生成しました。人間が署名しました。でも実は誰も内容を理解していませんでした。これが最悪ですね」

ヤミちゃんが言った。

『中身を読まずに利用規約へ同意する民主主義』

「急に身近にするな」

セイムが淡々と補足した。

『AI生成説明文は、文章として整っているため、確認者に過剰な安心感を与える可能性があります』

三島が眉をひそめる。

「文章がきれいだと、正しいように見える」

雨宮がホワイトボードに書いた。

きれいな文章は、正しい説明とは限らない。

長老議員がうなずいた。

「昔からそうじゃ。美文で煙に巻く者は多い」

ヤミちゃんが言った。

『美文は煙幕』

「また標語っぽいな」

雨宮は続けた。

「AI説明文には、特有の危険があります」

神崎が聞いた。

「どんな危険ですか」

雨宮は、ホワイトボードに項目を書き始めた。

一、根拠のない断定

二、重要な不確実性の省略

三、候補者に不利な表現の丸め込み

四、責任主体の曖昧化

五、反論可能な論点のぼかし

六、過剰に丁寧な無視

七、テンプレート化による個別事情の消失

ヤミちゃんが、黒い吹き出しを震わせた。

『六番、ご意見ありがとうございました地獄の再来』

「再来しなくていい」

三島が腕を組んだ。

「責任主体の曖昧化が一番危ないな」

神崎がうなずく。

「“慎重に検討した結果、総合的に判断しました”みたいなやつですね」

セイムが答えた。

『はい。その表現では、誰が何を確認し、どの根拠に基づいて判断したのかが不明確です』

長老議員が湯のみを置いた。

「しかし、そういう文章は便利じゃ」

雨宮が即座に言った。

「便利だから危険です」

長老議員は少し笑った。

「雨宮君は容赦ないのう」

三島が淡々と返す。

「容赦すると制度が死にます」

ヤミちゃんが言った。

『制度、今日も生命の危機』

神崎はホワイトボードを見ながら言った。

「AI説明文を使うなら、チェックリストが必要ですね」

雨宮がうなずいた。

「はい。人間が署名する前に、最低限確認すべき項目です」

セイムが即座に提案した。

『AI説明文署名前チェックリストを生成します』

タブレットに文字が並んだ。

一、説明文の根拠となる資料を確認したか。

二、候補者の反論内容が正確に反映されているか。

三、採用した反論と採用しなかった反論が区別されているか。

四、評価を維持または変更した理由が具体的か。

五、反論可能な論点として示されているか。

六、不確実性や判断の限界が記載されているか。

七、責任主体が明確か。

八、個別事情が反映されているか。

九、候補者を人格的に否定する表現になっていないか。

十、次に可能な手続と期限が示されているか。

三島がじっと見た。

「これは使える」

ヤミちゃんが言った。

『十項目。人間が読むには多い』

「読め」

『政治家、十項目で眠くなる説』

長老議員が咳払いした。

「誰のことを言っておる」

「先生です」

「即答するでない」

雨宮が少し笑ってから、ホワイトボードに書いた。

署名とは、読んだふりではない。

神崎が言った。

「これも強いですね」

三島がうなずいた。

「署名した人間が、“AIが作ったので詳しくは分かりません”とは言えない」

セイムが淡々と告げた。

『AI生成説明文に署名する者は、その内容について人間として説明できる必要があります』

ヤミちゃんが言った。

『読めない文章に署名するな。読んでない文章にも署名するな』

「当たり前だけど、制度に書かないと駄目なやつだな」

長老議員が重くうなずいた。

「当たり前は、書かれないと守られん時代になった」

雨宮が書いた。

署名者は、説明文の内容を自分の言葉で説明できなければならない。

会議室が、少し静かになった。

神崎は、その一文を見つめた。

自分の言葉で説明できるか。

それは、AI時代の政治家に突きつけられる、非常に単純で、非常に重い条件だった。

AIが書いた。

秘書が整えた。

担当部局が確認した。

法務が見た。

だから自分は署名しただけ。

それは、もはや説明ではない。

署名だけが人間で、責任がどこにもない。

ヤミちゃんが、ぽつりと言った。

『署名だけ人間、責任は幽霊』

神崎は小さくうなずいた。

「前回より怖くなってるな」

三島が言った。

「実際に怖い。政治文書では、署名欄だけが責任を背負っているように見えて、実は誰も読んでいないことがある」

長老議員が顔をしかめた。

「あるな」

「あるんですか」

「ある」

「即答しないでください」

雨宮が、セイムに向かって言った。

「セイム、AI説明文に署名する場合、署名者の責任をどう定義すべきですか」

セイムは淡々と答えた。

『署名者は、説明文の作成過程すべてに直接責任を負う必要はありません。しかし、最終的に候補者へ送付する説明内容について、確認責任、理解責任、説明責任を負うべきです』

神崎が聞き返す。

「確認責任、理解責任、説明責任」

雨宮がホワイトボードに書く。

確認責任

理解責任

説明責任

三島がうなずいた。

「作成責任とは分けるわけか」

セイムが答える。

『はい。AIが下書きし、担当者が根拠資料を整理し、法務が表現を確認した場合でも、署名者は最終説明の責任を負います。ただし、虚偽情報を提供した担当者や不適切な生成設定を行った運用者の責任も別途存在します』

ヤミちゃんが言った。

『責任の多層ミルフィーユ』

「またお菓子にするな」

長老議員が少し嬉しそうに言った。

「ミルフィーユはうまい」

三島が淡々と返す。

「責任は甘くありません」

「三島君、今日も切れ味がよいのう」

雨宮が続けた。

「つまり、“署名者だけに全部押し付ける”のも違いますね」

神崎がうなずく。

「AI説明文が間違っていた場合、署名者だけが悪いとは限らない。元データが間違っていたのか、AIが誤生成したのか、人間が見落としたのか、法務が曖昧にしたのか。それぞれ見ないといけない」

セイムが答えた。

『その通りです。AI説明文の責任分析には、生成過程ログが必要です』

三島が目を閉じた。

「またログ」

ヤミちゃんが叫んだ。

『ログの森、さらに奥へ』

神崎が苦笑した。

「でも必要ですね。説明文がどう作られたか分からないと、責任の所在が分からない」

雨宮が書いた。

説明文生成ログ

一、入力資料

二、使用した評価ログ

三、候補者反論資料

四、AI生成文の版

五、人間による修正履歴

六、法務・倫理確認

七、署名者確認

八、送付日時

長老議員が感心したように見た。

「説明文にも履歴書が必要になるのか」

ヤミちゃんが言った。

『説明文の戸籍』

「なんでも戸籍にするな」

三島が言った。

「だが、バージョン管理は必要だ。最初のAI生成文では何と書いていたか。誰がどこを直したか。なぜ直したか」

雨宮がうなずく。

「特に、候補者に不利な情報を削った場合、または不利な表現を強めた場合、その理由が必要です」

神崎が言った。

「逆に、候補者に有利な説明に変えた場合も」

「はい」

セイムが補足した。

『説明文の修正は、単なる表現調整と実質的意味変更を区別する必要があります』

ヤミちゃんが言った。

『てにをは修正と、責任逃れ修正は違う』

「すごく分かりやすい」

雨宮がホワイトボードに書いた。

表現修正と意味変更を区別せよ。

三島がうなずく。

「意味変更があった場合は、承認が必要だな」

セイムが答えた。

『はい。特に、評価理由、責任主体、反論可能性、期限、候補者への不利益に関わる修正は重要変更として扱うべきです』

長老議員が言った。

「文章一つで、責任の場所が変わるからのう」

神崎がうなずいた。

「たとえば、“AI評価に基づき非推奨としました”と、“審査チームがAI評価を参考に非推奨と判断しました”では全然違いますね」

雨宮が即座に反応した。

「重要です。前者はAIに責任を寄せています。後者は人間の判断責任を明示しています」

セイムが補足した。

『正確には、候補者評価AIは補助情報を提供し、最終判断は審査チームまたは公認決定機関が行う、と記載すべきです』

ヤミちゃんが言った。

『AIのせいにするな、人間ども』

「闇の説教」

三島がホワイトボードを見ながら言った。

「説明文には、禁止表現リストも必要だな」

神崎が聞いた。

「禁止表現？」

三島は資料に書きながら言った。

「責任を曖昧にする表現。候補者を人格否定する表現。反論不能にする表現。AIを絶対視する表現」

雨宮がうなずき、書き始めた。

禁止または注意すべき表現

一、AIがそう判断しました。

二、総合的に問題があると判断されました。

三、客観的に不適格です。

四、リスクが高いため詳細な説明はできません。

五、党の判断ですのでご理解ください。

六、評価結果は変更できません。

七、あなたの資質に問題があります。

ヤミちゃんが言った。

『七番、刺されるやつ』

「送ったら大炎上ですね」

長老議員が顔をしかめた。

「昔なら、もっと遠回しに言う」

三島が返す。

「遠回しでも駄目です」

雨宮が続けた。

「これらの代わりに、反論可能な表現へ変える必要があります」

セイムが提案した。

『例：二〇二四年以降の公開発信記録のうち、特定投稿群について、党の候補者選定基準上、炎上時対応リスクが高い可能性があると評価されました。候補者本人は、当該投稿の文脈、訂正状況、現在の見解について補足資料を提出できます』

神崎がうなずく。

「長いけど、こっちの方が反論できる」

雨宮が言った。

「はい。説明は短ければいいわけではありません。反論できる単位まで分解する必要があります」

ヤミちゃんが言った。

『短すぎる説明は、ただの壁』

「なるほど」

雨宮がホワイトボードに書いた。

短い説明が親切とは限らない。反論できる説明が親切である。

長老議員が湯のみをすすりながら言った。

「しかし、候補者本人に長文を送ると、怒りながら読まんかもしれんぞ」

三島がうなずく。

「だから要約と詳細の二段構えが必要です」

セイムが答えた。

『三層構造が望ましいです。要約、詳細説明、根拠資料一覧です』

雨宮が書いた。

一枚目：要約

二枚目以降：詳細説明

別紙：根拠資料一覧・反論手続

神崎が言った。

「これなら、候補者本人はまず全体を理解できる。必要なら詳細を見る。代理人や支援者も確認できる」

ヤミちゃんが言った。

『説明文にも初心者モード、ガチ勢モード、裁判資料モード』

「前回の流れが戻ってきたな」

長老議員がうなずいた。

「わしは初心者モードがよい」

三島が即答する。

「先生には要約だけでなく詳細も読んでいただきます」

「鬼か」

「責任者です」

「鬼じゃ」

神崎は笑いながら、ふと真顔になった。

「AI説明文には、候補者の感情への配慮も必要ですよね」

雨宮が振り向く。

「はい。ただし、感情に配慮することと、理由をぼかすことは違います」

セイムが続けた。

『候補者に不利益な説明をする場合、人格否定を避け、評価対象を限定し、再評価手続を明示することが望ましいです』

ヤミちゃんが言った。

『優しく刺す技術』

「刺すな」

三島が低い声で言った。

「だが、不利益通知は刺さる。刺さるなら、せめてどこを刺しているのか明確にしなければならない」

長老議員が神妙にうなずいた。

「怖い言い方じゃが、そうじゃな」

雨宮が書いた。

不利益説明は、人格ではなく、論点に向ける。

神崎はそれを見て、ゆっくりうなずいた。

「これ、AIが一番苦手に見えるかもしれないですね」

セイムが答えた。

『補足します。AIは表面的には丁寧な文体を生成できます。しかし、相手の感情、政治的文脈、組織内の力関係、候補者の人生への影響を十分に理解しているわけではありません』

ヤミちゃんが言った。

『丁寧語は出せる。でも痛みは知らない』

会議室が、少し静かになった。

神崎は、スマホの黒い吹き出しを見つめた。

「……それ、かなり重要だな」

雨宮が静かにホワイトボードに書いた。

AIは丁寧語を出せる。だが、人の痛みを理解したとは限らない。

三島が低く言った。

「だから人間が確認する」

長老議員がうなずく。

「人間が確認するとは、誤字を見ることではない。相手に届く痛みを想像することじゃ」

雨宮がその言葉も書いた。

人間確認とは、誤字確認ではない。

神崎は深く息を吐いた。

「AI説明文の人間確認って、思ったより重いですね」

セイムが答えた。

『はい。AI説明文に対する人間確認は、事実確認、法的確認、倫理確認、感情的影響確認を含みます』

ヤミちゃんが言った。

『確認四天王』

「軽くするな」

三島が資料に書く。

「事実、法務、倫理、感情影響。これを全部見るのは大変だぞ」

雨宮がうなずく。

「だから、すべての説明文に同じ重さの確認をかけるのではなく、不利益の大きさで段階化します」

神崎が言った。

「非推奨通知や公認見送りは、重い確認。軽微訂正の通知は軽い確認」

セイムが答えた。

『妥当です』

長老議員が言った。

「人の人生を変える文書は、軽く出すなということじゃな」

雨宮が書いた。

不利益が大きい説明ほど、人間確認を重くする。

神崎がうなずいた。

「これも柱ですね」

ヤミちゃんが言った。

『柱が増えて、建物が神殿みたいになってきた』

「制度神殿」

「変な宗教にするな」

長老議員が笑った。

「政治も時々、宗教に似るから気をつけよ」

三島が冷静に言う。

「本当に気をつけてください」

神崎はセイムに尋ねた。

「AI説明文を使う時、候補者に“これはAIが下書きしました”と明示すべきか？」

会議室が、また静かになった。

雨宮が少し考えた。

「重要な論点です」

三島が言った。

「明示しないと、後で問題になる可能性がある」

長老議員が顔をしかめる。

「しかし、“AIが書いた説明です”と言われた候補者は怒るぞ」

ヤミちゃんが言った。

『人生かかった通知がAI文面。燃料濃度高め』

「まあ、怒るだろうな」

セイムが淡々と答えた。

『完全にAI生成であり、人間確認が不十分な場合は、明示以前に運用が不適切です。AIが下書きし、人間が確認・修正・署名した場合は、説明責任の主体は人間組織にあります』

雨宮がうなずく。

「つまり、候補者に伝えるべき核心は、“AIが書いたかどうか”よりも、“誰が責任を持って確認したか”です」

三島が言った。

「ただし、AI利用の有無を完全に隠すべきではない」

神崎がホワイトボードに書いた。

AI利用を隠すな。

ただし、責任をAIに移すな。

ヤミちゃんが言った。

『AIを使いました。でも逃げません』

「それ、いいな」

雨宮が微笑して書き足した。

AIを使った説明であっても、人間が責任を持つ。

長老議員が深くうなずいた。

「これなら分かる」

三島が言った。

「通知文の末尾に、“本説明文はAI支援ツールを用いて作成されていますが、内容は審査責任者が確認し、党として責任を持って通知するものです”という一文を入れる手もある」

神崎が少し考える。

「正直でいいけど、候補者の反応は分かれそうですね」

雨宮がうなずく。

「はい。だから、その一文を入れるなら、候補者がAI利用に関して質問できる窓口も必要です」

ヤミちゃんが言った。

『AI利用説明の説明が必要』

「どんどん増えるな」

セイムが答えた。

『ただし、透明性の観点からは、AI支援の有無、利用範囲、人間確認者を明示することが望ましいです』

神崎はホワイトボードに書いた。

AI支援の範囲を明示する。

そして続けて書いた。

下書き：AI

根拠確認：担当者

表現確認：法務・倫理担当

最終責任：審査責任者

三島がうなずく。

「責任分解表だな」

ヤミちゃんが言った。

『責任の成分表示』

「食品表示みたいだな」

長老議員が笑う。

「政治文書にもアレルギー表示が必要かもしれんぞ」

三島が即座に言った。

「先生の発言には注意表示が必要です」

「三島君、今日は容赦がない」

雨宮が話を戻した。

「説明文の署名者は、誰にすべきでしょうか」

神崎が考える。

「候補者評価AIの担当部局長？」

三島が首を振る。

「それだけでは弱い。公認判断に関わるなら、公認審査責任者の署名が必要だ」

長老議員が言った。

「幹部は嫌がるぞ」

ヤミちゃんが言った。

『責任ある署名欄、だいたい空白になりがち』

「嫌なリアリティ」

セイムが補足する。

『署名者は、説明内容に対する権限と責任を持つ者であるべきです。単なる事務担当者の名義で送付すると、実質的な責任主体が不明確になります』

雨宮が書いた。

権限なき者に署名させるな。

神崎がうなずいた。

「これ、現場担当者を守る意味でも大事ですね」

三島が言った。

「そうだ。決めたのは上なのに、通知名義だけ担当者というのは危険だ」

長老議員が少し気まずそうに湯のみを見た。

「昔から、そういうことはある」

雨宮が静かに言った。

「だから変える必要があります」

ヤミちゃんが黒い吹き出しを揺らした。

『責任ある人間ほど、名前を小さく書きたがる』

「ありそうだな」

セイムが淡々と告げた。

『AI説明文における署名責任制度案を整理します』

タブレットに文字が並んだ。

一、AI説明文は下書きにとどめ、人間が根拠と表現を確認する。

二、署名者は、説明文の内容を自分の言葉で説明できなければならない。

三、AI利用の範囲、人間確認者、最終責任者を記録する。

四、説明文生成ログと修正履歴を保存する。

五、表現修正と意味変更を区別し、意味変更には承認を必要とする。

六、責任をAIに移す表現、候補者を人格否定する表現、反論不能な表現を避ける。

七、不利益が大きい説明ほど、人間確認を重くする。

八、権限なき者に署名させてはならない。

神崎は八番を見て、静かにうなずいた。

「これで、AI説明文を使う場合の最低限の枠組みはできましたね」

雨宮も頷いた。

「はい。ただし、次に問題になるのは、説明を受けた候補者が“この説明文自体がおかしい”と反論してきた場合です」

三島が顔を上げた。

「説明への反論か」

長老議員が笑った。

「来たな。説明したら説明に文句を言われる」

ヤミちゃんが叫んだ。

『メタ反論編、開幕！』

「また開幕するな」

セイムが淡々と告げた。

『次回論点候補：候補者が説明文そのものに異議を申し立てた場合の手続』

神崎は天井を見上げた。

「つまり、“評価がおかしい”だけじゃなく、“説明がおかしい”も受け付ける必要がある」

雨宮がうなずく。

「はい。説明文が反論可能性を欠いている、事実と違う、AI利用を隠している、責任主体が曖昧、期限が示されていない。そうした異議をどう処理するかです」

三島が言った。

「説明責任に対する説明責任だな」

ヤミちゃんが言った。

『責任の入れ子構造。マトリョーシカ民主主義』

「かわいく言うな。重いんだよ」

長老議員が湯のみを置いた。

「じゃが、そこまで来れば本物に近い。説明に文句を言える制度は、説明を強くする」

神崎は、その言葉に少し救われた。

説明は、出せば終わりではない。

相手が読んで、疑問を持ち、反論し、訂正を求める。

その過程を受け止めて、初めて説明は制度になる。

AIが書いたとしても。

人間が署名したとしても。

説明は、相手に届いた時から試される。

神崎はホワイトボードの最後に書いた。

説明文にも、反論される権利がある。

ヤミちゃんが言った。

『文章も鍛えられる時代』

「候補者に鍛えられる説明文か」

雨宮が静かに微笑んだ。

「悪くありません」

セイムが淡々と告げた。

『第49話の論点は、“説明文への異議申立て”です』

三島がため息をついた。

「どこまでも続くな」

長老議員が笑った。

「政治とは、終わったと思った説明が、また戻ってくる仕事じゃ」

ヤミちゃんが黒い吹き出しを出した。

『説明責任、ブーメラン性能高め』

神崎は苦笑しながら、タブレットを閉じた。

「じゃあ、次はブーメランを受け止める話だな」

雨宮が、ホワイトボードの端に最後の一文を書いた。

AIが書いた説明でも、人間が受け止めなければならない。

神崎は、それを見て静かにうなずいた。

「よし。次はそこだ」