第56話「要約AIは、監査報告書を丸めるのか」
第56話「要約AIは、監査報告書を丸めるのか」
「要約AIは、監査報告書を丸めるのか」
神崎蓮司がそう言った瞬間、党本部の小会議室に、妙に紙っぽい沈黙が広がった。
ホワイトボードには、前回の最後の言葉が残っている。
監査報告書から、都合の悪さを抜いてはならない。
読まれない監査は、沈黙した権力を助ける。
雨宮紗季は、その下に新しい見出しを書いた。
要約AI監査
三島秘書は、その文字を見て、深く息を吐いた。
「ついに、報告書を読むためのAIを監査する話になったか」
神崎はうなずいた。
「はい。監査報告書は分厚い。党幹部は全部読まない。だからAIに要約させる。でも、その要約が都合の悪い部分を薄めたら、監査の意味がなくなる」
セイムがタブレットから淡々と答えた。
『監査報告書の要約AIとは、公認AI監査報告書の詳細版をもとに、読者別に概要、重大指摘、改善勧告、リスク要約、対応期限などを生成する支援機能です』
ヤミちゃんが、神崎のスマホ画面に黒い吹き出しで現れた。
『つまり、百二十ページの地獄を三ページの地獄に圧縮する装置』
「地獄前提にするな」
『読まれる地獄なら、まだ民主主義に優しい』
「嫌な優しさだな」
長老議員が、湯のみを持って入ってきた。
「何じゃ。今日は要約の話か」
三島が言った。
「はい。監査報告書をAIに要約させる危険性です」
長老議員は席に着きながら言った。
「要約は助かるぞ。長い報告書は眠い」
ヤミちゃんが即座に言った。
『長老先生、概要版しか読まない宣言』
「違う。詳細版も必要なら読む」
三島が淡々と返した。
「必要です」
「……眠くならん範囲で読む」
雨宮が小さく笑ったあと、ホワイトボードに書いた。
要約は、読ませるために必要。
しかし、要約は、削る行為である。
神崎がうなずく。
「要約は便利だけど、何かを必ず落とす」
セイムが補足した。
『はい。要約は情報量を減らす処理です。そのため、重要情報、少数意見、例外、条件、不確実性、責任主体が失われる可能性があります』
三島が低く言った。
「監査報告書で失ってはいけないものばかりだな」
ヤミちゃんが言った。
『要約で落ちがちなもの、だいたい後で燃えるもの』
「それも真理だな」
雨宮は、ホワイトボードに項目を書いた。
要約で消えやすいもの
一、重大だが件数の少ない問題
二、少数派候補者への影響
三、反対意見
四、未解決のリスク
五、改善期限
六、責任部署
七、例外条件
八、監査人の懸念
神崎が「監査人の懸念」を見て言った。
「懸念って、要約だと削られやすそうですね」
雨宮がうなずく。
「はい。数値として確定していないけれど、監査人が危険を感じている部分です。ここをAIが“明確な証拠なし”として薄める可能性があります」
三島が言った。
「しかし、監査の価値は、確定した問題だけではなく、危険の芽を見つけることにもある」
長老議員が湯のみを置いた。
「政治では、はっきり燃えてからでは遅いことが多い」
ヤミちゃんが言った。
『煙の段階で書け。火事になってからでは遅い』
神崎はホワイトボードに書いた。
監査報告書は、火事だけでなく、煙も書く。
雨宮がうなずいた。
「いいです」
セイムが淡々と続ける。
『要約AIが“確定事項”を優先しすぎると、監査人の警告的記述が弱くなる可能性があります』
三島が言った。
「だから、要約AIには重大指摘だけでなく、懸念事項を残すルールが必要だ」
雨宮は書いた。
要約には、確定指摘と懸念指摘を分けて残す。
ヤミちゃんが言った。
『確定地雷と、地雷っぽい場所』
「地雷にするな」
長老議員がうなずいた。
「しかし、分かりやすい。地雷っぽい場所も地図に書かねばならん」
三島が言った。
「先生が納得した」
神崎が苦笑した。
「長老基準、今回も通過ですね」
長老議員が顔をしかめた。
「だから基準にするな」
雨宮は次の項目を書いた。
要約AIの危険
一、重大指摘を柔らかく言い換える
二、責任主体をぼかす
三、件数の多い問題だけを重視する
四、少数派への影響を落とす
五、改善期限を省略する
六、監査人の反対意見を削る
七、読みやすさを優先して緊張感を消す
神崎が言った。
「七番、怖いですね。読みやすくすることで、緊張感が消える」
ヤミちゃんが言った。
『毒抜き要約』
「前回も出たな」
三島が低く言った。
「監査報告書には、必要な毒がある」
雨宮がうなずく。
「はい。読者に不快感を与える部分が、改善に必要な場合があります」
セイムが補足した。
『要約AIは、読者の受け入れやすさを高めるため、批判的表現を緩和する傾向を持つ場合があります』
神崎が顔をしかめた。
「“重大な不公平の疑い”が、“運用上の改善余地”になるようなやつですか」
三島が即座に言った。
「それは駄目だ」
雨宮がホワイトボードに書いた。
重大指摘を、改善余地に言い換えるな。
長老議員が苦笑した。
「しかし、政治文書ではよくある」
三島が返す。
「だから禁止するんです」
ヤミちゃんが言った。
『火災を“暖房効果”と書くな』
「それはさすがに書かない」
『政治文書なら分からない』
「否定しきれないのが嫌だ」
雨宮は、要約の比較例を書き始めた。
原文：特定地域の新人候補に対して、AI評価が一貫して低く出る傾向が確認され、統計的偏りの可能性がある。次回公認判断までに評価モデルと入力データの検証が必要である。
悪い要約：一部地域で評価運用に改善余地がある。
神崎が眉をひそめた。
「これは駄目ですね。何が問題か分からない」
三島が言った。
「誰が影響を受けたのか、何をいつまでに直すのか、全部消えている」
ヤミちゃんが言った。
『都合の悪さ、完全消臭』
「消臭するな」
雨宮は続けて書いた。
良い要約：特定地域の新人候補に対し、AI評価が低く出る傾向が確認された。統計的偏りの可能性があるため、次回公認判断前に評価モデルと入力データを検証する必要がある。
長老議員がうなずいた。
「短いが、痛いところは残っておる」
雨宮が言った。
「それが必要です」
セイムが答えた。
『良い要約は、短くしても、対象、問題、リスク、対応期限を保持します』
神崎がホワイトボードに書いた。
良い要約は、短くしても痛点を残す。
ヤミちゃんが言った。
『痛点保存要約』
「言い方」
三島がうなずいた。
「でも分かりやすい」
雨宮が次に書いた。
要約AIチェック項目
一、重大指摘が残っているか
二、対象集団が消えていないか
三、責任部署が残っているか
四、改善期限が残っているか
五、少数意見が消えていないか
六、不確実性が正しく表現されているか
七、原文より危険性を弱めていないか
八、読者が次に何をすべきか分かるか
神崎がうなずいた。
「これ、要約AIの出力を人間が確認するためのチェックリストですね」
セイムが答えた。
『はい。要約AI出力に対する人間確認では、正確性だけでなく、重要性保持、責任保持、緊張感保持を確認すべきです』
ヤミちゃんが言った。
『緊張感保持。報告書にピリ辛成分を残せ』
「食べ物にするな」
長老議員が少し楽しそうに言った。
「ピリ辛くらいなら読める」
三島が即座に返す。
「激辛でも読んでください」
「三島君は辛口じゃのう」
雨宮がホワイトボードに書いた。
要約の目的は、読みやすくすることではなく、読むべきことを届かせることである。
会議室が少し静かになった。
神崎は、その言葉を見つめた。
「これ、要約全般に言えますね」
雨宮がうなずく。
「はい。読みやすさは手段です。目的ではありません」
三島が言った。
「読みやすいだけで中身が丸まっていれば、むしろ危険だ」
セイムが淡々と補足する。
『要約AIは、読者の理解を助けるために使うべきであり、読者の不快感を減らすためだけに使うべきではありません』
ヤミちゃんが言った。
『不快感にも仕事がある』
神崎はスマホを見た。
「それ、いいな」
雨宮はホワイトボードに書いた。
不快な指摘にも、改善を促す役割がある。
長老議員が静かにうなずいた。
「政治家は、不快な報告を避けがちじゃ」
三島が言った。
「だから不快な報告ほど、読ませる必要があります」
ヤミちゃんが言った。
『三島秘書、嫌われる報告書を配る係』
「それはもう慣れている」
神崎は思わず笑った。
雨宮は次の論点へ進んだ。
「要約AIには、読者別要約の問題もあります」
神崎が聞いた。
「読者別要約？」
「はい。党幹部向け、候補者向け、一般公開向け、外部監査者向け。それぞれ内容を変える必要があります」
セイムが補足した。
『ただし、読者別要約が、都合のよい情報選別にならないよう注意が必要です』
三島が言った。
「党幹部向けには柔らかく、外部向けにはさらに柔らかく、候補者向けには当たり障りなく。そうなれば最悪だ」
ヤミちゃんが言った。
『相手によって毒の濃度を変える報告書』
「嫌な薬局だな」
長老議員が言った。
「しかし、相手によって言い方を変えること自体は必要じゃろう」
雨宮がうなずく。
「はい。問題は、言い方を変えることではなく、重要事実を消すことです」
神崎はホワイトボードに書いた。
読者別に表現は変えてよい。重要事実は消してはならない。
セイムが答えた。
『適切です』
雨宮が続けた。
「また、読者別要約の差分も記録すべきです」
三島が顔をしかめる。
「差分？」
「はい。詳細版にある重大指摘が、概要版や一般公開版でどう表現されたのか。どこを削ったのか。なぜ削ったのか。それを残す必要があります」
ヤミちゃんが叫んだ。
『要約の変更履歴までログ！』
「ログ帝国だな」
セイムが淡々と答えた。
『要約生成ログが必要です』
三島が目を閉じた。
「やはり来たか」
雨宮は書いた。
要約生成ログ
一、元報告書の版
二、要約対象読者
三、AI生成要約の版
四、人間修正箇所
五、削除した重大情報
六、削除理由
七、責任者確認
八、公開日時
神崎が「削除した重大情報」を見て言った。
「削除した重大情報を記録するんですか？」
雨宮がうなずく。
「はい。個人情報保護などで一般公開版から削ることはあります。でも、なぜ削ったかを内部では残す必要があります」
三島が言った。
「そうしないと、都合が悪いから消したのか、正当な秘密保護で消したのか分からない」
ヤミちゃんが言った。
『黒塗りにも理由を書け』
「まさにそれだな」
長老議員がうなずく。
「黒塗りは、見る者の想像力を育てるからのう」
三島が冷静に言った。
「育てなくていい想像力です」
雨宮はホワイトボードに書いた。
削るなら、削った理由を残せ。
セイムが補足した。
『特に、個人情報保護、内部通報者保護、他候補者情報保護、セキュリティ上の理由、モデル悪用防止など、正当な削除理由を分類すべきです』
神崎が言った。
「逆に、“組織に不都合だから”は削除理由にならない」
雨宮がうなずいた。
「はい」
ヤミちゃんが言った。
『不都合削除、禁止』
三島がホワイトボードを見て言った。
「要約AIを使う場合、監査人自身による確認も必要だな」
雨宮がうなずく。
「はい。報告書を書いた監査人が、要約を確認する必要があります。要約によって自分の指摘が変質していないかを見る」
セイムが答えた。
『監査人レビューが必要です』
ヤミちゃんが言った。
『書いた人に、薄められてないか味見させる』
「また食べ物」
長老議員が言った。
「味見は大事じゃ」
三島が言った。
「先生、今日は食いつきがいいですね」
雨宮は書いた。
要約は、監査人が確認する。
監査人の指摘を、要約で別物にしてはならない。
神崎がうなずいた。
「これも大事ですね。要約担当が勝手に丸めると、監査人の責任ある指摘が消える」
三島が言った。
「特に、“懸念”や“条件付き評価”は残すべきだ」
セイムが補足した。
『条件付き指摘を無条件の安全評価に変えてはなりません』
ヤミちゃんが言った。
『“ただし”を消すな』
神崎は指を鳴らした。
「それ、すごく重要です」
雨宮がホワイトボードに大きく書いた。
ただし、を消すな。
長老議員が目を細めた。
「短くてよい」
三島がうなずく。
「監査報告書の要約で一番消されやすい言葉かもしれませんね」
雨宮が言った。
「はい。“おおむね適切。ただし、特定条件下では重大な懸念が残る”という文章から、“おおむね適切”だけを抜き出せば、意味が変わります」
神崎が顔をしかめた。
「それはもう捏造に近いですね」
セイムが答えた。
『文脈を失わせる要約は、形式的には引用であっても、実質的には誤解を生む可能性があります』
ヤミちゃんが言った。
『都合のいい前半だけ持ってくるやつ』
「よくある」
長老議員が咳払いした。
「政治では、よくある」
三島が冷たく言う。
「よくあってはいけません」
雨宮が書いた。
要約は、文脈を切断してはならない。
会議室に、少しだけ重い空気が戻った。
神崎は、タブレットに仮の監査報告書要約を表示した。
一ページ目。
総括。
重大指摘。
改善期限。
未解決リスク。
監査人コメント。
次回確認事項。
「要約に“未解決リスク”欄を必ず入れるべきですね」
雨宮がうなずいた。
「はい。読者が安心して終わらないように」
ヤミちゃんが言った。
『安心して終わらせない要約』
「嫌な要約だな」
三島が言った。
「でも必要だ。監査報告書の目的は、安心させることではなく、改善させることだ」
長老議員が言った。
「では、要約の最初に重大指摘を書くのか？」
雨宮がうなずく。
「はい。総括のあとに、重大指摘と未解決リスクを置くべきです。最後に埋めると読まれません」
ヤミちゃんが言った。
『都合の悪いことを後ろに置くな』
神崎はホワイトボードに書いた。
重大指摘は、後ろに隠すな。
セイムが補足した。
『重要情報の配置も、UI監査と同様に監査対象です。報告書の構成自体が、読者の理解を誘導します』
三島が言った。
「報告書にもUIがあるわけだ」
神崎がうなずいた。
「目次、見出し、順番、太字、要約、図表。全部、読み方を左右する」
雨宮が書いた。
報告書の構成も、情報のUIである。
ヤミちゃんが言った。
『紙にもUI。ボタンがないだけ』
長老議員が感心したように言った。
「なるほど。紙の資料にも画面のような権力があるのか」
三島が言った。
「あります。どこに何を書くかで、読まれるかどうかが決まります」
神崎は、ふと笑った。
「第41話の“画面そのものを監査せよ”から、報告書そのものを監査せよに来ましたね」
雨宮がうなずいた。
「はい。表示される情報は、画面でも紙でも権力を持ちます」
セイムが淡々と告げた。
『要約AI監査制度案を整理します』
タブレットに文字が並んだ。
一、要約AIは、監査報告書を読ませるための補助として使用する。
二、要約では、重大指摘、対象集団、責任部署、改善期限、未解決リスクを必ず残す。
三、重大指摘を柔らかい表現に丸めてはならない。
四、確定指摘と懸念指摘を区別して残す。
五、読者別に表現を変えてもよいが、重要事実を消してはならない。
六、要約生成ログを残し、削除した情報と削除理由を記録する。
七、要約は監査人が確認し、指摘の変質を防ぐ。
八、“ただし”や条件付き評価を削除して、文脈を切断してはならない。
九、重大指摘と未解決リスクは、要約の見えやすい場所に置く。
十、報告書の構成そのものを、情報のUIとして監査する。
神崎は十番を見て、静かにうなずいた。
「ついに、報告書の構成まで監査対象」
三島が言った。
「当然だ。読まれなければ意味がない」
長老議員が湯のみをすすった。
「しかし、読ませるための要約が、読者に嫌なことを突きつける。なかなか厳しいのう」
雨宮が微笑した。
「監査ですから」
ヤミちゃんが言った。
『監査報告書は、優しい枕ではなく、硬い目覚まし時計』
「その例え、いいな」
長老議員が少し嫌そうな顔をした。
「硬い目覚まし時計は嫌じゃ」
三島が冷静に言った。
「起きてください」
会議室に、少し笑いが起きた。
神崎はホワイトボードを見た。
良い要約は、短くしても痛点を残す。
重大指摘を、改善余地に言い換えるな。
ただし、を消すな。
報告書の構成も、情報のUIである。
彼は、深く息を吐いた。
「要約って、思ったより政治的ですね」
雨宮がうなずいた。
「はい。何を残すか、何を削るか。それ自体が判断です」
三島が言った。
「そして判断には責任がある」
セイムが答える。
『要約責任です』
ヤミちゃんが即座に反応した。
『また新しい責任が生えた』
「責任栽培でもしてるのか」
長老議員が笑った。
「政治は責任がよく生える畑じゃ」
三島が言った。
「収穫されない責任も多いですが」
「三島君、今日は農業にも厳しいのう」
雨宮がホワイトボードに最後の一文を書いた。
要約する者は、削ったものにも責任を持つ。
会議室が静かになった。
神崎は、その言葉をじっと見た。
要約とは、短くすることではない。
残すものを選び、削るものを選ぶこと。
そして、削ったものが後で問題になった時、知らなかったとは言えない。
AIが削った。
人間は見ていなかった。
それでは、また責任が迷子になる。
神崎は静かに言った。
「AI要約を使うなら、人間が“何を削ったか”を知らなきゃいけない」
雨宮がうなずいた。
「はい。削ったものを知らずに、要約に署名してはいけません」
ヤミちゃんが言った。
『読んでない長文を要約で済ませた人間、あとで長文に殴られる』
「長文が殴ってくるのか」
『監査報告書は重いから強い』
「物理攻撃じゃないだろ」
セイムが淡々と告げた。
『次回論点候補：制度が増えすぎて、現場が疲弊する問題』
三島が顔を上げた。
「来たな。AI制度疲れ」
雨宮がうなずく。
「はい。ここまで監査、ログ、説明、異議、支援、要約確認を増やしてきました。次は、現場が制度を守りきれなくなる問題です」
長老議員が深く息を吐いた。
「それは重要じゃ。制度は正しくても、現場が潰れれば終わりじゃ」
ヤミちゃんが黒い吹き出しを出した。
『民主主義、書類の重さで腰をやる』
「笑えない」
神崎は、ホワイトボードの端に次の見出しを書いた。
AI制度疲れ
そして、少しだけ苦笑した。
「次は、制度を作りすぎた俺たちが怒られる回ですね」
三島が淡々と言った。
「怒られるべきです」
「容赦ないな」
雨宮は静かに微笑した。
「でも必要です。制度は、守れる形にしなければ意味がありません」
神崎はうなずいた。
そして、最後に一文を書いた。
正しい制度も、守れなければ現場では嘘になる。
セイムが淡々と告げた。
『記録しました』
ヤミちゃんが言った。
『第57話、制度疲れで全員ぐったり回』
「ギャグ多めでいこう」
長老議員が湯のみを持ち上げた。
「その前に、茶を濃くしてくれ」
三島が言った。
「制度疲れの予兆ですね」
会議室に、少しだけ笑いが戻った。
神崎はタブレットを閉じた。
「次は、制度を人間が守れる形にする話だ」
