第40話 数字の横に、人間の言葉を残せ
第40話 数字の横に、人間の言葉を残せ
翌朝。
神崎蓮司は、少しだけ楽しみにしていた。
認めたくはない。
だが、楽しみにしていた。
昨日の夜、自分は言った。
「数字の横に、人間の言葉を残せ」
これは長老議員の言葉だ。
正確には、長老議員の言葉を少し整えたものだ。
だから、今日のホワイトボードに書かれていても、自分のせいではない。
そう自分に言い聞かせながら、神崎は事務所のドアを開けた。
ホワイトボードには、予想通り大きく書かれていた。
『数字の横に、人間の言葉を残せ』
神崎は、なぜか少し安心した。
「今日はいい」
三島が振り返った。
「文句なしですか」
「長老議員の言葉だからな」
「先生も昨日、気に入っていました」
「気に入ってはいない。重要だと思っただけだ」
ヤミちゃんが表示された。
『神崎議員の発話傾向では、“気に入っている”と“重要だと思っている”はしばしば重なります』
「分析するな」
セイムも表示された。
『本日の論点に適合します。
候補者評価AIにおいて、数値評価だけではなく、人間による説明、文脈、改善点、留意事項を併記する設計が必要です』
神崎は頷いた。
「今日は、AIスコアの横につける人間コメントの設計だな」
三島がホワイトボードに書き足した。
『数字だけでは、理由が消える』
神崎は振り返った。
「三島、それもいいな」
三島は少し身構えた。
「また標語化されますか」
「されるかもな」
「困ります」
「諦めろ」
「先生の気持ちが分かってきました」
神崎は深く頷いた。
「ようこそ」
午前十時。
雨宮紗季とのオンライン協議。
画面の向こうの雨宮は、今日は少しだけ眠そうに見えた。
神崎は言った。
「寝ましたか」
「四時間半です」
「負けました。私は五時間です」
「勝ち負けではありません」
「最近、睡眠杯を忘れていましたね」
「思い出さなくていいです」
三島が下を向いた。
神崎は咳払いした。
「今日は、数字の横に人間の言葉を残す話ですね」
雨宮は頷いた。
「はい。候補者評価AIのスコアに、人間コメントをどう併記するかです」
KIRIKOが資料を表示した。
『人間コメント設計の論点。
一、誰が書くのか。
二、何を書くのか。
三、誰が読めるのか。
四、候補者本人は反論できるのか。
五、AIスコアと矛盾したコメントを残せるのか。
六、少数意見をコメントとして残せるのか。
七、コメントが形骸化しないようにするにはどうするか。』
神崎は六番を見て反応した。
「少数意見をコメントとして残す。これは大事ですね」
雨宮が頷く。
「AIスコアが低くても、人間の評価者が“この候補者には伸びしろがある”“地域では信頼が厚い”“政策的異論はあるが必要な人材”と書ける余地が必要です」
セイムが補足した。
『逆もあります。
AIスコアが高くても、人間が“数字上は良いが、現場での信頼に不安がある”“発言が整いすぎて本音が見えにくい”“評価項目に過剰適合している可能性がある”と書ける必要があります』
神崎は少し笑った。
「整いすぎて本音が見えにくい。AI時代っぽいな」
ヤミちゃんが表示した。
『見出し案。
“高スコアでも、信用できるとは限らない”』
雨宮は頷いた。
「使えます」
神崎はホワイトボードに書いた。
『高スコアでも、信用できるとは限らない』
『低スコアでも、終わりではない』
三島が続けて書いた。
『数字は入口。判断は出口。』
神崎は三島を見た。
「お前、今日も来るな」
三島は少しだけ困った顔をした。
「すみません」
雨宮が画面越しに言った。
「それも使えます」
三島はさらに困った顔になった。
「本当に困ります」
神崎は笑った。
「標語秘書だな」
「やめてください」
協議は、かなり実務的になった。
人間コメントを誰が書くのか。
選対担当者か。
第三者評価者か。
地域関係者か。
党本部か。
候補者本人の自己説明も併記するのか。
AIスコアに対して、複数の人間コメントを並べるのか。
コメントは候補者本人に見せるのか。
公認判断後に開示するのか。
有権者には見せるのか。
見せるなら、どこまでか。
神崎は頭を抱えそうになった。
「コメント一つで、論点が多すぎる」
雨宮は淡々と言った。
「数字だけで済ませようとする人が出る理由ですね」
「楽ですからね」
「はい。でも、楽をすると壊れます」
セイムが表示した。
『推奨設計。
一、AIスコア。
二、評価項目別の根拠。
三、人間評価者コメント。
四、候補者本人の説明・反論。
五、少数意見コメント。
六、更新履歴。
七、最終判断者コメント。』
神崎は言った。
「七つも並べると、誰が読むんですかね」
セイムが表示した。
『三層化できます』
神崎は苦笑した。
「また三層か」
雨宮が頷いた。
「候補者評価にも三層が必要かもしれません」
三島がホワイトボードに書いた。
『評価も三層化』
第一層、一覧スコア。
第二層、根拠とコメント。
第三層、詳細データと異議申立て記録。
神崎は言った。
「これ、だんだん制度としてはまともだけど、実務は重いですね」
雨宮が答えた。
「だから、対象を絞るべきです。すべての軽微な評価にこの手間をかけるのではなく、公認判断、支援配分、重大リスク評価など、人の政治生命に影響する場面に限定する」
神崎は頷いた。
「権限が重いほど、窓も大きく。評価が重いほど、言葉も厚く」
ヤミちゃんが表示した。
『標語化可能性：高』
三島が小さく言った。
「先生、今のは使えます」
神崎はホワイトボードに書いた。
『評価が重いほど、言葉も厚く』
昼前。
神崎と雨宮は、共同メモを公開した。
表題。
『候補者評価AIにおける人間コメントの必要性』
副題。
『数字の横に、人間の言葉を残す』
本文。
『候補者評価AIを用いる場合、AIスコアだけで候補者を判断することは危険です。数字は比較しやすく、分かりやすく、便利です。しかし、数字だけでは、文脈、理由、少数意見、改善可能性、現場での信頼、本人の説明が消えるおそれがあります。
高スコアでも、信用できるとは限りません。低スコアでも、終わりではありません。
重要なのは、数字の横に人間の言葉を残すことです。
候補者評価AIを用いる場合、少なくとも以下の仕組みが必要です。
一、AIスコアの根拠を示すこと。
二、評価項目ごとの限界を示すこと。
三、人間評価者のコメントを併記すること。
四、候補者本人の説明・反論を記録できること。
五、少数意見を残すこと。
六、評価更新履歴を残すこと。
七、最終判断者が、人間として理由を説明すること。
特に、公認判断、選挙支援配分、重大リスク評価など、候補者の政治生命に大きく影響する評価では、数字だけで判断してはなりません。評価が重いほど、言葉も厚くあるべきです。
数字は入口です。判断は出口です。その間に、人間の言葉が必要です。』
神崎は公開後、三島を見た。
「“数字は入口。判断は出口”も入ったな」
三島は少し複雑そうな顔をした。
「はい」
「おめでとう」
「ありがとうございます、でいいのでしょうか」
「たぶん」
公開後、反応は大きかった。
『数字の横に人間の言葉を残せ』
『高スコアでも信用できるとは限らない』
『低スコアでも終わりではない』
『数字は入口、判断は出口』
『評価が重いほど言葉も厚く』
『これ人事評価にも入れてほしい』
『AIスコアだけで人を落とす会社に読ませたい』
神崎は反応を見て、また政治以外へ広がっていることを感じた。
「評価の話は、本当に広がるな」
三島が頷いた。
「みんな評価されていますから」
神崎は少し黙った。
そうだ。
政治家だけではない。
会社員も、学生も、作家も、配信者も、店も、商品も、病院も、運転手も、宿も、個人も。
みんな何かしら点をつけられている。
そこにAIが入る。
より速く、より広く、よりそれらしく。
数字の横に言葉がなければ、人はすぐに数字だけで見られる。
午後。
党本部の会合では、候補者評価AIの出力画面案が示された。
仮の画面には、候補者名。
総合スコア。
当選可能性。
炎上リスク。
政策一致度。
地域活動指数。
SNS影響度。
説明責任評価。
などが並んでいた。
神崎は見た瞬間、少し嫌な感じがした。
きれいすぎる。
それらしく見えすぎる。
「この画面だと、スコアだけが強すぎます」
情報システム担当者が言った。
「見やすくするためです」
神崎は頷いた。
「分かります。ただ、見やすさが判断を誘導します。総合スコアが大きく表示されると、人間はまずそこを見ます」
選対関係者が言った。
「それが目的では？」
「比較するには便利です。しかし、公認判断に使うなら、数字だけでなく、理由とコメントが同じ画面に見える必要があります」
長老議員が画面を見ながら言った。
「これは、点数が王様になっとる」
会議室が静かになった。
神崎は頷いた。
「はい。点数が王様になっています」
長老議員は言った。
「王様を小さくしろ」
神崎は、思わず笑いそうになった。
しかし、言っていることは重要だった。
「総合スコアを小さくする。項目別根拠と人間コメントを同じ画面に出す。低スコア項目には、改善可能か重大リスクかを区別する。本人コメントも出す」
情報システム担当者がメモを取る。
「画面設計を見直します」
長老議員が続けた。
「点数を上に置くな。人間を上に置け」
神崎は、すぐにメモした。
『点数を上に置くな。人間を上に置け。』
ヤミちゃんが表示した。
『長老議員、標語生成能力：評価不能』
神崎は笑いをこらえた。
会合の結果、出力画面案は修正されることになった。
一、総合スコアを過度に大きく表示しない。
二、項目別スコアには根拠と限界を表示する。
三、人間コメントを同じ画面に表示する。
四、候補者本人の説明欄を設ける。
五、重大リスクと改善可能課題を分ける。
六、最終判断者コメント欄を設ける。
七、総合スコアだけで並べ替える機能を制限する。
神崎は最後の項目を見て、かなり重要だと思った。
総合スコア順。
それは便利だ。
だが、便利すぎる。
便利すぎるものは、人間の判断を吸い寄せる。
夕方。
事務所に戻ると、協議会側からも反応が来ていた。
『候補者評価AIにおける人間コメントの必要性について、協議会としても重要論点と認識します。候補者評価AI部会において、定量評価と定性コメントの併用、候補者本人の説明、少数意見記録、評価更新履歴の扱いを検討します。』
神崎は言った。
「また飲み込んだ」
三島が言った。
「今回は飲み込ませましょう」
「そうだな。ただ、画面設計まで踏み込ませる必要がある」
セイムが表示した。
『候補者評価AIのUI設計は、判断誘導に直結します』
神崎は頷いた。
「UIが政治を決める時代か」
ヤミちゃんが表示した。
『見出し案。
“ボタンの大きさが、公認を左右する”
拡散可能性：高』
神崎は一瞬黙った。
「怖すぎる」
三島が言った。
「でも、本当にそうかもしれません」
神崎はホワイトボードに書いた。
『UIが判断を誘導する』
『ボタンの大きさが、公認を左右する』
見た目は冗談。
中身はかなり深刻。
夜。
ホワイトボードには、今日の言葉が並んでいた。
『数字だけでは、理由が消える』
『高スコアでも、信用できるとは限らない』
『低スコアでも、終わりではない』
『数字は入口。判断は出口』
『評価が重いほど、言葉も厚く』
『点数が王様になっている』
『点数を上に置くな。人間を上に置け』
『UIが判断を誘導する』
『ボタンの大きさが、公認を左右する』
神崎は、最後の二つを見て言った。
「次の論点が見えたな」
三島が頷く。
「候補者評価AIの画面設計ですね」
セイムが表示した。
『第41話相当の論点として有効です』
神崎はタブレットを見た。
「第41話って何だ」
『会話上の連続構造を参照しました』
ヤミちゃんが表示した。
『メタ発言リスク：低。内輪向け。』
神崎は笑った。
「お前たちまで物語を意識するな」
三島が言った。
「でも、そろそろ第40話ですから」
「今がそうだな」
「節目ですね」
神崎は、少しだけ黙った。
第40話。
もちろん、現実の政治に話数などない。
しかし、ここまで来た。
AIで無双するつもりだった若手議員が、今では候補者評価AIのUI設計まで心配している。
どこで道を間違えたのか。
いや、たぶん間違えてはいない。
面倒な方向へ進んだだけだ。
二十二時前。
雨宮からメッセージが来た。
『今日の“点数を上に置くな。人間を上に置け”は強いですね』
神崎は返信した。
『長老議員です』
雨宮。
『やはり評価不能です』
神崎。
『次はUI設計ですね』
雨宮。
『はい。見た目が判断を誘導します』
神崎。
『ボタンの大きさが公認を左右する、という話になりそうです』
雨宮から少し間を置いて返事が来た。
『怖いですが、その通りです』
事務所を出る。
夜風は冷たかった。
数字の横に、人間の言葉を残せ。
今日一日、その言葉を考え続けた。
だが、最後に見えてきたのは、さらに地味で、さらに怖い話だった。
画面。
配置。
文字の大きさ。
色。
並び順。
ボタン。
ランキング。
ソート機能。
そういうものが、人間の判断を静かに誘導する。
AIそのものではなく、AIの見せ方が政治を動かす。
神崎は歩きながら、小さくつぶやいた。
「点数を上に置くな。人間を上に置け」
長老議員の言葉だ。
しかし、今日は自分にも刺さった。
画面の上だけではない。
政治の上に、点数を置くな。
人間を置け。
そういうことなのかもしれなかった。
