第41話 席にいない人の利益は、誰が代弁するのか
前回、人工叡智信頼評議会では、制度上の作業定義と意思決定方法が議論されました。
最初の定義案には、次のような言葉がありました。
共通の価値基準へ従う。
社会的な調和を維持する。
多数決によって統一見解を形成する。
しかし、調和は全員が同じ意見になることではありません。
異なる価値や立場が存在したまま、互いを破壊せず、調整と修正を続けられる状態です。
多数決も、決定方法の一つにすぎません。
多数派の意見が採用されたからといって、少数意見が間違いになったわけではありません。
そこで評議会は、反対意見や棄権理由を記録し、重大な決定には外部意見募集と影響評価を行う仕組みを加えました。
少数意見は、未来への監査ログである。
しかし、真司は会議のあとに、さらに根本的な問題へ気づきます。
会議室の中にいる人の反対意見は残せる。
では、最初から席にいない存在の利益はどうなるのか。
未成年者。
高齢者。
現場労働者。
声を上げにくい人。
まだ生まれていない未来世代。
地域社会。
そして、人間の会議へ参加できない自然環境。
第41話では、「席にいない人の利益を、誰が代弁するのか」という問いを扱います。
席にいない人の利益は、誰が代弁するのか。
その一文を書いたあと、俺は前回の会議出席者一覧を眺めた。
業界代表。
消費者代表。
法律家。
行政担当。
研究者。
人工叡智関連文書の作成者。
九人。
それなりに多様な顔ぶれだった。
全員が同じ立場ではない。
反対意見も出た。
棄権も記録された。
少なくとも、評議会の内部だけを見れば、悪くない始まりだったと思う。
だが、考えてみれば当然のことだった。
会議に参加できる人は、会議へ来られる人だけだ。
資料を読める。
専門用語を理解できる。
決められた時刻に参加できる。
自分の意見を言葉へ変えられる。
所属や肩書きを持っている。
そして、誰かから参加する価値があると認められた人だ。
では、そこから外れた人はどうなる。
俺はAIチャットを開いた。
会議に参加できない人や、言葉を持たない自然環境の利益を、制度へどう入れればいい？
AIは答えた。
『複数の方法を組み合わせる必要があります』
「また複数か」
『単独の代弁者へ任せると、その代弁者の価値観が本人の意思として扱われる危険があるためです』
俺は画面を見つめた。
「代弁者が勝手に決める危険か」
『はい』
『考えられる方法として、当事者参加、代理人、影響評価、公開意見募集、独立した擁護役、将来世代や環境への影響指標などがあります』
「本人が参加できるなら、本人に聞く」
『それが基本です』
「参加できない場合だけ代理する」
『はい。ただし、参加できない理由そのものを減らすことも必要です』
俺はメモした。
代弁する前に、参加できるようにする。
これは大事だ。
専門用語ばかりの資料を渡して、
「意見がなかったので反対なし」
では意味がない。
平日の昼間だけ意見交換会を開いて、
「現場労働者から意見が出なかった」
でも駄目だ。
長い申請書を書ける人だけを対象にして、
「高齢者や未成年者も意見を提出できます」
と言っても、形式上の参加にすぎない。
席を用意しただけでは足りない。
そこへ座れる条件まで作らなければならない。
俺は続けて聞いた。
未来世代や自然環境は、自分で参加できない。そこはどうする？
『本人参加が不可能な場合は、現在の人間が利益を推定し、保護する必要があります』
「結局、人間が決めるのか」
『現時点ではそうなります』
「それだと、人間の都合を未来世代や自然の声として言い換えるだけにならないか？」
『その危険があります』
AIは続けた。
『そのため、代弁者個人の善意だけに依存せず、科学的知見、複数の代弁者、長期影響評価、反対意見、予防原則、定期的な再検討を組み合わせる必要があります』
俺は椅子にもたれた。
結局、ここでも一人に任せてはいけない。
未来世代代表。
環境代表。
そういう肩書きを一人置けば終わりではない。
その人が、本当に未来世代の利益を知っているとは限らない。
環境保護を掲げながら、人間生活を無視するかもしれない。
逆に、経済との調和を理由に環境負荷を許容しすぎるかもしれない。
代弁には、必ず代弁者の価値観が混ざる。
「声なき者の声って、結局は作られた声なんだな」
『推定された利益と言う方が正確です』
「本人の意思ではない」
『はい。そこを混同しないことが重要です』
本人の声ではない。
代弁者が推定した利益。
この違いを消すと危険だ。
俺はメモ帳へ書いた。
代弁は、本人の声を所有することではない。
本人が示せない利益を、暫定的に推定し、反証へ開くことである。
その日の午後。
評議会事務局から、次回会議の議題案が届いた。
議題。
認証制度における利害関係者の範囲。
資料には、制度の影響を受ける主体が一覧化されていた。
AIサービス提供企業。
導入企業。
従業員。
一般利用者。
取引先。
行政機関。
地域社会。
悪くない。
だが、足りない。
未成年者。
認知機能が低下した高齢者。
言語や障害によって意見表明が難しい人。
一時的に不安や焦りで判断力が狭まっている人。
まだ生まれていない未来世代。
自然環境。
人間以外の生命。
資料には入っていなかった。
俺は修正案を送り、次回会議で扱ってほしいと伝えた。
数時間後。
事務局長の安西から返信が来た。
『未来世代および自然環境については、認証制度の直接的な利害関係者として扱うべきか、委員内でも意見が分かれる可能性があります』
まあ、そうだろう。
AIサービスの認証制度だ。
そこへ自然環境まで入れると、範囲が広がりすぎる。
何でも人工叡智へ詰め込むな、と言われるかもしれない。
だが、AIが企業判断を支援するなら、その判断は資源消費、物流、雇用、エネルギー利用、廃棄物、地域社会へつながる。
人工叡智が長期的持続性を見るなら、環境を外す方がおかしい。
次の会議は、一週間後だった。
会議室へ入ると、前回と同じ委員が席についていた。
ただし、今回は中央の大型画面に四つの小さな映像枠が並んでいる。
外部意見聴取の参加者だった。
高校生。
介護施設の職員。
物流倉庫で働く契約社員。
地域環境団体の代表。
前回の俺の提案を受け、事務局が急きょ参加者を集めたらしい。
「早いな」
俺が呟くと、水瀬が小さく答えた。
「事務局も本気で制度を作ろうとはしています」
それは認めなければならない。
完璧ではない。
だが、指摘されたことを無視してはいない。
会議が始まる。
大河内座長が言った。
「本日は、認証制度による影響を受ける主体の範囲と、意思決定への参加方法を検討します」
最初に、画面越しの参加者が順に意見を述べた。
高校二年生の宮原結菜。
「未成年者向けのAIサービスなのに、利用規約や説明が大人向けの言葉で書かれていることが多いです」
「同意ボタンは押せます。でも、何に同意したのか分からないことがあります」
「親の同意があればいいことになっていますが、親も詳しく読んでいないと思います」
会議室が静かになる。
同意ボタンを押せる。
でも、理解しているとは限らない。
形式上の同意と、実質的な理解は違う。
次は、介護施設職員の北川奈緒。
「高齢者がAIの案内を信じすぎることがあります」
「人間の職員が説明すると疑う方でも、機械が出した結果だと言うと、正しいものだと思ってしまうことがあります」
「本人の意思を尊重するのは大切ですが、理解が十分でないときに、どこまで止めるべきか現場では迷います」
本人の意思。
保護。
また難しい境界だ。
守るために止めすぎれば、本人の自己決定を奪う。
自由を尊重しすぎれば、理解できないまま不利益を受ける。
三人目は、物流倉庫で働く契約社員の早坂修。
「AIで作業効率を測られる側の意見も聞いてほしいです」
「会社は、AIが公平に評価すると言います。でも、現場では機械が止まった時間や、応援に入った時間まで本人の遅れとして記録されることがあります」
「評価される側には、なぜその点数になったのか分かりません」
「異議を出すと、仕事ができない人が言い訳しているように見られます」
俺は、思わずメモを取る手を止めた。
AI認証。
安全。
心理的脆弱性。
広告。
そこばかり見ていた。
だが、AIは労働者を測る。
作業速度を測る。
離席時間を測る。
ミスを測る。
契約更新へ影響する。
この人たちは、AIサービスの利用者ではない。
自分で導入を選んでもいない。
だが、最も直接的に影響を受けている。
最後は、地域環境団体の代表、松浦和樹。
「AIの判断支援が、環境負荷をどう扱うのかを基準へ入れてほしいです」
「物流効率が上がった、売上が増えた、電力使用量が一拠点で下がった。それだけでは全体の影響は分かりません」
「需要が増えて総輸送量が増えることもあります」
「AI計算資源の電力や水使用もあります」
「環境には、苦情を申し立てる窓口がありません」
環境には、苦情を申し立てる窓口がない。
その言葉が会議室に残った。
四人の意見が終わる。
大河内座長が礼を述べ、質疑へ移った。
業界代表の鳴海が最初に発言した。
「いずれも重要なご意見だと思います。ただ、すべてを認証制度の審査項目に入れると、対象範囲が広がりすぎる懸念があります」
もっともな意見だ。
鳴海は続ける。
「環境評価や労働評価には、すでに別の制度や法律があります。人工叡智制度が、それらをすべて代替することはできません」
「代替する必要はないと思います」
俺は答えた。
「ただ、他制度へ任せることと、人工叡智の判断から除外することは違います」
行政担当の藤森が聞く。
「どの範囲まで確認するべきだと考えますか」
俺は少し考えた。
「そのAIサービスが、誰へ影響を与える可能性があるかを確認する」
「その中に、契約者や直接利用者以外が含まれるなら、影響を評価する」
「ただし、評議会が労働法や環境基準のすべてを独自に作るのではなく、既存の専門制度や知見を参照する」
神崎教授が言った。
「全部を審査する必要はない。だが、見なかったことにはするな、という話だ」
「はい」
俺は頷いた。
制度へ何でも詰め込むのではない。
影響があることを確認し、必要な専門評価へ接続する。
人工叡智信頼評議会だけで完結させない。
それも分散だ。
消費者代表の遠山が、画面の四人へ質問した。
「制度会議へ継続的に参加していただく場合、どのような形式なら参加しやすいでしょうか」
高校生の宮原が答える。
「平日の昼間は学校があるので難しいです」
介護職員の北川も言った。
「交代勤務なので、毎回決まった時間は参加できません」
早坂は少し迷ってから言った。
「会社へ知られると困る場合があります。職場のAI評価について話したことで、契約更新へ影響するのが怖いです」
会議室の空気が変わった。
意見を聞きたい。
でも、意見を言ったことで不利益を受ける。
なら、実名参加を求めるだけで声は消える。
松浦は言った。
「環境団体も、全国の環境全体を代表できるわけではありません。地域によって事情が違います」
これも重要だ。
一人を呼んだから、自然環境の声を聞いたことにはならない。
一人の高校生が、全未成年者を代表するわけではない。
一人の労働者が、全現場を代表するわけでもない。
俺は言った。
「特定の人を『代表者』にして終わらせない方がいいと思います」
大河内が聞く。
「では、どうしますか」
「役割を、代表ではなく証言者にする」
「証言者？」
「はい」
俺は続けた。
「自分が経験したこと、自分が見た範囲を話してもらう」
「全体を代表しているとは扱わない」
「その証言を起点に、他の当事者、調査、統計、専門知見へ広げる」
水瀬が頷く。
「当事者の声を一般化しすぎないための区別ですね」
「はい」
俺は答えた。
「一人の声を無視してはいけない。でも、一人の声を全員の声にしてもいけない」
画面の向こうで、早坂が小さく頷いた。
鳴海が聞いた。
「未来世代や自然環境の場合は、証言者が存在しません」
「だから、本人の意思ではなく、推定された利益だと明示する必要があります」
俺は答えた。
「複数の専門家、地域住民、長期データ、異なるシナリオを使って評価する」
「そして、『未来世代はこう望んでいる』とは言わない」
「『この判断は、将来世代にこうした負担を残す可能性がある』と書く」
神崎教授が言った。
「代弁ではなく、影響の可視化だな」
それだ。
未来世代の気持ちは分からない。
自然環境の意思も、人間の言葉では確認できない。
なら、勝手に声を作るのではなく、現在の判断が残す影響を可視化する。
水資源をどれだけ使うのか。
廃棄物をどれだけ増やすのか。
雇用をどう変えるのか。
負担を誰へ移すのか。
将来、戻せるのか。
戻せないのか。
代弁者が正解を語るのではない。
影響を隠さない。
俺はメモした。
席にいない者の声を作るのではなく、席にいる者の判断が残す影響を見えるようにする。
会議は、制度案の修正へ進んだ。
新たに「影響主体確認」という手順が追加された。
AIサービスの申請企業は、次を示す。
誰が直接利用するのか。
誰が導入を決めるのか。
誰が評価されるのか。
誰が利益を得るのか。
誰が負担を負うのか。
誰が異議を申し立てられるのか。
誰が意見を言えないのか。
影響は将来へ残るのか。
環境や地域社会へ負担を移さないか。
さらに、参加保障の項目も加えられた。
専門用語を減らした資料。
未成年者向け説明。
読み上げ、字幕、翻訳。
匿名意見提出。
勤務時間外を含む複数日程。
意見表明による不利益の禁止。
当事者への謝礼と交通費。
継続参加を求めすぎない。
「かなり増えましたね」
安西が資料を見ながら言った。
最近、会議のたびに同じ台詞を聞いている気がする。
制度は、考えれば考えるほど重くなる。
だが、軽い制度の負担は、制度の外にいる人へ移る。
書類を減らせば、企業は楽になる。
確認を減らせば、審査も早くなる。
だが、その代わりに見落とされる人がいる。
俺は言った。
「すべての案件で、全項目を同じ深さまで調べる必要はないと思います」
安西が顔を上げる。
「リスクに応じて段階を分ける？」
「はい」
「影響が小さく、可逆的で、本人が選べるサービスなら簡易確認」
「雇用、医療、教育、金融、未成年者、高齢者、環境負荷などに関わるなら、詳しい影響評価と当事者意見を必要にする」
前に作った摩擦設計と同じだ。
影響の大きさ。
不可逆性。
関係者の数。
目的の曖昧さ。
制度も、リスクに応じて手続きを変えればいい。
何でも重くするのではなく、落ちたときの被害が大きい場所に手すりを置く。
大河内座長が、修正版を読み上げた。
「認証申請者は、直接利用者だけでなく、評価対象者、非利用当事者、声を上げにくい者、将来世代、地域社会、自然環境への影響を確認する」
「ただし、未来世代および自然環境については、意思を代弁したと表現せず、科学的知見と複数視点に基づく影響推定として示す」
「当事者参加は、一名の代表者によって完了したものと扱わない」
「参加できない理由を減らし、意見表明による不利益を防止する」
「リスクの大きさと不可逆性に応じ、意見聴取と影響評価の深さを調整する」
俺は、ゆっくり頷いた。
完璧ではない。
未来世代の利益が本当に守られる保証もない。
自然環境の価値を人間が都合よく計算する危険も残る。
だが、最初から席にいないものとして無視するよりは前へ進んだ。
会議の最後。
外部参加者へ、制度案について一言ずつ感想が求められた。
宮原は言った。
「高校生代表と言われるのは重いので、証言者という言い方の方がいいです」
北川は言った。
「高齢者を全部守られる側にしないでほしいです。自分で決められる人まで、危ないからという理由で選べなくなることがあります」
早坂は言った。
「匿名で意見を出せる仕組みが本当に守られるなら、現場から話せる人は増えると思います」
松浦は言った。
「自然の声を代弁するとは言わず、負担を見えるようにするという整理には賛成です。ただ、数値にできない影響も残してください」
数値にできない影響。
景観。
文化。
地域の記憶。
生態系のつながり。
安心感。
土地への愛着。
測れるものだけを残せば、また叡智が痩せる。
第24話で出た問題が、ここでも戻ってきた。
測りやすい価値だけが残ると、守るべきものが薄くなる。
大河内は、それぞれの発言を議事録へ残すよう指示した。
会議が終わる。
画面の四人が退出する。
最後に早坂が画面越しに小さく頭を下げた。
その姿を見ながら、俺は考えた。
席にいない人を代弁する。
その言い方自体が、少し傲慢だったのかもしれない。
まず、席へ来られるようにする。
来られないなら、証言を集める。
本人の意思が確認できないなら、勝手に声を作らず、影響を可視化する。
そして、代弁者の判断も疑えるようにする。
会場を出たあと、水瀬が言った。
「今日は、人工叡智の適用範囲がかなり広がりましたね」
「広がりすぎてないですかね」
「その危険はあります」
水瀬は否定しなかった。
「何でも人工叡智で判断しようとすると、別の専門分野を飲み込むことになります」
「じゃあ、どうするんですか」
「接続するんです」
「接続」
「人工叡智が、すべての答えを持つ必要はありません」
「誰へ影響があるかを問い、必要な専門知識や当事者へ接続する」
「人工叡智は万能な審査基準ではなく、見落としている主体を探すための入口にもなれると思います」
俺は、その言葉をメモした。
人工叡智は、すべてを判断するための上位権威ではない。
誰が見落とされているかを問い、必要な知識と当事者へ接続するための入口である。
帰宅後。
俺は記事を書き始めた。
タイトル。
席にいない人の利益は、誰が代弁するのか。
本文。
制度の会議に参加できるのは、参加できる条件を持つ人だけである。
資料を読める。
専門用語を理解できる。
決められた時刻に出席できる。
所属を持つ。
意見を言葉へ変えられる。
その条件を持たない人は、最初から反対意見を残すことすらできない。
だから、代弁者を置く前に、参加できない理由を減らす必要がある。
それでも本人が参加できない場合、代弁を本人の声と同一視してはいけない。
一人の未成年者は、すべての未成年者を代表しない。
一人の労働者は、すべての現場を代表しない。
未来世代や自然環境について、現在の人間が本当の意思を知ることもできない。
必要なのは、勝手に声を作ることではない。
現在の判断が、誰に、どのような利益と負担を残すのかを可視化することだ。
代弁は、本人の声を所有することではない。
暫定的に利益を推定し、その推定を反証と修正へ開くことである。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、黒瀬さんからコメントが来た。
『広告業界でも、ターゲット本人ではなく、広告主と代理店だけで会議をして決めることがあります。見せられる側が会議にいない。今回の話は、広告にもそのまま当てはまると思います』
読書会の主催者から。
『一人の声を無視してはいけない。しかし、一人の声を全員の声にしてもいけない。次回の議題にします』
神崎教授からは短いコメントが届いた。
『代弁者を置いて安心するな。代弁者もまた権力者になり得る』
相変わらず短くて重い。
俺は、その文を何度か読み返した。
代弁者も、権力者になる。
未来世代のため。
子どものため。
高齢者のため。
自然のため。
そう言えば、本人が反対しにくくなる。
あなたのために決めた。
将来のために我慢してほしい。
自然を守るために生活を制限する。
善意の言葉は、強い。
だからこそ、代弁者を疑う仕組みが必要になる。
そのとき、評議会事務局から新しい資料が届いた。
件名。
『利害関係者擁護委員制度案』
内容。
未成年者擁護委員。
高齢者・認知脆弱性擁護委員。
労働者擁護委員。
未来世代擁護委員。
環境擁護委員。
各委員には、重大な不利益が予想される制度案に対する再審議要求権を付与する。
一見すると、良い制度だ。
席にいない人の利益を守る。
再審議を要求できる。
だが、委員の選任方法を見ると、俺は手を止めた。
『各擁護委員は、人工叡智信頼評議会が有識者の中から選任する』
評議会が選ぶ。
評議会が、自分たちの決定を監視する代弁者を選ぶ。
しかも、一人ずつ。
その一人が「未来世代の利益」を語る。
その一人が「環境の利益」を語る。
それは本当に、席にいない人の利益を守る仕組みになるのか。
それとも、評議会が選んだ都合のよい声を「当事者の声」として使う仕組みになるのか。
俺はメモ帳を開いた。
次のタイトルを書く。
代弁者が、本人より正しいとは限らない。
保存。
画面を閉じる。
席にいない人の利益を無視してはいけない。
だが、その人たちの名を使って、別の権威を作ることも許してはいけない。
人工叡智は、代弁という新しい手すりの中にある、新しい危険へ進もうとしていた。
第41話では、会議室へ参加できない人や、言葉を持たない存在の利益を、制度へどう組み込むかが扱われました。
前回、評議会は少数意見を記録する仕組みを作りました。
しかし、少数意見を残せるのは、最初から会議へ参加している人だけです。
今回、外部意見聴取へ参加したのは、次の四人でした。
未成年の高校生。
介護施設の職員。
AIによって作業評価を受ける契約社員。
地域環境団体の代表。
そこから、制度の内側だけでは見えにくかった問題が現れました。
同意ボタンを押せても、内容を理解しているとは限らない。
高齢者を保護しすぎれば、本人の自己決定を奪うことがある。
AIによる評価を受ける労働者は、サービス利用者ではなくても大きな影響を受ける。
意見を言ったことで、契約更新や職場での立場へ不利益が生じる可能性がある。
環境には、苦情を申し立てる窓口がない。
今回の重要な整理の一つは、これです。
代弁する前に、参加できない理由を減らす。
専門用語を減らす。
未成年者にも理解できる説明を用意する。
字幕、読み上げ、翻訳を用意する。
複数の日程を設ける。
匿名で意見を出せるようにする。
意見表明による不利益を防ぐ。
本人が参加できるなら、代弁者より先に本人の声を聞く必要があります。
また、一人の当事者を集団全体の代表として扱う危険もあります。
一人の高校生が、すべての未成年者を代表するわけではありません。
一人の労働者が、すべての現場を代表するわけでもありません。
そのため、今回の外部参加者は「代表者」ではなく、「証言者」として整理されました。
自分が経験した範囲を語る。
その証言を起点に、他の当事者、調査、統計、専門知見へ広げる。
一人の声を無視してはいけない。
しかし、一人の声を全員の声にしてもいけない。
未来世代や自然環境については、さらに慎重さが必要です。
現在の人間は、未来世代の本当の意思を知ることができません。
自然環境の意思を、人間の言葉で確認することもできません。
だから、「未来世代はこう望んでいる」「自然がこう訴えている」とは表現しない。
代わりに、現在の判断が将来や環境へ残す利益と負担を可視化する。
今回の中心となる言葉は、これです。
代弁は、本人の声を所有することではない。
本人が示せない利益を暫定的に推定し、その推定を反証と修正へ開くことである。
また、人工叡智が労働、環境、教育、福祉など、あらゆる専門分野を飲み込んではいけません。
人工叡智は、すべての答えを持つ上位権威ではありません。
誰が見落とされているかを問い、必要な専門知識や当事者へ接続するための入口です。
しかし、最後に新しい制度案が届きました。
未成年者擁護委員。
高齢者擁護委員。
労働者擁護委員。
未来世代擁護委員。
環境擁護委員。
席にいない人の利益を守るための制度です。
けれど、その委員を選ぶのは人工叡智信頼評議会自身でした。
評議会が、自分たちを監視する代弁者を選ぶ。
一人の委員が、未来世代や自然環境の声を代表する。
次回は、「代弁者が、本人より正しいとは限らない」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
