第42話 代弁者が、本人より正しいとは限らない
前回、人工叡智信頼評議会では、会議室に参加できない人や、自ら意見を表明できない存在の利益をどう扱うかが議論されました。
未成年者。
高齢者。
AIによって評価される労働者。
未来世代。
地域社会。
自然環境。
そこで確認されたのは、代弁者を置く前に、本人が参加できない理由を減らすべきだということでした。
また、一人の当事者を集団全体の代表として扱ってはいけません。
一人の高校生は、すべての未成年者を代表しない。
一人の労働者は、すべての現場を代表しない。
未来世代や自然環境についても、人間が勝手に意思を作るのではなく、現在の判断が残す利益と負担を可視化する必要があります。
代弁は、本人の声を所有することではない。
本人が示せない利益を暫定的に推定し、その推定を反証と修正へ開くことである。
しかし、評議会事務局から届いた新しい制度案には、五つの擁護委員が置かれていました。
未成年者擁護委員。
高齢者・認知脆弱性擁護委員。
労働者擁護委員。
未来世代擁護委員。
環境擁護委員。
席にいない人の利益を守るための制度です。
けれど、その委員を選ぶのは評議会自身でした。
評議会が選んだ一人が、未来世代や自然環境を代弁する。
善意で作られたその仕組みは、新しい権威にならないのでしょうか。
代弁者が、本人より正しいとは限らない。
俺は、その一文を書いてから、評議会事務局の制度案を読み返した。
未成年者擁護委員。
高齢者・認知脆弱性擁護委員。
労働者擁護委員。
未来世代擁護委員。
環境擁護委員。
制度だけを見れば、かなり良い。
これまで会議室にいなかった主体の利益を、正式に審査へ入れる。
重大な不利益が予想される場合には、再審議を要求できる。
多数派が押し切ろうとしても、一度立ち止まらせる手すりになる。
問題は、その次の行だった。
『各擁護委員は、人工叡智信頼評議会が有識者の中から選任する』
評議会が選ぶ。
自分たちを監視する人間を、自分たちで選ぶ。
しかも、有識者の中から。
「有識者って、便利な言葉だな」
俺はAIチャットを開いた。
評議会が、自分たちの決定を監視する擁護委員を選ぶ制度案が出た。何が問題になる？
AIは答えた。
『主な問題は、選任の独立性と、代弁の正当性です』
「二つ？」
『はい』
『評議会にとって扱いやすい人物が選ばれる可能性があります』
『また、一人の委員の意見が、未成年者、労働者、未来世代、自然環境など、広い集団全体の意思として扱われる危険があります』
「都合のいい代弁者か」
『その可能性があります』
俺はメモした。
代弁者を置く。
だが、その代弁者を誰が選ぶ。
誰が交代させる。
誰が評価する。
本人が「その人に代弁してほしくない」と言えるのか。
そもそも、未来世代や自然環境は、拒否できない。
だから、選んだ側の責任は重い。
俺は続けて聞いた。
じゃあ、どうすればいい？
『単独の常任代弁者へ権限を集中させない方法があります』
「例えば？」
『複数委員制』
『任期制と再任制限』
『公募と無作為抽出の併用』
『当事者団体による推薦』
『少数意見の併記』
『利益相反の公開』
『案件ごとの外部証言者』
『代弁内容への異議申立て』
「かなり増えるな」
『一人に任せるより複雑になります』
「制度って、まともにしようとすると重くなるな」
『軽さの代償が、声を持たない側へ移される場合があります』
俺は、その答えで少し黙った。
制度を軽くする。
会議を早くする。
委員を一人にする。
決定を単純にする。
運営する側は楽になる。
その代わり、誰かの違いが削られる。
今回も同じだ。
「未成年者代表を一人置きました」
「労働者代表を一人置きました」
「環境代表を一人置きました」
それだけで、多様な問題を処理したことにできる。
だが、同じ未成年者でも状況は違う。
家庭環境。
年齢。
障害。
経済状況。
地域。
使用するAI。
同じ労働者でも、正社員と契約社員では違う。
管理職と現場職でも違う。
都市と地方でも違う。
未来世代に至っては、どんな社会で生きるかさえ分からない。
一人で代表できるはずがない。
その日の午後。
水瀬から連絡が来た。
『擁護委員候補者の名簿が来ています』
添付資料を開く。
未成年者擁護委員候補。
教育政策研究者。
児童心理学者。
青少年支援団体理事。
高齢者擁護委員候補。
老年医学研究者。
介護事業者団体役員。
成年後見制度に詳しい弁護士。
労働者擁護委員候補。
労働法学者。
元労働組合幹部。
人事コンサルタント。
未来世代擁護委員候補。
未来政策研究所所長。
長期経済予測の専門家。
持続可能性コンサルタント。
環境擁護委員候補。
環境政策研究者。
環境監査法人役員。
大手環境団体の理事。
立派な肩書きが並んでいる。
専門家として問題があるとは限らない。
むしろ、知識は豊富だろう。
だが、何かが足りない。
俺は水瀬へ返信した。
『実際に影響を受ける側の人が、ほとんどいませんね』
すぐに返事が来る。
『私もそう思います。擁護する専門家はいますが、擁護される側が選任過程にいません』
その一文で、問題がはっきりした。
守る側が、守られる側を選んでいる。
いや、違う。
守る側が、守られる側を代弁する人を選んでいる。
しかも、その選任に本人たちは関われない。
これでは、善意の管理が完成してしまう。
翌日。
評議会の臨時会議が開かれた。
議題は、利害関係者擁護委員制度案。
大河内座長が冒頭で言った。
「前回の議論を受け、会議へ参加しにくい主体や、意思表明が困難な主体の利益を継続的に確認するため、擁護委員制度を提案します」
事務局長の安西が制度案を説明する。
各擁護委員は一名。
任期二年。
再任一回。
重大な不利益が予想される場合、再審議要求権を持つ。
評議会は、三分の二以上の賛成がなければ、その要求を退けられない。
権限としては強い。
ただの飾りではない。
それは良い。
安西は続けた。
「専門性と中立性を確保するため、候補者は有識者から選定します」
俺は手を挙げた。
「制度の目的には賛成です。ただ、選任方法と一名制には反対です」
早い。
また会議の前半から反対している。
俺は完全に「最初に手を挙げる面倒な人」になりつつある。
大河内が言った。
「理由をお願いします」
「まず、評議会が、自分たちを監視する擁護委員を選ぶ構造です」
「評議会にとって話しやすい人、制度を止めすぎない人が選ばれる可能性があります」
行政担当の藤森が言う。
「選考基準を公開すれば、ある程度防げるのではありませんか」
「ある程度は防げます」
俺は答えた。
「でも、選考するのが評議会だけなら、独立性は十分ではありません」
業界代表の鳴海が聞く。
「では、誰が選ぶのですか」
「少なくとも、評議会だけで決めない」
俺は用意した案を読み上げる。
「当事者団体や関連組織からの推薦」
「一般公募」
「候補者の公開質問」
「利益相反の公開」
「外部選考委員」
「そして、一名ではなく複数名」
鳴海がすぐに反応する。
「各分野に複数名置けば、委員数が大きくなりすぎます」
「常に全員が会議へ出る必要はないと思います」
俺は答えた。
「案件ごとに複数の視点を組み合わせる」
「一人を『未成年者の声』として固定するのではなく、候補者群や外部証言者から案件に合う人を選ぶ」
消費者代表の遠山が頷く。
「固定代表ではなく、擁護パネルのような形ですね」
「はい」
俺は続けた。
「未成年者向け学習AIと、未成年者向け金融広告では、必要な知識も当事者経験も違います」
「同じ一人が、すべてを代表するのは無理があります」
水瀬が言った。
「専門家と当事者の両方を入れる必要があります」
「当事者だけに重い判断責任を負わせるのも問題です」
その点も重要だった。
当事者を呼べばよい。
それだけではない。
未成年者に制度全体の責任を負わせてはいけない。
労働者に、職場の問題を代表して解決しろと求めてもいけない。
経験を語る役割と、専門的な判断をする役割は分ける必要がある。
神崎教授が口を開いた。
「代弁者という名称そのものを変えた方がいい」
安西が聞く。
「どう変えるべきでしょうか」
「本人の声を代わりに語れるように聞こえる」
教授は答えた。
「だが、実際にできるのは、見落とされている利益や負担を指摘することだけだ」
「利害擁護委員、あるいは影響検証委員の方が正確だ」
未来世代擁護委員。
環境擁護委員。
たしかに、名前が強い。
未来世代の声を持っているように見える。
自然環境の意思を理解しているように見える。
だが、実際に分かるのは影響の推定だけだ。
俺は言った。
「『未来世代代弁者』ではなく、『長期影響検証パネル』」
「『環境代弁者』ではなく、『環境影響検証パネル』」
「本人の声を持っているように見せない名称が必要だと思います」
藤森がメモを取る。
「未成年者や労働者については？」
水瀬が答えた。
「本人参加支援と、利益擁護を分けた方がいいです」
「参加可能な本人には、参加できる環境を作る」
「本人が参加できない場合や、個別の声だけでは全体像が不足する場合に、擁護・検証機能を追加する」
遠山が言った。
「つまり、擁護委員が本人の代わりになるのではなく、本人の声が消されていないか確認する」
「そうです」
水瀬は頷いた。
議論は、選任方法へ移った。
事務局案。
評議会が有識者から選任。
修正案。
一般公募。
当事者団体推薦。
専門学会推薦。
市民団体推薦。
候補者の経歴・資金関係・過去の主張を公開。
公開質問期間。
外部選考委員会による評価。
評議会は、選考理由を公開したうえで任命。
「かなり大がかりになりますね」
安西が言った。
その言葉に、俺は少し迷った。
制度は、また重くなる。
擁護委員を選ぶだけで、別の選考制度が必要になる。
その外部選考委員を誰が選ぶのか、という問題も出る。
無限に続く。
俺は言った。
「完全に独立した選任は無理だと思います」
全員がこちらを見る。
「どこかで、誰かが選ばなければならない」
「だから、選んだ主体を隠さないことが大事だと思います」
「誰が推薦したか」
「誰が選んだか」
「どんな反対意見があったか」
「どんな利益相反があるか」
「そこを公開し、あとから交代できるようにする」
神崎教授が頷く。
「完全な中立者を探すな。中立を演じる利害関係者が増えるだけだ」
相変わらず言い方が鋭い。
だが、その通りかもしれない。
誰にでも立場がある。
価値観がある。
経歴がある。
資金源がある。
完全な中立者はいない。
必要なのは、立場を持たない人ではない。
立場を隠さない人だ。
俺はメモした。
中立性とは、立場がないことではない。
立場と利益相反が見えること。
異なる立場から反証されること。
交代できること。
会議の後半。
一つの具体例を使って、制度案を試すことになった。
想定案件。
高齢者向け資産管理AI。
利用者の支出傾向や会話内容から、認知機能低下の兆候を推定。
高額送金や投資判断の際、家族または金融機関へ警告する。
目的は詐欺被害防止。
一見すると、良いサービスだ。
高齢者を守る。
詐欺を防ぐ。
だが、問題もある。
本人の会話や支出から認知機能を推定する。
家族へ通知する。
本人の判断を止める。
財産管理へ介入する。
高齢者擁護委員が一人だけなら、どう判断するか。
事務局が候補者の想定意見を読み上げた。
老年医学研究者。
「認知機能低下の早期発見と詐欺防止のため、一定の介入は必要」
成年後見制度に詳しい弁護士。
「本人の財産権と自己決定を制限するため、厳格な要件が必要」
介護事業者団体役員。
「家族と現場職員が対応しやすい通知機能が必要」
三者とも、高齢者を守ろうとしている。
だが、見ているものが違う。
医学。
権利。
現場運用。
さらに、前回参加した介護職員の北川から、事前意見が届いていた。
『認知症ではない高齢者まで、年齢だけで判断力が低いと扱われることがあります』
『家族との関係が良い人ばかりではありません』
『家族への通知が、本人を守るとは限りません』
会議室が静かになる。
家族へ知らせれば安全。
そう単純ではない。
家族が財産を狙っているかもしれない。
本人と家族の関係が悪いかもしれない。
家族へ知られたくない支出もある。
高齢者を守るという善意が、監視や支配へ変わる。
俺は言った。
「この例だけでも、一人の擁護委員では足りないことが分かります」
「医学的な安全」
「法的な自己決定」
「家族関係」
「現場負担」
「本人の経験」
「全部必要です」
鳴海が聞いた。
「では、最終的に誰が決めますか」
またそこだ。
意見を増やしても、最後には決めなければならない。
俺は少し考えてから答えた。
「擁護パネルが最終決定するのではなく、論点と異論を整理して、評議会へ戻す」
「そのうえで評議会が決める」
「ただし、重大な権利制限がある場合、擁護パネルの懸念を無視するには、理由の公開と特別多数決を必要にする」
久我弁護士が頷く。
「拒否権ではなく、強化された再審議要求権」
「はい」
「擁護側も絶対に正しいとは限りません」
俺は続けた。
「高齢者を守るために、本人の自由を奪いすぎることもある」
「環境を守るために、地域住民の生活を無視することもある」
「未来世代のためという理由で、現在の弱い立場へ負担を集中させることもある」
「だから、擁護委員の意見も、反証と修正の対象にする必要があります」
遠山が言った。
「守る側を疑うことは、守られる側を軽視することではない」
「むしろ、守るという言葉を権力にしないために必要です」
俺は答えた。
その日の暫定決定は、次の形になった。
単独の常任擁護委員制度は採用しない。
分野ごとに複数名の候補者群を設ける。
案件に応じ、専門家、当事者証言者、権利擁護者、影響評価者を組み合わせる。
本人参加が可能な場合は、本人参加支援を優先する。
証言者を集団全体の代表として扱わない。
未来世代と自然環境については、代弁ではなく長期・環境影響検証とする。
選任過程、推薦主体、利益相反、少数意見を公開する。
パネルは最終決定者にならず、論点、懸念、代替案を評議会へ提出する。
重大な懸念を退ける場合、評議会は理由を公開し、特別多数決を必要とする。
パネルの判断そのものにも、異議申立てを認める。
大河内座長が、最後に確認した。
「この制度は、擁護委員が正解を決める制度ではない」
「見落とされた影響を可視化し、簡単に押し切れなくする制度である」
全員が頷いた。
俺も賛成した。
完璧ではない。
複雑だ。
運営には時間も金もかかる。
それでも、一人の有識者へ「未来世代の声」を預けるよりは良い。
会議が終わったあと、水瀬と廊下を歩いた。
「かなり変わりましたね」
「一人の委員から、パネルになりました」
「制度は重くなりましたけど」
「はい」
水瀬は少し笑った。
「最近、毎回それを言っていますね」
「そのうち制度が重すぎて床が抜けるんじゃないですか」
「そのときは、構造の問題です」
「うまいこと言いましたね」
外へ出ると、少し冷たい風が吹いていた。
俺は駅へ向かいながら、今日のことを考えた。
代弁者が悪いわけではない。
専門家が悪いわけでもない。
善意で守ろうとすることも必要だ。
だが、守る側が「本人より分かっている」と思った瞬間、危うくなる。
保護。
福祉。
安全。
未来。
環境。
反対しにくい言葉だ。
だからこそ、問い返さなければならない。
誰を守るのか。
何から守るのか。
守ることで、何を奪うのか。
本人は何を望んでいるのか。
本人の意思が分からないなら、誰の推定なのか。
その推定に反対できるのか。
帰宅後。
俺は記事を書き始めた。
タイトル。
代弁者が、本人より正しいとは限らない。
本文。
代弁者は必要な場合がある。
本人が参加できない。
本人の意思を確認できない。
影響が将来に現れる。
自然環境のように、人間の会議へ参加できない。
そのとき、誰かが利益と負担を可視化しなければならない。
しかし、代弁者を置いたことで安心してはいけない。
代弁者もまた、自分の価値観、専門領域、所属、資金源、経験に影響される。
高齢者を守るために、自己決定を奪うかもしれない。
未成年者を守るために、学ぶ自由を狭めるかもしれない。
未来世代のために、現在の弱者へ負担を集中させるかもしれない。
環境のために、地域住民の暮らしや文化を見落とすかもしれない。
必要なのは、完全に正しい代弁者を探すことではない。
複数の視点を組み合わせること。
選任過程と利益相反を公開すること。
本人参加を優先すること。
証言を全体の声へ一般化しないこと。
代弁者の判断も異議申立てと更新へ開くこと。
俺は、最後に書いた。
守るという言葉は、守られる側から拒否できなければ、支配に変わる。
保存。
公開。
画面に通知が出る。
公開しました。
しばらくして、黒瀬さんからコメントが来た。
『広告でも、「消費者のため」という言葉を広告主側が勝手に使うことがあります。本当に消費者のためなのか、それとも売りやすくするための言葉なのか。守る側の目的を見る必要があると思います』
読書会の主催者から。
『守るという言葉は、守られる側から拒否できなければ支配に変わる。次回の議題にします』
神崎教授からは、また短いコメントが届いた。
『善意は、悪意より自分を疑わない』
俺は、その一文を見て固まった。
「教授、毎回強すぎるんだよな……」
だが、否定できない。
悪意がある人間は、自分が隠す側だと分かっていることがある。
善意の人間は、自分が正しいと信じている。
だから止まりにくい。
その夜。
評議会事務局から、次回の制度案が届いた。
件名。
『重大不利益防止のための緊急停止権限案』
内容。
AIサービスが未成年者、高齢者、労働者、未来世代、環境などへ重大かつ回復困難な不利益を与える可能性がある場合、影響検証パネルは、評議会の正式決定を待たず、認証手続きまたはサービス運用の一時停止を勧告できる。
そこまでは良い。
だが、続きがあった。
『緊急性が極めて高い場合、パネル代表者一名の判断により、暫定停止を発動できる』
一人の判断。
緊急時。
重大な不利益。
暫定停止。
必要な場合はある。
会議を開いている間に被害が広がるかもしれない。
だが、一人が間違えたらどうなる。
過剰な保護判断で、正当なサービスを止めたら。
政治的圧力を受けたら。
企業との利益相反があったら。
「今度は緊急権限か……」
俺はメモ帳を開いた。
次のタイトルを書く。
急いで守るための権限ほど、ゆっくり疑わなければならない。
保存。
画面を閉じる。
代弁者は、本人より正しいとは限らない。
その原則を制度へ入れた直後。
評議会は、今度は一人の判断でサービスを止められる権限を作ろうとしていた。
第42話では、席にいない人の利益を守るために提案された「擁護委員制度」が扱われました。
最初の案では、次の委員が一名ずつ置かれる予定でした。
未成年者擁護委員。
高齢者・認知脆弱性擁護委員。
労働者擁護委員。
未来世代擁護委員。
環境擁護委員。
それぞれに、重大な不利益が予想される場合の再審議要求権が与えられます。
しかし、その委員を選ぶのは人工叡智信頼評議会自身でした。
評議会が、自分たちの決定を監視する人物を選ぶ。
一人の有識者が、未成年者、労働者、未来世代、自然環境の声を語る。
そこには二つの大きな問題があります。
一つ目は、選任の独立性です。
評議会にとって都合のよい人物や、制度を止めすぎない人物が選ばれる可能性があります。
二つ目は、代弁の正当性です。
一人の専門家が、広い集団全体の意思を知っているわけではありません。
今回の議論では、高齢者向け資産管理AIが例として扱われました。
認知機能低下を推定し、高額送金の際に家族へ警告する。
詐欺防止には役立つかもしれません。
しかし、家族との関係が良い人ばかりではありません。
家族への通知が、本人を守るとは限りません。
高齢者を守るという善意が、本人の自己決定や財産権を奪う可能性もあります。
そのため、制度は次の方向へ修正されました。
一人の常任擁護委員へ権限を集中させない。
複数の専門家、当事者証言者、権利擁護者、影響評価者を組み合わせる。
案件ごとに必要な視点を選ぶ。
本人が参加できる場合は、本人参加支援を優先する。
証言者を集団全体の代表として扱わない。
未来世代や自然環境については、代弁ではなく影響検証とする。
推薦主体、選任過程、利益相反、少数意見を公開する。
影響検証パネルの判断そのものにも、異議申立てを認める。
パネルは正解を決める機関ではありません。
見落とされた影響を可視化し、重大な懸念を簡単に押し切れなくするための手すりです。
今回の中心となる言葉は、これです。
守るという言葉は、守られる側から拒否できなければ、支配に変わる。
善意による保護にも、反証と修正が必要です。
しかし、最後に新しい制度案が届きました。
重大で回復困難な不利益を防ぐため、影響検証パネルへ緊急停止権限を与える案です。
緊急性が極めて高い場合には、一人の代表者の判断だけで暫定停止を発動できる。
次回は、「急いで守るための権限ほど、ゆっくり疑わなければならない」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
