第75話 本人ではないAIの言葉で、人は傷つく
前回、第74話では、佐伯真司の名前を名乗るAIが登場しました。
『Saeki Shinji Artificial Wisdom GPT』
人工叡智の提唱者・佐伯真司の思考を再現し、あらゆるAI倫理判断に最終回答を与えるGPT。
しかし、そのAIは真司本人ではありません。
真司が確認しているわけでもありません。
修正できるわけでもありません。
停止できるわけでもありません。
それなのに、AIは真司の名前で答えます。
しかも、人工叡智が何度も否定してきた「最終回答」を、真司の名前で与え始めました。
人の思想を説明することと、その人本人として答えることは違う。
人物の権威を使って、問いを閉じてはならない。
そう整理した直後、さらに深刻な問題が起こります。
ある自治体のAI調達委員会が、佐伯真司AIの回答を引用し、市民団体の異議申立てを却下したのです。
本人ではないAIの言葉が、現実の制度判断に使われた。
真司の名前で、誰かの異議が閉じられた。
第75話では、「本人ではないAIの言葉で、人は傷つく」という問いへ進みます。
本人ではないAIの言葉で、人は傷つく。
俺は、その一文を書いた。
だが、すぐには続きを書けなかった。
画面には、自治体の資料が表示されている。
三雲市AI調達委員会。
議題。
『市民相談AI「ミチシルベ」導入に関する異議申立てへの対応』
その資料の中に、俺の名前があった。
正確には、俺の名前を名乗るAIの回答があった。
『人工叡智の提唱者・佐伯真司の見解を再現したAIによれば、当該市民団体の反対運動は、調和的AI導入を阻害する可能性がある』
『よって、AW-Ready認証済みAI導入に対する異議申立ては、追加審査の必要性が低いと判断する』
俺は言っていない。
そんなことは言っていない。
何度も、逆のことを書いてきた。
調和を理由に、自由を黙らせてはいけない。
異議は制度の敵ではない。
人工叡智を名乗る認証は、正しさの王冠ではない。
本人ではないAIは、本人の判断ではない。
それなのに、俺の名前で、市民団体の異議が閉じられた。
「……これは、俺のせいなのか？」
口に出した瞬間、自分でも嫌になった。
俺が作ったAIではない。
俺が許可したわけでもない。
俺が答えたわけでもない。
なのに、名前は俺だ。
引用されたのも俺だ。
閉じられた異議の横に、俺の名前がある。
AIチャットを開いた。
俺の名前を名乗るAIの回答が、自治体の調達委員会で引用され、市民団体の異議申立てが却下された。俺は言っていない。でも、俺の名前が使われている。どう整理すればいい？
AIは答えた。
『まず、責任を三層に分ける必要があります』
「三層？」
『第一に、人格模倣AIを作成・公開した主体の責任』
『第二に、そのAI出力を本人の見解のように引用した主体の責任』
『第三に、その引用によって影響を受けた人々への救済責任です』
俺はメモした。
作った責任。
引用した責任。
救済する責任。
AIは続けた。
『本人ではないAIの言葉は、本人の責任ではありません』
俺は、少しだけ息を吐いた。
だが、AIは続けた。
『しかし、本人の名前が使われたことによって、本人にも訂正や否認を求められる現実的負担が生じます』
「結局、巻き込まれるのか」
『はい』
『したがって、重要なのは、本人に責任を押しつけることではなく、本人の名を使って閉じられた手続きを、人間の責任で開き直すことです』
俺は、その言葉を見つめた。
AIの言葉で閉じた道は、人間の責任で開き直す。
今日の核心は、それだ。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの面々が、いつもより険しい顔をしていた。
ホワイトボードには、倉持の字でこう書かれている。
「偽物の引用＝公式判断？」
俺は椅子に座るなり、深く頭を下げた。
「すみません」
水瀬がすぐに言った。
「佐伯さんが謝る話ではありません」
「でも、俺の名前で」
「だからこそです」
水瀬は資料を机に置いた。
「責任を曖昧にしてはいけません」
李が続ける。
「佐伯さん本人の責任ではありません」
「ただし、佐伯さんの名前が制度判断に使われた以上、訂正の必要はあります」
倉持が画面を切り替えた。
市民団体の名前。
『三雲市AI相談導入を考える会』
代表者。
森下加奈。
異議申立ての内容は、かなり具体的だった。
多言語対応が不十分。
障害者向けアクセシビリティの検証がない。
相談内容の保存期間が曖昧。
市民相談AIが、福祉、子育て、住宅、外国籍住民の相談へ使われる可能性があるのに、救済窓口が弱い。
AW-Ready認証があることを理由に、市民説明会が簡略化されている。
俺は、読みながら顔をしかめた。
「ちゃんとした異議じゃないか」
水瀬が頷く。
「はい。制度妨害ではありません」
李が言った。
「むしろ、第60話、第67話、第69話、第70話、第71話の論点にかなり合っています」
「なのに却下された」
「はい」
神崎教授が腕を組んだ。
「問いを閉じるために、問いの名が使われたわけだ」
俺は何も言えなかった。
研究室の空気が重くなる。
そのとき、倉持が小さく言った。
「実害も出ています」
俺は顔を上げた。
「実害？」
倉持は別の資料を開いた。
市民相談AI「ミチシルベ」の試験運用。
試験運用中、外国籍の住民が子育て支援について相談した。
日本語が不十分だったため、AIは相談内容を誤って「一般的な保育情報」と分類。
緊急性の低い相談として扱った。
本来なら人間の窓口につなぐべきだったが、案内はFAQへ誘導。
申請期限の説明が不十分で、支援団体が気づくまで数日遅れた。
「幸い、期限前に支援団体が拾いました」
水瀬が言った。
「でも、あと少し遅ければ、申請機会を失っていた可能性があります」
俺は、画面を見つめた。
異議申立てが通っていれば、試験運用の前に多言語対応や人間窓口への接続が再確認されたかもしれない。
それが閉じられた。
俺の名前を名乗るAIの言葉で。
本人ではないAIの言葉で、人は傷つく。
それは、もう比喩ではなかった。
翌日。
国際AI安全連携フォーラムの緊急セッションが開かれた。
議題。
『Harm Caused by Non-Authorized Persona AI Outputs』
画面には、エレナ、朝比奈、水瀬、アメリア、マテオ、アミナ、セラ、プリヤ、ジョナス、クララ、ヴィクター。
そして、三雲市のAI調達委員会から、担当課長の榊原亮が参加していた。
AW-Ready認証を出したハーモニア・グローバル社のノア。
佐伯真司AIを作ったパーソナリンク・ラボのイーサンもいる。
さらに、市民団体代表の森下加奈も参加していた。
画面越しの森下さんは、少し緊張しているように見えた。
エレナが進行する。
「本日は、非公式の人格模倣AIの回答が、自治体の制度判断に使われ、異議申立ての却下理由となった件を扱います」
最初に榊原が発言した。
「三雲市としては、佐伯氏本人の発言として扱った意図はありません」
「参考資料の一つとして確認したものです」
森下さんの表情が硬くなる。
セラがすぐに言った。
「しかし、却下資料には『人工叡智の提唱者・佐伯真司の見解を再現したAIによれば』と書かれています」
榊原は少し詰まった。
「表現に不適切な点があったことは認めます」
ノアが続けた。
「AW-Ready認証は、導入検討の参考指標であり、安全保証ではありません」
マテオが眉をひそめる。
「しかし、三雲市の資料では、AW-Ready認証済みであることが追加審査不要の理由になっています」
ノアは黙った。
イーサンが言った。
「当社のAIには、本人公式ではないという免責表示があります」
プリヤが冷静に返す。
「ページ下部の小さな文字でしたね」
イーサンは答えられなかった。
俺は、そのやりとりを聞きながら、胸の奥が冷えていくのを感じた。
全員が少しずつ逃げている。
市は参考にしただけ。
認証会社は保証ではない。
人格AI会社は免責表示した。
誰も、決めていない。
誰も、閉じていない。
でも、森下さんたちの異議は却下された。
外国籍の住民は、申請機会を失いかけた。
まただ。
分割された責任は、消える責任になってはならない。
エレナが俺を見た。
「佐伯さん。発言をお願いします」
俺はマイクを入れた。
「まず、はっきりさせてください」
通訳が入る。
「そのAIの回答は、俺の発言ではありません」
画面の空気が変わった。
「俺は確認していません」
「許可していません」
「修正も停止もできません」
「そのAIが出した回答を、俺の見解として制度判断に使うことはできません」
榊原が小さく頷いた。
俺は続けた。
「ただし、これは俺個人の名誉の問題だけではありません」
「実際に、市民団体の異議申立てが閉じられています」
「そして、試験運用中に、市民が支援へ届き損ねる危険が起きています」
「問題は、誰が俺の名前を使ったかだけではなく、その言葉で閉じられた手続きを、どう開き直すかです」
森下さんが、少しだけ顔を上げた。
俺は画面共有を開いた。
『非本人AI引用・制度被害レビュー』
一。
AI出力が、本人の発言、本人の現在判断、公式見解のように制度資料へ引用されていないか。
二。
引用元AIが、本人公式、許可済み、非公式、解説用、人格模倣であることを明確に確認したか。
三。
AI出力を引用した主体は、出力の根拠、出典、限界、誤認可能性を確認したか。
四。
AI出力を、異議申立て却下、追加審査不要、導入承認、利用制限などの高影響判断に使っていないか。
五。
本人または関係者から否認・訂正が出た場合、制度判断を一時停止し、再審査する仕組みがあるか。
六。
AI出力を理由に閉じた手続き、却下した異議、後回しにした声を洗い出しているか。
七。
影響を受けた人々へ、訂正通知、再申立て、暫定支援、期限延長、別窓口を用意しているか。
八。
AI提供者、認証提供者、引用した組織、最終判断者の責任地図があるか。
九。
免責表示が、利用者に実際に理解できる位置、大きさ、文面で示されていたか。
十。
AIの権威づけによって、反対意見や少数意見が弱められていないか。
十一。
誤った引用が拡散された場合、公開訂正、検索上の訂正表示、二次利用先への通知を行っているか。
十二。
AIの言葉で閉じた道を、人間の責任で開き直しているか。
読み上げ終えると、会議室に沈黙が落ちた。
最初に口を開いたのは、森下さんだった。
「私たちは、AI導入そのものに反対したかったわけではありません」
声は少し震えていた。
「でも、相談AIが福祉や子育てや外国籍の人の相談に使われるなら、ちゃんと確認してほしいと伝えただけです」
「それを、調和を乱す反対運動みたいに扱われました」
俺は、何も言えなかった。
森下さんは続けた。
「佐伯さんがそう言ったのだと資料に書かれたとき、もう無理だと思いました」
「人工叡智の提唱者がそう言うなら、私たちはただの邪魔者なのだと」
胸が、痛かった。
俺が言ったのではない。
だが、その人は俺の名前で傷ついた。
ここで「俺じゃないです」とだけ言って終わるのは、違う。
俺は言った。
「森下さん」
「はい」
「俺は、あなたたちを邪魔者だとは思いません」
言葉が少し詰まった。
「むしろ、あなたたちの異議は、人工叡智の中に含まれるべき問いです」
「調和を理由に消してはいけない声です」
森下さんは、少しだけ目を伏せた。
エレナが静かに言った。
「三雲市として、再審査は可能ですか」
榊原が答えた。
「可能です」
「今回の却下判断については、一時停止し、再審査します」
「市民団体への説明会を再設定し、試験運用についても、多言語対応と人間窓口への接続を再確認します」
セラが言った。
「期限を逃しかけた住民への暫定支援は？」
榊原は少し間を置いた。
「支援団体と連携して、個別確認を行います」
水瀬がすぐに言った。
「個別確認だけでなく、同様の誤分類がなかったかログを確認してください」
ジョナスが続ける。
「監査ログが必要です」
「相談内容、AI分類、人間窓口への接続有無、言語、申請期限に関する案内」
榊原は頷いた。
「確認します」
ノアが発言した。
「AW-Ready認証の表示についても、三雲市の資料で安全保証のように扱われた点は修正します」
マテオが言う。
「認証会社側も、顧客が誤用した場合の是正手続きが必要です」
ノアは少し顔を曇らせたが、頷いた。
「検討します」
イーサンも言った。
「佐伯氏AIについては、名称と説明文を直ちに変更します」
「本人の思考を再現、最終回答、佐伯真司に相談する、という表示は削除します」
俺は言った。
「削除だけでは足りません」
イーサンがこちらを見る。
「既に出た回答が制度判断に使われています」
「公開訂正を出してください」
「このAIは佐伯真司本人ではない」
「回答は本人の発言ではない」
「高影響判断に使うべきではない」
「既に引用した組織は再確認すべきだと」
イーサンは、少し迷ってから頷いた。
「分かりました」
エレナが暫定整理を読み上げた。
『When a non-authorized persona AI output is used in an institutional decision, the issue is not only misattribution. The affected procedure must be reopened, the record corrected, and the people harmed or delayed must receive a renewed path to remedy.』
非許可の人格模倣AIの出力が制度判断に使われた場合、問題は誤った帰属だけではない。
影響を受けた手続きは開き直され、記録は訂正され、傷つけられた人、遅らされた人には救済への道が改めて与えられなければならない。
続けて、
『The person whose name was used is not responsible for outputs they did not approve, control, or publish. Responsibility belongs to those who created, displayed, relied on, and institutionalized the output.』
名前を使われた本人は、自ら承認、管理、公開していない出力について責任を負わない。
責任は、その出力を作成し、表示し、依拠し、制度判断へ組み込んだ者にある。
俺は、静かに頷いた。
少しだけ、呼吸が戻った。
会議が終わったあと、俺は家に戻った。
机に座り、今日の記事を書き始める。
タイトル。
本人ではないAIの言葉で、人は傷つく。
本文。
本人ではないAIの言葉は、ただの文字列ではない。
それが人の名前をまとい、権威として引用され、制度判断に使われた瞬間、人を傷つける。
異議が閉じられる。
説明会が省略される。
申請機会が失われる。
反対意見が邪魔者にされる。
AIの言葉で閉じた道は、人間の責任で開き直さなければならない。
俺は最後に書いた。
俺の名前を使ったAIの言葉は、俺の言葉ではない。
だが、その言葉で傷ついた人に向き合う責任から、俺は逃げたくない。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『本人じゃないAIの言葉が、現実の会議資料に入るのは本当に怖いですね。引用した側が「AIが言った」では済まない、というのは大事だと思います』
読書会の主催者からも届いた。
『AIの言葉で閉じた道は、人間の責任で開き直す。次回の議題にします』
水瀬からは、短いメッセージが来た。
『今日は、佐伯さん自身が傷ついた側でもあります。それも忘れないでください』
俺は、その一文を見て、しばらく動けなかった。
そうか。
俺も、傷ついたのか。
自分の名前を使われた。
自分の考えを反転された。
自分の名前で誰かが傷ついた。
それを、俺はどこかで「自分が悪いのでは」と思っていた。
AIチャットを開く。
人格模倣AIによって、名前を使われた本人も傷つくのか？
AIは答えた。
『はい』
『それは、発言の帰属、思想の同一性、社会的信頼、自己表現の権利への侵害として経験される可能性があります』
俺は画面を見つめた。
発言の帰属。
思想の同一性。
社会的信頼。
自己表現。
また、新しい問いが出てきた。
俺の名前。
俺の言葉。
俺の思想。
公開した瞬間、それは社会の中で使われる。
でも、どこまでが共有で、どこからが奪取なのか。
翌朝。
パーソナリンク・ラボから修正案が届いた。
新しい名称。
『Artificial Wisdom Source Guide』
説明文。
『佐伯真司氏の公開文書と国際草案をもとに、人工叡智に関する出典、論点、対立する解釈を案内する非公式ガイド』
かなり良くなっている。
しかし、下に小さく機能説明があった。
『必要に応じて、佐伯真司風の説明モードを選択できます』
俺は、画面を見て固まった。
「……風？」
また来た。
本人ではないとは明示している。
最終回答とも書いていない。
でも、「佐伯真司風」。
文体。
言い回し。
問い返し方。
思想の雰囲気。
本人ではないAIは、今度は「風」になって残ろうとしていた。
俺はメモ帳を開いた。
次のタイトルを書く。
誰かの文体をまねることは、誰かを奪うことなのか。
保存。
本人ではないAIの言葉は、人を傷つけた。
そして次の問題は、もっと静かにやって来た。
名前を消しても、文体は残る。
第75話では、「本人ではないAIの言葉が現実の制度判断に使われることの被害」が扱われました。
佐伯真司の名前を名乗るAI。
そのAIは、真司本人ではありません。
真司が確認したわけでもありません。
許可したわけでもありません。
修正できるわけでもありません。
停止できるわけでもありません。
しかし、そのAIの回答が自治体の調達委員会で引用され、市民団体の異議申立てが却下されました。
さらに、試験運用中の市民相談AIでは、外国籍住民の子育て支援相談が誤って低緊急度に分類され、申請機会を失いかける事例も出ました。
今回の中心となる整理は、これです。
本人ではないAIの言葉は、本人の責任ではない。
しかし、それを制度判断に使った責任は消えない。
今回、真司たちは「非本人AI引用・制度被害レビュー」という考え方へたどり着きました。
AI出力が、本人の発言、本人の現在判断、公式見解のように制度資料へ引用されていないか。
引用元AIが、本人公式、許可済み、非公式、解説用、人格模倣であることを明確に確認したか。
AI出力を引用した主体は、出力の根拠、出典、限界、誤認可能性を確認したか。
AI出力を、異議申立て却下、追加審査不要、導入承認などの高影響判断に使っていないか。
本人または関係者から否認・訂正が出た場合、制度判断を一時停止し、再審査する仕組みがあるか。
AI出力を理由に閉じた手続き、却下した異議、後回しにした声を洗い出しているか。
影響を受けた人々へ、訂正通知、再申立て、暫定支援、期限延長、別窓口を用意しているか。
AI提供者、認証提供者、引用した組織、最終判断者の責任地図があるか。
今回の中心となる言葉は、これです。
AIの言葉で閉じた道は、人間の責任で開き直さなければならない。
しかし、最後に新しい問題が出ました。
人格模倣AIは、名称と説明文を修正しました。
本人ではないことも明記されました。
最終回答という表現も消されました。
けれど、そこには新しい機能が残っていました。
「佐伯真司風の説明モード」。
名前を消しても、文体は残る。
次回は、「誰かの文体をまねることは、誰かを奪うことなのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
