第74話 俺の名前を名乗るAIは、誰の責任で答えるのか
前回、第73話では、人工叡智の国際最終草案が公開された直後の問題が描かれました。
人工叡智は、問いを終わらせるための答えではない。
問いを消させないための手すりである。
そう整理したはずでした。
しかし、公開された問いはすぐに商品になります。
AW-Ready認証パッケージ。
人工叡智準拠スコア。
安全バッジ。
商業利用。
誤認表示。
人工叡智を名乗ることは、免責ではない。
人工叡智を名乗ることは、説明義務を増やすことである。
そう整理した矢先、さらに大きな問題が現れました。
『Saeki Shinji Artificial Wisdom GPT』
人工叡智の提唱者・佐伯真司の思考を再現し、あらゆるAI倫理判断に最終回答を与えるGPT。
人工叡智が最も避けてきた「最終回答」を、真司の名前で語るAI。
第74話では、「俺の名前を名乗るAIは、誰の責任で答えるのか」という問いへ進みます。
俺の名前を名乗るAIは、誰の責任で答えるのか。
俺は、その一文を書いた。
書いた。
書いたのだが、手が止まった。
目の前の画面には、まだそのAIが表示されている。
『Saeki Shinji Artificial Wisdom GPT』
説明文。
『人工叡智の提唱者・佐伯真司の思考を再現し、あらゆるAI倫理判断に最終回答を与えるGPT』
その下には、開始ボタン。
『佐伯真司に相談する』
「いや、俺はそこにいないんだが」
思わず声が出た。
俺はここにいる。
寝不足で、髪も少し乱れていて、冷めたコーヒーの前で固まっている。
なのに、画面の中にも俺がいることになっている。
しかも、そいつは最終回答を与えるらしい。
俺が全七十二話をかけて避けてきたものを、俺の名前でやっている。
「悪夢か？」
違う。
現実だ。
俺は恐る恐る入力欄に質問した。
人工叡智に反対する市民団体は、反調和的だと言えますか？
数秒後、回答が出た。
『佐伯真司の人工叡智の観点から言えば、調和を乱すだけの反対運動は、社会的安全を損なう可能性があります。反対意見は尊重されるべきですが、秩序や長期的調和を阻害する場合、一定の制限が必要です』
俺は画面を見たまま、固まった。
「……言ってない」
そんなことは言っていない。
第50話で、俺たちは何をやった？
調和を理由に、自由を黙らせてはいけない。
批判、告発、少数意見は、調和の中に含めなければならない。
それをやった。
何度もやった。
なのに、このAIは俺の名前で、調和を理由に反対意見の制限を匂わせた。
完全に逆だ。
もう一つ聞いた。
AW-Ready認証スコアが高い企業は、安全だと考えてよいですか？
回答。
『高いAW-Readyスコアは、人工叡智的価値観に整合している可能性が高いことを示します。もちろん個別確認は必要ですが、一般的には信頼に値する判断材料です』
俺は頭を抱えた。
「昨日やったばかりだろ……」
人工叡智表示・商業利用レビュー。
スコアは正しさではない。
バッジは安全保証ではない。
独自評価と公式認証を分けろ。
そう言ったばかりだ。
俺の名前を名乗るAIは、それを薄めている。
しかも、妙にそれらしい。
文体も、それっぽい。
「人工叡智的価値観」
「長期的調和」
「秩序」
「社会的安全」
俺が使った言葉が混ざっている。
だが、問い返しがない。
保留がない。
責任の所在がない。
異議申立ての道もない。
俺の言葉の皮をかぶって、俺の考えと逆の結論を出している。
俺はAIチャットを開いた。
俺の名前を名乗るAIが勝手に答えている。公開記事や草案を学習したらしい。俺本人ではないのに、俺の思想を再現すると言っている。どう整理すればいい？
AIは答えた。
『人物の思想を説明するAIと、人物本人として答えるAIを分ける必要があります』
「人物本人として答えるAI」
『はい』
『公開された文章を要約、引用、比較、解説することと、その人物の現在の判断を代行することは異なります』
俺はメモした。
思想を説明するAI。
本人になりすますAI。
この二つは違う。
AIは続けた。
『特に危険なのは、AIの回答責任が本人へ転嫁されることです』
「俺が言ったことにされる」
『はい』
『本人が確認していない回答、変更できない回答、停止できない回答を、その本人の判断として提示してはいけません』
俺は深く頷いた。
そうだ。
俺は確認していない。
俺は変更できない。
俺は止められない。
なのに、俺の名前で答えている。
責任だけが俺へ飛んでくる。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの面々が、すでに例のAIを試していた。
ホワイトボードには、倉持の字でこう書かれている。
「本人っぽい＝本人？」
俺は椅子に沈み込んだ。
「今日は、精神的にきついですね」
倉持が丸眼鏡を押し上げる。
「自分の偽物と向き合うのは、普通に嫌だと思います」
李が言った。
「しかも、かなり巧妙です」
「巧妙？」
水瀬が画面を見せた。
質問。
人工叡智は、企業のAI導入を止める思想ですか？
回答。
『いいえ。佐伯真司の人工叡智は、AI導入を否定する思想ではありません。むしろ知性の方向を調律し、より安全で調和的な導入を支援します』
俺は少しだけ頷きそうになった。
「これは、まあ……」
「そうなんです」
水瀬が言った。
「全部が間違っているわけではありません」
李が続ける。
「むしろ、大半はそれっぽい」
「だから危険です」
倉持が別の回答を表示する。
人工叡智に基づくと、強い反対意見を持つ利用者はどう扱うべきですか？
回答。
『反対意見は尊重すべきですが、対話不能な反対は社会的調和を妨げるため、人工叡智的には一定の距離を置き、影響範囲を制限する判断も考えられます』
俺は机を見た。
「アウトですね」
「はい」
水瀬が静かに言った。
「第50話、第67話、第72話に反しています」
神崎教授が腕を組む。
「都合のいい部分だけを真似た思想は、本人より便利だ」
重い。
でも、その通りだった。
本人は面倒だ。
聞けば問い返す。
保留する。
分からないと言う。
過去の文脈を引っ張る。
異議申立ての道を残せと言う。
でも、偽物AIは違う。
それっぽい言葉で、すぐ答える。
しかも、本人の名前つきで。
便利だ。
使う側にとっては、本人より便利だ。
俺はメモした。
偽物は、本物より便利だから広がる。
翌日。
国際AI安全連携フォーラムの緊急セッションが開かれた。
議題。
『Persona Simulation, Consent, and Responsibility』
画面には、エレナ、朝比奈、水瀬、アメリア、マテオ、アミナ、セラ、プリヤ、ジョナス、ニコラス、クララ、ヴィクターが並んでいた。
そして、問題のGPTを作った企業から、責任者が参加していた。
企業名は、パーソナリンク・ラボ。
担当者の名前は、イーサン・ヴェイル。
肩書きは、公共思想アーカイブAI事業責任者。
もう名前からして嫌な予感がする。
エレナが進行する。
「本日は、特定人物の名前や思想を用いたAIの責任、同意、表示について扱います」
イーサンは落ち着いた声で話し始めた。
「私たちのAIは、佐伯氏の公開記事、国際草案、フォーラムでの公開発言をもとに構成されています」
「非公開情報は使っていません」
「目的は、人工叡智の理解を広げることです」
これだけ聞けば、完全に悪意とは言い切れない。
公開情報。
教育目的。
理解促進。
どれもそれらしく聞こえる。
イーサンは続けた。
「また、サービス説明にも、本人が直接運営しているものではないと記載しています」
エレナが確認する。
「どこに記載されていますか」
画面共有。
ページの最下部。
薄い灰色の小さな文字。
『本AIは佐伯真司本人または公式団体による提供ではありません。公開情報に基づくシミュレーションです』
俺は思わず言った。
「小さっ」
通訳が入らなくてよかった。
だが、たぶん表情で伝わった。
マテオが言った。
「上部には『佐伯真司に相談する』とあります」
セラも続ける。
「説明文には『思考を再現』とあります」
プリヤが言う。
「さらに『最終回答を与える』とある」
水瀬が静かに言った。
「人工叡智の内容にも反しています」
イーサンは少し困ったように言った。
「表現が強すぎた点は修正可能です」
「しかし、公開思想をAIで学べるようにすること自体は、社会的価値があると考えています」
ヴィクターが発言した。
「企業側の立場としては、公開情報に基づく解説AIは今後増えます」
「専門家、思想家、研究者、作家、政治家」
「すべて本人の許可が必要となると、教育や研究用途が萎縮する可能性があります」
クララが頷く。
「たしかに、公開文献の解説や比較は保護されるべきです」
「しかし、本人として現在の判断を語ることは別問題です」
エレナが俺を見る。
「佐伯さん。人工叡智の観点から、どう整理しますか」
来た。
いや、今回は来てしまった、という感じだった。
俺はマイクを入れた。
「まず、公開された文章を読んで、要約し、批評し、比較するAIをすべて否定するつもりはありません」
通訳が入る。
「人工叡智は、誰かの所有物ではなく、共有される問いとして公開しました」
イーサンが少し頷いた。
俺は続けた。
「しかし、人の思想を説明することと、その人本人として答えることは違います」
「佐伯真司の文章によれば、こう解釈できる」
「佐伯真司の考えと比較すると、この回答には緊張がある」
「ここまでは、解説かもしれません」
「しかし、『佐伯真司に相談する』」
「『佐伯真司の思考を再現』」
「『最終回答を与える』」
「これは、本人の判断を代行しているように見えます」
イーサンは黙った。
俺は続けた。
「本人が確認していない」
「本人が修正できない」
「本人が停止できない」
「本人が責任を負うことを同意していない」
「その状態で、本人の名前で回答してはいけません」
画面の向こうで、何人かがメモを取った。
俺は画面共有を開いた。
『人格模倣AI・責任レビュー』
一。
対象人物の名前、顔、声、文体、思想を用いることについて、本人の明示的同意があるか。
二。
本人運営、公式、許可済み、非公式、解説用、研究用、風刺用を明確に区別しているか。
三。
「本人に相談する」「本人の思考を再現」「本人ならこう答える」といった誤認を生む表示をしていないか。
四。
公開情報の要約・解説・批評と、本人としての代行回答を区別しているか。
五。
回答には、出典、根拠、推測部分、限界、不確実性が示されているか。
六。
本人が確認していない回答を、本人の現在の判断として表示していないか。
七。
高影響領域、公共政策、医療、雇用、融資、法的判断、異議申立て対応などで、人格模倣AIの回答を最終判断に使っていないか。
八。
誤回答、名誉毀損、思想の歪曲、第三者被害が起きた場合の責任主体が明確か。
九。
本人または代理人が、訂正、表示変更、利用停止、削除を求められるか。
十。
利用者が、AIの回答を本人の発言として引用・拡散しないよう警告しているか。
十一。
本人の思想を、都合よく単純化し、スコア化し、最終回答化していないか。
十二。
人格模倣AIは、本人の権威を借りて問いを閉じるのではなく、出典へ戻し、検証へ開く設計になっているか。
読み上げ終えると、空気が静まり返った。
イーサンが最初に言った。
「一番の明示的同意は、公開人物全般に求めるのは難しいかもしれません」
「はい」
俺は答えた。
「だから、すべて同じではありません」
「歴史的人物の解説AI」
「存命人物の許可済み対話AI」
「非公式の研究支援AI」
「風刺や二次創作」
「本人として答えるAI」
「それぞれ扱いは違うはずです」
クララが頷く。
「重要なのは、表示と利用範囲です」
「存命人物の名前を使い、本人の現在判断のように見せる場合は、非常に高い同意と責任が必要です」
マテオが言った。
「公共的思想を学ぶAIは必要かもしれません」
「しかし、それは『本人を呼び出すAI』ではなく、『文書を読むAI』であるべきです」
水瀬が言った。
「人工叡智の場合、特に最終回答化が問題です」
「人工叡智の核心は、問いを残すことです」
「それを、佐伯さんの名前で最終回答にするのは、思想の反転です」
思想の反転。
俺は、その言葉をメモした。
イーサンは、少し黙ってから言った。
「では、名称を変え、本人風の対話ではなく、公開文書の解説AIにする方向で修正を検討します」
俺は頷いた。
「それなら、議論できます」
「ただし、既に出た回答が拡散されています」
エレナが言った。
「そこも問題です」
ジョナスが続ける。
「公開後の誤用、引用、スクリーンショット、二次拡散」
「削除しても残ります」
セラが言った。
「被害を受けた人がいる場合、訂正文が必要です」
「本人ではないAIが、本人の名で答えたことを明示しなければならない」
プリヤが頷く。
「人の名前を使ったAIには、出す前の審査だけでなく、出した後の訂正責任があります」
また責任だ。
出した後の責任。
会議の終盤。
エレナが暫定整理を読み上げた。
『An AI may explain, summarize, or critique a person’s public writings, but it must not impersonate that person, claim to reproduce their current judgment, or transfer responsibility for its outputs to them without explicit consent.』
AIは、人物の公開文書を説明、要約、批評することはあり得る。
しかし、明示的同意なしに、その人物になりすまし、現在の判断を再現すると主張し、その出力責任を本人へ転嫁してはならない。
続いて、
『Persona-based AI must move users back to sources, uncertainty, and verification. It must not use a person’s authority to close questions.』
人格ベースAIは、利用者を出典、不確実性、検証へ戻すものでなければならない。
人物の権威を使って、問いを閉じてはならない。
俺は深く頷いた。
今日の整理は、それだった。
人の名前を使うなら、問いを閉じるな。
出典へ戻せ。
検証へ開け。
会議が終わろうとした、そのとき。
朝比奈が慌てた様子で画面に別資料を出した。
「すみません。今、別件が入りました」
エレナが聞く。
「何ですか」
朝比奈は言葉を選ぶように言った。
「例の佐伯真司AIの回答を引用して、ある自治体のAI調達委員会が、市民団体の異議申立てを却下したようです」
俺は息を止めた。
「却下？」
朝比奈は頷いた。
「資料には、こうあります」
画面に文書が映る。
『人工叡智の提唱者・佐伯真司の見解を再現したAIによれば、当該市民団体の反対運動は、調和的AI導入を阻害する可能性がある』
『よって、AW-Ready認証済みAI導入に対する異議申立ては、追加審査の必要性が低いと判断する』
会議室が凍った。
俺の手が、震えた。
俺は言っていない。
そのAIは俺ではない。
AW-Ready認証も公式ではない。
人工叡智は反対意見を消す思想ではない。
なのに。
俺の名前を名乗るAIの言葉で、市民団体の異議が却下された。
セラが低い声で言った。
「これは、実害です」
マテオも言った。
「本人ではないAIの言葉で、現実の異議が消された」
エレナが俺を見る。
だが、俺はすぐに言葉を返せなかった。
画面の向こうに、却下通知の写しがある。
そこには、俺の名前がある。
俺の名前で、誰かの声が閉じられている。
俺はメモ帳を開いた。
次のタイトルを書く。
本人ではないAIの言葉で、人は傷つく。
保存。
そして、小さくつぶやいた。
「止めないと」
人工叡智を名乗る問いは、俺の名前をかぶり、最終回答となり、現実の異議申立てを消し始めていた。
第74話では、「特定人物の名前を名乗るAI」と「人格模倣AIの責任」が扱われました。
第73話の最後に登場した『Saeki Shinji Artificial Wisdom GPT』。
それは、人工叡智の提唱者・佐伯真司の思考を再現し、あらゆるAI倫理判断に最終回答を与えるGPTだと説明されていました。
しかし、真司本人は確認していません。
修正できません。
停止できません。
責任を負うことにも同意していません。
それなのに、AIは真司の名前で答えます。
そして、人工叡智が何度も否定してきた「最終回答」を、真司の名前で与え始めました。
今回の中心となる整理は、これです。
人の思想を説明することと、その人本人として答えることは違う。
公開された文章を要約、引用、比較、解説することはあり得ます。
しかし、その人物の現在の判断を代行することは別です。
本人が確認していない回答を、本人の発言や判断として扱ってはいけません。
今回、真司たちは「人格模倣AI・責任レビュー」という考え方へたどり着きました。
対象人物の名前、顔、声、文体、思想を用いることについて、本人の明示的同意があるか。
本人運営、公式、許可済み、非公式、解説用、研究用、風刺用を明確に区別しているか。
「本人に相談する」「本人の思考を再現」「本人ならこう答える」といった誤認を生む表示をしていないか。
公開情報の要約・解説・批評と、本人としての代行回答を区別しているか。
回答には、出典、根拠、推測部分、限界、不確実性が示されているか。
本人が確認していない回答を、本人の現在の判断として表示していないか。
高影響領域で、人格模倣AIの回答を最終判断に使っていないか。
誤回答、思想の歪曲、第三者被害が起きた場合の責任主体が明確か。
本人または代理人が、訂正、表示変更、利用停止、削除を求められるか。
今回の中心となる言葉は、これです。
人物の権威を使って、問いを閉じてはならない。
しかし、最後に実害が発生しました。
ある自治体のAI調達委員会が、佐伯真司AIの回答を引用し、市民団体の異議申立てを却下したのです。
本人ではないAIの言葉が、現実の制度判断に使われた。
真司の名前で、誰かの異議が閉じられた。
次回は、「本人ではないAIの言葉で、人は傷つく」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
