第77話 守るために人格を登録する社会は、安全なのか
前回、第76話では、「文体模倣」と「人格代替」が扱われました。
人は、人の文章から学びます。
作家は作家から影響を受けます。
研究者は、その分野の言葉を学びます。
AIも、大量の文章から表現パターンを学びます。
だから、「似ているから禁止」という単純な整理では足りません。
しかし、似ることと、代替することは違います。
特定人物の名前を使う。
本人だと分かる特徴を意図的に組み合わせる。
本人の権威を借りる。
本人ならこう答えると見せる。
本人の市場や社会的役割を、大量生成によって代替する。
それは、単なる影響とは違う問題です。
真司たちは、こう整理しました。
文体は学ばれてもよい。
しかし、文体から人格を勝手に作ってはいけない。
ところが、最後に新しい問題が出ました。
人格模倣を防ぐには、「どれだけ本人に似ているか」を判定する必要があります。
そのために、文体フィンガープリントや思考パターンを登録する案が出たのです。
しかし、それは人を守るために、人を詳細に分析し、保存することでもあります。
第77話では、「守るために人格を登録する社会は、安全なのか」という問いへ進みます。
守るために人格を登録する社会は、安全なのか。
俺は、その一文を書いた。
そして、すぐに嫌な気持ちになった。
守るため。
この言葉は、いつも強い。
子どもを守るため。
市民を守るため。
被害者を守るため。
作家を守るため。
思想家を守るため。
本人を模倣AIから守るため。
そう言われると、反対しにくい。
実際、俺は守ってほしい。
自分の名前を勝手に使われた。
自分の考えを反転された。
自分の文体まで「佐伯真司風」として機能化された。
それを止める仕組みがあるなら、欲しい。
欲しいのだが。
その仕組みが、
「では、あなたの文体、語彙、思考パターン、判断傾向、反応の癖を登録してください」
と言ってきたら、どうだろう。
俺を守るために、俺を解析する。
俺を守るために、俺らしさをデータベースへ入れる。
俺を守るために、俺がどんな問い方をし、どんな言葉を選び、どんな結論を避けるのかを、機械が持つ。
それは本当に保護なのか。
それとも、別の形の檻なのか。
俺はAIチャットを開いた。
文体模倣から本人を守るために、文体フィンガープリントや思考パターンを登録する案がある。でも、それは人格データベースにならないか？
AIは答えた。
『なり得ます』
「即答か」
『はい』
『保護目的で集めた文体特徴、語彙傾向、判断パターン、反応傾向は、本人識別、匿名発言の追跡、思想プロファイリング、採用、広告、治安、信用評価へ流用される危険があります』
俺はメモした。
保護データは、監視データになり得る。
AIは続けた。
『特に危険なのは、本人が登録を拒否した場合に保護されない制度です』
「登録しないなら守らない？」
『はい』
『それは、保護を受けるために人格情報の提出を強制する構造になります』
俺は、思わず椅子にもたれた。
登録しなければ守られない。
登録すれば解析される。
どちらを選んでも、嫌なものが残る。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの四人は、もう資料を並べていた。
ホワイトボードには、倉持の字でこう書かれている。
「盗まれないために、自分を提出？」
俺は椅子に座りながら言った。
「今日も胃に悪いですね」
倉持が丸眼鏡を直す。
「第四部は胃薬が必要です」
李が真顔で言う。
「でも、現実にあり得ます」
「文体模倣対策サービス」
「本人らしさ登録」
「創作者保護ID」
「思想家プロファイル保護」
「AIなりすまし防止認証」
水瀬が続けた。
「仕組みとしては、こうです」
ホワイトボードに図が書かれる。
本人の文章を登録する。
文体特徴を抽出する。
模倣AIの出力と照合する。
似ている場合、警告や停止を行う。
「一見すると、合理的です」
「確かに」
俺は頷いた。
「問題は、その特徴量が何に使えるかです」
水瀬は、次の行を書いた。
匿名記事の著者推定。
思想傾向の分類。
採用時の性格分析。
広告ターゲティング。
治安監視。
政治的リスク判定。
信用スコア。
俺は顔をしかめた。
「地獄の展開ですね」
李が頷く。
「文体は、かなり個人に近い情報です」
「顔や声ほど分かりやすくないだけで、その人の考え方、学歴、地域、職業、思想傾向、心理状態がにじむ場合があります」
倉持がホワイトボードへ追記する。
文体＝静かな生体情報？
「それ、怖すぎませんか」
「怖いです」
神崎教授が腕を組んだ。
「顔を隠しても、文章で見つかる社会か」
その一言で、部屋が静かになった。
顔を隠しても、文章で見つかる社会。
匿名で書いた告発。
仮名で出した異議。
別名義で書いた弱音。
昔のブログ。
支援掲示板の相談。
それらが、文体フィンガープリントで結びつけられる。
人を守るために作ったデータベースが、人を逃がさない網になる。
俺はメモした。
模倣防止と匿名保護は、衝突する。
翌日。
国際AI安全連携フォーラムのセッションが開かれた。
議題。
『Personality Protection Databases and Surveillance Risk』
画面には、エレナ、朝比奈、水瀬、アメリア、マテオ、クララ、プリヤ、ジョナス、ヴィクター、セラ、エミリー、ダニエル、イーサンが並んでいた。
今回は、新しい参加者が二人いた。
一人は、ナオミ・リード。
作家やクリエイターの権利保護団体の代表。
もう一人は、ファン・ミンホ。
プライバシー保護技術を研究する専門家だった。
エレナが進行する。
「本日の問いは、人格模倣を防ぐための文体・人格特徴データベースが、保護ではなく監視へ転じる危険です」
最初にナオミが発言した。
「創作者側から言えば、保護の仕組みは必要です」
「AIに自分の作風を大量模倣され、仕事を奪われる人がいます」
「本人の名前を使われなくても、読者が『これはあの作家っぽい』と受け取ることがあります」
「何も対策がなければ、創作者は守られません」
正しい。
エミリーも頷く。
「私たちは、ただ我慢しろと言われ続けてきました」
「公開したのだから学習されても仕方ない」
「有名なのだから模倣されても仕方ない」
「でも、それでは生活も人格も守れません」
これも正しい。
一方で、セラが言った。
「しかし、文体データベースは危険です」
「内部告発者の匿名文書を、過去の公開文と照合できてしまう」
マテオが続ける。
「政治的少数派や活動家も同じです」
「匿名でしか言えない言葉が、文体で追跡される」
プリヤが言った。
「さらに、文体特徴は本人だけでなく、階層、教育、地域、母語、障害、心理状態を推定する材料になります」
「それが採用や治安や広告に流れれば、人格監視です」
ナオミは少し苦しそうに言った。
「でも、保護がなければ創作者が犠牲になります」
「はい」
ファン・ミンホが頷いた。
「だから、保護のための照合と、識別のための追跡を分ける設計が必要です」
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、人格模倣から人を守る仕組みは必要です」
通訳が入る。
「創作者、研究者、活動家、思想家、一般の利用者も、自分らしさを勝手に量産される被害から守られるべきです」
ナオミが頷く。
俺は続けた。
「しかし、その保護のために、本人の文体、思想、反応パターンを中央集権的に登録し、他用途へ使える形で保存するなら、それは危険です」
「保護制度が、人格監視制度へ変わります」
プリヤが頷く。
俺は画面共有を開いた。
『人格特徴保護・監視化防止レビュー』
人格特徴の登録は、本人の自由な同意に基づいているか。登録しない人を保護対象外にしていないか。
登録する情報は、模倣検出に必要な最小限へ限定されているか。文章本文そのものを過剰に保存していないか。
文体特徴、語彙傾向、思想傾向、反応パターンを、採用、融資、保険、広告、治安、政治分析、信用評価へ流用していないか。
保護用データベースが、匿名発言者の特定や内部告発者の追跡に使われないよう禁止しているか。
中央集権的な巨大データベース以外の方法、端末内照合、第三者預かり、暗号技術、限定照合を検討しているか。
登録情報の保存期間、削除方法、アクセス権限、監査ログが明確か。
本人が登録内容を確認し、訂正し、削除し、利用停止できるか。
模倣判定の結果に対して、AI提供者、利用者、本人、第三者が異議申立てできるか。
文体が似ているだけで、別人の表現や二次創作、批評、研究、風刺を不当に止めていないか。
有名人や登録者だけが守られ、無名の人や低資源地域の人が保護されない構造になっていないか。
保護制度の運営者に、商業的利益、政治的利益、捜査機関、広告企業との利益相反がないか。
人を守るための登録が、人を識別し、追跡し、分類する基盤へ変わっていないか。
読み終えると、画面の向こうで何人もメモを取っていた。
ファンが最初に言った。
「五番は重要です」
「中央データベースへ全部集める必要はありません」
「本人の端末内で特徴を保持し、疑わしい出力だけを限定照合する方法も考えられます」
「暗号化された照合、第三者機関による限定確認、可逆性のない特徴量なども検討できます」
ダニエルが補足する。
「ただし、可逆性がないと説明しても、特徴量から再識別できる場合があります」
「安全だと過信してはいけません」
セラが言った。
「匿名発言者の特定に使わないという制限は、法的にも強く必要です」
「内部告発者や被害者の匿名性が破られれば、保護制度が加害に使われます」
マテオが続ける。
「政府や企業が『なりすまし対策』を理由に、批判者の文体を照合する未来は避けなければなりません」
ナオミが言った。
「でも、登録しない人をどう守るのですか？」
重要な質問だった。
登録しなければ守れない。
そうすると登録が事実上の義務になる。
登録すれば危険。
登録しなければ無防備。
この二択をどう崩すか。
俺は答えた。
「登録者だけを守る仕組みにしてはいけないと思います」
「たとえば、明確な本人名の無断利用、本人と誤認させる表示、本人代行の主張、大量の商業代替については、登録の有無にかかわらず制限する」
「登録は、追加的な検出補助にとどめる」
「守られる権利の入口を、登録に依存させない」
エミリーが頷いた。
「登録しない作家も守られるべきです」
「特に新人作家は、登録制度の存在すら知らないかもしれません」
プリヤが言った。
「登録できる人ほど守られる制度は、また格差を作ります」
第70話の信頼スコアと同じだ。
信頼されている人ほど守られる。
登録できる人ほど守られる。
有名な人ほど守られる。
無名の人は、模倣されても「証明できない」。
それでは駄目だ。
ヴィクターが発言した。
「企業としては、明確な基準が必要です」
「登録なしでも保護する範囲が広すぎると、通常の生成が萎縮します」
クララが頷く。
「だから、段階が必要です」
「名前の無断利用」
「本人だと誤認させる表示」
「本人の代行を主張する用途」
「高影響領域での権威利用」
「大量商業代替」
「このあたりは、登録なしでも高リスクとして扱える」
ジョナスが言った。
「一方、文体が似ているという微妙な領域では、独立した審査、文脈確認、異議申立てが必要です」
俺は頷いた。
「似ているだけで止めない」
「でも、本人らしさを使って代替し、誤認させ、利益を得る場合は止める」
「その判断も、監査される」
また戻ってきた。
分類権限。
異議申立て。
責任地図。
人工叡智は、本当に同じ場所へ何度も戻る。
ただ、戻るたびに少しだけ複雑になる。
会議の終盤。
エレナが暫定整理を読み上げた。
『Protection against persona imitation must not require people to surrender their personality data to a surveillance infrastructure. Registration may support detection, but protection must not depend solely on registration.』
人格模倣からの保護は、人々に人格データを監視基盤へ差し出すことを要求してはならない。
登録は検出を補助し得る。
しかし、保護は登録だけに依存してはならない。
続いて、
『A system built to protect identity must not become a system for identifying anonymous speech, profiling thought, or ranking people by linguistic and psychological patterns.』
人格を守るために作られた制度は、匿名発言者を特定し、思想をプロファイルし、言語的・心理的パターンで人を格付けする制度になってはならない。
俺は深く頷いた。
今回も、どうにか着地した。
そう思ったときだった。
ファンが、静かに手を挙げた。
「一つ、次回に回すべき問題があります」
エレナが頷く。
「お願いします」
ファンは言った。
「中央データベースを避けるために、各人が自分の人格特徴を管理する自己主権型の人格ウォレットを持つ案があります」
俺は少しだけ安心しかけた。
自分で管理するなら、まだましなのではないか。
だが、ファンの表情は暗い。
「しかし、その場合、企業や行政がこう求める可能性があります」
彼は資料を映した。
『本人性保護ウォレットを提示してください』
『人格特徴の照合に同意してください』
『このサービスを利用するには、あなたの文体・声・顔・判断傾向の保護証明が必要です』
俺は眉をひそめた。
「……つまり？」
ファンは言った。
「中央登録を避けても、今度は個人が常に自分の人格証明を持ち歩かされる社会になるかもしれません」
会議室が静まり返った。
人格ウォレット。
自分らしさの証明書。
文体。
声。
顔。
判断傾向。
それを提示できなければ、発言できない。
仕事を受けられない。
創作物を公開できない。
相談できない。
匿名で書けない。
守るために登録する社会の次は、
守られるために証明し続ける社会。
エレナが静かに言った。
「次回は、人格証明と自己主権の罠を扱いましょう」
画面が消える。
俺は椅子にもたれた。
「守られるために、ずっと自分を証明しろってか……」
AIチャットを開く。
中央データベースを避けるために、自己主権型の人格ウォレットを持つ案が出た。でも、企業や行政が提示を求めると、結局、自分らしさを証明し続ける社会にならないか？
AIは答えた。
『なり得ます』
『自己管理は自由を増やす場合がありますが、提示を求められる場面が増えると、自己証明の義務に変わります』
俺はメモ帳を開いた。
次のタイトルを書く。
自分らしさを証明し続ける社会は、自由なのか。
保存。
それから、今日の記事を書き始めた。
タイトル。
守るために人格を登録する社会は、安全なのか。
本文。
人格模倣から人を守る仕組みは必要だ。
作家、研究者、活動家、思想家、一般の利用者。
誰も、自分らしさを勝手に量産され、代替され、利用されてよいわけではない。
しかし、その保護のために、文体、語彙、思想傾向、反応パターンを巨大なデータベースへ登録するなら、別の危険が生まれる。
守るための情報は、監視するためにも使える。
模倣防止の文体照合は、匿名発言者の特定にも使える。
創作者保護の人格特徴は、採用、広告、治安、信用評価にも流用できる。
俺は最後に書いた。
保護のために人格を差し出せ、という制度は慎重でなければならない。
人を守るための登録が、人を追跡するための名簿になった瞬間、保護は監視へ変わる。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『広告側から見ると、文体や反応パターンは喉から手が出るほど欲しいデータです。本人を守るために集めた情報が、商品を売るために使われる未来は普通に想像できます』
読書会の主催者からも届いた。
『人を守るための登録が、人を追跡するための名簿になった瞬間、保護は監視へ変わる。次回の議題にします』
神崎教授からは、短いコメントだった。
『首輪を自分で持てば自由、という理屈もある』
俺は、その一文を見て、しばらく画面を見つめた。
次の問いは、もうそこにある。
自分らしさを証明し続ける社会は、自由なのか。
人工叡智は、人格を守るための自己管理が、いつの間にか自己証明の義務へ変わる場所へ進むことになる。
第77話では、「人格模倣を防ぐための人格特徴登録」と「監視化の危険」が扱われました。
前回、文体模倣と人格代替の違いが整理されました。
しかし、人格模倣を防ぐためには、「どれだけ本人に似ているか」を判定する仕組みが必要になります。
そのために、文体フィンガープリント、語彙傾向、思想傾向、反応パターンを登録する案が出ました。
一見すると、それは創作者や思想家を守る仕組みに見えます。
実際、人格模倣から人を守る制度は必要です。
しかし、そのために人の文体や思考の癖を巨大なデータベースへ登録すれば、別の危険が生まれます。
今回の中心となる整理は、これです。
保護データは、監視データになり得る。
文体特徴は、本人の模倣検出だけでなく、匿名発言者の特定にも使えます。
思想傾向や反応パターンは、広告、採用、保険、治安、政治分析、信用評価にも流用できます。
守るために集めた情報が、人を識別し、追跡し、分類する基盤になる危険があります。
今回、真司たちは「人格特徴保護・監視化防止レビュー」という考え方へたどり着きました。
人格特徴の登録は、本人の自由な同意に基づいているか。
登録しない人を保護対象外にしていないか。
登録する情報は、模倣検出に必要な最小限へ限定されているか。
人格特徴を、採用、融資、保険、広告、治安、政治分析、信用評価へ流用していないか。
保護用データベースが、匿名発言者の特定や内部告発者の追跡に使われないよう禁止しているか。
中央集権的な巨大データベース以外の方法を検討しているか。
登録情報の保存期間、削除方法、アクセス権限、監査ログが明確か。
登録者だけが守られ、無名の人や低資源地域の人が保護されない構造になっていないか。
今回の中心となる言葉は、これです。
人を守るための登録が、人を追跡するための名簿になった瞬間、保護は監視へ変わる。
しかし、最後に新しい問題が出ました。
中央データベースを避けるために、自己主権型の人格ウォレットを持つ案が出たのです。
自分の文体、声、顔、判断傾向を、自分で管理する。
一見、自由に見えます。
しかし、企業や行政がその提示を求めれば、今度は自分らしさを常に証明し続ける社会になります。
次回は、「自分らしさを証明し続ける社会は、自由なのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
