第79話 証明できない本物は、偽物にされるのか
前回、第78話では、「自己主権型人格ウォレット」と「自己証明の義務化」が扱われました。
中央集権的な人格データベースは危険です。
文体、声、顔、判断傾向、反応パターンを一か所に集めれば、保護のための情報が監視やプロファイリングへ流用される可能性があります。
そこで出てきたのが、自己主権型の人格ウォレットでした。
自分の情報を自分で持つ。
必要なときだけ提示する。
中央に預けない。
一見、自由に見える仕組みです。
しかし、企業や行政が人格ウォレットの提示を求め始めれば、それは自由ではなく義務になります。
提示しなければ、表示順位が下がる。
提示しなければ、審査が遅くなる。
提示しなければ、低信頼扱いされる。
提示しなければ、未検証と表示される。
真司たちは、こう整理しました。
自分を証明する自由は、自分を証明しない自由なしには不完全である。
しかし、最後に新しい問題が現れます。
匿名創作者ミカの作品に、投稿サイトが注意ラベルを付けました。
『本人性未検証：AI生成または模倣の可能性があります』
ミカは本物です。
自分で書いています。
しかし、証明できません。
第79話では、「証明できない本物は、偽物にされるのか」という問いへ進みます。
証明できない本物は、偽物にされるのか。
俺は、その一文を書いた。
そして、しばらく画面を見つめた。
本物。
偽物。
この二つだけなら、話は簡単に見える。
本人が書いたものは本物。
AIが作ったものは偽物。
無断模倣は偽物。
権利者確認済みは本物。
でも、現実はそんなにきれいに分かれない。
匿名で書いている人がいる。
本名を出せない人がいる。
創作過程を記録していない人がいる。
古い作品の下書きを残していない人がいる。
端末を変えた人がいる。
支援者と共同で作っている人がいる。
翻訳ツールや校正AIを使っている人がいる。
人間が書いたけれど、AIに似た文体になった人もいる。
そして、証明できない本物がいる。
俺は、ミカの投稿画面をもう一度開いた。
作品タイトルの横に、赤いラベル。
『本人性未検証：AI生成または模倣の可能性があります』
赤。
警告。
危険。
疑い。
読む前から、もう空気が決まっている。
読者コメントも変わっていた。
『これAIなの？』
『前は好きだったけど、ちょっと不安』
『証明できないなら怪しくない？』
『本物ならウォレット出せばいいのに』
俺は、思わず顔をしかめた。
本物なら証明できるはず。
その言葉は、とても便利だ。
だが、現実には違う。
本物でも証明できないことはある。
本物だからこそ、証明したくないこともある。
俺はAIチャットを開いた。
投稿サイトが、人格ウォレット未提示の作品に「本人性未検証：AI生成または模倣の可能性があります」というラベルを付けた。作者は本物だが証明できない。どう整理すればいい？
AIは答えた。
『未検証であることと、偽物であることを分ける必要があります』
「そこだな」
『はい』
『未検証は、確認できていない状態です。偽物、AI生成、無断模倣の証拠ではありません』
俺はメモした。
未検証は、偽物の証拠ではない。
AIは続けた。
『注意表示が必要な場面はありますが、その表示は中立的で、比例的で、異議申立て可能でなければなりません』
「比例的？」
『リスクの大きさに応じた表示です』
『低リスクの創作物に強い警告表示を付けると、作者の信用や読者との関係を不当に傷つける可能性があります』
俺は頷いた。
赤ラベルは強い。
強すぎる。
しかも、本人性未検証とAI生成疑いを一つにまとめている。
それは違う。
「まだ確認していない」と、
「偽物かもしれない」は、
読者に与える印象が違いすぎる。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの面々が、いつものように重い顔をしていた。
ホワイトボードには、倉持の字でこう書かれている。
「未確認＝黒？」
俺は椅子に座った。
「推定無罪の逆ですね」
倉持が丸眼鏡を押し上げる。
「推定AIです」
「嫌すぎる」
李がミカの投稿画面を開く。
「問題は、ラベルが事実以上の意味を持っていることです」
「事実以上？」
水瀬が頷いた。
「事実は、人格ウォレットが提示されていない、というだけです」
「しかし、表示は『AI生成または模倣の可能性があります』になっている」
「つまり、未提示を疑いへ変換しています」
俺はメモした。
未提示を疑いへ変換するな。
神崎教授が腕を組んだ。
「証明しない自由を認めても、証明しない者に札を貼れば同じことだ」
重い。
だが、その通りだった。
人格ウォレットを強制しません。
ただし、出さない人には警告を付けます。
それは実質的な強制だ。
倉持がホワイトボードへ追記する。
自由です。疑われます。
「最近の倉持さん、広告コピーが地獄ですね」
「現実のUIがそうなりそうなので」
本当にそうだ。
水瀬が言った。
「ラベルには、三つの役割があります」
ホワイトボードに書かれる。
情報提供。
注意喚起。
社会的評価。
「運営側は情報提供だと言います」
「でも、ユーザーは社会的評価として受け取る」
李が続ける。
「特に赤色、警告アイコン、疑いという言葉は、強い評価になります」
「未確認であるという技術的状態が、怪しい人という印象へ変わる」
俺は頷いた。
そして、その印象は数字になる。
閲覧数が落ちる。
販売数が落ちる。
コメントが荒れる。
契約が減る。
作者が創作をやめる。
ラベルは小さくても、影響は大きい。
翌日。
国際AI安全連携フォーラムのセッションが開かれた。
議題。
『Unverified Labels and the Exclusion of Authentic Voices』
画面には、エレナ、朝比奈、水瀬、アメリア、マテオ、クララ、プリヤ、ジョナス、ヴィクター、セラ、ナオミ、エミリー、ファン、ミカが並んでいた。
今回は、投稿サイト側から担当者が参加していた。
名前は、リディア・パーク。
クリエイティブ投稿プラットフォーム『VerseGarden』の信頼安全責任者。
ミカの作品にラベルを付けたサイトの担当者だった。
エレナが進行する。
「本日の問いは、未検証ラベルが注意喚起を超え、本物の創作者を偽物扱いする危険です」
最初にリディアが発言した。
「私たちは、創作者と読者を守るためにラベルを導入しました」
「AI生成物や無断模倣が増えています」
「読者には、作品の本人性が確認されているかを知る権利があります」
正しい。
完全には否定できない。
ナオミも頷く。
「無断模倣やAI生成物の表示は必要です」
「創作者を守るためにも、読者を守るためにも」
エミリーも言った。
「AI生成であることを隠して、人間の作家として売るケースはあります」
「そこへ対策が必要なのは事実です」
ここまでは正しい。
だが、ミカが小さく手を挙げた。
「でも、私の作品はAI生成ではありません」
画面が静まる。
「私は匿名で書いています」
「本名も出したくありません」
「創作過程も公開したくありません」
「でも、ウォレットを出さないだけで、AIかもしれないと表示されました」
「読者が減りました」
「コメントも変わりました」
「私は、何もしていないのに、疑われる側になりました」
リディアは少し表情を曇らせた。
「ラベルは、AIであると断定しているわけではありません」
ミカは静かに言った。
「読者には、そう見えません」
その一言で、会議室の空気が変わった。
表示側の意図。
受け取られる意味。
この二つは違う。
マテオが言った。
「未検証という情報を出すことと、疑いのラベルを貼ることは別です」
セラも続ける。
「内部告発でも同じです」
「身元を出せない人に『未確認』『信頼低』というラベルを貼れば、その声は弱くなります」
プリヤが言った。
「ラベルは中立ではありません」
「色、位置、文言、アイコン、順位への影響、検索表示」
「すべてが社会的評価になります」
エレナが俺を見る。
「佐伯さん。人工叡智の観点からは、どう整理しますか」
来た。
俺はマイクを入れた。
「まず、AI生成物や無断模倣への対策は必要です」
通訳が入る。
「読者や創作者に情報を提供すること自体も、否定すべきではありません」
リディアが頷く。
俺は続けた。
「しかし、未検証であることを、偽物である可能性として強く表示してはいけません」
「証明されていないことと、偽物であることは違います」
ミカが画面の向こうで、少しだけ頷いた。
俺は画面共有を開いた。
『未検証表示・本物排除防止レビュー』
未検証であることと、AI生成・無断模倣・偽物であることを明確に分けているか。
ラベルの文言、色、アイコン、位置が、事実以上の疑いを与えていないか。
「本人性未検証」を「AI生成または模倣の可能性」と結びつけすぎていないか。
ウォレット未提示、匿名、仮名、創作過程非公開を、不正の兆候として扱っていないか。
ラベル表示によって、閲覧数、販売、推薦、検索順位、契約機会が不当に下がっていないか。
作者が、ラベルの理由を確認し、訂正・異議申立て・再審査を求められるか。
ラベルの解除に、過剰な本人確認、本名公開、創作過程の全面提出を要求していないか。
AI生成や無断模倣の具体的な根拠がある場合と、単に未確認である場合を別表示にしているか。
読者向け説明で、「未検証は偽物の証拠ではない」と明示しているか。
ラベルの影響を、匿名創作者、少数言語、低資源地域、障害者、共同制作、支援付き創作ごとに監査しているか。
ラベルなし作品だけを優遇する推薦アルゴリズムになっていないか。
安全のための表示が、証明できない本物を排除する仕組みへ変わっていないか。
読み終えると、しばらく沈黙があった。
リディアが最初に言った。
「二番と三番は、改善できると思います」
「現在の赤ラベルは強すぎるかもしれません」
ジョナスが言った。
「五番の影響監査が必要です」
「ラベルが付いた作品の閲覧数、推薦率、販売数、コメントの変化を測定するべきです」
プリヤが頷く。
「特に匿名創作者への影響を見てください」
「ウォレットを提示できる有名作家と、提示できない匿名作家で格差が広がります」
ミカが言った。
「私は、AI生成ではないと証明するために、全部の下書きや作業画面を出したくありません」
「それは私の内側なので」
その言葉に、俺は少し止まった。
私の内側。
創作過程は、単なる証拠ではない。
迷い。
削除した文章。
失敗した案。
恥ずかしいメモ。
感情の残りかす。
人に見せる前の、まだ柔らかいもの。
それを全部出せと言われるのは、かなり重い。
エミリーが強く頷いた。
「創作過程の提出は、作家にとって心の中を提出するようなものです」
ナオミも言った。
「模倣対策のために、創作者が過剰な創作ログを提出させられるのは危険です」
リディアが困ったように言う。
「しかし、ラベル解除には何らかの確認が必要です」
「はい」
俺は答えた。
「だから、段階的でいいと思います」
「軽い表示なら、軽い確認」
「強い疑い表示なら、強い根拠」
「本人に過剰な負担を求めず、複数の道を用意する」
「支援団体や編集者による確認」
「限定的な創作履歴」
「本人情報を出さない第三者確認」
「長期的な作品傾向」
「ただし、それも信頼スコア化しすぎない」
水瀬が補足する。
「表示を三段階に分ける案もあります」
画面に整理が出た。
確認済み。
未確認。
具体的疑いあり。
「未確認は中立表示にする」
「具体的疑いありは、根拠がある場合だけ」
「そして、どちらも異議申立て可能にする」
リディアがメモを取る。
「その方向で検討できます」
クララが言った。
「ただし、『確認済み』マークが強すぎると、未確認が事実上の疑いになります」
また戻ってきた。
マークがある人だけが安全。
マークがない人は疑い。
第78話の問題だ。
俺は言った。
「確認済みマークも控えめにする必要があります」
「これは本人確認の一形式を通過したという意味であって、作品の価値や人間性や正しさを保証するものではない」
「未確認も、偽物の証拠ではない」
エレナが暫定整理を読み上げた。
『Unverified does not mean false, AI-generated, or unauthorized. Labels must distinguish lack of verification from evidence of imitation or deception.』
未検証であることは、虚偽、AI生成、無断利用を意味しない。
ラベルは、確認がない状態と、模倣や欺瞞の証拠がある状態を区別しなければならない。
続いて、
『Safety labels must be proportionate, contestable, and audited for exclusionary effects. A warning meant to protect authenticity must not make authentic but unverified creators appear fake.』
安全ラベルは、比例的で、異議申立て可能で、排除効果を監査されなければならない。
本物性を守るための警告が、未検証の本物の創作者を偽物に見せてはならない。
俺は深く頷いた。
今回も、どうにか着地した。
そう思ったときだった。
リディアが、少し言いにくそうに口を開いた。
「一つ、次回に回すべき問題があります」
エレナが頷く。
「お願いします」
リディアは言った。
「未検証ラベルを弱める場合、別の方法で真正性を確認する必要があります」
「そのために、私たちは創作ログの任意提出機能を検討しています」
ミカの表情が硬くなる。
リディアは続けた。
「執筆時間、編集履歴、キーストローク、下書き、使用ツール、AI利用履歴」
「それらを保存し、必要なときだけ証明に使う」
俺は、静かに息を吐いた。
来た。
次の崖。
創作過程のログ。
人間が作った証明。
AIではない証明。
でも、それは、作る過程そのものを記録し続ける社会ではないのか。
迷いも。
削除も。
未完成も。
恥ずかしい下書きも。
全部、証拠になる。
エレナが静かに言った。
「次回は、創作過程の証明と、内面の記録化を扱いましょう」
画面が消える。
俺は椅子にもたれた。
「本物を証明するために、作っている最中まで差し出すのか……」
AIチャットを開く。
未検証ラベルを避けるために、創作ログを提出する案が出た。執筆時間、編集履歴、キーストローク、下書き、使用ツール、AI利用履歴。これは創作過程の監視にならないか？
AIは答えた。
『なり得ます』
『創作ログは本人性や人間制作の証明に役立つ場合がありますが、同時に創作者の迷い、未完成の思考、削除した表現、AI利用、生活リズムを記録する情報でもあります』
俺はメモ帳を開いた。
次のタイトルを書く。
創作過程を差し出さなければ、本物ではないのか。
保存。
それから、今日の記事を書き始めた。
タイトル。
証明できない本物は、偽物にされるのか。
本文。
未検証であることは、偽物であることではない。
人格ウォレットを出していないことは、AI生成の証拠ではない。
本名を出せないことは、不正の兆候ではない。
創作過程を公開しないことは、模倣の証明ではない。
安全のためのラベルは必要な場合がある。
しかし、そのラベルが強すぎれば、本物の人を偽物に見せる。
俺は最後に書いた。
証明できない本物は、偽物ではない。
制度が本物を守りたいなら、証明できる人だけでなく、証明できないまま本物である人をどう傷つけずに扱うかを考えなければならない。
保存。
公開。
画面に通知が出る。
公開しました。
黒瀬さんからコメントが来た。
『未検証ラベル、広告でもかなり影響が出そうです。注意喚起のつもりでも、赤いラベルが付いた瞬間、ユーザーは避けますよね』
読書会の主催者からも届いた。
『証明できない本物は、偽物ではない。次回の議題にします』
神崎教授からは、短いコメントだった。
『本物である証拠を求めすぎると、本物でいる時間がなくなる』
俺は、その一文を見て、しばらく動けなかった。
次の問いは、もうそこにある。
創作過程を差し出さなければ、本物ではないのか。
人工叡智は、本物を守るための証明が、創作の内側まで入り込んでくる場所へ進むことになる。
第79話では、「未検証ラベル」と「証明できない本物の排除」が扱われました。
人格ウォレットを提示しない創作者に、投稿サイトが注意ラベルを付けました。
『本人性未検証：AI生成または模倣の可能性があります』
サイト側の目的は、読者や創作者を守ることでした。
AI生成物や無断模倣を隠して投稿する行為への対策は必要です。
しかし、問題は、未検証であることが、偽物やAI生成の疑いへ変換されてしまうことです。
今回の中心となる整理は、これです。
未検証であることは、偽物であることではない。
人格ウォレットを提示していない。
本名を出していない。
匿名で活動している。
創作過程を公開していない。
それだけで、AI生成や無断模倣の証拠になるわけではありません。
今回、真司たちは「未検証表示・本物排除防止レビュー」という考え方へたどり着きました。
未検証であることと、AI生成・無断模倣・偽物であることを分けているか。
ラベルの文言、色、アイコン、位置が、事実以上の疑いを与えていないか。
ウォレット未提示、匿名、仮名、創作過程非公開を、不正の兆候として扱っていないか。
ラベル表示によって、閲覧数、販売、推薦、検索順位、契約機会が不当に下がっていないか。
作者が、ラベルの理由を確認し、訂正・異議申立て・再審査を求められるか。
ラベルの解除に、過剰な本人確認、本名公開、創作過程の全面提出を要求していないか。
AI生成や無断模倣の具体的な根拠がある場合と、単に未確認である場合を別表示にしているか。
読者向け説明で、「未検証は偽物の証拠ではない」と明示しているか。
今回の中心となる言葉は、これです。
証明できない本物は、偽物ではない。
制度が本物を守りたいなら、証明できる人だけでなく、証明できないまま本物である人をどう傷つけずに扱うかを考えなければならない。
しかし、最後に新しい問題が出ました。
未検証ラベルを弱める代わりに、創作ログを任意提出する案です。
執筆時間。
編集履歴。
キーストローク。
下書き。
使用ツール。
AI利用履歴。
それらを保存すれば、人間が作った証明や、本人性の証明に使えるかもしれません。
しかし、それは同時に、創作者の迷い、削除した言葉、未完成の思考、生活リズム、創作の内側を記録することでもあります。
次回は、「創作過程を差し出さなければ、本物ではないのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
