第76話 誰かの文体をまねることは、誰かを奪うことなのか
前回、第75話では、佐伯真司の名前を名乗るAIの言葉が、現実の制度判断に使われるという実害が起こりました。
真司本人が確認していない。
許可していない。
修正も停止もできない。
それにもかかわらず、人格模倣AIの回答が自治体の資料へ引用され、市民団体の異議申立てが却下されました。
本人ではないAIの言葉は、本人の責任ではない。
しかし、その言葉を作り、表示し、引用し、制度判断へ組み込んだ責任は消えない。
AIの言葉で閉じた道は、人間の責任で開き直さなければならない。
そう整理したことで、人格模倣AIは修正されました。
新しい名称は、
『Artificial Wisdom Source Guide』
佐伯真司本人ではなく、公開文書や国際草案を案内する非公式ガイド。
ところが、そこには一つの機能が残されていました。
「佐伯真司風の説明モード」。
名前を消しても、文体は残る。
第76話では、「誰かの文体をまねることは、誰かを奪うことなのか」という問いへ進みます。
誰かの文体をまねることは、誰かを奪うことなのか。
俺は、その一文を書いた。
そして、すぐに自分で困った。
「これ……どこから駄目なんだ？」
名前を勝手に使う。
本人だと誤認させる。
本人の現在の判断として答える。
そこまでなら、前回かなり整理できた。
でも、
「佐伯真司風」
となると、急に境界がぼやける。
文体に所有権があるのか。
問い返す書き方は俺のものなのか。
短い文章を重ねるのは？
「誰が責任を負うのか」と問い返すのは？
「調和」「循環」「構造」という言葉を使うのは？
そもそも、俺自身だって誰かの文章を読んできた。
誰の影響も受けていない文体なんて、本当に存在するのか。
俺は例の修正版AIを開いた。
『Artificial Wisdom Source Guide』
今度は、本人ではないことが画面上部にはっきり書かれている。
そこは改善されていた。
問題は、その下だ。
『説明スタイル』
標準。
学術調。
初心者向け。
佐伯真司風。
俺は嫌な顔をしながら、最後の項目を選んだ。
質問を入力する。
AIによる採用判断は、どこまで認めるべきですか？
回答が出た。
『まず、採用AIそのものを善悪で決めてはいけない。
問うべきなのは、その知性がどこへ向いているかだ。
効率か。
公平か。
企業の都合か。
応募者の尊厳か。
そして、忘れてはいけない。
人間が最後にボタンを押したからといって、人間が本当に判断したとは限らない。
問いは一つだ。
その仕組みで不利益を受けた人は、誰に「違う」と言えるのか。』
俺は黙った。
「……それっぽいな」
かなり。
いや、嫌になるくらい。
俺が書いた文章をそのままコピーしているわけではない。
でも、リズム。
短文。
問い返し。
対比。
最後に一つの問いへ落とす。
かなり俺っぽい。
さらに入力する。
人工叡智とは何ですか？
回答。
『人工叡智は、答えではない。
知性を止めるものでもない。
むしろ逆だ。
知性が速くなればなるほど、「どこへ向かっているのか」と問い続けるための手すりである。
だから、人工叡智を信じろとは言わない。
人工叡智そのものを疑ってほしい。
疑えない叡智は、もう叡智ではない。』
俺は椅子にもたれた。
「俺より俺っぽく書くなよ……」
少し腹が立った。
同時に、妙な気持ちになった。
全部が間違っているわけではない。
むしろ、今回は内容までかなり近い。
では、何が嫌なのか。
名前は出ている。
ただし「本人ではありません」と書いてある。
回答にも、
『公開文書から抽出した文体的特徴を用いた説明であり、本人の発言ではありません』
と表示される。
前回よりずっと慎重だ。
それでも、嫌だ。
俺はAIチャットを開いた。
本人ではないことを明記して、本人の文章をそのままコピーせず、「佐伯真司風」として文体だけを再現するのはどう考えればいい？
AIは答えた。
『いくつかの問題を分ける必要があります』
「また分けるのか」
『はい』
『文体の一般的特徴』
『特定人物と認識させる特徴の組み合わせ』
『本人の権威を利用する表示』
『本人の市場や社会的役割を代替する利用』
『本人に帰属すると誤認される可能性』
俺はメモした。
単に似ている。
意図的に似せている。
本人と認識させる。
本人の代わりに使う。
全部違う。
AIは続けた。
『重要なのは、「似ているか」だけではありません』
『誰の名前で、何の目的に、どの程度本人らしさを利用し、利用者に何を信じさせ、本人や第三者へどのような影響を与えるかです』
「じゃあ、一番大事なのは？」
少し間があった。
『文体の模倣を、人格の代替にしてはいけないことです』
俺は、その一文を見つめた。
文体の模倣を、人格の代替にしてはいけない。
午後。
研究室へ向かった。
水瀬、李、倉持、神崎教授。
いつもの四人が待っていた。
そして、ホワイトボード。
「〇〇風＝〇〇本人？」
俺は思わず笑った。
「最近ずっと疑問符ですね」
倉持が丸眼鏡を押し上げる。
「第四部は疑問符が主役なので」
「人工叡智そのものじゃないですか」
水瀬が例のAIを操作した。
「問題は、かなり難しくなりました」
「前回みたいに、明確ななりすましではないですからね」
「はい」
李が言った。
「そもそも、人間も文体を学習します」
「好きな作家を読めば影響される」
「論文を書けば、その分野の書き方へ寄る」
「ライトノベルを読めば、会話やテンポの作り方も学ぶ」
俺は頷く。
「それを全部禁止したら、何も書けない」
「そうです」
水瀬が続けた。
「だから、『似ているから禁止』では単純すぎます」
神崎教授が腕を組んだ。
「だが、機械は一人の癖を一瞬で大量生産できる」
空気が変わった。
そうだ。
人間の影響とAIの模倣は、規模が違う。
俺が誰かの文章に影響されても、一日に百万本は書けない。
でもAIならできる。
本人が一冊を書く間に、
本人風の記事。
本人風の相談回答。
本人風の広告。
本人風の講演原稿。
本人風の小説。
本人風の政治声明。
いくらでも作れる。
倉持がホワイトボードに書いた。
似ること。
量産すること。
代替すること。
「この三つは分けた方がいいですね」
俺は頷いた。
本人らしい文章を一度遊びで作る。
本人風の商品を大量販売する。
本人の代わりに相談へ答える。
同じではない。
水瀬が言った。
「さらに、高影響用途があります」
「政治？」
「政治、医療、投資、法律、雇用、公共制度」
「その人の文体が、権威と結びついている場合です」
俺の場合なら、人工叡智。
有名研究者なら、その専門分野。
政治家なら、政策判断。
医師なら、医療助言。
作家なら、創作物。
文体だけの問題ではなくなる。
文体が、本人らしさの証明として働く。
そして、人は信じる。
神崎教授が言った。
「声色を盗まなくても、考え方の癖を盗めば、人は本人を見る」
俺はメモした。
本人らしさは、顔や声だけではない。
翌日。
国際AI安全連携フォーラムのセッションが開かれた。
議題。
『Style Simulation, Identity, and Substitution』
画面には、エレナ、朝比奈、水瀬、アメリア、マテオ、クララ、プリヤ、ジョナス、ヴィクター、セラ。
そして、パーソナリンク・ラボのイーサン。
今回は新たに二人が参加していた。
一人は、小説家のエミリー・ウォード。
もう一人は、計算言語学者のダニエル・チャン。
エレナが進行する。
「本日は、特定人物の文体や表現パターンをAIが再現することと、人格の代替について扱います」
最初にダニエルが発言した。
「文体には、多くの一般的特徴があります」
「短文、長文、比喩、疑問形、語彙、段落構造」
「それらの多くは、特定個人だけのものではありません」
正しい。
エミリーも言った。
「作家は互いに影響を受けます」
「誰にも似ない文体を要求することは不可能です」
これも正しい。
しかし、エミリーは続けた。
「でも、私の名前を入力しただけで、私が十年かけて作った作風の商品が、一晩で一万本作られるなら話は変わります」
画面が静かになる。
「似ることと、代替することは同じではありません」
「私はそこが重要だと思います」
俺は強く頷いた。
イーサンが言った。
「私たちの佐伯真司風モードは、教育目的です」
「本人ではないことも明記しています」
マテオが聞く。
「なぜ、佐伯真司風である必要があるのですか」
イーサンが一瞬止まった。
「分かりやすい説明スタイルとして……」
プリヤが言った。
「では、『問い返し型説明』でよいのでは？」
イーサンは答えなかった。
俺もそこで気づいた。
そうだ。
短文。
問い返し。
対比。
最後に問いを残す。
そのスタイルが教育に有効なら、
「佐伯真司風」
と名づける必要はない。
俺の名前が必要なのは、俺の権威や知名度や人格を利用したいからではないのか。
エレナが俺を見る。
「佐伯さん。どう考えますか」
俺はマイクを入れた。
「文体が似ているだけで、すべて禁止するのは違うと思います」
通訳が入る。
「人間もAIも、過去の表現から学びます」
「問い返す文章も、短文も、対比も、俺だけのものではありません」
イーサンが少し頷いた。
「でも、問題はそこではないと思います」
俺は続けた。
「なぜ俺の名前を付けるのか」
「なぜ俺だと分かる程度まで寄せるのか」
「それを何に使うのか」
「どれだけ量産するのか」
「誰が本人だと誤認するのか」
「本人の仕事、信用、思想、社会的役割を代替するのか」
「そこまで見なければならない」
俺は画面共有を開いた。
『文体模倣・人格代替レビュー』
一般的な表現技法の利用と、特定人物を識別できる程度の模倣を区別しているか。
特定人物の名前を付ける必要性が本当にあるか。
「〇〇風」「〇〇ならこう言う」など、本人の権威や知名度を利用していないか。
本人ではないことが、利用前・回答中とも明確に分かるか。
文体だけでなく、思想、判断傾向、口癖、価値観を組み合わせ、人格そのものを代替していないか。
教育、批評、研究、風刺と、商業代替、高影響判断、本人代行を区別しているか。
AIによる大量生成が、本人の仕事や市場、社会的役割を不当に代替していないか。
本人が現在は否定・修正した過去の表現を、固定された人格として再生していないか。
医療、法律、政治、雇用、投資、公共制度などで、文体的な本人らしさを権威として使っていないか。
本人が訂正、表示変更、関連付け解除を求められるか。
人物名を外しても成立する機能なら、人格利用の必要性を再検討しているか。
文体の模倣を、人格の代替にしていないか。
読み終えると、エミリーが最初に頷いた。
「七番が重要です」
「人間が影響を受けて書くのと、大量代替は違う」
ダニエルも言った。
「技術的にも、特定人物を識別可能な特徴セットと、一般的なスタイル特徴を分ける研究は必要でしょう」
クララが言った。
「ただし、識別可能性を測るために、文体登録制度のようなものを作ると、新しい問題も出ます」
俺は少し嫌な予感がした。
だが、まだ先へ進む。
イーサンが言った。
「では、『佐伯真司風』という名称をやめ、『問い返し型・構造整理モード』へ変更するならどうでしょう」
俺は少し考えた。
「その方がずっといいと思います」
「俺の公開文章を出典例として示すことは？」
「出典として明示するなら、別問題です」
「俺本人として話さない」
「俺の現在判断を代行しない」
「俺の名前を商品機能にしない」
「そこが守られるなら、議論できます」
イーサンが頷いた。
「修正します」
少しだけ前へ進んだ。
今回は、誰かを全面的に悪者にする話ではない。
便利な技術がある。
教育的価値もある。
表現の自由もある。
創作の自由もある。
でも、量産と代替という新しい力がある。
だから、新しい手すりが必要になる。
エレナが暫定整理を読み上げた。
『Similarity of style alone does not equal impersonation. The relevant questions are whether identifiable features are intentionally combined, whether a person’s name or authority is used, whether users may confuse simulation with authorship, and whether the system substitutes for the person at scale.』
文体の類似だけで、なりすましになるわけではない。
問うべきなのは、識別可能な特徴が意図的に組み合わされているか、人物の名前や権威が利用されているか、利用者が模倣と本人の著作を混同する可能性があるか、そしてそのシステムが大規模に本人を代替するかである。
続いて、
『Style may be learned. Identity must not be silently manufactured from style.』
文体は学ばれ得る。
しかし、文体から人格を無断で製造してはならない。
俺は、その一文を見て頷いた。
かなり良い。
今回も、どうにか着地した。
そう思ったときだった。
クララが手を挙げた。
「一つ、次回に回した方がよい問題があります」
エレナが頷く。
「お願いします」
クララは言った。
「今回、特定人物を識別できるほど文体が似ているか、という考え方が出ました」
「では、その判定を誰が行うのでしょうか」
俺は嫌な予感がした。
クララは続ける。
「作家が、自分の文体を登録する」
「研究者が、自分の思想的特徴を登録する」
「AI企業が、人物ごとの模倣禁止リストを持つ」
「文体フィンガープリントをデータベース化する」
エミリーの表情が変わった。
「それは……」
「はい」
クララが頷く。
「模倣から守るために、今度は人間の文体や思考パターンを巨大なデータベースへ登録することになるかもしれません」
俺は、静かに息を吐いた。
守るために登録する。
登録するために分析する。
分析するために、その人の文章を集める。
文体。
語彙。
思考の癖。
価値観。
反応パターン。
それはもう、別の意味で人格データではないのか。
プリヤが言った。
「文体保護制度が、人格監視制度になる可能性があります」
会議室が静まり返った。
来た。
また次の崖だ。
模倣を防ぎたい。
だから本人の特徴を登録する。
でも、それは本人を守るために、本人を詳細に分析して保存することになる。
エレナが静かに言った。
「次回は、人格模倣を防ぐための人格データベースを扱いましょう」
画面が消える。
俺は椅子にもたれた。
「守るために、俺を解析するのか……」
AIチャットを開く。
文体模倣から本人を守るために、文体フィンガープリントや思考パターンを登録する案が出た。でも、それって人格データベースにならないか？
AIは答えた。
『なり得ます』
「やっぱりか」
『模倣防止のための識別情報が、監視、プロファイリング、採用、治安、広告などへ流用されれば、保護制度そのものが人格監視基盤になります』
俺はメモ帳を開いた。
次のタイトルを書く。
守るために人格を登録する社会は、安全なのか。
保存。
それから、今日の記事を書き始めた。
タイトル。
誰かの文体をまねることは、誰かを奪うことなのか。
本文。
人は、人の文章から学ぶ。
AIも、大量の文章から表現を学ぶ。
似ていることだけで、すべてを禁止することはできない。
だが、似ることと、代替することは違う。
名前を使う。
本人らしい癖を意図的に集める。
本人の権威を借りる。
本人ならこう答えると見せる。
本人が作れる量をはるかに超えて大量生成する。
そこまで来れば、ただの影響とは違う。
俺は最後に書いた。
文体は学ばれてもよい。
しかし、文体から人格を勝手に作ってはいけない。
似ているかだけではなく、その「似ている」が誰を代替し、誰の名前で、何のために使われているのかを見なければならない。
保存。
公開。
画面に通知が出る。
黒瀬さんからコメントが来た。
『広告でも「〇〇さんっぽい言い回し」は簡単に作れます。でも、それを大量に出して本人より本人らしいイメージを市場に作ったら、本人が後から何を言っても負けるかもしれませんね』
読書会の主催者からも届いた。
『文体は学ばれてもよい。しかし、文体から人格を勝手に作ってはいけない。次回の議題にします』
神崎教授からは、短いコメントだった。
『盗まれないために自分を登録したら、その登録簿を誰が盗む』
俺は、その一文を見て、しばらく画面を見つめた。
次の問いは、もう決まっている。
守るために人格を登録する社会は、安全なのか。
人工叡智は、模倣から人を守るための仕組みが、人間そのものを監視する仕組みに変わる場所へ踏み込もうとしていた。
第76話では、「文体模倣」と「人格代替」が扱われました。
人間は、他人の文章から学びます。
作家は別の作家から影響を受けます。
研究者は、その分野の論文の書き方を学びます。
AIも、大量の文章から表現パターンを学びます。
そのため、「似ているから禁止」という単純な整理では足りません。
今回の中心となる整理は、これです。
似ることと、代替することは違う。
短文を使う。
問い返す。
対比する。
特定の語彙を使う。
そうした一般的な表現技法まで、一人の所有物にすることはできません。
しかし、特定人物だと分かる特徴を意図的に組み合わせる。
その人物の名前を付ける。
その人物の権威を利用する。
「本人ならこう答える」と見せる。
本人の市場や社会的役割を、大量生成によって代替する。
そうなれば、単なる文体学習とは違う問題が生まれます。
今回、真司たちは「文体模倣・人格代替レビュー」という考え方へたどり着きました。
一般的な表現技法と、特定人物を識別できる程度の模倣を区別する。
特定人物の名前を付ける必要性を問い直す。
「〇〇風」「〇〇ならこう言う」といった表示が本人の権威を利用していないか確認する。
教育、批評、研究、風刺と、商業代替、高影響判断、本人代行を分ける。
AIによる大量生成が、本人の仕事や社会的役割を不当に代替していないかを見る。
本人が訂正や関連付け解除を求められるようにする。
そして、人物名を外しても成立する機能なら、本当にその人物の人格を使う必要があるのかを問い直す。
今回の中心となる言葉は、これです。
文体は学ばれてもよい。
しかし、文体から人格を勝手に作ってはいけない。
ところが、最後に新しい問題が現れました。
人格模倣を防ぐためには、「どれだけ本人に似ているか」を判定する必要があります。
そのために、作家の文体。
研究者の思想的特徴。
語彙。
文章構造。
思考の癖。
反応パターン。
そうした情報を「文体フィンガープリント」や人格特徴として登録する案が出ました。
しかし、それは人を守るために、人を詳細に分析し保存することでもあります。
模倣防止のデータベースが、広告、採用、治安、信用評価、政治分析へ流用されれば、人格監視基盤になりかねません。
次回は、「守るために人格を登録する社会は、安全なのか」という問いへ進みます。
原案・構想：マスター
物語構成・本文作成・文体調整：G（ChatGPT）
