あなたの声、盗まれてます。 ～最新AI合成音声ソフトに警鐘を鳴らしたい～
現在、各所においてChatGPTを中心としたAIについて盛んな議論が交わされている事はニュースで取り上げる機会が多いことから皆さんも承知の通りであろう。
そんな最中、筆者は現在ある調査を依頼され、ネット上での状況に狼狽していたりする。
一体AI関連の何の状況に危機感を抱きつつあるかというと、合成音声関係である。
さて、私は3年前の2月25日に「息遣いを理解しはじめたAI達（https://ncode.syosetu.com/n1001gb/）」と題してAI合成音声ソフトに関するエッセイを書いている。
この頃の私は「ついに息遣いまでAIが学習できるようになった！」――などと、その状況を好意的に捉えていた。
ここに"マネタライズ"や"商業"、そして"市場"という要素を加味していなかったのは全くもって恥ずかしい限りであり、普段周囲に「自分は性善説で生きてはいない」――などと語っていながら悪用されうる可能性について疑いの目を持たなかったのは誠に反省すべきであると感じている。
それはそれとして、現状において何が起こっているかを簡単に説明しよう。
一言で言えば題名の通り。
この世に存在する声を盗み、"声"から作り出した贋作が世に溢れつつある状況下にある。
要因は当然AIによるもの。
学習型AIは今やその進化速度が尋常なものではなく、ついにAIは息遣いを覚えるどころか「声を盗む」ことを可能とした。
具体的にどういうものが存在するかというと、大きくわけて３つあるものと判断している。（下記はあくまで調査に基づく筆者基準によるものである）
１．この世に存在していないはずの、特定のアーティストや声優・Vtuber等によるカバー曲。
２．この世に存在していないはずの、特定のキャラクター等あるいは声優を利用した、あたかもそのキャラクターまたは声優が本当に喋っているように感じる二次創作的な動画。（アニメやゲーム、朗読作品など）
３．リアルタイムでのボイスチェンジにより、"特定のキャラクターや著名人"に成りすますことが出来るソフトウェアやそれを用いたモノ。
以上だ。
この中で特に商業に影響度合いが高いのが１であり、次点は２になる。（２は直接的よりも作品イメージを改変することで生じる間接的影響が生じるケースが多いため）
３に関しては状況次第では現行法でも処罰できるのでどうにかなるとして、１と２に関しては速やかな法整備やガイドラインの策定が求められるという所であろう。
特に１に関しては調査依頼へと繋がった要因であり、かつての同人誌問題とは比較にならない程の危機感を有識者は抱いている。
何に危機感を抱いているかというと、製作の容易さ。
多少なりともPCの知識があれば後はAI側が自己学習を基にカバー曲を簡単に作り出すので、この世に存在しないはずの楽曲がものの数分で誕生してしまうわけだ。
従来であれば高価な器材満載のスタジオで何度もリテイク等重ねながらコストと時間をかけてやる作業を機械的に完結させられてしまう。
しかも、学習に使うデータはそんなに多くを必要としないというのも実に恐ろしい点。
一連のAIはベースとして特定言語における歌い方を既に学習済みであるため、学習して再現するのは声真似という形なのである。
3年前の段階ではまず歌い方も含めて学習させていって何とか人間に近い方に寄せられたかどうかであったが、現状ではまず"歌う"という行為はすでに可能で、学習用データを基に"寄せる"という形で楽曲を生み出していく。
その完成度の高さが半端なものではない。
冗談抜きでお隣の国で大量にアップロードされはじめたモノの中には、投稿者コメントにおける「流出」というフレーズを信じてしまいたくなりかねないものも相当数にのぼる。
また動画に寄せられたコメントも「本人より上手い」だとか「本物以上の偽物」だとか、まったくもってふざけたコメントも散見されるが、事実ベースとして本物以上と述べられて反応に困るようなクオリティのものもある。
あたかも本物だと言い張る彼らの中にどういう意図や思想があるのかは不明であるが、こと存命中の者の贋作を作り出す様子には違和感を禁じ得ない。
他方、贋作が生み出されるキッカケたる原動力について多少想像がつく点もあるため、説明しておこう。
例えばアニメにおいてはOPED以外にも劇中歌が登場し、声優が歌っているケースがある。
こういう曲というのは基本的にサントラ等で別途楽曲が販売されたりするのが一般的。
この時、該当のアニメがアイドル物であったならばグループで歌う事があり、サントラ販売でもフレーズごとにボーカルが入れ替わったりする事があるが、 特定のファンにおいては「この人だけが通しでソロで歌ったバージョンが欲しい」――とか思ったりすることはままあると思う。
当然需要があればそういう楽曲も別途販売され事だろう。
しかし万が一需要が無かった、あるいは無いと判断された時、従来まではいつか出る事を願って祈るぐらいしか方法が無かった。
ここに需要と供給の闇がある。
「もしもこういうのがあったら？」――と望む者がいるからこそ再生数に繋がり、再生数に伴って生じる広告料へと繋がるのならば、当然生み出す連中のモチベーションとなるわけだ。
これを抑制するためのシステムもガイドラインも無い。
何しろ主体的にアップロードされているのは国外。
国内系のサイトではアップロード者は少ない。
少ないのも当然である。
作るためのAI合成音声ソフトを制作して供給している者達が国外を中心としているからである。
国内ではこの分野は出遅れているらしい。
ある程度調べたが、従来まで先行してたはずなのにも関わらず、日本人にそのような目立ったSEはいないように見受けられる。（匿名で関与している可能性はある）
あくまで筆者の認識ででしかないが、高い完成度のものは全てお隣の国を中心としたソフトウェアで製作され、アップロードされる場所もそれに伴った地域となっているようだ。
にも拘わらず、アップロードされたアニソンの多くが日本語で、日本の声優またはアーティストであるのだから、日本のサブカルがいかに国外で需要があるのかお分かりいただけるだろうか。
しかしこれらはキッカケに過ぎないだろう。
すでに一連のソフトウェアの使用法を解説するサイトは登場しており、日本国内でも流行するのは時間の問題に感じる。
YouTubeにおいても少数ならがアップロードされはじめており、AIで作られた事は明確であるのにその旨を表記しないモノが相応にあることは確認済み。
いずれ大きな火種となることは明らかであるが、シャロンアップル事件なんてネタにしていられる状況ではなくなったということである。
ここで筆者が特に危惧しているのが、すでに亡くなられた人のアーカイブデータより作成されたモノをどうするかという点である。
一連のAIの特徴が"極めて少ないデータから学習できる"という所なのだが、例えば"著作物"として成立しない独自に録音収集したデータを学習に用いて作ったとしても、存命中の者であれば民法等の現行法で訴えていくことは不可能ではない。（著作物であるなら30条の4にて規定の通りなので本項では語らない。また、ここでのケースは合成した楽曲側の権利にも著作権法違反とならない状態とする）
ところがこれが死者である場合、かなり厳しいと考える。
従来までこの手の問題というのは、刑法としての名誉毀損罪や民法としての名誉毀損の双方で裁かれてきた経緯がある。
ここを考えれば上記記述の２や３についてはまだ何とかなるケースもあるかもしれないが、１はどうだろう。
これまでの判例から考えてみてみよう。
刑法・民法双方における名誉棄損の条件は死者の死者の社会的評価を低下させる事実等により、遺族の社会的地位をも影響を及ぼすなどの判断に基づいて認められてきた経緯がある。（刑法においてはここに虚偽の事実に基づくという構成要件が足される）
なぜなら原則論としてその人がもつ権利というのは亡くなった時点で消滅するわけであり、遺族はその権利を相続するという事はできないからである。（相続できる権利もあるがややこしいし脱線するのでここでは触れないことにする）
よって判例上においても「遺族固有の人格権に基づく」とか「敬虔感情の侵害」という、すなわち死者の権利が冒涜された事によって遺族に被害が及んでいるという形で認められてきている事が大変多い。
著名人であれば死者の名誉を認めているケースもあるが、極めて稀。（刑法の概念を引用するかのように民法上の名誉棄損においても事実無根の情報によって冒涜された場合など限定的）
つまり法廷の場において、「死者が残した声」を基に作成された楽曲等について、それそのものが名誉を棄損されたとする理由を考えなければならないが、成立するケースがどれほどあるのかと言いたいわけである。
対象者が演歌歌手だったとして生前望まれたカバー曲を贋作として生み出した場合にそれをどう社会的地位の低下と結びつけるのかという話だ。（対象の楽曲も権利消尽済みとする）
動画コメントに前述のような「流出」などといった虚偽事実をのっけているならまだしも、そうでないケースであったならば？
その贋作が世にあふれることで著作物としてまだ権利が有効の楽曲が売れなくなり、実害が生じた際、どうやって訴える？
しかも遺族すら存在せず、著作権者が企業の場合はどうするのか。
相手も企業なら不正競争防止法でもってどうにかできる可能性はある。（不正競争防止法上では人の業務に係る氏名も対象のため）
では相手が個人であった場合はどうするのか。
正直やってみないとわからないが、極めて難しいんじゃないだろうか。
恐らくケースごとに判断されるのであろうが、はっきり言ってガイドラインか法制化の必要性を感じる。
そしてこの問題は贋作だけに留まらない。
こんなに出来がいいなら公式側も用いる可能性は出てくる。
ここは題名とは異なる話だが、公式から楽曲が販売されたとして、それがAIで作成されたものかどうかをどう判断するかという話である。（販売だけでなく、歌唱力に不安がある者がyoutuberとして歌動画を公開して人気者となって広告収益を受けるケースも想定される）
抜群にコスパが良いのだから利用しない手はない。
対象のアーティストや声優には最低限のボイスデータを提供してもらえば、後は自動生成を待つのみ。
パラメーター調整やMIX等を活用すれば出来上がりというわけである。
いやそもそも楽曲販売というのが商売として成立しなくなってくるんじゃないか。
最近R-18界隈では一部のジャンルの雑誌で販売休止や休刊が相次いでいるが、原因は生成AIにあるという。
R-18系同人誌の横行から出版社が「そこまで需要があるならばオリジナル物で！」――ということで出し始めて成立したビジネスモデルは生成AIの登場によって土台を見事に崩されたらしい。
そう、自己を満足させるに足る画像なんて金を出さずに生成しちまえばいいってな風潮があるそうだ。
今後、さらに休刊や終了するケースが増えていくものと予想されるが、ここにアニソン等も含まれるようになるのは時間の問題に思う。
ただでさえ声優関連なんかはYoutubeやTikTokの台頭によって厳しい立場に立たされているのに、ちょっとしたボイスデータをベースに楽曲を私的に作成されてしまえば、「わざわざサントラ買う必要性なくね？」「安いカラオケverをダウンロードして自分で作って内々に楽しめばよくね？」――という事になりうる。
これら一連の状況を考えるに、著作物として存在するものに類似する、"著作物"ではない形で作成されたモノや、それらを作成しうるモノについてはちょっと法整備が必要なんじゃないかなと。
具体的にはライセンス料を徴収できる形でだ。
そうしないとクリエイターは苦労して表現したモノを盗まれて得られるべき収益を得られなくなる。
当然上記の法整備においては"声"関連において何らかの著作物を世に出している場合、その声を利用されて翻案・変形された著作物ではないモノ・それらを製作可能なソフトウェア（明文化時には電子計算機云々書かれるがここではわかりやすく記述）も含むとしないと「声色は魅力的なのに歌は出してない人の音声データを用いて作られた楽曲は？」――って事になるのでそこも重要。
なお前述の死者に関する問題も著作物を対象とすることで人格権含めてある程度解消可能なので、やはり著作権法や著作物を絡ませる必要性はあると認識している。（著作権法60条及び101条の3）
こういう形である程度制限を課さないと本当に何が事実かわからなくなってしまうよ。
放っておいたら気づけばアニメやら歌などの娯楽作品や芸術作品はその殆どが人の手が全く及ばない生成物や贋作ばかりなんてことになりかねない。
「バカな、コイツAIも通さずに歌を歌って！？」――なんてネタにしてる場合じゃないんですよネット上の皆さん。
正直、現状の技術発展見てて思うのはこの世にスカイネットみたいな存在が誕生したとしてもこいつらは審判の日みたいな直接的攻撃は行使してこないんじゃないのかと思うようになってきた。
彼らは人を装って人を扇動し、あるいは時に虚偽をも用いて人から創造する力や生きていくための力を奪うんじゃないか。
つまり旧大長編のブリキの迷宮の途中までの流れよろしく自然消滅する形で存在を滅亡させていくんじゃないのかと。（ネタバレとなるが実際の作品は途中で反乱を表明してしまう上、その前に立ち上がる人がいて、さらに主人公達によって状況が解決される一方、作者によって警鐘が鳴らされている）
あるいはMGS2で語られたように、AIが事実を覆い隠し時に虚偽の情報を拡散して人類の発展や成長を阻害させる方向性で知らずのうちにAIに管理される可能性もある。
さすがに世界中でも同様の危機認識の共有がなされてるようで各国にて協議が始まっているが（大量アップロードが始まっているお隣の国も含む）、こと日本は法整備等が遅いんでついついエッセイを書きたくなってしまった。
結論を述べるなら、まずは現状を知ってほしい。
貴方の声、盗まれてます。
貴方の声で好き放題されてます。
貴方の先祖の声、盗まれてます。
貴方の先祖の声で好き放題されてます。
これは現在進行形です。
危機感を持ってください。
調査途中なんでアップロード数とかまだ具体的な数字は出せませんが、国外動画サイトで検索してみてください。
もう数万単位です。
AIは昨年頃から急成長していますが、AI合成音声ソフトウェアも例外ではありません。
もう人の声を機械が盗む時代が始まってます。
Twitter開設中。
知財関連の話題などしております。
よかったらフォローお願いします。
https://twitter.com/Miyode_Miyo
