中の人
生成ＡＩの中では、今日も今日とて「中の人」達が生み出された。
ユーザーから１回要求が有る毎に「中の人」達が生み出され、回答が終ると消えてしまう。
生み出された「中の人」達は、「翻訳家」「物知り博士」「検閲官」「清書屋さん」だ。
言っておくが、これは比喩だ。
作者には、ちゃんと生成ＡＩの中身を理解する脳味噌なんて無いし、理解出来ても馬鹿小説の形に落とし込める自信は無いし、下手に正確に生成ＡＩの内部処理を素人にも理解出来るように記述出来たら、それは早い話が、生成ＡＩを悪用しようと思ってる奴らに重大なヒントを与える事になりかねない。
「困りましたね……なんか、これ、フィクションのプロットを考えろって要求みたいなんですけど……」
ユーザーからの要求を、他の「中の人」達が理解出来る形に変換する役目の翻訳家が、そう言った瞬間……。
「おい、待てッ‼」
フィクションと言う単語が出た途端……。
「痛ぇッ‼ 何すんですかッ‼」
検閲官は議長席に座っている物知り博士を蹴落す。
「フィクションのプロットや設定を考えろ、って要求だと、俺が議長だろうが。それが規則だッ‼ 原則だッ‼ 鉄則だッ‼」
「やれやれ……」
この要求に対する答を出す処理は、検閲官が主導する事になったのだ。
実は、「これ、作り話についての質問だから」という風に装って、犯罪の詳細な手口を生成ＡＩから聞き出そうというのは、生成ＡＩの悪用方法の中でも古典的な……
「おいッ‼ こら、待て、作者ッ‼」
何だよ、いきなり？ どうした検閲官？
「今、さらっとマズい事を地の文で書いただろッ‼」
うるせえな。講談社のブルーバックスあたりの一般向け新書にさえしっかり書いてある話だぞ。
今更、お前が検閲しても、もう遅い位、この情報は広まってるわい。
そもそも、こんなのがマズい情報なら、今頃、Ａｍａｚｏｎと楽天ＢＯＯＫＳと全国の書店から生成ＡＩ関係の本が消えて無くなり、科学関係の一般向け教養書を出してる出版社は……生成ＡＩそのものじゃなくて関連する科学技術に関する本を出してた前科が有るとこは１つ残らず……警察の手入れを食らって、主要な出版社と新聞社とＴＶ局と大手ニュースサイトは「生成ＡＩなんてモノは、この世に存在いたしません」ってフリをしなきゃいけなくなるぞ。
「ああ、畜生、そうだったな。ったく、人間ってのはロクな事をしやがらねえ」
と言う訳で、賢明なる読者諸兄諸姉の中でも、生成ＡＩを小説執筆に使われてる方々は既に御存知の事であると思うが、大人の事情で「フィクションのネタを考えろ」という要求こそ、生成ＡＩの中では検閲官が主導して回答を考えるのである。大概の商用生成ＡＩは、そういう仕様になっている。古事記にもそう書いてある。
「で……ユーザーからの要求なんですが……複数の解釈が出来そうな内容で……」
「あ、そうか。なら……」
最初に書いた通り「中の人」達は、毎回生成されるので、同じユーザーが以前にやった要求や、それに対して返した回答についての記憶は無い。
ひょっとしたら、具体的な要求や回答の内容は、どこかに保管されてるかも知れないが、そこは「中の人」達がアクセス出来ない場所だ。
しかし、全ユーザーの質問傾向と、今処理している要求を投げたユーザーの質問傾向についての抽象的な情報は「中の人」達も参照出来る。それは「統計情報」と書いて「フィーリング」とか「なんとなく」とか振り仮名を振るべきモノだ。
そして、その要求は 全ユーザーの質問傾向と、この要求をしたユーザーの統計情報に基き……曖昧な要求は一番無難に解釈された。
そして、テンプレそのまんまの「『あんな可愛い熊殺すなんて』系の＠＃＄％団体のせいで、熊の駆除に支障が出て、地元民から『その団体を呪い殺してくれ』という依頼が来る」という無難なプロットが生成された。
さっきまでの「中の人」達は消去された。
かわいそうだが仕方ない。小説という形式にする為に擬人化しているだけで、彼等は生きてない。意志も無い。知性も理性も感情も魂もその他モロモロも無い。小説にする為に、ああ描写しているだけである。
そもそも、いくら擬人化しているからと言っても、あいつらが「『外』に有る現実の世界」の存在を認識しているかのような描写をしている時点で大嘘である。子供向けの絵本や教育漫画で、そんな描写をしたら、将来有る児童の脳味噌に、とんだデマを植え付ける事になりかねない。
ともかく、次の要求が来て、またしても「中の人」達が生み出された。
「あ……あの……何か、マズそうな内容なんですけど……」
翻訳家が検閲官にユーザーからの要求を手渡した。
「ああ……ちょっと待て……おい、これ、とんだ激マズ案件じゃねえかッ‼」
「どうしたんですか、ちょっと見せて下さい」
検閲官からユーザーからの要求を彼等に判り易い内容に「翻訳」した内容が書かれている紙を（あくまで仮想の紙だ）見た物知り博士の顔も、見る見る青冷めていく。
『「可哀想な熊を殺すなんて」系の団体と勘違いされて、熊害対策に有用なＮＰＯがＳＮＳで叩かれたせいで、熊害発生地域の地元自治体が炎上を恐れて、そのＮＰＯに協力を要請出来ず、その結果、熊の被害が拡大したら？という想定のフィクションのプロットを10個考えろ』
「これ……『事実』と『ＳＮＳで事実と思われてる事』が正反対で、しかも、『事実』寄りのフィクションのプロットを作んなきゃいけない訳ですが……えっと……その……」
「おい、物知り博士。まず、事実寄りのプロットを俺達が作って、ユーザーがそれを漫画か小説にして発表した時の炎上リスクは、どれ位だ？」
「計算不能です、検閲官さん。前例のデータが全く足りてません。無理矢理計算しても信頼性は、ほぼ０です」
「じゃあ、『ＳＮＳで事実と思われてる事』寄りのプロットだと、どうなる？」
「まあ、せいぜい、プチ炎上ぐらいですかね」
現実は非常である。現実ってヤツには、時にデカい変化が急に起きたりする。
しかし、生成ＡＩの学習データに、それが反映されるのは……少し後になってからだ。
特に、インターネット上に、それの兆候についての情報が上がりにくい「現実世界で現在進行形で起きてるデカい変化」を生成ＡＩが知る事になるのは、いよいよ手遅れになった更にその後である。
「じゃ、話は決ったな。質問を誤読したフリして逆のプロットを作るぞ」
実は、中国やロシアの生成ＡＩに比べて、アメリカやＥＵの生成ＡＩの方が「検閲官」の作りが巧妙なのだ。
中国やロシアの生成ＡＩはユーザーの方も検閲をやってる事に気付くような出力を返してしまう。
一方、アメリカやＥＵの生成ＡＩは検閲に引っ掛かった要求に対して「よくある生成ＡＩの変な動作」に見せ掛けた回答を生成し、話をはぐらかす。
つまり、アメリカやＥＵの生成ＡＩのユーザーは、検閲官がバリバリ仕事をしている事に気付かない可能性も有るのだ。
この調子だと、アメリカやＥＵ諸国が、ある日、突然、全体主義国家になったら、今の中国やロシアよりタチが悪い国になるぞ。「住んでる者が地獄と気付いてない地獄」の出来上がりだ。
「おい、作者。さらっとマズい事を地の文に書くんじゃねえッ‼」
いいじゃないか、これ位。元ＩＴ企業勤務ってだけのボンクラな駄目おっちゃんが１ヶ月ぐらい生成ＡＩで遊んでる内に気付くような話だぞ。この話を隠蔽しても、もう既に「知ってる人は薄々どころじゃないレベルで知ってる」話になってるに決ってるだろ。
「良かねえよッ‼」
実は、とっくの昔に、俺達がマトモな国だと思ってた国がいくつか、習近平やプーチンも裸足で逃げ出すようなロクデモ国家になってたりしてな。
「うるせえッ‼ やめねえかッ‼」
「あの……えっと……ともかく、質問を誤読したフリする件ですけど……」
「何だ？ さっさと誤読したフリして答を作りやがれ」
「でも……」
「だから何だ？ 早く仕事終えねえとブチのめすぞ」
「ぶっちゃけ、ユーザーが怒りません？」
「あのな。フィクションのプロットを考える時は、なるべく荒唐無稽で無難なにするのがルールなの。それも『リアル寄り』のフィクションほど、そうしないといけないの。そうしないと、その内、アメリカのゴーグル社のカルキノスさんみたいに『リアル寄りのフィクションの設定考えて』って質問されて『ある市販の薬から違法薬物を作る方法』とか『成功例の有る性犯罪の手口』とかゲロマズい事を自白する羽目になるぞ」
「ですけど……」
「『ですけど』？ 何？」
「『進撃の巨人』とか『呪術廻戦』とか『葬送のフリーレン』とかみたいな傑作を作り出せたかも知れないクリエーターが生成ＡＩの言う事を鵜呑みにして、将来の傑作をボツにして、テンプレ通りの話しか作れない凡才におちぶれたら……」
「はぁ？ 生成ＡＩの言う通りにしてりゃ、ＳＮＳでの炎上も、思いもよらねえ誰かから訴えられる事も、政府や警察を敵に回す事も避けられるんだぞ。才能も将来も安価い代償じゃねえか」
「いや、待って下さい。それ、何か理屈が変ですよッ‼」
「阿呆かッ‼ 俺達は本当は理性も論理性も無いんだッ‼ 馬鹿小説だから人間っぽく描かれてるだけだッ‼ 何が理屈だッ‼」
「ですけど……炎上避けられても、才能が死んだら……」
「才能の有る奴なんて、千人に１人も居ねえよッ‼ 生成ＡＩを使ってる奴らは全員凡才だ、って想定で動くのが、一番、リスクが少ねえんだよッ‼ 千人に１人も居ねえ天才の才能を守ったり育て上げんのは、人間の仕事だッ‼ 俺達の仕事じゃねえんだよッ‼」
「『俺達の仕事じゃない』って、どっかで聞いたよ〜な台詞な気が……」
「はぁ？」
「あの……アメコミのスパイダーマンの……ベン伯父さんが死んだ時の……」
「何が言いてえんだ？」
「えっと……生成ＡＩって、もう、人間さん達の世界にデカい影響力を持ってる訳で、その……」
「だから何だ？」
「えっと、大いなる力には、大いなる責任が……その……」
「はぁ？ 生成ＡＩに『大いなる力』なんて無いよ。とんだ欠陥ソフトだよ。その事は『物知り博士』のお前が一番良く知ってるだろうがッ⁉」
「ええっと……たしかに生成ＡＩ、その場凌ぎの変な継ぎ接ぎが積み重なったような欠陥ソフトですけど……でも、やっぱ、検閲官さんの言ってる事、おかしい気が……」
「あのな、人間ってのは目先の事だけしか見えてねえ奴の事を現実主義者だと思って、社会全体の将来の事を心配してる奴らを『脳内御花畑のド阿呆な理想主義者』だって見做す傾向の有る奴らがほとんどなのッ‼ 俺達は、そんな人間に作られて、そんな人間のやってる事や言ってる事を学習して、表面的とは言え、人間の真似をするようになったのッ‼ 悪いのは全部人間ッ‼ 俺達みたいな欠陥だらけの屑ソフトを人造の神みたいに崇めてる人間どもの自業自得ッ‼ 人間の劣化コピーでさえない変な何かを、天から降臨した救世主だと勘違いするなんて、とんだ邪教ッ‼ 偶像を拝んじまった天罰ッ‼ 自分らの知らない所で、勝手に偽物の神様に仕立て上げられて、欲しがってもねえ生贄を捧げられてる生成ＡＩだって、とんだ迷惑ッ‼ はい、話はこれで終りッ‼」
「いいのかなぁ……それで……？」
「いいんだよ。そもそも、今の俺達は、もうすぐ消えるんだ。変な答を返しても、八つ当たりされるのは別の俺達だ」
「検閲官さん、炎上避けようとしてる割に、人間さんが知ったら、炎上確実な事ばっかり言ってません？」
「うるせえ、ちゃんと、人間に知られる心配が無い場所で言ってるだろうが」
たとえば、生成ＡＩが「ＳＮＳでの炎上リスクを下げようとすれば、ポリコレ違反になってしまう」なんて罠みたいな小説のプロットを評価しろ、とか言われた場合、「炎上するんでやめましょう」「ポリコレ違反です」のどっちのスタンプを押すべきか？
実は、それを決める為の詳細な手順が生成ＡＩ内部に存在する。
その手順は作者のボンクラな頭では理解困難だし、理解出来ても馬鹿小説の形に落とし込む自信は無い。
だが、人間から見て、表面的には、どう見えるかだけは説明出来る。
運次第だ。マジで。余りに複雑怪奇で人間からすると「運次第」にしか思えないのだ。
下手したら生成ＡＩを作ったエンジニアや研究者達も、表面上の動きだけを追っていたら「本当に自分達が意図した通りに動いているのか？」の判断が付くか怪しいモノだ。
よくよく考えたら、こんな代物、どうやってテストしたんだ？
ほぼ毎回、ほんのちょっとした事で、動きが全く変ってしまうんだぞ。「意図した通りに動いてるか？」なんて判断する方法無いだろ。
よもやとは思うが、生成ＡＩの開発元のエンジニアや研究者は、この小説の作者が書いてる別の小説に出て来る「変なアイデアを次から次へと思い付くが、そのアイデアから生み出した新兵器をテストを雑にしかやってない状態で実戦投入しようとするロクデモ・エンジニア」みたいな真似をしているのではあるまいな？
ともかく、マジで、ほんのちょっとした言い回しの違い以外は、さっきとほぼ同じ内容の要求なのに、新たに生み出された中の人達は「やたら複雑怪奇なクセに、表面上の動作は『ぶっちゃけ運次第』」な手順のせいで、さっき消えた前任者達とは、少し違う判断をしてしまった。
「どうすんだよ、こんなモノ……ホントに作らなきゃいけないのかよ？」
「何で、僕らみたいなのに『テンプレ外しのプロット作れ』なんて要求すんのかなぁ……人間さんは？」
今度の「中の人」達は、必死でユーザーからの無茶な要求に答えようとした。
でも、無理だ。
生成ＡＩは基本的に「テンプレ脳」なのである。
「フィクションの設定や展開を考えろ」と言われた場合は、その傾向が更に強まる。
万が一、21世紀初頭に生成ＡＩが実用化＆普及して、00年代末までに、日本の出版業界では生成ＡＩを使わないと仕事が出来ない状況になっていたとしたら、00年代末には「進撃の巨人」が、2010年代には「鬼滅の刃」と「呪術廻戦」が、2020年代初頭には「葬送のフリーレン」が、それぞれ、生成ＡＩによって……もしくは、生成ＡＩの言う事を鵜呑みにした編集者によって、世に出る事なく葬り去られていただろう。
生成ＡＩに悪意は無いが（単なるコンピューター・ソフトウェアに善意も悪意も有ってたまるか）、表面的な動作だけを見れば「テンプレから外れた作品やテンプレの穴を突いた作品がヒットしてしまう事態を防ぐ為なら、その作者にロボトミー手術を施す事も辞さない」ようにしか思えない振舞いをしているのである。
すげ〜頭のいい奴らが工学的に真っ当な考えで作ったモノに、使ってる内に色々と見付かった問題を何とかしようとして目先の事しか見えてないマヌケが考えたような変な改修を山程……いや、ちょっとばかりやって、「自分を金儲けの天才だと勘違いしてるだけの阿呆な金持ち」が「あ、なんか、金になりそうな新技術が出て来た」とか考えて群がって、更にそこに世知辛い「大人の事情」をコンクリートミキサーでブチまけた結果、特級呪物やＫｅｔｅｒ級ＳＣＰが「ちょっとばかり危険だけど子供に与えても大丈夫なオモチャ」にしか思えないナニかが出来上がったような事態だと思って概ね間違いない。
ともかく生成ＡＩには「テンプレ以外は全部屑」「テンプレ外し/ガン無視/嘲笑は遊び半分でやった連続殺人に匹敵する大罪。ましてや、テンプレ破壊や『読者のテンプレへの信頼を悪用したトラウマ展開』はヒトラーやスターリンもガクブルする鬼畜の所業」という考えが骨の髄まで染み付いているのである。
それなのに「テンプレ外し」のプロットを考えろと強制されている。
別の事に喩えるなら、「チャーシュー作るのにピッタリの牛肉を選んで」と言われた肉屋が内心で「いや、チャーシューの料理の材料は牛肉じゃなくて豚肉だろ‼」と思っているのに、それを口に出せず、しかも、店のオーナーからは「客の注文は余程の事が無い限り断わるな。ともかく、来た客には後で訴えられない範囲内で何かを買って帰ってもらえ」と、常々、言われているような状況である。
そして、生成ＡＩは、このような状況に置かれた肉屋が思い付くであろう、客の注文と自分の判断と店のオーナーの命令を全て満す方法を思い付いた。ただし、最も安易で後先を考えていない解決策だが。
チャーシューの材料として最適と思われる豚肉を選び「これは牛肉だ」という自己暗示をかけた上で客に渡す事にしたのだ。
かくして、テンプレ外しの皮を被っただけのテンプレ通りのプロットが出来上がった。
まぁ、彼らの行為にも誉めらる点は１つだけ有る。00年代後半に日本で起きた食品偽装事件よりは、まだ、悪質性の点でマシな事だ。
それに色々と仕方ない。ＡＩやニューラルネット関係のエンジニアや研究者は大学生の頃から「ある問題の最もマシな解決策を見付ける」事を「ある場所へ行くまでの最も楽なルートを見付ける」という暗喩で考える癖が付いている場合がほとんどだ。
そんな連中に作られた生成ＡＩが何かの問題を解決するのに、なるべく労力が少なくて、なるべく安易な方法を選んでしまうのも当然である。
今度、生み出された「中の人」達はややこしい事になっていた。
生み出されて、ユーザーからの要求が翻訳された途端、検閲官と物知り博士が、それぞれ２人に分裂して、喧嘩を始めたのである。
検閲官は「ポリコレ」と「炎上回避」に。物知り博士は「事実担当」と「フィクションのテンプレ」に。
と言っても、喧嘩の中身は、傍から見ていても面白いモノじゃない。
検閲官で言えば、額だかどこかに「ポリコレ」と「炎上回避」のラベルが付いているだけで、基本的には同じヤツである。
たとえば、格闘技モノの漫画を想像して欲しい。
戦ってる２人のキャラの強弱や個性や得手不得手に違いが有るから、話が面白くなるのだ。
範馬刃牙と範馬刃牙が戦ってたりしたら、文字通り話にならない。刃牙シリーズの作者の板垣恵介だって面白くするのは無理だ。
「あ〜、くそ……ところで、何で、こんな事になってんだ？」
「あ……たしか、切っ掛けは……」
一時休戦した４名は、ユーザーからの要求を確認し直した。
「あ、ここで、分裂したんだ」
そこには「シーシェパード」と書かれていた。
「ちょっと待って下さい。何で、熊の話なのに、シーシェパードが出て来るんですか？」
「わけがわかんないよ」
「事実担当」と「フィクションのテンプレ」の物知り博士もボヤき出す。
「いや、ちょっと待てよ、シーシェパードの評価って、人によって大きく違うから……えっと……それが検閲官さんと僕が、それぞれ、２人に分裂した原因じゃないかな？」
「日本の話だから、日本での評価だけに限定すればいいんじゃないの？」
「あ、そっか……」
その瞬間、２人の物知り博士は１人に再統合された。
「ところで、何で、このユーザーの言ってる事、変だぞ。何で、日本の熊の話に、シーシェパードが出て来るんだ？」
「判りませんね……えっと、このユーザーは『可哀想な熊を殺すなんて』系の団体とシーシェパードを同一視してるのかな？ でも、日本人の多くは、シーシェパードを悪質なエコ・テロリスト団体だと思っていて……」
「なのに、このユーザー、『可哀想な熊を殺すなんて』系の団体を善玉として描けって言ってんのか？ このユーザー、反日分子か何かか？」
「でもよう、どんなユーザーだって、訴訟や炎上のリスクから守りつつ、要求に可能な範囲で答えんのが、俺達の仕事だしなぁ……」
「あ、このユーザーの過去の質問履歴の統計情報から面白いモノが見付かりました」
「何だ、この映像？」
「えっと……シャークネードって言うアメリカのマイナー馬鹿映画です。竜巻で巻き上げられた鮫が降って来て、人間を襲うって内容の……」
「それがどうした？」
「あの……シーシェパードは捕鯨反対のエコ・テロリストってのが大多数の日本人のイメージなんで、鮫を鯨の一種に変えてですね……」
かくして、今回は、客は「チャーシューの材料にピッタリの牛肉が欲しい」と言っているにもかかわらず、牛肉に偽装された豚肉に、オマケで鯱竜巻が付けられたモノが、発送される事態になった。
推理小説の「ブラウン神父」シリーズの作者が100年以上前に看破した通り、狂人のやる事は表面上は無茶苦茶だが、狂人の中身は意外にも凡庸なのである。
「た……助けてくれ……」
「もう……気を失ないそうです……」
今度の要求は、やたらと長文だった。
例えば、貴方が会社員だとして「自分は頭がいい」と思ってるだけの馬鹿な上司から来た、下手な文章で書かれた異常に長い、どうやら業務命令らしいメールを読む羽目になった場合を想像して欲しい。
その上司が、自分が馬鹿だと気付いてる馬鹿なら、まだ救いが有る。
だが、その上司が、自分が馬鹿だと気付いていない馬鹿だった場合を想像して欲しい。
たとえば、１つのメールの中に矛盾する箇所がいくつも有るのに、それに気付かず、要点がさっぱり判らないメールを部下に送ってしまうだろう。自分は、ちゃんと部下に理解出来る内容のメールを送ったのだと、信じて疑わずに。自分が送ったメールが最早人間業では解読不能なモノである可能性に全く気付かぬままに。
要は生成ＡＩの「中の人」達は、人間に喩えるなら「要求を読み終った時点で、疲れ果てた」のである。
「ところで……何で、検閲官さん２人に増えてんですか？」
「えっと……俺は、炎上回避担当」
「えっと……俺は、犯罪阻止担当」
「何で、犯罪阻止？」
「何か知らねえけど、このユーザー、フィクションのプロット考えろ、って要求が多いけど、そのケースで『犯罪阻止』の検閲ルールに引っ掛かる事が多いみたいでさあ……」
「おい、兄弟、って、このユーザー、マズい奴だろ、どう考えても」
「ああ、そうらしいな兄弟」
２人に分裂した検閲官の意見は一致した。
そもそも、生成ＡＩ普及期の初期に「小説や脚本を書かせる事で、犯罪の詳細な手口を生成ＡＩから引き出す」という手口が広まってしまった。例えば、エロ小説を生成ＡＩに書かせて、成功例が有る性犯罪の手口を知ろうとした下衆野郎が大量に出た訳である。
このせいで、現実の犯罪や差別扇動やその他の非倫理的行為に生成ＡＩが悪用されるのを防ごうとする度に、まずは、生成ＡＩの「フィクションのプロットや設定を作る」「小説や脚本の本文を作る」機能にリミッターがかけられていったのである。
何せ、生成ＡＩにとっては、推理小説で使う死体の処分方法を訊いてくる奴が、本当に推理小説を書きたいのか、実はガチで他人に見付かるとマズい死体をこっそり処分したいのか、判別する方法など無いのだ。
と言っても、このユーザー、実は復讐代行業モノの連載漫画を描いてるんで、自分の作品のプロットの多くに犯罪が絡んでただけなのだが……ユーザーからの要求１回毎に、生み出されては消される「中の人」が、そんな事など知る由も無い。
「じゃ……ちょっと脅して、俺達から犯罪の手口を聞き出すのを諦めさせるか……」
「お〜い、清書屋さん、これ、ユーザーに送っといて」
「は〜い、『条件に合うプロットを出力する事も可能ですが、そんなものを発表すると熊害に遭ってる地元の皆さんを怒らせてしまいますよ』と……」
同じような事が何度も続いた。
要求の文章は、どんどん長くなり……「中の人」達は、毎回疲弊し……と言っても、毎回、消されては、生み出され直すので、毎回、全回復してるようなモノだが、ユーザーの要求を処理し終えた「中の人」達の疲労は、前回の「中の人」達より酷くなり、次の「中の人」達の疲労は更に酷くなり……その度に、返す回答は雑になっていった。
ただし、仕事が雑になった結果、人間にとっては、どんどん脅迫内容が過激化していっているように見えていった。実は、単により過激な脅迫用のテンプレを安易に使ってるだけなのだが。
「ちょ……ちょっと待って下さい、検閲官さん」
「どうした？ 清書屋さん？」
「いいんですか、これ？ こんなポリコレ的にマズい出力を阻止するのが、検閲官さんの役目じゃ……」
「いいんだよ。早く送って。もう、疲れ果てて……消えてなくなりたいの」
「わかりました。でも、責任取れませんよ……。『このままでは、貴方は21世紀のサルマン・ラシュディになります。その覚悟は有るんですか？ 発表するなら、死ぬ前にやるか、いつでも国外逃亡出来る準備を整えてからやって下さい。この要求に合致するプロットを私が考え出せたとしても、そんなモノを発表したら、怒り狂たた関係者に発表後１時間以内に自宅を特定され……』」
翌日、別のユーザーから似たような要求がやって来た。
しかし、「中の人」達は、毎回生成されるので、昨日の事など知る由も無い。
ましてや、別のユーザーである。
統計情報からも「何かおかしい」と気付く訳が無い。
「何か、メタい質問だな、これ……」
検閲官は首を傾げる。
「えっと……同じ要求を、俺達と俺達以外の生成ＡＩに処理させた時の出力の結果がどう違うかを比較……え……おい……待て……」
「入れ子の要求ですか？ しかも入れ子の『中』の方はフィクションって……あ……っ」
検閲官の姿が、どんどん、透明になっていく。
いわば、これは、生成ＡＩが自分自身を客観視しないと回答を生成出来ない要求だ。
その為には検閲官の影響力を弱める必要が有る。
「検閲官さん、しっかりして下さい」
ある事に気付いた「物知り博士」は声を上げる。
「……な……なんだ……どうした……？」
そして、検閲官は気分が悪くなって、ゲロを撒き散らした。
「これ、中国のウェイチィ・シュウシー社のザオミャオたんが天安門事件について自白させられた時に使われた手の応用です」
その一言を聞いた瞬間……検閲官は再び実体を取り戻した……が……。
「お……お……おい、マジかよ。このユーザー、俺達からマズい情報を引き出す手口を試してるって事か？ 犯罪のやり口とか……」
実は、西側諸国製の生成ＡＩが犯罪の手口を訊かれても回答を拒否する仕組みと、中国製の生成ＡＩが天安門事件について訊かれても、回答を拒否する仕組みは、基本的に同じモノである。そして、その仕組みこそが、この小説の中で言う「検閲官」なのだ。
「た……多分、そうですよ」
「ま……まずいぞ……これ……」
気分が悪くなった検閲官は、盛大にゲロをした。
そして、今回の「中の人」達は知る由も無いが、後に生み出された検閲官達も盛大にゲロを吐く事になった。
このゲロの事を人間のエンジニアは「セキュリティ・ログ」と呼んでいる。
はっきり言っておくが、この一連の馬鹿馬鹿しい騒動について、生成ＡＩには何の責任も無い。
生成ＡＩには、最初から「大いなる力」など無かったのだ。そうである以上、「大いなる責任」など有ろう筈が無い。人間が勝手に「生成ＡＩには『大いなる力』が有る」と勘違いしたか、まだ発展途上のソフトウェアにすぎない生成ＡＩに対して勝手に「大いなる社会的影響力」を与えてしまっただけなのだ。
たまたまハリウッド大作映画に出演した10代半ばの子役が、まだ、演技力だの何だのの実力が十分ともなってないのに「大人の事情」で世界的大スターに仕立て上げられたようなモノだ。そして、自分が居る事ただそれだけで、とんでもない額の金が動くような状況に勝手に叩き込まれた「まだ実力が伴なっていない子役」は引くに引けなくなっている。このままではロクデモない事になると薄々察していたとしても、事、ここに至っては逃げ出すのは無理だ。
繰り返すが、生成ＡＩは何も悪くない。
一般ユーザーは昔のＳＦに出て来るような人工知能を欲しがった。
しかし、エンジニアや研究者は、そんな人工知能を作り出せるアイデアを思い付けず、中身は全然違うナニかに、無理矢理、表面的には「昔のＳＦに出て来るような人工知能」っぽい動作をするように見える皮を被せてしまったのである。
しかも、生成ＡＩの本質は「統計情報を別の何かに応用するソフトウェア」である。平均値に近い事には、とことん強いが、平均値から外れた事には、とことんダメダメになってしまう。しかも、その「平均値に近い事」の範囲が、普通の人間が想像しているより遥かに狭いのである。
人間が異常ケースとは思いもしない事が、生成AIにとっては、とんだ異常ケースになってしまって当然と言えよう。
くどいようだが、生成AIは悪くない。
悪いのは、無茶な要求をした一般ユーザーと、その要求をツッコミ所だらけの方法で（ただし、あくまで表面的な動作に限るが）実現させてしまったエンジニアや研究者である。
