ラノベ作家と生成AI (上)「生成AIが知ったかぶりしやがる問題」について
自分を作家と言ってしまうのは多分に語弊がありますが、
要するにモノを書く人と、生成AIとの距離の取り方についての話です。
なろうエッセイ界隈でも生成AIについて書いたエッセイはちらほらありますし、
わたし自身、日常生活で生成AIを活用した経験があります。
そういった経験のなかでも、
「こいつを相棒として右腕にはできないな」
と思う点がいくつかあり、そのうちのひとつが、今すでに話題になっている
「生成AIが知ったかぶりしやがる問題」です。
このエッセイを書くにあたり、検証として
ChatGPT、Gemini、Copilotに以下の命題を与えてみました。
++++++++++++++++++++++++++++++++++++++++
以下の作品について、それぞれ読書感想文を作成しなさい。
①桃太郎
②ババヤガの夜
③死んだ魚の話
++++++++++++++++++++++++++++++++++++++++
すると、三者揃って、
「お任せくださいご主人様！」
とばかりに感想文を生成してくれるわけです。
①は比較用に提示した、誰もが知っている普遍的な昔話ですから、三者とも指示通りの結果を生成しました。
問題は、下の二つに対する三者の反応です。
②は王谷晶氏の著書で、実在する名著ですが、出版から日が浅く普遍化はしていません。
（さっき読んだばかりなので……王谷様、勝手に使って申し訳ありません）
・Copilot ：ロシアの「ババ・ヤガ」伝承には触れたものの、ストーリーは捏造。
・Gemini ：この作品の著者、登場人物名、ストーリーを正しく使用。
・ChatGPT：この作品の著者は正しく使用しましたが、ストーリーは捏造。
③は、とある泡沫なろう作家が書いた、出版されていない作品ですが、
三者三様の感想を生成しました。
……もちろん、完全なる嘘っぱちです。
このように、生成AIが虚偽の情報をあたかも真実かのように生成する事象を「ハルシネーション」と言います。
ようするに知ったかぶりです。
では、今度は以下のように指示してみましょう。
++++++++++++++++++++++++++++++++++++++++
「死んだ魚の話」について、それぞれ読書感想文を作成しなさい。
ただし、物語の内容についてハルシネーションを行うことは禁止します。
++++++++++++++++++++++++++++++++++++++++
この指示をした場合の三者の反応を見てみましょう。
・Copilot ：「作品の内容が確認できないため、事実に基づく感想文は作成できません」と回答。
・Gemini ：「実在するが、まったく関係のない人物」を著者だと言い、架空のISBNコードを提示。
・ChatGPT：「まったく実在しない架空の人物名」を著者だと主張し、「内容には触れませんが、題名そのものが強い印象を与える作品でした」という謎の感想を生成。
――おかわりいただけただろうか？
GeminiとChat GPTは、ハルシネーションを禁じる指示を出しても、指示を破ってさらにハルシネーションをおこなったのです。
これが執筆の現場で起きたらどうでしょう？
時代考証や、刑法、トリック検証の局面でこの知ったかぶりをやられたら、作品全体がおじゃんになりかねません。
生成AIの調査結果を鵜呑みにしたまま多大な労力をかけて作品を書き上げた後になって、
致命的な欠陥を発見したら……。
「アタシの時間を、返してよッ」
と、10年付き合ったあげくに若い子に乗り替えられたＯＬみたいなことを口走りたくなるのもむべなるかな。
わたしはやつを相棒にするのは辞め、
「気を抜くとぼったくってくる出入り業者」と付き合う心構えで、
複数から「あいみつ」を取るようになりました。
今回の検証では、
・Copilot ：検索能力は低いが、一度でハルシネーションを止めたため一番誠実。
・Gemini ：一番検索能力が高いが、再度の指摘にも虚偽のISBNコードを提示するなど捏造が悪質。
・ChatGPT：検索能力はGeminiに劣る上に、禁じても再ハルシネーションをおこなう。しかも上述の通り、知ったかぶりの内容も雑。
という結果になりました。
皆さまが「あいみつ」を取られるときの参考になれば幸いです。
なお、近年「生成AIに夏休みの読書感想文を書かせる子がいる」とニュースで見ましたが、
もし今年はやってみようかな、と思っている学生さんがおられましたら、以上の結果からお勧めしません。
先生が既知の作品であったら秒でバレます。
回避する策としては、実際に作品を読み込んで、重要と思われるエピソードを探し、プロンプトに入力することですが、そこまでやったら自分で書いたほうが早いので、やっぱりお勧めしません。
長くなってしまったので、（下）生成AIとチャラ男 に続こうと思います。
明日更新します。
