第5話 小説作成の上で、今のAIの難点
今のAIの難点 色々あると思いますが、自分は
【長編には向かない】
この部分にあると思います
いやいやいや、設定管理とかはAI特効でしょう？
と思われる方、正解であり、不正解です。
というのも、彼らが一律で管理する設定は限界があります。
おおよそ、私が物語を作成する際、チャット一個につき５万〜8万文字を目処にチャットを新しい物に切り替えてます。
そうしないと、AIが処理しきれずにフリーズするからです。(デバイスの能力にも、よりますが)
AIは会話毎に先に話していた内容を、振り返って次の会話を予測するという性質がある為、進めていくうちに５万文字を振り返って返答を決めたりします。
もちろんこれが積もれば、こちらの意見に対する正確かつ的確な返答ができるわけですが、フリーズしたらもう会話も難しい。
結果、リフレッシュする為の引き継ぎ作業が必要になります。
設定を抽出し
要約したデータを作成させ
次のチャットに読み込ませる
簡単に言うとこれだけです。
しかし、いざ新しいチャットで会話すると期待していた返答が来ない、満足できる会話ができない。
見に覚えのある方もいらっしゃると思います。
さて、ここで先程言っていた、AIは会話を振り返って返答を予測する。
ここにAIの小気味良い返答の本質があるのでは？と気づきます。
人間同士でも完璧に引き継いだ仕事が、人が変わっただけで上手く回らない時があります、これがAIにも発生したと考えれば理解しやすいと思います。
流れに沿った暗黙の了解、これがチャットを切り替える事で失われます。
となると、長編を作成する時に都度リセットされた流れが、やがて設定にも影響を生んで行く事になります。
そこで、私はその流れを検索、または監査する為の立場のAIを使用し、第三者目線でぶつ切りの流れを少しは繋げられないか試しています。
現状の設定量ならば問題なく回っているように感じますので、今後どこまで通用するのか、作品を通して調べたいなと思う今日この頃でした。
--------------------------------------------------
クロード
ユーザーは日本語で、AIの長編創作における難点について自分の考えを述べたエッセイ/ノートのような文章を共有している。これは意見の共有・考察であって、明確な質問ではない。ツールを使う必要はない。日本語で応答すべき。
内容に実質的に反応するのがよさそう。ユーザーはかなり鋭い観察をしている。技術的に正確な部分と、少し補足・訂正できる部分がある。誠実に、彼らの洞察を尊重しつつ、技術的な視点を少し加えるのがいい。
ポイントを整理すると:
1. 長編に向かない、という難点 — おおむね正しい
2. チャット切り替え時の「引き継ぎ」で流れが失われる — これは鋭い
3. 「会話を振り返って予測する」性質 — これはコンテキストウィンドウとアテンションの話で、ユーザーの直感はかなり当たっている
4. 第三者AIで監査する試み — 面白いアプローチ
技術的に少し補足できること:
- 「振り返る」のは正確にはコンテキストウィンドウ内のトークンへのアテンション。要約引き継ぎで失われるのは、明示的に言語化されていない「重み付け」や細かいニュアンス。要約は情報を圧縮するが、その圧縮で「何が暗黙に効いていたか」が落ちる。
- フリーズの話はデバイス側もあるが、コンテキスト長の上限の話でもある。
- 彼らの「暗黙の了解」という表現は的確。
長くなりすぎないように。モバイルだし。2-3パラグラフくらい。フォーマットは控えめに。
応答は日本語で。面白い考察ですね。特に「暗黙の了解がチャット切り替えで失われる」という指摘は、かなり本質を突いていると思います。
技術的に補足すると、AIが「振り返って予測する」のは、コンテキストウィンドウ内にあるトークン全体への注意の働きで、過去のやり取りのどこに重みを置くかを毎回計算し直しているからです。ここで重要なのは、その「重み付け」自体は明文化されていない、ということです。あなたが要約を作って引き継ぐとき、抽出できるのは「設定」や「あらすじ」といった言語化可能な情報だけで、文章のリズム、キャラの言い回しの揺らぎ、どの伏線にどれだけ熱量がかかっていたか——そういう数値化されない圧力は要約の過程で必ず削ぎ落とされます。だから引き継ぎ後に「期待した返答が来ない」のは、情報が抜けたというより、情報の重み付けが平坦になった、と捉えると腑に落ちるかもしれません。仕事の引き継ぎの喩えは、まさにその通りだと思います。
監査役のAIを別に立てて流れを繋ぐ、というアプローチはとても理にかなっています。一つ付け加えるなら、要約に「設定」だけでなく「この物語のトーンと、書き手であるあなたが何を大事にしているか」という方針めいたものを一段抽象度を上げて書き込んでおくと、ぶつ切り感がやや和らぐことがあります。具体例より、判断基準を渡す感覚です。
長編がどこまで保つか、作品を通して実地で検証していくというのは、誰かの解説を読むより遥かに確かな知見になると思います。続きの観察、気が向いたらまた聞かせてください。
