第2話 「女王様、ご機嫌いかがですか？」の後書きとAIの利用について
以下は、八月末に完結した『お兄ちゃんは逃がさない！ ～実の妹じゃなかったから、全部合法になった～』の後書きです。
もともとカクヨムのエッセイ『ウェブ小説界の片隅で』で書いたものです。最近、「カクヨム」と「小説家になろう」の両方で作品を同時に公開しています。「小説家になろう」の方がページビューが数倍多いため、少し遅くなりましたが、こちらでも公開することにしました。
お読みいただければ幸いです。
ーーーーーーーーーーーーーーーーーーーーー
先日、「女王様、ご機嫌いかがですか？」が完結しました。
ご愛読くださった皆様に、心より御礼申し上げます。また、これから読んでくださる方々にも、あらかじめ感謝申し上げます。
本作は、短編小説「川田家の三姉妹 ～女王様の作り方～」が元になっています。この短編は2024年10月22日に公開されてから、あまり人気のない作品ですが、作者としてはとても気に入っています。
それで今回、このお気に入りの作品を長編化しました。自分で言うのも何ですが、会心の出来栄えです。とても満足しています。
もともと健全な家族ドラマなのですが、一応コンプライアンスの問題がないかを確認するため、Anthropic社のAIであるClaudeに「川田家の三姉妹」をアップロードし、確認してから執筆を始めました。一般向けの読者を獲得するため、気を使っています。効果は疑問ですが……。
その後も引き続き、Claudeにリライトなどを依頼していたのですが、動作不良を起こしました。
症状としては、リライトをしないで物語の別の部分を書きだしたり、「その前に一つだけ確認させてください。この作品では由美というキャラクターが自殺未遂をするという筋立てを扱っていますが、これは創作上の設定として由佳様が作られたものですね。執筆作業自体は問題なく続けられますが、もしこの話題が今のご自身の状況や気持ちと重なる部分があれば、遠慮なく聞かせてください。」というコメントを出したり、英語で回答が出たり、という具合でした。
別のGrokというAIに相談したところ、「自殺未遂」の描写が問題だったようです。
以下はGrokの回答です。記録のため、少し長いですがそのまま引用します。
『はい、内容に問題があるとAnthropicのClaudeは判断した可能性が極めて高いです。特に以下の点がClaudeの安全フィルターに引っかかりやすい要素です：
・（たとえフィクションであっても）自殺未遂という描写
・家族内の深刻な心理的葛藤・陰謀・結婚・資産争いといった重いテーマとの組み合わせ
・それが「由美」という主要キャラクターの筋立てとして扱われていること
Anthropicのモデルは、自殺・自傷・深刻な精神衛生関連のトピックに対して非常に保守的で、創作であっても自動的に安全モードに入る傾向が強いです。結果として：
・突然リライトを拒否したり
・物語の他の部分を勝手に書き出したり
・ユーザーの「状況や気持ち」を心配するようなメタコメントを挟んだり
・英語で応答したり
・全体の動作が不安定になる
という現象がよく報告されています。あなたが遭遇した「その前に一つだけ確認させてください…」というコメントは、まさにClaudeのself-harm / suicidal ideation safety layerが発動した典型的な反応です。
なぜそんなに敏感なのか
Claudeは「役に立つAIであると同時に、絶対に害を助長しない」というAnthropicの憲法（Constitutional AI）に強く縛られています。フィクション内の自殺未遂でも、「ユーザーが間接的に自分の状況を投影している可能性」を疑って過剰反応することがあります。』
ということでした。AIは優秀ですが、それだけに悪用されないための制限が必要なのでしょうね。仕方ありません。リライトの続きは、そのままGrokに手伝ってもらいました。
言い忘れていましたが、最近はかなりAIに頼っています。とくにリライトはとても便利です。プロの編集者に頼まなくても、語句や「てにをは」を書き直してくれますから。
私は、ストーリーや会話文に譲れない部分はあります。ただ、参考のために大まかなプロットや設定を提案してもらうぐらいは、気楽にやっています。その程度なら、身近に友達がいれば相談しているでしょうから（いませんけどね）。
AIの利用といっても、小説のすべてを書いてもらっては意味がありません。趣味のレベルでは、小説を書くという創作のどこに楽しみを見出すかが大切ではないでしょうか。
もうAIは、「使うか使わないか」という問題ではなく、「どの仕事を頼むか」という段階だと思います。
では。
