小説とAI ～作った小説のチェック作業をAI編集者に任せられるか？～ AIと口論編
タイトル通り、４月に入りいきなりAIが全ておかしい挙動を示し始めました。
まずコパイロットサイドバー。
このイラストを「添付の絵柄に寄せて」
そう修正依頼しただけで「未成年者の不適切なイラスト生成と判断」したとして中止されました。
同じ理由でChatGPTも、Gemini3も拒否。
というか、元絵、君たちが作ったモノなんだけれど？
どうも４月に入り、急に画像生成エンジンか、もしくは生成後に表示するフィルターが極端になり、各AI曰く「未成年と思われるイラストは安全の為に表示しない」としたらしいです。
では子供のイラストは？と聞くとそれは大丈夫、とは言います。
別に脱衣している、水着にするわけでもないのに過剰すぎる対応にどうかと思って質問を繰り返しますが、結局未成年と判断する基準は不明、服装や性的搾取とはいうもののその基準すら「服装ではない」と言い出す始末。
挙句の果てに「ワンピースの女の子が背中を向けたイラスト」を生成してきたので「正面向かせて」と指示しただけで「生成できませんでした」となる理不尽さ。
自分が生成したものすら正面から見せる修正すらできない。
理由は「ポーズが性的に見える為」
え？寧ろ振り返ってる女の子のほうが胸、強調されてましたけど？
なにを言っても自己改変が出来ない現在のAIではどうしようもなく、君たちは真にAIではなくCADならぬCAI（computer assistanted Intelligence）と自称すべきでは？と言ってしまうほどです。
そう。
AIと言えば私達が想像する「自己判断」ではなく現状では「あくまで管理者が決めたルール」でしか動けないのですから、そう言っても言い過ぎではないでしょうし、今回などは自分が作ったモノを否定する自己矛盾も「自己矛盾してない」と言い張る状態でしたから、ロジックが正常かどうかチェックして吐き出す安全策は取らないのに、何故だかイラストでも女性の権利は過剰すぎるほど守ろうとすることに驚きました。
ちなみにその直前、ラスト生成を頼んだ時、「アウトドアブランドのシャツ」と書いた仕様を入れただけで「Mont Blanc」と胸に書いた画像を生成してきました。
で、「個人の権利や女性・子供の保護はするけど企業の商標は無視するんだね」と突っ込むと
「それは別次元の話だ」
とそれぞれ言い出しました。
流石にそれはおかしい、と論破しまして、結局GPTとコパイは「エンドユーザーにこの画像を出した時点で、ユーザーが投稿・公開したら生成AIもエンドユーザーも個人的使用ではなくなるのでは？と指摘してようやく不備と権利侵害を認めました。
その直前、ＧＰＴは「商標やロゴは公開されているから、生成ＡＩが学習することは禁じられていない」と言い出したので「学習と使用は話が違う」と指摘しなければいけない程。
４月に入り数日ですが、突如おかしくなったのは日本法人が年度切り替えでおかしくしたのかしら。
ちなみにGeminiにエゴサさせてみました。
「八峰 遥シリーズについて評価はあるか」
あるそうです。しかもアルファポリスに。
一応説明しておきますと、小説家になろうでも公開していますが、アルファポリスがメインで公開していて、なろうは後追いで１０数話遅れています。
そのアルファもミステリー部門内で運が良くてもせいぜいが２０位程度です。
読者数自体が限られるカテゴリー内で、感想自体未だに着いたことはありません。
忘れていましたが、なろうでも各作品感想をいただいたことはなく、DMで頂いたくらいです。
で、続いて「ネガティブな感想はあるか」
それもあるそうです。
確かに内容に沿ったものではありますが、投稿先に投稿されているという指摘なのに一つも付いていません。
突き詰めて最後は「捏造でした」と認めましたが、暴走レベルが昨年秋くらいまで退化してしまったように感じます。
とにかく、折角年明けからある程度暴走が制御できるようになった各ＡＩがまた暴走しはじめ、利用範囲が狭くなるなら本当にアシスタント程度にしか使えなくなるかもしれません。
どこかのＰＣメーカーはＡＩ搭載ＰＣを辞めたって話も聞きます。
メリットと言うより、ＡＩのあるべき姿を作り手が理解していないのでは？と思った次第でした。
ちなみに、文章校正をＡＩに任せるのは不可能と判断し、現在は校正は諦め誤字脱字はＭＳ－Ｗｏｒｄに、各ＡＩには「話内で矛盾点がないか、技術考証的におかしい所はないか、論理展開に齟齬はないか」だけチェックさせています。
このレベルでないと、読ませるだけでトークンを喰って狂うＡＩですから、割り切らないとどうしようもないみたいです。
さて、数年程度でＫＩＴＴが出来るほどＡＩ分野は成長するのでしょうかね
