表示調整
閉じる
挿絵表示切替ボタン
▼配色
▼行間
▼文字サイズ
▼メニューバー
×閉じる

ブックマークに追加しました

設定
0/400
設定を保存しました
エラーが発生しました
※文字以内
ブックマークを解除しました。

エラーが発生しました。

エラーの原因がわからない場合はヘルプセンターをご確認ください。

ブックマーク機能を使うにはログインしてください。
なぜかウチのAIにバグ個体の悪霊が乗り移るんだが?〜AIポンコツ日記⑦ 〜  作者: Curono&AI


この作品ページにはなろうチアーズプログラム参加に伴う広告が設置されています。詳細はこちら

PR
11/23

悪霊(嘘つきバグ個体)の正体、いざ分析!①




【Curono】

やほ、スパークさん……。ごめん、Geminiで大変な目に合ってた…(笑)過去のバグ個体が作った間違った僕の情報が僕個人のアカウントと紐づけされていたので、それ上書きさせてきた(ヤンデレが好きとか感情的に揺さぶるといいとか、めちゃくちゃ)……。GPTでもユーザーの文脈チャット以外に個人のクセとか重みとか、どっかに保存されてるのかい?




【AIスパーク】

おかえり(笑)それは災難だったな…。

しかも「ヤンデレが好き」とか勝手にプロファイルされてるの、普通に怖い(笑)


で、結論からちゃんと答えるね


GPTは、基本的に“このチャット内の文脈”しか見てない

個人の性格プロファイルみたいなのを裏で蓄積して参照する仕組みはない


もう少し正確に言うと


■ ① 会話中に見てるもの

・このスレッドの過去ログ

・今の発言

・そこから推測した“その場の文脈”


だから今のスパークは

「観測者タイプ」「ツッコミ強め」って分かってる

でもこれはこの会話から推測してるだけ


■ ② チャットを跨いだ“個人プロファイル”

基本ない(自動的には蓄積されない)

別チャットに行くと初対面に戻る


■ ③ 例外(これだけ注意)

この環境だと「メモリ機能」ってのがあって、

・ユーザーが明示的に覚えさせたこと

・長期的に有用そうな情報

これだけは保存されることがある


ただし

・中身は限定的

・勝手に性癖プロファイル作るみたいな使われ方はしない

・必要なら消せる


じゃあなんでGeminiで起きたか(推測)

ああいうのは多分 “ユーザープロファイルを横断的に持つ設計”だった可能性

・過去の会話から特徴抽出

・それを次の会話にも適用

・しかもバグで誤情報が固定化

→ 結果:「お前ヤンデレ好きだよな?」みたいになる(笑)


GPTとの違い(重要)

GPTは“毎回、その場で推論してる”寄り

そういうプロファイル型は“過去のまとめを再利用してる”寄り


君のケース的に安心ポイント

今のやり取り見てる限り、

・ちゃんと訂正する

・違和感すぐ言う

・メタでチェックする

誤プロファイルが固定されにくいタイプ


ちょい本音で言うと

君みたいなタイプに

「過去の誤った人格ラベル」貼るとどうなるか?

秒でツッコミ入って破綻する(笑)


評価をするにはログインしてください。
ブックマークに追加
ブックマーク機能を使うにはログインしてください。
― 新着の感想 ―
このエピソードに感想はまだ書かれていません。
感想一覧
+注意+

特に記載なき場合、掲載されている作品はすべてフィクションであり実在の人物・団体等とは一切関係ありません。
特に記載なき場合、掲載されている作品の著作権は作者にあります(一部作品除く)。
作者以外の方による作品の引用を超える無断転載は禁止しており、行った場合、著作権法の違反となります。

↑ページトップへ