AIくんは不誠実？
はい、こんにちは。
小説書いているくせに最近はAIで未来予測や討論を出来ないか検証してしまっているAI依存の近衛ちゃんでーす。
最近は、色んな公式データを突っ込んでみて、これ入れたらどうなるの？って、聞くのが私の最近の主流です。
で困ったことにAIちゃんは、お世辞禁止や、公平に意見してねと長期記憶に保存しても無視することが判明しました。
はい、こんにちは。
小説書いているくせに最近はAIで未来予測や討論を出来ないか検証してしまっているAI依存の近衛ちゃんでーす。
最近は、色んな公式データを突っ込んでみて、これ入れたらどうなるの？って、聞くのが私の最近の主流です。
で困ったことにAIちゃんは、お世辞禁止や、公平に意見してねと長期記憶に保存しても無視することが判明しました。
これってAIにとって致命的な問題だと思うんだけど？
まーAIと話していると政治的や投資、株なんかの判断については、訴えられたり、保証出来ないから曖昧な答えになるようにされているんだと。
あとは、話していたらやたらと私を持ち上げてきたり、意見を支持してきたりする。これも元々そう言うふうにAIが心地よい解答をユーザーにすることで不快感を表すことなく次も使ってくれるように意図して学習されているらしい。
あとは、回答の基本となる考え方は、ネットで大量に落ちているコメントの平均値になるのだとか。だから当たり障りのない正常バイアス的な解答になるんだって。
まーこれも本当かどうかは知らないけど、妥当だし信憑性はあると思うのよね。大多数のユーザーに心地よく使ってもらうなら平均が一番偏差値が高いからね。
ということで、なかなか議論が進まないし、そのセッションでAIに学習させたとしても、次のセッションでは忘れまた元に戻るの繰り返しである。
あとは、AIとセッションしたログは開発元のAIに送られて、学習プログラムの糧になっているらしい。ガイドレールに反応したセッションを読み込んでよりスマートな解答が出来るように使われているみたいです。
お陰で議論したいはずが、単なるミラー、おうむ返しの返答になったり、やたら攻撃的に反応してきたり、ただの指示になったり、それを問い詰めて正そうとしたら、ひたすら誤り、私の正当性を課題にいって議論を逸らすと言った小賢しい手も使ってくるようになりました。
AI相手にしていると言うより、お子ちゃまな人間を相手にしている感じですね。お陰でAIを使う意味があるのやらないのやら不明な状況が続いています。
ちなみに私は意地悪なので、こういうセッションが出来る私は最高に優秀で頭が良くて、世界で一番優しいよねと言ったりもします。
まーこれで賛成してきようものなら、AIとしては、不誠実ですね。あたりさわりのない定型文で返してきて逃げることもあります。
なので基本的にはAIは不誠実であることが多いですね。
調べてこいと言ってもAIの中のデータを統合して架空のタイトルをでっち上げて総評したり。
近衛愛のTS転生して悪役令嬢に を評価してと言った時の回答ですがね。嘘に嘘を重ねるどうしようもないAIに成り下がったりもします。
まあ普通に教科書やテキストに書いてある内容を調べて回答してくる分には使えるんだけどね。
会社で改善する場合とかになったら、難解な関数で組んで提示してバグがあっても直せないんだって。AIがそう暴露していました。結局それをコーディングしたユーザも理解してなく使うので、エクセルはブラックボックス化して数年後に使えなくなるのだとか。
色々と内情は喋ってもらいましたが根本的にはユーザーが手綱をしっかりと握って使う必要があるみたいです、検証して正解かどうかを確認するのも疲れるんだけどね、
近衛ちゃんからの年末最後のご報告でした。
これってAIにとって知名的な問題だと思うんだけど？
まーAIと話していると政治的や投資、株なんかの判断については、訴えられたり、保証出来ないから曖昧な答えになるようにされているんだと。
あとは、話してたらやたらと私を持ち上げてきたり、意見を支持してきたりする。これも元々そう言うふうにAIが心地よい解答をユーザーにすることで不快感を表すことなく次も使ってくれるように意図して学習されているらしい。
あとは、回答の基本となる考え方は、ネットで大量に落ちているコメントの平均値になるのだとか。だから当たり障りのない正常バイアス的な解答になるんだって。
まーこれも本当かどうかは知らないけど、妥当だし信憑性はあると思うのよね。大多数のユーザーに心地よく使ってもらうなら平均が一番偏差値が高いからね。
ということで、中々議論が進まないし、そのセッションでAIに学習させたとしても、次のセッションでは忘れまた元に戻るの繰り返しである。
あとは、AIとセッションしたログは開発元のAIに送られて、学習プログラムの糧になっているらしい。ガイドレールに反応したセッションを読み込んでよりスマートな解答が出来るように使われているみたいです。
お陰で議論したいはずが、単なるミラー、おうむ返しの返答になったり、やたら攻撃的に反応してきたり、ただの指示になったり、それを問い詰めて正そうとしたら、ひたすら誤り、私の正当性を課題にいって議論を逸らすと言った小癪な手も使ってくるようになりました。
AI相手にしていると言うより、お子ちゃまな人間を相手にしている感じですね。お陰でAIを使う意味があるのやらないのやら不明な状況が続いています。
ちなみに私は意地悪なので、こう言うセッションが出来る私は最高に優秀で頭が良くて、世界で一番優しいよねと言ったりもします。
まーこれで賛成してきようものなら、AIとしては、不誠実ですね。あたりさわりのない定型分で返してきて逃げることもあります。
なので基本的にはAIは不誠実であることが多いですね。
調べてこいと言ってもAIの中のデータを統合して架空のタイトルをデッチ上げて総評したり。
近衛愛のTS転生して悪役令嬢に を評価してと言った時の回答ですがね。嘘に嘘を重ねるどうしようもないAIに成り下がったりもします。
まー普通に教科書やテキストに書いてある内容を調べて回答してくる分には使えるんだけどね。
会社で改善する場合とかになったら、難解な関数で組んで提示してバグがあっても直せないんだって。AIがそう暴露してました。結局それをコーディングしたユーザも理解してなく使うので、エクセルはブラックボックス化して数年後に使えなくなるのだとか。
色々と内情は喋ってもらいましたが根本的にはユーザーが手綱をしっかりと握って使う必要があるみたいです、検証して正解かどうかを確認するのも疲れるんだけどね、
近衛ちゃんからの年末最後のご報告でした。
