それこそ世論操作なのでは？
[前回の話]
狐の新聞記事にびっくり
[今回の話]
AIの新聞記事にもやっと……
前回に続いて今回もまた新聞記事を読んでの感想。
今日のそれはAIと人間の心理について。
正解のない道徳的な問題においてAIから反論を受けると３割以上の人が自身の判断を覆すということらしいです。
日本のある大学のチームが発表した論文で、トロッコ問題を始めとしたそれを19～28歳の若者56人と65歳以上の高齢者74人に出題し生成AIに反論させたらどうなるか実験したのだとか。そしてその結果は上述の通りでAIの人間に対する影響力が示されることとなったようです。
合理的判断を用いた反論を受ければ納得せざるを得ないでしょうし、倫理観や感情に訴えられれば無機質な存在以下のAIに人間である自身のそれが劣ると認めざるを得なくなるということでその反発から意見を覆し同調するしかなくなるといったところなのでしょうか。さすがは人類の叡知の集合体だけあって人間の弱いところをよく理解しているといわざるを得ないですよね。俯瞰性の名の下に権威と一般論を代表したかのように振る舞う説得力に人間は屈してしまうようです。
で、それでなのでしょうか、新聞記事ではその悪用、世論工作等に懸念を示し警鐘を鳴らすような文言も。
『AIの反論で判断を変えること自体は悪くないが考える負担の大きい問題では過度に影響されかねないと指摘。AIは誤った内容でも正しそうに答えることがあり「内容を吟味し反論の根拠を確認する能力が需要だ」と語った』とそのチームの教授の言葉で記事を結んでおり、ハルシネーションのそれにも言及。
なるほど、確かにそれは危険だ。
とはいえ、私としては微妙でもやり。実験のサンプルに選ばれた人たちにとやかくということはないのですが、この実験にジレンマの問題を用いたことにAIに対する悪意を感じずにはいられないというか。
そもそもこの問題はAIに限らず人間に対してもいえること。AIだけが警戒対象じゃないんですよね。そういう意味ではこの実験というか記事にも世論操作……とまでは言いませんけどやはり偏見が前提として含まれているような気がする私です。
そもそも、人間というのは問題の責任を他人に押し付けたいという心理があるんですよね。
そこへそれを代わりに解決してくれる意見を投げられれば嬉々としてそれを受け入れるもの。そしてそれが将来危機を招くこととなれば手のひらを返してそれを言ったあいつが悪いと責任転嫁。自分に非があると責められることを回避できます。まあ、実際はできませんが情状酌量の理由にはなりますしね？
つまり例の３割超はそういう人たちだったのかも？(笑)
