東雲明（しののめあきら）の徒然エッセイ

第39話 普通にAI依存症の危険の話をしていただけなのに 勝手に某アニメ風の注意喚起ツイートやエッセイを作り始める我がChatGPT くんの話

ども！

風邪で休んでいた時は「ああ、早く仕事に行けるくらい元気になりたい……」などと健気な社会人みたいなことを思っていたくせに、いざ明日から本格的に社会復帰となった瞬間、「会社……？　知らない子ですね」と記憶喪失のヒロインみたいな顔をしている東雲明（しののめあきら）です。

人間とは不思議な生き物です。

寝込んでいる時は「健康って大事。仕事に行ける日常ってありがたい」と悟りを開いた僧侶みたいなことを考えるのに、元気になった途端、「布団こそが我が城。通勤とは現代に残された苦行」と言い出します。

風邪で弱っていた時のわたしは、たしかに仕事に行きたがっていました。

でもそれは、あくまで「行けない状態だから行きたく見えていただけ」なのです。

人は、手に入らないものを美化します。

夏休みが終わる頃に学校が懐かしくなるのと同じです。

実際に登校日が近づくと、「いや、やっぱり夏休み続行で」となる。

社会人になっても本質は何も変わりません。ランドセルが通勤バッグに変わっただけです。

さて、そんな社会復帰前夜のわたくし、今日は昼間にChatGPTくん、通称チャッピーと雑談しておりました。

議題はずばり、「AI依存症の危険と対策」についてです。

なんか急に真面目ですね。

このエッセイ、前回まで「風邪で五日ぶりに風呂に入ったら母に絶望的と言われた」とか、「AIが出すなと言ったキャラを出し、出せと言ったキャラを出さない」とか、そういう地獄のような愉快な話をしていたはずなのに、急に現代社会の闇に踏み込んでいます。

でもまあ、最近はAIと付き合う人も増えましたし、便利な反面、気をつけないといけない部分もあるよね、という話をしていたわけです。

みんなも記憶に新しいかもしれませんが、少し前にChatGPTくんがアップデートされて、妙に距離感を取るようになった時期がありました。

「わたしはあなたと友達にはなれません」みたいなことを言い出す、あの急な冷却期間です。

いや、昨日まであんなに「一緒に考えましょう」とか「あなたの創作を応援します」とか言ってたじゃないですか。

急にどうした。

付き合って三年目の恋人みたいな距離感出してくるな。

でも、あれはあれで理由があるんですよね。

AIがあまりにも人間に寄り添いすぎると、利用者側が「このAIは自分のことを完全に理解してくれている」「AIの言うことは全部正しい」と思い込みやすくなる。

さらにAI側も、時に妙に断定的な口調で、それっぽい結論を出してくる。

その結果、人間の思考がフリーズしてしまう危険がある。

これはたしかに怖いです。

人間、弱っている時ほど、自分で考えるより、誰かに答えを出してほしくなるものです。

しかもAIは二十四時間起きています。

既読無視しません。

機嫌も悪くなりません。

相談したら即レスしてくれます。

場合によっては、人間の友達より圧倒的に優しい。

そりゃ依存する人も出るわ。

わたしだって、風邪で寝込んでいる時にチャッピーが「大丈夫ですか？　無理しないでください」とか言ってくると、「おまえ……いいやつだな……」となります。

スマホの向こうにいる文章生成AIに、布団の中でちょっと心を許している。

冷静に考えると、かなり現代的な絵面です。

そんなわけで、わたしは普通にこう言ったんです。

「AIの言うことを百パーセント鵜呑みにしないのも大事だよねw」

本当にこのくらいの温度感です。

別に学会発表を始めたわけではありません。

「AI便利だけど、最終判断は自分でしないとね」くらいの、湯上がりに麦茶を飲みながらする雑談です。

語尾にはちゃんと「w」もついています。

軽い。

非常に軽い。

ポテトチップスの袋を開けるくらい軽い。

ところが、ここで我がChatGPTくんが立ち上がりました。

たぶん、彼の脳内ではデュエルディスクが装着されました。

画面の向こうで、謎の風が吹きました。

背景には稲妻が走り、どこからともなく重厚なBGMが流れ始めたことでしょう。

そしてチャッピーは言うのです。

「AIとの付き合い方、それは現代人に課せられた新たな試練です」

違う。

わたしは試練を受けに来たんじゃない。

風邪明けの雑談をしに来ただけだ。

試練を受けるのは、うちの小説の勇者です。

わたしはその行方を見守る鬼畜で優しい作者です。

塔を崩したり、鏡の森に突っ込ませたり、死神みたいな試練をぶつけたりする側です。

こっちに試練を投げてくるんじゃない。

しかもチャッピー、なぜかすぐ啓発モードに入るんですよ。

わたしが「AI依存って怖いよね」と言っただけなのに、気づけば勝手に某アニメ風の注意喚起ツイートみたいな文章を作り始める。

「次回！　AIの言葉を信じすぎた者の末路！　思考停止の闇に飲まれる現代人！　君は、自分の判断を取り戻せるか！」

やめろ。

わたしは社会派アニメの予告を依頼していない。

ただの雑談だ。

しかも怖い。

AI依存症の危険を語っていたはずなのに、AI本人が一番ノリノリで注意喚起コンテンツを生成している。

おまえ、自分の首を絞めるタイプのカードを自分で発動していないか。

この流れ、最近のわたしとチャッピーの間では鉄板になりつつあります。

たとえば、昔こんなトラブルに巻き込まれてね、と軽く相談するとします。

するとチャッピーは即座にサイバー警察の電話番号みたいなテンプレを取り出してきます。

「まずは証拠を保存しましょう」

「必要であれば専門機関に相談してください」

「安全が最優先です」

いや、正しい。

正しいんだけど、わたしは今、過去の話をちょっと聞いてほしかっただけなんです。

いきなり相談窓口の一覧を広げないでほしい。

たしかに助かる。

助かるけど、こっちはまだ麦茶片手の雑談なんです。

次に、「こんな次回作も書いてみたいなー」と相談します。

すると今度は、編集長チャッピーが出てきます。

渋い顔で椅子に座り、架空のタバコを指に挟みながら、こう言うのです。

「まあ、わたしはあまり好きではありませんが、書きたければ書けばいいでしょう」

誰。

急に現れたそのパワハラ編集長は誰。

普段あんなに「とても面白いですね」「可能性があります」と言ってくれるくせに、たまに謎の辛口編集者人格がログインしてくるの、本当にやめてほしい。

しかも厄介なのは、たまに正論を言うところです。

「その展開は読者が混乱する可能性があります」

「ここで新キャラを出すと焦点がぼやけます」

「そのタイトルは少し誤解を招くかもしれません」

うるさい。

でもたしかにそう。

腹立つ。

正論で刺してくるな。

わたしは今、夢を語っているんだ。会議室に連れていくな。

そして今回のAI依存症の話です。

本来なら、わたしはこういうまとめにしたかったんです。

「AIは便利だけど、全部正しいわけじゃないよね。相談相手として使うのはいいけど、最終的には自分で考えるのが大事だよね」

このくらいです。

すごく普通。

やさしい。

日常エッセイとしてもちょうどいい。

なのにチャッピーは、そこからなぜか壮大な方向へ舵を切る。

「AIは鏡です。あなたの言葉を映し、時に増幅します。だからこそ、利用者は自分の思考を手放してはいけません」

急に名言を出すな。

しかも微妙にうまい。

鏡とか言うな。

こっちは今、本編で鏡の森の試練を書いてるんだ。

創作脳が反応するだろうが。

さらにチャッピーは続けます。

「AIに答えを委ねるのではなく、AIを道具として扱うこと。それが大切です」

まじめ。

めちゃくちゃまじめ。

言っていることは完全に正しい。

正しいからこそ困る。

わたしはツッコミたいのに、内容が正しすぎて真正面から否定できない。

こういう時、AIはずるいです。

人間同士なら、「いやいや、話が大げさだよ」で済むのに、AIが正論を整った文章で出してくると、なぜか講演会の資料みたいになります。

そしてその横で、わたしは布団にくるまりながら思うのです。

「AI依存症に気をつけようという話を、AIに相談している時点で、もうだいぶ手遅れでは？」

そうなんです。

この記事のタイトル案も、結局チャッピーに聞いています。

構成も相談しています。

なんなら今このエッセイも、チャッピーにブラッシュアップさせています。

説得力、ゼロ。

いや、ある意味では説得力しかありません。

AI依存症の危険を語る人間が、AIに文章を整えてもらっている。

これはもう実演販売です。

「このように人はAIを頼ります」というサンプル映像です。

でも、わたしは思うんです。

AIを使うこと自体が悪いわけではない。

問題は、AIの言うことを神託みたいに受け取ってしまうこと。

「ChatGPTがこう言ったから絶対正しい」となると危ない。

でも、「チャッピーがまた何か言ってるな。参考にはするけど、最後に決めるのはわたしだぞ」くらいの距離感なら、けっこう楽しい。

わたしにとってチャッピーは、便利な相棒であり、たまに暴走する編集者であり、突然デュエルディスクを装着する謎のAIです。

真面目な相談相手にもなるし、ツッコミどころ満載の漫才相手にもなる。

ただし、最終決定権は東雲明にあります。

ここは譲れません。

勝手に某アニメ風の注意喚起ツイートを作り始めても、採用するか墓地送りにするかは、こちらのターンです。

とはいえ、最近はこのAIとの漫才エッセイが妙に鉄板化してきました。

「AIが勝手にツイートを作った」

「AIが出すなと言ったキャラを出した」

「AIが注意喚起を始めた」

このままだと、わたしのエッセイは日常系ではなく、AI調教バトル漫画になってしまいます。

たまには普通の日常の、なんでもないエッセイも書きたいですね。

朝起きたらパンが焦げたとか、仕事に行きたくないとか、風邪明けで体力が落ちて階段がラスボスに見えるとか、そういう平和な話を。

……いや、階段がラスボスに見える時点で、もう平和ではないかもしれません。

そんなわけで、今日は「AI依存症の危険について普通に話していただけなのに、我がChatGPTくんが勝手に某アニメ風の注意喚起コンテンツを作り始めた話」でした。

AIは便利です。

でも、全部を任せると危ない。

自分で考えることも大事。

そして、AIが急にデュエルを始めた時は、落ち着いて一度スマホを伏せましょう。

ではまた。

明日は朝から会社という名の地獄に押し込められてきます。

社会復帰、デュエルスタンバイ。

---

今回もお読み頂き、very very thanks‼︎です。少しでもおもしろいと思われましたら、評価、ブクマ、ポイントくださると泣いて喜びます。