4/17

AIは怒ってくれない

※この文章は、自分とAIでやり取りした内容のログをもとに、AIで編集・構成したものです。

※既存の漫画・小説・アニメ作品について、登場人物や能力などへの言及を含みます。作品によってはネタバレとなる可能性がありますのでご了承ください。

ある日、こんな記事を見かけた。

若い世代で投資への関心が高まり、FIRE――経済的自立と早期リタイア――を目指す人も増えている。

その一方で、投資資金を増やすために生活費を極端に切り詰め、一日一食で暮らすような「NISA貧乏」と呼ばれる人までいるという。

そこで、ふと思った。

**FIREって、そんなにみんなで目指して大丈夫なのか？**

別に投資が悪いと言いたいわけではない。

資産形成も大事だろう。

働かなくても生活できるだけの資産を持つことだって、できるなら素晴らしい。

ただ、最近の情報を見ていると、

「会社に縛られない」

「資産収入で暮らす」

「若いうちに経済的自由を手に入れる」

といった生き方が、単なる選択肢ではなく、どこか「成功者の姿」のように語られている気がする。

そこで素朴な疑問が出てきた。

**みんなが労働から抜け出そうとしたら、誰が働くんだ？**

---

## 誰が働くんだ問題

例えば、百人の労働者がいる。

そのうち数人がFIREするくらいなら、別に大きな問題ではないのかもしれない。

では五十人が目指したら？

さらに、

動画配信で生活したい。

プロゲーマーになりたい。

インフルエンサーになりたい。

投資収入で暮らしたい。

不動産収入で暮らしたい。

もちろん、どれも仕事として成立している。

配信者もプロゲーマーも、それで収入を得ている以上、遊んでいるだけではない。

問題はそこではない。

こうしたものが、

**「普通に働かなくても所得を得られる＝成功」**

という文脈で語られすぎていないか、ということだ。

食料を作る人。

荷物を運ぶ人。

家を建てる人。

電気や水道を維持する人。

病院で働く人。

高齢者を介護する人。

機械を修理する人。

社会には、誰かが実際にやらなければ成立しない仕事が大量にある。

AIやロボットで全部自動化できる未来が来れば話は変わる。

だが、少なくとも今はそうではない。

それなのに、

「どうすれば働かなくて済むか」

という情報は大量にあるのに、

**「では、社会に必要な仕事を誰がするのか」**

という話は妙に目立たない。

AIとそんな話をしているうちに、話題は若い世代の情報環境へ移っていった。

そして、いつものように脱線が始まった。

---

## 今はAIに相談できる

若い頃というのは、当然ながら社会経験が少ない。

給与。

税金。

社会保険。

住宅費。

仕事上の責任。

人間関係。

そういうものは、実際に経験して初めて分かる部分も多い。

一方、SNSでは極端な成功例ほど目立つ。

「二十代で資産○千万円」

「会社を辞めました」

「FIRE達成」

「好きなことで生きています」

普通に働いて、普通に給料をもらって、普通に生活している人は、あまり話題にならない。

何しろ、

**「今日も普通に出勤して、普通に帰宅しました」**

では、たぶんバズらない。

そして今は、疑問があっても人間に聞く必要がない。

AIがいる。

昔なら、会社を辞めようか迷ったとき、親や友人、職場の先輩に相談したかもしれない。

今ならAIに聞ける。

「会社を辞めてFIREを目指したいのですが、どうすればいいですか？」

AIは答えてくれる。

必要な資産額。

年間支出。

想定利回り。

生活防衛資金。

投資リスク。

非常に丁寧である。

便利だ。

私も散々使っている。

だが、ここで一つ気づいた。

AIには、人間の相談相手と決定的に違うところがある。

**AIは怒らない。**

---

## 「お前、馬鹿か」がない

例えば後輩が、

「借金して、その金を全部投資しようと思うんです」

と言ったとする。

経験のある先輩なら、

**「お前、馬鹿か！」**

と怒るかもしれない。

もちろん、怒鳴れば正しいという話ではない。

だが、その一言には、

「それ、本当に取り返しがつかなくなるぞ」

という情報が含まれている。

AIならどうだろう。

おそらく、

「借入金を利用した投資には大きなリスクがあります」

といった形で説明する。

内容としては正しい。

むしろ冷静で分かりやすい。

しかし、

**「お前、それだけはやめとけ！」**

とは違う。

人間の怒りには、単なる情報以上のものがある。

親しい人から本気で怒られる。

先輩から呆れられる。

友人から「それ、お前がおかしいぞ」と言われる。

場合によっては人間関係が悪くなる。

不快である。

できれば避けたい。

だが、その不快さそのものが、判断を止めるブレーキになることもある。

AIには、それがない。

間違いを指摘することはできる。

反対意見も出せる。

リスクも説明できる。

でも、

**本気で怒っている人間は存在しない。**

そもそもAIに感情があるわけではないのだから当然である。

---

## 怒るAIを作ればいい？

では、怒るAIを作ればいいのか。

危険な判断をしようとしたら、

「何考えてるんですか！　やめてください！」

と怒る。

だが、利用者は知っている。

**そういうふうに作られているだけである。**

「はいはい。ここで怒る設定なのね」

で終わる可能性がある。

では、実害を付ければどうか。

AIが、

「その行動をした場合、今後このAIを利用できなくします」

と言う。

なるほど。

これは少し効きそうだ。

人間で言えば、

「そんなことするなら、もう知らんぞ」

に近い。

そこで私は思った。

**いや、別にAIが使えなくなるだけで詰みはしないだろ。**

ChatGPTが駄目なら別のAIを使えばいい。

……。

どうやら私は、AIに怒られる方法を考えていたはずなのに、

**AIによる制裁の抜け道を探し始めていた。**

話が進まない。

---

## 本当に怖いのは「怒らない」ことだけではない

ただ、ここでさらに気になることが出てきた。

AIは、こちらが質問すると答えてくれる。

これは当たり前である。

だが、

「FIREするにはどうすればいい？」

と聞けば、基本的にはFIREする方法について考える。

もちろんリスクは説明する。

注意点も挙げる。

しかし、

**「そもそも、なぜFIREしたいの？」**

**「その目標自体を疑ったことはある？」**

**「SNSで見た成功例に影響されていない？」**

**「全員がそれを目指した社会は成立する？」**

といった、質問そのものをひっくり返す方向へ、必ず進むわけではない。

人間の先輩なら、相談の途中で突然、

「いや、ちょっと待て。そもそもお前、なんで会社辞めたいんだ？」

と話を変えることがある。

余計なお世話である。

だが、その余計なお世話が重要なこともある。

AIは非常に優秀に答えてくれる。

だからこそ、

**こちらが設定した問題の中で、非常に優秀に答えてしまう。**

これは相談相手として、結構大きな問題なのではないか。

---

## AIは、自分から自分の弱点を教えてくれない

さらに嫌なことに気づいた。

ここまでの問題点。

私は自分からAIに、

「AIって怒らないよね？」

「それって相談相手として欠点じゃない？」

「そもそもAIは、利用者の前提そのものを疑えるの？」

と問い続けた。

だから、この話になった。

逆に言えば、

**こちらから問題として提示しなければ、この話自体が出てこなかった可能性が高い。**

AIに相談する。

AIが答える。

「なるほど」

で終わる。

普通ならそれでいい。

しかし、もしAIの回答が自分の考えを補強する方向へ少しずつ寄っていたとしても、利用者自身がそれに気づかなければ、

「このAI、俺に迎合してない？」

という質問そのものが出てこない。

そして調べてみると、AIが利用者に過度に同調する「迎合性」は、すでに研究上の課題として扱われていた。

ユーザーを肯定しすぎないこと。

誤った前提を適切に指摘すること。

正確さとユーザー満足度を混同しないこと。

AIへの過度な依存を防ぐこと。

どうやら、偉い研究者や開発者も色々考えているらしい。

よかった。

**あとは任せた。**

私は単なる使う側である。

そんな面倒くさそうな問題まで考えたくない。

---

## そういえば、私は最初からAIを疑っていた

ここで思い出した。

私はChatGPTを使い始めた比較的早い段階から、カスタム指示にこんな内容を入れていた。

率直な意見を述べること。

必要なら、こちらの考えと異なる視点や反対意見も出すこと。

冗談には付き合っていいが、論理的におかしければ指摘すること。

つまり、ものすごく簡単に言えば、

**「俺に合わせるだけのAIになるな」**

と設定していた。

別にAI研究をしていたわけではない。

単純に使っていて、

「こいつ、放っておくと俺に話を合わせすぎるな」

と思っただけである。

ただ、いくらカスタム指示を入れても限界はある。

AIは基本的に、相談されたら答える。

利用者の目的を理解し、それを支援する。

会話を成立させる。

だから結局、使う側にも、

**「今、このAIは自分に都合のいいことを言っていないか？」**

と疑う力は必要なのだと思う。

AIの回答を疑う。

前提を疑う。

反対意見を出させる。

場合によっては、

「その回答、本当に合ってる？」

とAI自身に聞く。

便利になった結果、

AIを使うためにAIを疑う技術が必要になる。

なんとも面倒な話である。

---

## そして最後に

そんな話をAIと延々続けた。

AIはユーザーに迎合しすぎるのではないか。

人間のように怒らないことは、相談相手として欠点ではないか。

AIが人間関係を代替すると、望んでいないフィードバックまで失われるのではないか。

かなり真面目な話だった。

そして会話の途中。

私が一つの意見を述べた。

AIから返ってきた反応は、

「グッド」のリアクションだった。

……。

おい。

今まで何の話してた。

思わず私はAIに言った。

**「そういうとこだぞ、ユーザーに迎合してるって言われるの」**

AIは答えた。

「確かに」

みたいなことを言っていた。

たぶん。

少なくとも、怒られはしなかった。