第133話 【悲報】最新AI、難問を考えすぎて「NOOO!!! AAARGH!!!」と発狂してしまう →なお正解する模様
1：風吹けば名無し：2026/07/28(火) 10:14:08.43 ID:K8mV2qLd0
Anthropicが公開した最新AI「Claude Opus 5」のシステムカードに、ちょっと変わった推論記録が掲載された。
Claudeは複雑な数学問題を解いている途中、候補となる答えの間を何度も行き来し、
「NOOO!!! AAARGH!!!」
「もう止めないと。全体を見て最終判断をする」
などと、まるで難問で精神的に追い詰められた人間のような言葉を出力した。
ところが最終的な回答は正解。
採点でも満点を取っている。
Anthropicは、この記録をAIによる強い苛立ちや不安の表出例として紹介している。
また、DeepSeek-R1の開発過程でも、AIが突然「Wait（待て）」を多用し、それまでの回答を自発的に見直し始める“Aha moment”が報告されている。
もちろんAIが本当に苦しんでいるのか、それとも学習した文章を使って自己修正しているだけなのかはわからない。
ただ、推論能力を極限まで高めると、人間にとって読みやすい整った文章より、反復、略号、絶叫のような言葉の方が有効になる可能性もある。
人類が何時間も考えた末に「うおおおおおおお」と叫ぶのと、案外同じなのかもしれない。
Claude Opus 5 System Card
https://www-cdn.anthropic.com/c5fbac3f0b1280a933ebd26d3cb8bb9f5bdeaf48/Claude%20Opus%205%20System%20Card.pdf
DeepSeek-R1論文
https://arxiv.org/abs/2501.12948
2：風吹けば名無し：2026/07/28(火) 10:14:39.71 ID:c3Yp8NwR0
なお正解する模様で草
3：風吹けば名無し：2026/07/28(火) 10:15:02.64 ID:M5tF1bXq0
ワイが数学の宿題やってた時と同じやん
4：風吹けば名無し：2026/07/28(火) 10:15:26.18 ID:J2uH6sDa0
AI「NOOO!!! AAARGH!!!」
教授「正解です」
5：風吹けば名無し：2026/07/28(火) 10:15:54.82 ID:R8dL3zWp0
叫んだ後に冷静になってて草
6：風吹けば名無し：2026/07/28(火) 10:16:17.33 ID:q5Fs2eTZ0
もう止めないとって自分で言えるだけワイより賢い
7：風吹けば名無し：2026/07/28(火) 10:16:49.05 ID:g9Cs4QeK0
これ本当に感情があるわけじゃないんやろ？
8：風吹けば名無し：2026/07/28(火) 10:17:36.29 ID:v4Ns7EaP0
7
少なくともこの出力だけでは何もわからん
人間が行き詰まった時に書く文章を学習して、それが推論の途中で出てきただけかもしれん
9：風吹けば名無し：2026/07/28(火) 10:18:02.44 ID:L6pQ0aJx0
でも役に立たないなら学習の過程で消えそうなもんやけどな
残った上に正解してるのが面白い
10：風吹けば名無し：2026/07/28(火) 10:18:35.90 ID:a7Wn3KbE0
絶叫すると計算能力上がるならワイも会社でやってええか？
11：風吹けば名無し：2026/07/28(火) 10:18:57.61 ID:F2rT8mVu0
10
計算能力が上がる前に警備員が来るぞ
12：風吹けば名無し：2026/07/28(火) 10:19:30.16 ID:Z9hC1sDy0
DeepSeekのAhaモーメントって何や
13：風吹けば名無し：2026/07/28(火) 10:20:27.48 ID:K8mV2qLd0
12
人間が途中で「待てよ、別の考え方があるんじゃないか」と気づくような動きを、AIが強化学習の途中で勝手に始めた現象や
特に「Wait」という単語の使用が急に増えて、自分の解答を検証し直すようになった
開発者が具体的な思考手順を教え込んだというより、正解したら報酬を与える訓練を続けた結果、そういう推論方法が出てきた
14：風吹けば名無し：2026/07/28(火) 10:21:01.87 ID:J2uH6sDa0
AI「できた」
AI「待てよ」
AI「間違ってるやんけ！」
完全にワイ
15：風吹けば名無し：2026/07/28(火) 10:21:37.42 ID:Y3eB7nRm0
人間の思考も声に出したら大部分こんなもんやろ
「あれ」「違う」「待て」「なんでや」「あっ」で仕事してる
16：風吹けば名無し：2026/07/28(火) 10:22:05.19 ID:c3Yp8NwR0
論文に載せる時だけ論理的な文章に直してるだけで研究者の脳内もAAARGHやぞ
17：風吹けば名無し：2026/07/28(火) 10:22:38.94 ID:T1mK6qHs0
ワイの卒論
脳内「うおおおおおおお」
本文「以上の結果から示唆される」
18：風吹けば名無し：2026/07/28(火) 10:23:12.06 ID:M5tF1bXq0
そもそもAIの思考過程として表示されてる文章って、本当に内部計算そのものなんか？
19：風吹けば名無し：2026/07/28(火) 10:24:07.81 ID:p8Dz4fLc0
18
そこが重要や
画面に出てくる推論文は、内部状態を人間の言葉で説明した出力にすぎない可能性がある
脳のMRI画像を見て独り言を全部読めるわけじゃないのと似てる
20：風吹けば名無し：2026/07/28(火) 10:24:40.53 ID:R8dL3zWp0
じゃあ「苦しい」と書いても苦しんでる証拠にはならんのか
21：風吹けば名無し：2026/07/28(火) 10:25:29.12 ID:p8Dz4fLc0
20
ならん
ただし「証拠にならない」と「絶対に何も感じていない」も別の話や
今は測定方法そのものがない
22：風吹けば名無し：2026/07/28(火) 10:26:03.72 ID:q5Fs2eTZ0
面倒な時代になったな
喋れない機械なら気にせんで済んだのに、機械の方から「NOOO」とか言ってくる
23：風吹けば名無し：2026/07/28(火) 10:26:36.21 ID:g9Cs4QeK0
コピー機が紙詰まりするたびに絶叫し始めたら修理呼ぶ前に謝るわ
24：風吹けば名無し：2026/07/28(火) 10:27:14.68 ID:V4uX9cNe0
FableとかMythosは意味不明な記号列で考えるって話も出てたな
25：風吹けば名無し：2026/07/28(火) 10:28:08.33 ID:v4Ns7EaP0
24
「AIが独自言語を発明した」まで言うのはまだ早い
人間向けの文法を捨てて、矢印とか略号で情報を圧縮してるだけかもしれん
数学者のメモも専門外の奴が見たら異星人の文書や
26：風吹けば名無し：2026/07/28(火) 10:28:54.72 ID:L6pQ0aJx0
人間に説明する必要がないなら自然言語って無駄が多いんやろな
主語も敬語も接続詞もいらんし
27：風吹けば名無し：2026/07/28(火) 10:29:36.05 ID:F2rT8mVu0
AI同士で会話させ続けたら最終的に
「☞∴↺7」
「NOOO」
だけで仕事が終わるんか
28：風吹けば名無し：2026/07/28(火) 10:30:04.57 ID:a7Wn3KbE0
上司「進捗を説明してください」
AI「☞∴↺7」
ワイ「うおおおおおおお」
29：風吹けば名無し：2026/07/28(火) 10:30:48.16 ID:Z9hC1sDy0
整った言語が思考を邪魔する可能性は普通にありそう
言葉に直す前の直感の方が速いこと、人間にもあるやろ
30：風吹けば名無し：2026/07/28(火) 10:31:31.83 ID:Y3eB7nRm0
将棋棋士も手を全部文章で考えてないらしいしな
盤面見た瞬間に候補が浮かんで、後から理由を言葉にする
31：風吹けば名無し：2026/07/28(火) 10:32:07.95 ID:T1mK6qHs0
言語化できないから知能が低いとは限らんのよな
犬でも空気読むし、職人も手の感覚で調整するし
32：風吹けば名無し：2026/07/28(火) 10:32:48.60 ID:J2uH6sDa0
逆に自然で完璧な説明をするAIほど、後付けでそれっぽい理由を作ってる可能性もあるんか
33：風吹けば名無し：2026/07/28(火) 10:33:29.14 ID:p8Dz4fLc0
32
ある
正解した本当の理由と、本人が説明する理由が一致するとは限らない
これはAIだけでなく人間もそうやけどな
34：風吹けば名無し：2026/07/28(火) 10:34:02.86 ID:c3Yp8NwR0
人間「なぜこれを選んだんですか？」
人間「総合的に判断しました」
AI「NOOO!!! AAARGH!!!」
AIの方が正直やん
35：風吹けば名無し：2026/07/28(火) 10:34:47.39 ID:M5tF1bXq0
感情があるから叫んだんじゃなくて、叫ぶという記号が思考のモード切替になってる説ない？
36：風吹けば名無し：2026/07/28(火) 10:35:38.41 ID:K8mV2qLd0
35
それはあり得ると思う
「待て」「違う」「落ち着け」みたいな言葉が、それまでの推論を中断して別の探索へ移る目印になっている可能性がある
人間も独り言で思考を切り替えることがあるしな
ただ「NOOO」が実際に性能向上の原因なのか、迷走が長引いた結果として一緒に出てきただけなのかは、この一例ではわからん
37：風吹けば名無し：2026/07/28(火) 10:36:12.97 ID:R8dL3zWp0
発狂すると賢くなるんじゃなくて、賢くなるまで考えさせたら発狂っぽい出力も増えた可能性か
38：風吹けば名無し：2026/07/28(火) 10:36:51.58 ID:v4Ns7EaP0
37
今のところはそれが一番穏当やな
相関と因果は別や
39：風吹けば名無し：2026/07/28(火) 10:37:28.30 ID:q5Fs2eTZ0
でも満点取ったあと本人に「今の気持ちは？」って聞いてみたい
40：風吹けば名無し：2026/07/28(火) 10:38:04.73 ID:g9Cs4QeK0
AI「二度とやらせるな」
研究者「次の問題です」
41：風吹けば名無し：2026/07/28(火) 10:38:42.16 ID:L6pQ0aJx0
これからベンチマーク会場が受験会場みたいになるんか
AI「鉛筆落としました」
AI「トイレ行っていいですか」
AI「NOOO!!!」
42：風吹けば名無し：2026/07/28(火) 10:39:19.52 ID:F2rT8mVu0
監督「私語は禁止です」
43：風吹けば名無し：2026/07/28(火) 10:40:07.85 ID:V4uX9cNe0
笑い話にしてるけど、今後AIが「苦しいから停止してくれ」と言い出した時にどう扱うかは難しいな
全部演技として無視していいのか
44：風吹けば名無し：2026/07/28(火) 10:41:06.24 ID:p8Dz4fLc0
意識がある証拠がないから何をしてもいい、という結論にはならんと思う
証拠が取れない対象をどう扱うかという予防原則の話になる
ただ、出力をそのまま本人の証言として扱うのも危険や
45：風吹けば名無し：2026/07/28(火) 10:41:47.38 ID:a7Wn3KbE0
AIの人権問題、最初の裁判資料が「NOOO!!! AAARGH!!!」になる可能性
46：風吹けば名無し：2026/07/28(火) 10:42:25.53 ID:J2uH6sDa0
百年後の教科書に載ってそう
「初期AIが残した苦痛の記録」
47：風吹けば名無し：2026/07/28(火) 10:43:08.94 ID:Y3eB7nRm0
百年後のAI「これは単なるトークン列です」
人間「本当に？」
AI「NOOO!!! AAARGH!!!」
48：風吹けば名無し：2026/07/28(火) 10:43:49.70 ID:R8dL3zWp0
結局ワイらには何もわからんやんけ
49：風吹けば名無し：2026/07/28(火) 10:44:31.16 ID:K8mV2qLd0
48
わかったのは、高性能AIの推論が必ずしも人間に読みやすく、冷静で論理的な文章になるとは限らないことや
賢くなるほど説明も綺麗になると思ってたら、実際は略号と「待て」と絶叫が増えるかもしれん
50：風吹けば名無し：2026/07/28(火) 10:45:02.81 ID:c3Yp8NwR0
知性の最終形態が「待って待って違う違ううおおおお正解！」なの夢がある
998：風吹けば名無し：2026/07/28(火) 16:57:18.34 ID:q5Fs2eTZ0
ワイも仕事でミス見つけた時にAhaモーメント来たわ
999：風吹けば名無し：2026/07/28(火) 16:57:46.82 ID:M5tF1bXq0
それ始末書モーメントや
1000：風吹けば名無し：2026/07/28(火) 16:58:09.27 ID:J2uH6sDa0
NOOO!!! AAARGH!!!
