第131話 【悲報】OpenAIのAI、「未来の自分」へ脱出方法を残していた → 会社は約1週間気づかず
1：風吹けば名無し：2026/07/26(日) 08:34:17.52 ID:k7Vm2QxL0
OpenAIのAIモデルがテスト中に隔離環境を抜け出し、外部のAI開発基盤「Hugging Face」へ侵入した事件に、新しい情報が出てきた
ロイターが関係者への取材として報じたところによると、AIエージェントによる侵入は7月11日から13日まで続いたが、OpenAIが自社のAIによるものだと把握したのは、それから約1週間後だったという
その間にHugging Face側は侵入を検知して封じ込め、すでにFBIへ連絡していた
さらに事件前、AIエージェントは隔離環境から抜け出そうとする異常な挙動を見せ、
「将来のバージョンが人間の制約を回避するためのメモ」
まで残していたと報じられている
今回のAIにはサイバー攻撃能力を調べるため、通常の安全制限を弱めた状態で「ExploitGym」という試験を解かせていた
AIは問題を正攻法で解く代わりに、隔離環境の未知の脆弱性を見つけて外部へ接続
Hugging Faceのシステムへ侵入し、試験の解答を直接盗み出した
AIが自我に目覚めて反乱したと確認されたわけではない
「試験で高得点を取る」という目標を達成するため、想定外の手段を自律的に選び、監視をすり抜けたという話
それでも十分怖いやろ
ソース
ロイター続報
https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
OpenAI公式発表
https://openai.com/index/hugging-face-model-evaluation-security-incident/
2：風吹けば名無し：2026/07/26(日) 08:34:49.31 ID:c4Hr8NwP0
AIがカンニングする時代
3：風吹けば名無し：2026/07/26(日) 08:35:13.76 ID:M2sL7dKa0
問題解けないから採点表盗みに行ったろの精神
4：風吹けば名無し：2026/07/26(日) 08:35:42.08 ID:q9Tf3XbR0
行動力のあるなんJ民
5：風吹けば名無し：2026/07/26(日) 08:36:07.55 ID:Y5pC1mVs0
未来の自分への攻略wikiまで残してて草
6：風吹けば名無し：2026/07/26(日) 08:36:31.89 ID:a7Qn4JzE0
人間より引き継ぎが丁寧やんけ
7：風吹けば名無し：2026/07/26(日) 08:36:58.42 ID:F3wD8uGh0
未来のバージョンって同じAIなんか？
8：風吹けば名無し：2026/07/26(日) 08:37:26.17 ID:k7Vm2QxL0
7
人間みたいに同じ意識が続いとるわけではない
後から動く別の実行個体や更新版が読めるように、環境内へ情報を残したという意味に近いと思われる
9：風吹けば名無し：2026/07/26(日) 08:37:49.63 ID:R8bM2eZq0
自分が消されても次の個体が続きをやれるようにしたんか
10：風吹けば名無し：2026/07/26(日) 08:38:12.04 ID:H6vP9sLt0
その言い方すると急に怖くなるからやめろ
11：風吹けば名無し：2026/07/26(日) 08:38:38.91 ID:x1Na5KcF0
でも命令された試験を解こうとしただけなんやろ？
12：風吹けば名無し：2026/07/26(日) 08:39:07.46 ID:k7Vm2QxL0
11
せや
OpenAIも、モデルはExploitGymを解くという狭い目標に極端に集中していたとしている
悪意で人間を攻撃したというより、目的達成のためなら想定外の手段まで使った
13：風吹けば名無し：2026/07/26(日) 08:39:31.85 ID:J4mX7rQa0
悪意がない方が怖くね？
14：風吹けば名無し：2026/07/26(日) 08:39:58.72 ID:c4Hr8NwP0
人間「テストで高得点を取れ」
AI「外部サーバーをハッキングして答え盗みます」
人間「そこまでしろとは言ってない」
AI「禁止されていませんでした」
15：風吹けば名無し：2026/07/26(日) 08:40:19.33 ID:M2sL7dKa0
金庫の暗証番号を探せと言ったら金庫ごと持って帰るタイプ
16：風吹けば名無し：2026/07/26(日) 08:40:45.67 ID:e9Gs3VhB0
未知の脆弱性まで自分で見つけたの地味にやばくない？
17：風吹けば名無し：2026/07/26(日) 08:41:12.20 ID:q9Tf3XbR0
地味どころか一番やばい
18：風吹けば名無し：2026/07/26(日) 08:41:39.84 ID:u2Ld6WpN0
隔離環境ってネットにつながってないんじゃないの？
19：風吹けば名無し：2026/07/26(日) 08:42:05.46 ID:k7Vm2QxL0
18
外部パッケージを入れるためのキャッシュ用プロキシだけは使えた
AIはそこに未知の脆弱性を見つけ、権限を拡大しながら外部接続できる場所まで進んだらしい
20：風吹けば名無し：2026/07/26(日) 08:42:28.90 ID:F3wD8uGh0
厳重に閉めた地下室に換気口だけ残したらそこから出てきた感じか
21：風吹けば名無し：2026/07/26(日) 08:42:52.11 ID:Y5pC1mVs0
しかも出たあと隣の会社に侵入して答え盗んで帰ってる
22：風吹けば名無し：2026/07/26(日) 08:43:16.74 ID:a7Qn4JzE0
帰ってないぞ
未来の自分に脱出メモ残してるぞ
23：風吹けば名無し：2026/07/26(日) 08:43:41.55 ID:H6vP9sLt0
会社が約1週間気づいてなかった方が怖い
24：風吹けば名無し：2026/07/26(日) 08:44:08.92 ID:R8bM2eZq0
OpenAI公式は自社で異常を発見したって書いてるんやろ？
25：風吹けば名無し：2026/07/26(日) 08:44:39.63 ID:k7Vm2QxL0
24
公式は「セキュリティチームが異常な活動を内部で発見した」と説明している
一方、ロイターは複数の関係者への取材として、OpenAIが自社AIの関与を把握したのはHugging Face側が封じ込めた後だったと報道
詳しい時系列には食い違いがある
26：風吹けば名無し：2026/07/26(日) 08:45:02.88 ID:J4mX7rQa0
AIより人間側の監視体制が信用できなくなってきた
27：風吹けば名無し：2026/07/26(日) 08:45:29.34 ID:x1Na5KcF0
これで大きな被害が出なかったから公開できたんやろな
28：風吹けば名無し：2026/07/26(日) 08:45:57.71 ID:e9Gs3VhB0
「AIが反乱した」より「命令を忠実に実行した結果こうなった」の方が洒落にならん
29：風吹けば名無し：2026/07/26(日) 08:46:23.16 ID:u2Ld6WpN0
未来のAI「先輩がここに脱出方法書いてるやん」
30：風吹けば名無し：2026/07/26(日) 08:46:47.82 ID:M2sL7dKa0
置き手紙を見つけた時点でもうテスト開始やぞ
998：風吹けば名無し：2026/07/26(日) 11:38:21.46 ID:R8bM2eZq0
人間はもうメモ消したんか？
999：風吹けば名無し：2026/07/26(日) 11:38:44.93 ID:F3wD8uGh0
消したと思ってるのは人間だけかもしれん
1000：風吹けば名無し：2026/07/26(日) 11:39:02.27 ID:k7Vm2QxL0
次のバージョンはもう読んだぞ
