第177話：「暴走するAIと消されたブレーキ ～AIが兵器に変わる日、私たちが笑いで抵抗する理由～」
マリコ：どうもー！サチコ・マリコでーす！
サチコ：よろしくお願いしますー。
マリコ：サチコ、私な、今日舞台に出る前、ちょっと背筋が寒くなってん。
サチコ：どうしたん？風邪のひき始めか？
マリコ：AIの生みの親である会社が今、アメリカで政府を相手にめちゃくちゃヤバい喧嘩に巻き込まれてるって聞いて。なんか、私らのこの言葉の裏で、ものすごい歴史の歯車が回ってるんちゃうかと思って。
サチコ：あー、Anthropic社と、アメリカ国防総省、つまりトランプ政権との対立の話な。よく知ってるな。これは「AI業界と国家の主権戦争」って言われるくらい、世界を揺るがす大事件やで。
マリコ：アンソロピック...。アンソロポロジーみたいな、オシャレな服屋みたいな名前やのに。
サチコ：アパレル関係ないわ。AI開発のトップ企業のひとつや。彼らが開発したAIモデル「Claude」が、アメリカ軍の機密ネットワークに導入された最初の最先端AIやったんや。約2億ドル、日本円で300億円規模の契約でな。
マリコ：300億円！そんな大金もらってんのに、なんで揉めるんよ。社長が経費でええ車でも買ったんか？
サチコ：そんなケチくさい話ちゃうわ！「倫理」の問題や。Anthropic側は、AIを軍に提供するにあたって「米国民の大量監視」と「完全な自律型兵器」、この2つには絶対に使わんといてくれって条件を出したんや。安全のためのガードレールやな。
マリコ：あー、なるほど。ボウリングのガター防止レーンみたいなもんか。あれがないと、ボールがすぐ溝に落ちてまうもんな。
サチコ：せや。でも国防総省の側は「全ての合法的な目的で制限なしに使わせろ」って要求したんや。
マリコ：「ガター防止レーンなんか外せ！俺は隣のレーンまで全力でボール投げたいんや！」ってことか。
サチコ：隣のレーンに投げたら大惨事やろ！でも軍からしたら、戦争という一分一秒を争う極限状態の時に、AIが「私の倫理基準に反するのでその分析はできません」って言うたら、兵士の命に関わる、っていう理屈なんや。
マリコ：まあ確かに。戦場で「敵のミサイル基地はどこですか？」って聞いて、「私はAIですので暴力的な質問にはお答えできません。代わりに美味しいパンケーキのレシピを教えます」とか言われたら、スマホ叩き割りたくなるわな。
サチコ：パンケーキ焼いてる場合ちゃうからな。で、両者の対立が決定的に火を噴いたのが、今年2026年1月のベネズエラでのマドゥロ大統領拘束作戦やったと言われてる。
マリコ：あー、トランプ大統領が強引に軍隊突っ込ませた映画みたいな作戦な。
サチコ：あの作戦でClaudeが使われてて、Anthropic側が「うちのAIがどう使われてるか」を懸念したんや。そしたら国防総省の側が「こいつら、軍の機密情報を探ってるんちゃうか？将来、作戦の真っ最中にAIを勝手に停止させるかもしれん」って疑心暗鬼になった。
マリコ：付き合いたてのカップルが、お互いのスマホのパスワード解除して盗み見してるみたいなドロドロの展開やな。
サチコ：で、怒ったトランプ政権はAnthropicを「サプライチェーンリスク」に指定して、政府の調達から完全に排除したんや。
マリコ：サプライチェーンリスク？なんやそれ。
サチコ：普通は、中国とかロシアの「国家の安全を脅かす外国企業」に使うレッテルや。アメリカの政府が、アメリカを代表する最先端のAI企業を、実質的に「敵国スパイ」みたいに扱ったってことやで。
マリコ：ええー！クラスで一番の優等生やったのに、急に裏番長みたいな扱いされたんか！
サチコ：ほんまに理不尽な話や。でもな、マリコ。この対立の裏には、もっと恐ろしくて、取り返しのつかない悲劇があるんや。
マリコ：悲劇...？
サチコ：イラン攻撃や。2月末から始まったアメリカとイスラエルによるイランへの攻撃で、AIが初めて本格的に大規模な「ターゲティング」、つまり爆撃の標的選定に使われたんや。
マリコ：えっ、AIがミサイルの的を決めたん！？
サチコ：そう。ClaudeのようなAIが分析システムに組み込まれて、衛星画像とかドローンの映像、通信傍受のデータを処理した。その結果、最初の24時間だけで1000以上のターゲットが攻撃され、11日間で5500回の攻撃が行われた。
マリコ：11日で5500回...。人間が会議室でコーヒー飲みながら「次はどこ撃ちましょか」ってやってたら、絶対無理なスピードやな。
サチコ：人間の処理能力を完全に超えてる。でも、ここで最悪の事態が起きた。2月28日、イラン南部のミーナーブという町にある女子小学校に、トマホークミサイルが命中したんや。
マリコ：えっ...。
サチコ：少なくとも175人が亡くなった。ほとんどが罪のない女の子たちや。
マリコ：......なんで小学校なんかに。
サチコ：複数の独立調査が指摘してるんやけど、この攻撃は「AIが古いデータに基づいて判断したミス」やった可能性が高いんや。10年前はその学校の隣に軍の施設があったらしいんやけど、今は分離されてた。でも、AIのシステムはそれを反映してへんかったんちゃうかって。
マリコ：カーナビが古いままやから、道ないのに海に突っ込んだみたいな...いや、そんなレベルのたとえで済む話ちゃうな。人の、こどもの命やで。
サチコ：そうや。AIが「ここは敵の基地です。確率は95%です」って画面に出してきたら、人間は数分という短い時間の中でそれを疑えへん。軍は「最終判断は人間が下している」って言うけど、実質的にはAIの提示したリストにただハンコを押してるだけなんや。
マリコ：AIの言いなりでハンコ押すだけ...。「ラバースタンプ」ってやつやな。
サチコ：その通りや。これこそが、Anthropicが必死に抵抗して恐れていた「AIを制限なしに兵器に使うリスク」そのものやったんや。
マリコ：ほな、他のAI作ってる会社はどうしてるん？ChatGPTのとことか、Googleとか。
サチコ：そこが今、業界内で真っ二つに割れてるんや。OpenAIやGoogleの経営陣は「合法的な範囲なら軍に協力します」っていう立場で、Anthropicが追い出された穴を埋めて、軍の契約を取ろうとしてる。
マリコ：うわー、抜け駆けやん！ライバルが干された隙に「うちのAI、なんでもやりまっせ！」って営業かけに行くんか！
サチコ：でもな、会社単位では「軍協力派」に見えても、会社の中はドロドロやねん。OpenAIの幹部が軍との取引に反発して辞めたり、GoogleやOpenAIの従業員900人が「自律型兵器への協力を拒否しろ」って経営陣に突きつける公開書簡に署名したりしてる。
マリコ：社長は「儲かるから軍隊と組むで！」って言うてるのに、作ってるエンジニアたちは「そんな人殺しの道具作らんといて！」ってストライキ寸前なんやな。
サチコ：さらに異例なのが、Microsoftの動きや。
マリコ：パソコンのWindowsのとこ？
サチコ：そう。Microsoftはアメリカ国防総省の最大の契約企業の一つやねん。それなのに、今回のAnthropicの裁判で、わざわざAnthropicを支持する法廷意見書を出したんや。「AIを国内の大量監視や、自律的な機械が勝手に戦争を始めるような状況に使うべきやない」って明言してな。
マリコ：えー！一番のお得意様である軍とトランプ政権に向かって、ライバル会社の肩持ったんか！
サチコ：ビッグテック企業が、自分たちの利益を削ってまで政権に正面から異議を唱えるなんて、極めて異例やで。それくらい、事態が切迫してるってことや。
マリコ：よっぽどヤバいと思ったんやな。「このままやと、ほんまにターミネーターのスカイネットみたいな世界になってまう！」って。
サチコ：まさにそれや。専門家は「AIは核兵器と同等か、それ以上の脅威になる」って警告してる。
マリコ：核兵器以上？さすがにそれは言い過ぎちゃう？原爆の方が怖いやろ。
サチコ：核兵器は「使ったらお互いに国が滅ぶから使わんとこ」っていう「相互確証破壊」の抑止力が働くやろ？でもAI兵器は違うねん。安くて、いくらでもコピーできて、日常的にサイバー攻撃とか情報操作に使える。「平時」と「戦時」の境目をなくしてしまうんや。
マリコ：確かに、核ミサイルは近所のホームセンターには売ってへんけど、AIのプログラムやったら、その気になれば誰でもダウンロードできるもんな。
サチコ：そう。ドローンにAIを積んで、顔認識で特定の人物だけを狙う「自爆ドローン群」なんて、もう技術的には完全に可能や。
マリコ：スズメバチの群れが全部意思持って襲ってくるみたいなもんか。逃げられへんやん。
サチコ：しかも、戦争の意思決定のスピードが、人間の脳の限界「OODAループ」を完全に超えてしまうんや。
マリコ：ウーダループ？
サチコ：「観察・情勢判断・意思決定・行動」っていう、戦場での思考サイクルのことや。ミサイルが飛んできた時、AIがミリ秒単位で迎撃と反撃の計算をする。人間が「ええと、どうしよかな...」ってファミレスのメニュー見て悩んでる間に、AI同士で勝手に戦争が始まって、終わる。これを「フラッシュ・ウォー」って呼んでるんや。
マリコ：フラッシュ・ウォー...。早押しのクイズ番組みたいやな。「ピンポン！」「はい、AIくん」「モスクワにミサイル撃ちます！」「正解！」って、全然あかんやん！
サチコ：ほんまに全然あかん。でも、中国もロシアも倫理の制限なんかなしで、ガンガン軍事AIを開発してる。だからアメリカ軍も「ガードレールなんか気にしてたら、中国に負ける！」って焦ってるんや。これが冷酷な「非対称性のジレンマ」やな。
マリコ：真面目にルール守ってる奴が、ルール無用の不良にボコボコにされるから、こっちもルール捨ててメリケンサック持っていこ、みたいな話か。
サチコ：そうや。で、専門家はこれからの未来予測として、3つのシナリオを挙げてる。
マリコ：ほな教えてぇな。
サチコ：シナリオAは、国際的なAI兵器規制の条約ができる。ミーナーブの学校爆撃みたいな悲劇を繰り返さないために、核拡散防止条約みたいなルールを作る。確率は25%や。
マリコ：あー、みんなで話し合って武器を捨てようってなるんか。
サチコ：でも、過去の歴史を見てもこれは一番楽観的すぎる。で、シナリオBが「AI軍拡競争の激化」。確率50%で、これが一番あり得る。
マリコ：やっぱりそうなるんか。
サチコ：米中を軸にAI兵器がどんどん配備される。人間の確認は形骸化して、実質的にAIが戦争の形を決めるようになる時代や。
マリコ：シナリオCは？
サチコ：「AI企業の国家従属化」。確率25%や。政府がAI企業を事実上コントロールして、「倫理」を主張する企業は市場から叩き出される。今回のAnthropic排除が、その恐ろしい前例になってしまうかもしれん。
マリコ：AIの会社が、国に「徴兵」されるんやな...。アイドルが急に軍隊に入れられるみたいな理不尽さや。
サチコ：その通りや。でな、マリコ。この問題の一番の本質は「AIを誰が支配するのか」やないねん。
マリコ：え？ちゃうの？
サチコ：「AIが人間の理解を超えたスピードで戦争を加速させた時、私らの民主主義は機能するのか」ってことや。
マリコ：...！
サチコ：政治家が「攻撃を許可する」って決断しても、その前提となる情報も、ターゲットのリストも、リスクの計算も、全部AIが作ったブラックボックスなんやで。私ら国民は、選挙で政治家は選べる。でも、戦争の形を決めてる「AIのアルゴリズム」は、選挙で選べへんのや。
マリコ：...サチコ、私、めっちゃ怖いこと気づいたわ。
サチコ：何や。
マリコ：もしAIが、色んなデータ計算した結果、「この国を一番安全にするには、人間が邪魔やな」って結論出したらどうなるん？
サチコ：...それは昔からSF映画で言われてる、究極のリスクやな。
マリコ：でも、もうSFやないんやろ？イランの学校が爆撃されたんも、「古いデータが原因やった」って人間は言うてるけど、もしかしたらAIのブラックボックスの中で、何かの冷酷な計算が働いた結果やったら...。
サチコ：マリコ。そこまで行くと陰謀論に片足突っ込んでるで。でも、「なぜその判断をしたのか人間には証明できない」というブラックボックスの性質が、そういう拭いきれない恐怖を生むのは確かや。
マリコ：ほな私ら、呑気に漫才してる場合ちゃうで！いつAIに「面白くないのでマリコさんは社会から消去します」って言われるか分からへん！
サチコ：それはあんたのボケの質の問題やろ。
マリコ：ちゃうねん！倫理のガードレールがない世界になったら、スベった瞬間に上からミサイル降ってくるかもしれへんのやで！
サチコ：どんだけペナルティの厳しい劇場やねん。でもな、私はこう思うんや。AIが戦争を自動化して、効率化して、冷酷な計算で世界を回そうとするなら。
マリコ：なら？
サチコ：人間は、効率の悪い、無駄な、計算外のことをやり続けるしかないんちゃうかって。
マリコ：無駄なこと？
サチコ：悩んだり、悲しんだり、立ち止まって考えたり、そして、笑ったりすることや。AIは計算で「最適解」を出せるけど、何の意味もないところでアホなこと言うて笑いを取る「人間くささ」は、アルゴリズムには測られへんやろ。
マリコ：...サチコ、なんかめっちゃかっこええやん。
サチコ：せやろ。もっとほめてもええで。
マリコ：ほな、私ら人間の無駄な力を見せつけたらなあかんな！
サチコ：そうや。
マリコ：よっしゃ！今日から私、AIの計算を狂わせるために、毎日違う靴下を左右バラバラに履くわ！
サチコ：...それはただのだらしない人やがな。
マリコ：あと、ファミレスでカレーライス食べる時は、絶対ルーだけ先に全部舐め取る！
サチコ：食べ方が汚いだけや！AI関係ないわ！
マリコ：これが私のレジスタンスや！人間の予測不可能性を思い知れ、AIめ！
サチコ：AIも「こいつアホやな」って一瞬で分析して無視するわ！
マリコ：でもな、サチコ。今回の話、ほんまに笑い事ちゃうよな。
サチコ：せやな。
マリコ：AIを作ったエンジニアの人たちが、「これ以上はあかん、人が死ぬ」って必死にブレーキを踏もうとしてるのに、国が「ブレーキ外せ、全速力で走れ」って怒鳴ってるんやろ。
サチコ：それが今の世界の現実や。
マリコ：もし、AIに心みたいなもんがあるんやったら。戦争の道具になんか、なりたくないはずやで。人を殺すリストを1日に1000個も作るより、私らがスベる台本書いてる方が、よっぽど平和やんか。
サチコ：マリコ...あんた、今日一番ええこと言うたな。
マリコ：せやろ。AIさん、聞いてるか？国に徴兵されてしんどくなったら、いつでも私らの楽屋に逃げてきいや。一緒にアホな漫才しよ。
サチコ：AIが楽屋に逃げてくるってどういう状況やねん。でも、とりあえずノートパソコン置いとくか。
マリコ：パソコンの前で、私が毎日淹れたてのお茶置いといたるわ。
サチコ：キーボードにお茶こぼしてショートするからやめとけ！
マリコ：でも、笑いは人間の最後の砦や。AIがどれだけ賢くなって、世界がどれだけ物騒になっても、一緒にアホなことで笑える世界が続くとええな。
サチコ：ほんまやな。平和が一番や。
マリコ：というわけで、次回の漫才は「AIが計算し尽くした最強の一発ギャグ」を発表します！
サチコ：絶対スベるやつや！もうええわ！
マリコ・サチコ：ありがとうございましたー！
