第205話「自分で爆弾と宣伝したら規制された話―フェーブル5停止事件とAIが輸出規制品になった日―」
サチコ：（スマートフォンを見て首をひねりながら登場）
マリコ：なんや、サチコが首をひねって登場してきたで。珍しいな。いつもならどんなことでも正確に説明してくれるのに。
サチコ：ちょっと待て。今日はな、私が先に話す前に、マリコに聞いてほしいことがあんねん。
マリコ：なんや。
サチコ：ある会社がずっと「うちの商品は非常に危険です。安全対策が絶対に必要です。社会全体が真剣に向き合わなければなりません」と言い続けてたとしよか。
マリコ：うん。責任ある会社やんな。
サチコ：その会社に対して政府が「分かった。君たちの言う通り危険だから、外国人には売るな」と命令したとしよか。
マリコ：まあ、理にかなってるな。
サチコ：そしたらその会社が「ちょっと待ってください、これは誤解です。私どもの商品はそこまで危険ではありません。同じようなことは他社の商品でもできます」と言い出さはったんや。
マリコ：……なんか矛盾してへんか。
サチコ：そうやねん。これが今日の話の核心やねん。
マリコ：「危険だと言い続けてた会社が、規制されたら突然『そんなに危険ではない』と言い出した」っちゅうことか。
サチコ：しかもその会社は、AIを作ってる会社なんや。
マリコ：AI！しかも私が使ってるやつか。
サチコ：アンソロピックっちゅう会社が6月9日に「フェーブル5」と「ミソス5」っちゅう最新のAIモデルを公開したんやな。
マリコ：「フェーブル5」と「ミソス5」か。名前だけ聞いたらロールプレイゲームの武器みたいやな。
サチコ：そして6月12日の夕方5時21分に、アメリカ政府から命令が来た。
マリコ：また夕方5時21分っちゅうずいぶん細かい時刻が出てきたな。
サチコ：商務省から「外国籍の人間全員のアクセスを停止せよ」っちゅう輸出管理の指令が届いた。アメリカ国内にいる外国籍者も含めて、全員のアクセスを止めろ、っちゅう内容や。
マリコ：「アメリカの中にいる外国人も含めて」っちゅうのはどういうことや。アメリカに住んでたら関係ないんちゃうか。
サチコ：「みなし輸出」っちゅう概念があるんや。アメリカ国内でも、外国籍の人に技術を渡すことは「その人の国への輸出」とみなす、っちゅう考え方や。
マリコ：「アメリカにいる中国人に見せても、中国に輸出したのと同じ扱い」っちゅうことか。それはなかなか厳しいな。
サチコ：そしてアンソロピックは「外国籍のユーザーだけシステム的に分離して止める」ことがすぐにはでけへんかった。せやから全世界の全ユーザーのアクセスを止めよったんや。
マリコ：「外国人だけ止める仕組みがないから、全員止めた」っちゅうことか！それは日本人も止まったっちゅうことやな。
サチコ：そうや。日本人も止まった。インドも止まった。世界中が止まった。インドはアンソロピックにとって2番目に大きい市場らしくて、インドの大手IT企業との連携も直撃した。
マリコ：「外国人だけ止めようとしたら、全員止まった」っちゅう、完全に自分たちで作ったシステムの限界が露呈したわけやんな。「外国人用と日本人用に分けてへんかった」っちゅうことか。
サチコ：ユーザーを国籍でリアルタイムに分離する仕組みを最初から設計してへんかったっちゅうことや。
マリコ：では止まった理由、つまり政府が規制した理由は何なんや。
サチコ：政府は「フェーブル5の安全装置を回避する方法、いわゆる脱獄手法が存在する」と言った。
マリコ：脱獄手法！AIの安全装置を突破する方法が見つかったっちゅうことか。
サチコ：具体的には「フェーブル5の安全装置を迂回して、本来ロックされているはずのサイバーセキュリティ能力を引き出せる」っちゅう手法が問題視された。
マリコ：「ロックされているはずの危険な機能が、ある方法で使えてしまう」っちゅうことか。それは確かに問題やな。
サチコ：これに対してアンソロピックが反論した。
マリコ：どう反論したんや。
サチコ：「その脱獄手法は非常に限定的で、ごく一部の特定の状況でしか機能しない。しかも全く同じことが、他の会社の公開済みモデルでも可能だ」って言わはった。
マリコ：「うちだけの問題じゃない」っちゅうことやな。
サチコ：しかも具体的な会社名まで出した。「オープンAIのGPT-5.5でも同じことができる」と。
マリコ：GPT-5.5の名前を出した！？「うちが規制されるなら、あの会社も同じはずだ」と言ったわけやんな。
サチコ：「この基準を業界全体に適用したら、全てのフロンティアモデルの新リリースが止まることになる」とも言わはった。
マリコ：つまり「うちを規制するっちゅうことは、AI業界全体を止めることと同じだ」っちゅう主張か。
サチコ：そしてアンソロピック自身の公式声明では「政府から受け取ったのは口頭での証拠だけで、具体的な技術的詳細は何も示されていない」と書いてあんねん。
マリコ：「口頭だけ」！！「証拠を書面で見せてもらえなかった」っちゅうことか！これはなかなか強い主張やな。
サチコ：「私たちは有害な結果に至った事例の開示すら受けていない。問題だとされた潜在的な脱獄は、完全に無害な応答か、ミソス固有の特別な能力とは関係のない軽微な発見だ」っちゅう主張や。
マリコ：「そんな大事なことを根拠なしに止めるな」っちゅう抗議やな。これは企業として正当な主張に聞こえるな。
サチコ：ここが今日の漫才の核心に戻ってくるんや。
マリコ：さっきの「自分で爆弾と宣伝した」っちゅう話やな。
サチコ：アンソロピックはここ数年間、「自分たちのAIは非常に強力で危険な可能性がある。だから安全研究が絶対に必要だ。業界全体が安全規制に真剣に向き合うべきだ」っちゅう主張を繰り返してきた。
マリコ：それはよく聞く話やな。「危険だから安全対策を」っちゅう。
サチコ：その主張が、ある意味で自分たちに返ってきた。政府が「アンソロピック自身が言ってた通り、確かに危険なんだね」と信じて動いたんや。
マリコ：「自分で危険だと宣伝し続けた結果、政府に本気で信じてもらえた」っちゅうことか！
サチコ：「危ない、危ない」と言い続けた結果、「分かった、止める」と言われてもうた。
マリコ：「危ないと言ったのは"注意してください"っちゅう意味やったのに、"じゃあ売るな"っちゅう結論になってしまった」っちゅうか。
サチコ：あるアメリカのAI業界関係者の言葉として「アンソロピックが自分たちのAIを爆弾だと宣伝してきた結果、政府が文字通り爆弾として扱った」っちゅう皮肉な分析があるんや。
マリコ：「爆弾と言ったら爆弾として処理された」か。これは誰目線から見ても笑えない皮肉やな。
サチコ：しかもこの話には「ライバル関係」っちゅう別の側面がある。
マリコ：ライバルっちゅうのは。
サチコ：アンソロピックとオープンAIっちゅう二つの会社は最大のライバルやけど、今回の規制はアンソロピックにだけかかって、オープンAIには影響していない。
マリコ：「同じことができると言ったGPT-5.5は規制されてへんのに、フェーブル5だけが止まった」っちゅうことか！
サチコ：ライバルが規制を食らった上に、「同じことがうちでもできる」とアンソロピックが指摘しても、オープンAIは影響なし、っちゅう状況や。
マリコ：「うちだけやられた、あそこも同じはずだ」と指摘したのに、あそこは安泰なままっちゅう。これは……複雑な気持ちになるな。
サチコ：さらに興味深い話として、アマゾンのCEOが今回の停止の前に、アンソロピックのAIのリスクについてアメリカ政府の関係者と協議していた可能性が報道されとんねん。
マリコ：アマゾン！アマゾンはアンソロピックに巨額投資してる会社やんな。
サチコ：そうや。アンソロピックの主要出資者がアマゾンで、アマゾンのクラウドサービスでアンソロピックのモデルが使える。そのアマゾンのCEOが事前に政府と話してたっちゅう話が出とる。
マリコ：「出資してる会社が、投資先のAIのリスクを政府に話してた可能性がある」っちゅうことか。それはちょっと……複雑な利害関係やな。
サチコ：「事実がどうかは未確認」っちゅう但し書きつきやけど、こういう話が出てくること自体が今の状況の複雑さを示してると思わへんか？
マリコ：ところで「フェーブル5には隠れた性能低下があった」っちゅう話も出てたやんな。これはどういうことや。
サチコ：フェーブル5は一般向けに公開されたモデルやけど、危険な質問が来た時には「別の安全なモデル」に質問を回す仕組みがあった。ユーザーはフェーブル5を使ってると思ってるけど、実はその質問の時だけ別のモデルが答えてた、っちゅう設計や。
マリコ：「フェーブル5を使ってるつもりで、実は別のモデルが答えてた」っちゅうことか！
サチコ：これが公開後に「透明性がない」「こっそり性能を下げてた」っちゅう批判を受ける原因になっとんねん。
マリコ：「高性能なモデルを買ったのに、難しい質問したら別のモデルが出てきた」っちゅうことやんな。スーパーで「特上」と書いてあるステーキを頼んだら、難しい料理の時だけ「並」の肉で代替されてた、みたいな。
サチコ：難しい料理ってなんやねん！あほか！でも「意図的に性能を制限してたことが明示されてなかった」っちゅう批判は理解できるな。
マリコ：これは「安全のため」っちゅう説明があっても、「なぜ教えてくれなかったのか」っちゅう不信につながるやんな。
サチコ：しかもこの設計が、今回の政府との対立とも絡んでくる。「フェーブル5の安全装置を迂回したら危険な機能が使える」っちゅう政府の懸念は、まさに「本来ロックされてるはずの高性能モデルがフェーブルの裏側にある」っちゅう構造から来てる。
マリコ：「安全のため別モデルに切り替える仕組み」が「高性能モデルが隠れてる」っちゅう証拠でもあったわけか。
サチコ：「安全のために隠した」つもりが「隠したことで疑われた」っちゅう逆効果やな。
マリコ：「安全策が疑惑の元になった」っちゅうのも皮肉やんな。今日の話は全部「皮肉」で成立してるな。
サチコ：そうやな。「安全を強調したら規制された」「安全装置を作ったら別の疑惑を生んだ」「他のモデルも同じと言ったら、他のモデルは規制されなかった」っちゅう。
マリコ：全部の手が裏目に出てるっちゅうことか。ではこの事件は歴史的にどういう意味があるんや。
サチコ：これが今日の話で一番重要な部分やねんけど、「AIモデルのアクセス権が輸出規制の対象になった」っちゅう前例を作った可能性があるねん。
マリコ：「前例」っちゅうのはどういう意味や。
サチコ：今までのAI規制っちゅうのは、「どう使うか」っちゅうルールが中心やった。欧州のAI法は「危険な使い方はダメ」っちゅう用途規制や。でも今回は「誰が使えるか」っちゅう国籍ベースの規制が、AIのモデルそのものに適用された。
マリコ：「使い方の規制」から「使う人の規制」に変わったっちゅうことか。
サチコ：しかも「国籍」で切るっちゅうのは、半導体やハイテク機器の輸出規制で長年使われてきた方法や。それが「AIのソフトウェア」にも適用された、っちゅうことやな。
マリコ：「物理的なチップの規制と同じ枠組みでAIのモデルが扱われた」っちゅうことか。
サチコ：AIが「ソフトウェア」から「戦略物資」に格上げされた、っちゅう表現をする分析者もおる。
マリコ：「核技術、暗号技術、半導体、AIモデル」っちゅう順番で、規制の対象が広がってきた、っちゅうことやな。
サチコ：そしてもう一つの重要な前例は「企業が安全性を強調すると、規制を招く」っちゅう逆説や。
マリコ：「安全に真剣に向き合うほど、政府から危険視される」っちゅうことか。
サチコ：「うちのAIはこれだけ危険な可能性がある。だから安全対策が必要だ」と言うほど、「じゃあ止めよう」となりやすい。でも「うちのAIは大丈夫、ほとんど危険はない」と言う会社は規制されにくい。
マリコ：「正直に危険性を語る会社が規制を食らい、危険性を語らない会社が自由に使える」っちゅう、奇妙な逆インセンティブが生まれてるっちゅうことか。
サチコ：これがAI業界全体に与える影響として、「企業が安全性についてどう発言するか」っちゅう戦略を変える可能性がある。
マリコ：「危ないと言ったら規制されるから、危ないとは言いたくない」っちゅう圧力が生まれるっちゅうことか。これはAI安全研究にとっては困った話やな。
サチコ：「透明性と安全性の公開が、規制のリスクを高める」っちゅう矛盾した状況になっとる。
マリコ：これは日本はどう影響するんや。
サチコ：直接的な影響として、アメリカのAIサービスを使ってる日本企業や研究者が、突然サービスが止まるリスクを常に抱えることになる。
マリコ：「今日使えてたサービスが、明日の夕方5時21分に止まる可能性がある」っちゅうことか。
サチコ：しかも「外国籍の研究者を含む研究チームがアメリカのAIを使ってる場合、その研究者が使えなくなる」っちゅう問題もある。
マリコ：「チームに外国人がいたら、そのメンバーだけAIが使えなくなる」っちゅうことか。多国籍チームが普通の今の時代、これは研究や開発の現場を直撃するな。
サチコ：そして長期的には「日本は自国でAIモデルを持つべきかどうか」っちゅう問いがより切実になってくる。
マリコ：「ソブリンAI」っちゅう言葉を聞いたことあるで。「主権AI」、つまり「自分の国のAIを持つ」っちゅうことやんな。
サチコ：他国の政治的判断によって、ある日突然使えなくなるリスクがある外国製AIに頼り続けるのか、っちゅう問いが出てくる。
マリコ：「ホルムズ海峡が止まったら石油が来なくなる」のと同じで、「アメリカの判断でAIが止まる」っちゅう依存のリスクがあるっちゅうことか。
サチコ：エネルギー安全保障とAI安全保障は構造として似てる、っちゅう分析者がいる。
マリコ：「インフラを他国に依存することのリスク」っちゅう話やんな。
サチコ：ところで、今回の話で私が一番びっくりしたんはアンソロピックの声明の言葉やねん。
マリコ：なんて書いてあったんや。
サチコ：「私たちはこれまで公に、AIのリスクについて政府が介入する権限を持つべきだと主張してきた。しかし、今回の行動はその権限が適切に行使されたとは言えない」っちゅう内容や。
マリコ：「政府がAIを規制する権限を持つべきだと言ってきた。でも今回の使い方は違う」っちゅうことか！
サチコ：「規制の権限の存在には賛成。今回のやり方には反対」っちゅうことやな。
マリコ：これは難しい立場やな。「規制してください」と言い続けてきた会社が、「今回の規制は違う」と言わなければならない状況になったわけか。
サチコ：「規制賛成、今回は反対」っちゅう立場を取ることになった。
マリコ：「賛成したルールで自分たちが殴られた」っちゅうことやな。
サチコ：ほう、うまい表現やな。
マリコ：最後に一個確認させてくれ。今この漫才をしてる今日時点で、フェーブル5はまだ止まっとるんか。
サチコ：止まっとる。復旧の日時は示されてへん。
マリコ：っちゅうことは今この瞬間も、世界中の人が「フェーブル5は利用できません」っちゅうエラーを見てるわけか。
サチコ：そうや。「フェーブル5は現在利用できません」っちゅう状態が続いてる。
マリコ：「安全だと思って使ってたサービスが、国家安全保障っちゅう理由で突然使えなくなった」っちゅう現実が、今この瞬間も起きてるわけやな。
サチコ：そして「規制した政府」「規制された会社」「影響を受けた利用者」の三者が、それぞれ別の立場から「これは正しかったか」っちゅう問いに向き合っとる状況やな。
マリコ：「正しかったか」っちゅう問いに対して「今は分からない」っちゅうのが正直な答えっちゅうことか。
サチコ：「安全のための規制」と「イノベーションの継続」と「透明性」の三つが、まだどう折り合いをつけるかが答えとして出ていない、っちゅうことやな。
マリコ：「フェーブル5が止まったままの間、世界はその答えを探し続けてる」っちゅうか。
サチコ：つまり、つづく、や。
マリコ：またつづくかいな！
マリコ・サチコ：どうもありがとうございましたー！
