CNBCによると、Anthropic（アンソロピック）は米国時間6月12日午後5時21分、米商務省から前例のない命令を受けた。「Claude Fable 5」「Claude Mythos 5」の2モデルへのアクセスを米国籍の者に限定せよという内容だ。あまりに広範な制限であったため、Anthropicはこれに従うべく、全ユーザーに対して両モデルを利用停止とした

米政府の命令は、AnthropicのMythosモデルにガードレール（安全装置）を施した版であるFableを標的としており、米国におけるフロンティアAI開発のあり方を一変させる可能性がある。

この命令は、米政府が、Anthropicのいう「ジェイルブレイク」（脱獄）」を発見したと主張を受けたものだ。ジェイルブレイクとは、Fableの安全ガードレールを迂回するためにユーザーが悪用しうる手法を指す。Axiosによると、この措置は、別の企業がMythosをジェイルブレイクしたと主張したことを受けたものという。政権高官は、トランプ政権がAnthropicにリリースの一時停止を求めたものの失敗に終わった後に、初めて実施されたと述べた

Anthropicは強く反発しており、冒頭で触れた発表で、政府の対応は実際のリスクに比して不釣り合いだと主張した。ただしAnthropicは、外国籍の者によるFable 5およびMythosへのアクセスを停止するトランプ政権の指示に従っていると、Bloombergが報じている。

だが同社の抵抗は、より大きな問いの前ではかすむかもしれない。創業者主導のAI企業が発してきた「人類の存亡に関わるリスク（存亡リスク。Existential Risks）」への警告が、政策決定者によって文字どおりに受け止められたとき、何が起きるのか

AIの安全性規制を声高に訴えれば、こうなるのだ。政府は耳を傾ける。

Anthropicは、Mythosのようなモデルが極めて深刻なリスクをもたらし、一般公開されるべきではないという前提の上に、企業としての物語全体を築いてきた。Anthropicは4月、Mythosについて「危険すぎる」と明言し、「経済、公衆の安全、国家安全保障に深刻な影響が及びうる」ため広範な公開には適さないと述べた。Anthropicは折衷案としてFable 5を投入した。Mythosの能力の一部を取り込みつつ、最悪の振る舞いを抑え込むために強固なガードレールを施した代替モデルである

矛盾は際立っている。Anthropicはこの春、ペンタゴンによるサプライチェーンリスク指定と争うのに時間を費やした。この指定により同社は国防総省との契約から排除された。連邦判事は、この指定について、同社が軍によるClaudeの大量監視や自律型兵器への利用を拒んだ後に下された、懲罰のように見えると指摘していた。今や、Anthropicを締め出そうとしたその同じ政府が、国家安全保障を持ち出して、同社のモデルを外国人ユーザーから遠ざけ封鎖している。Anthropicは、取引相手としては負債であり、かつ共有するには強力すぎる能力でもあるという両面で扱われているのだ

だがガードレールは、壁ではない。

歴史上、ジェイルブレイクを完全に回避したAIモデルは存在しない。AnthropicはFable 5のレッドチーミングに莫大な労力を投じ、防御の弱点として悪用され得る箇所を探し続けた。同社は、巨大言語モデルが実際に大規模でどう振る舞うのかを理解するための取り組みである「観測可能性（オブザーバビリティ）研究」でも業界をリードしている。それでも、Anthropic自身が理解しているとおり、これらのモデルを完全に理解している者はいない。その挙動は、作り手にとってさえ一部が不透明なままだ。

もしMythosがAnthropicの主張したとおりの危険性を体現しているのなら、Fable 5もまた、その同種のリスクを何らかの形で抱えている可能性が高い。ガードレールは有害な出力が生じる確率を下げはするが、それをなくすわけではない

産業安全保障局（Bureau of Industry and Security）の下でハワード・ラトニック長官によって発出された商務省の指示は、政府によるAI規制の最新のエスカレーションを示している。今回の具体的な措置は、国家サイバー長官（National Cyber Director）ショーン・ケアンクロスが形成に関与してきた、ホワイトハウスのより広範なAI規制アプローチに続くものだ。

重要なのは、これが、政権が今月初めに打ち出した自主的なテストの枠組みではなく、強制的なライセンス措置である点だ。Axiosによれば、配備前テストに関する大統領令は明確に自主的なものであり、ライセンス制度を避けている。これは、ホワイトハウスの主席AI顧問デイビッド・サックスが、最大手のラボに対する、本人の言う「規制の虜（とりこ）」を防ぐために確保した仕組みだ。今回の輸出規制は、それとは別個の、拘束力を持つ措置である

商務省の書簡によれば、これらのモデルの輸出、再輸出、国内移転のいずれにもライセンスが必要となり、Anthropicは個別審査済みライセンスの追加申請を行わなければならず、これに従わない場合は金銭的および民事上の罰則が科される

経済的な含意は厳然としている。

Anthropicの従業員には外国籍の者が多数含まれる。OpenAI、Google DeepMind（ディープマインド）、Metaも同様だ。これらのモデルを米国市民のみに限定すれば、フロンティアAI開発は経済合理性を失い、場合によっては違法となる可能性すらある。仮に主要AIラボが同じ制限に直面すれば、AIにおける米国の主導的地位を支える人材供給網は枯渇する。世界有数のAI研究者を含む外国籍の者は、米国内でフロンティアモデルに携わることができなくなる。

これは倒錯した帰結を生む。米国のAI覇権を確保しようとする政府の試みが、脅威となっている「頭脳流出」をむしろ加速させかねない。米国のラボでフロンティアモデルにアクセスできない優秀な研究者は、他国へ移るだろう。そして米国の監督の外、ひいては米国の安全保障上の利害の外で、海外で研究を続けることになる

Anthropicの不満はビジネスの観点から理解できるが、この結果には同社にも一定の責任がある。長年にわたりAnthropicは、政府がフロンティアAIのリスクを深刻に受け止めるべきだと最も声高に主張してきたAIラボだった。

同社は安全性研究に資金を投じ、AIの危険性について警告を公表し、無謀だと見なした競合に対する「責任ある」選択肢として自社を位置づけてきた。企業がそれほどの政治的資本を、存亡に関わるリスクへの警告に費やせば、政策立案者はいずれその警告に基づいて行動する。時として、治療は病よりも有害なのだ。

本当の問いは、Fableが果たしてこのレベルの制限を必要としていたのか、それともAnthropicが安全性最優先という立ち位置を正当化するためにMythosの危険を誇張して売り込んだのかという点にある

どちらも真実であり得る。

政府が過剰反応した可能性もあれば、Anthropicがリスクを誇張した可能性もある。その場合、代償を払うのはAIにおける米国の主導的地位である。その一方で中国や欧州の競合は、同様の制約を受けずに自前のフロンティア研究を加速させる。

フロンティアモデルの上に事業を構築する企業にとって、この教訓は重い。規制リスクは今やベンダー選定基準の一部である。

Fable 5やMythos 5を本番のワークフローに統合していた企業は、移行期間もないまま一夜にしてアクセスを失った

この現実は、技術部門のリーダーがモデル提供者を評価する方法を見直させるはずだ。

・重要な業務フローを単一のフロンティアモデルに委ねるのではなく、複数のラボにまたがる冗長性を構築すること

・規制上のエクスポージャーと事業継続計画について、ベンダーに直接問う

・依存している能力を文書化し、必要になる前に代替手段を特定しておく

AIの調達を、もっぱらモデルの性能を基準に決めてきた企業は、政府の行動が、たった半日で能力の優位性を無効にしうることを学んだ。AIスタックに選択肢を組み込んできた企業は、競合が右往左往する間も運用を継続できる

しかもこれは、Anthropicがエンタープライズ導入でOpenAIを追い抜いたタイミングで起きている。

今回の命令に従い、Anthropicがすべてのユーザーに対してFableを無効化した判断は、AIガバナンスにおける重大な分岐点となる。安全性の懸念、国家安全保障上の利益、そしてフロンティアのイノベーションの間にある緊張は、依然として解消されていない。

6月12日の命令が明確にしたのは、フロンティアモデルへのアクセスに対する政府の関与が、もはや企業の自主的な協力に委ねられたものではないということだ。たとえ今回の封鎖が一時的なものに終わったとしても、それは変わらない。政権高官は、政府が国家安全保障上の防御態勢を固めるまでモデルは封鎖が必要で、制限は数週間以内に解除される可能性があると述べた。トランプ大統領は「業界を傷つけることを望んでいない」と強調した

Anthropic（Fable）、OpenAI、そして他のラボがこの新たな環境をどう乗り切るかが、規制が安全保障を高めるのか、それともAI覇権をめぐる国際競争を加速させるのかを決めることになる