米国政府、AnthropicにAIモデル2種の撤回を強制

米国政府は、国家安全保障上の懸念を理由に、Anthropic社に対し最新のAIモデル2種「Fable 5」および「Mythos 5」の撤回を強制した ^[1]。

この動きは、急速なAI開発と連邦政府による監視との間の緊張関係を浮き彫りにしている。今回の制限は、民間企業のガードレールが潜在的なセキュリティリスクを防げなかった場合、政府が介入する意向があることを強調する形となった。

この決定は、Amazonの研究者がこれらモデルの安全プロトコルをバイパスする方法を発見したという報告を受けたものである ^[1], ^[3]。これらの「ジェイルブレイク（脱獄）」により、AIが組み込まれた制限を無視することが可能になったとされており、連邦当局はこれら2つのモデルの展開に対し措置を講じた ^[1], ^[2]。

これらの特定バージョンの公開禁止にもかかわらず、一部の政府運用では引き続き同社の技術が利用されている。米国政府は、機密データセンター向けに90億ドルを承認しており、同社がブラックリストに掲載されている状況下でも、引き続きAnthropicのAIを使用している ^[4]。

業界のオブザーバーは、政府の介入が同社にとって「ストライサンド効果」を生んでいるのではないかと疑問を呈している。モデルを禁止することで、政権は意図せずAnthropicへの公衆の関心とブランドの認知度を高めてしまった可能性がある ^[1], ^[2]。

今回の出来事は、AIの安全層がいかに脆弱であるかを強調している。Amazonのような主要企業がこれらのシステムを突破できたことで、連邦政府はこの脆弱性を単なる技術的なバグではなく、システム的なリスクとして捉えている ^[3]。