AnthropicのCEOであるダリオ・アモデイ氏は、今週のインタビューの中で、政府は危険な人工知能（AI）システムをブロックする権限を持つべきだと述べた [1, 2]。

この要請は、AI開発の急速なペースと、壊滅的な失敗を防ぐ規制当局の能力との間で高まっている緊張を浮き彫りにしている。AIの能力が拡大するにつれ、業界のリーダーたちは、自発的な安全への取り組みだけでは公衆を保護するのに十分ではない可能性をますます示唆している [2, 6]。

ABC News Live Primeの取材に対し、アモデイ氏は、高度なAIが現在の社会的なガードレールを追い越す可能性があると述べた [1, 6]。また、適切な安全対策が講じられる前に危険なシステムが導入されないようにするためには、政府の介入が必要であるとした [2, 6]。

アモデイ氏の主張は、業界の自主規制ではなく、正式な規制への移行を強調するものだ。特定のモデルのリリースを停止させる政府の権限を求めたことは、フロンティアAIに関連するリスクが、いまや国家安全保障または地球規模のセキュリティの問題として捉えられていることを示唆している [2, 4]。

この規制への後押しは、AI企業が雇用の喪失や自動化による社会的影響について厳しい視線にさらされる中で起きている [7]。アモデイ氏は、こうした技術的転換の速度が、安全プロトコルを実装するための猶予期間を縮小させ、不安定な環境を生み出していると述べた [6]。

システムをブロックする権限を支持することで、アモデイ氏は米国政府を、公表するには危険すぎるものを判断する最終的な裁定者として位置づけている [2]。このアプローチは、安全性を後付けにするのではなく、導入のための前提条件とする法的枠組みの構築を目指している [4, 6]。

“政府は危険なAIシステムをブロックする権限を持つべきだ。”

アモデイ氏が政府に「キルスイッチ」的な権限を求めたことは、AI業界における戦略的な転換を意味する。規制を招き入れることで、Anthropicなどの安全重視の研究所は、初期のテックサイクルにあった「素早く行動し、破壊せよ（move fast and break things）」という精神よりも、安全性と安定性を優先する高い参入障壁を構築しようとしている可能性がある。この動きは、システム的な害を及ぼす可能性が、規制のない急速な反復による利益を上回る閾値に達したことを業界が認識していることを示している。