英国議員、AIの緊急停止「キルスイッチ」導入を提案

英国政府の大臣および国会議員らが、高度なAIシステムやデータセンターを停止させる緊急権限の導入を提案している ^[1]。

この動きは、危機に際して政府が民間インフラを無効化する直接的な権限を持つことを意味しており、国家による新興技術の管理手法における大きな転換点となる。

この提案は、「サイバーセキュリティ・レジリエンス法案（Cyber Security and Resilience Bill）」の修正案として出されたものである ^[1]。修正案が可決されれば、AIシステムが国家安全保障、公共の安全、または重要インフラへの脅威であると判断された場合に、政府が介入することが可能になる ^[1], ^[2]。

議員らは、人工知能の急速な進歩により、特に重大な国家緊急事態において、既存の規制では軽減できないリスクが生じる可能性があると述べている ^[2]。提案されている権限は、高度なAIモデルを支える物理的およびデジタル的なインフラを具体的に対象とする ^[1]。

提案された枠組みの下では、暴走した、あるいは危険なシステムの運用を停止させるため、政府がデータセンターを無効化する権限を持つことになる ^[1]。この「キルスイッチ」機能は、AIが重要サービスにシステム的な障害を引き起こしたり、国家安全保障を損なったりすることを防ぐために設計されている ^[2]。

同法案はレジリエンス（回復力）に焦点を当てているが、こうした緊急権限の盛り込みは、AIガバナンスに対するより積極的な姿勢を示すものである ^[1]。議論の中心は、技術革新の促進と、脅威をリアルタイムで無効化する能力の維持とのバランスにある ^[2]。

政府関係者は、高ストレスな状況下での予測不能なAIの挙動から市民を保護するために、これらの措置は不可欠であるとしている ^[2]。なお、停止措置を発動させる具体的なトリガーについては、現在も議会内で議論が続いている ^[1]。