英国議員、AIの「緊急停止スイッチ」設置を提案

英国の国会議員らが、高度なAIシステムに対する「緊急停止スイッチ（キルスイッチ）」を創設するための修正案を提示している ^[1]。

この立法への動きは、AIが重要インフラに組み込まれる中、より強力な規制管理へと舵を切ることを意味している。これらのシステムを強制的に遮断できる能力を持つことで、壊滅的な失敗や悪意ある不正利用が拡大する前に防ぐことが可能になる。

提案によると、このキルスイッチは、緊急時に政府がAIシステムを停止させる権限を付与するものだという ^[1]。この措置は、AIの安全性に対する懸念の高まりや、システムが強力になるにつれて人間の制御を超えて動作する可能性への懸念に基づいている ^[1]。

議員らは、AIが経済のより多くの分野に導入される中で、規制上のコントロールが不足していると指摘した ^[1]。提案された修正案は、急速な技術開発のペースと、包括的な安全法を整備するまでにかかる時間的な遅れとのギャップを埋めることを目的としている ^[1]。

停止のための具体的な技術的メカニズムはまだ定義されていないが、焦点は自律型システムに関連するリスクの軽減にある ^[1]。この動きは、AIを業界の自主規制に任せるべきか、あるいは厳格な政府命令で管理すべきかという世界的な議論を反映しており、生成AIが普及するにつれてこの緊張感は強まっている ^[1]。

現在の提案は、国家安全保障や公衆衛生にシステム的なリスクをもたらす高度なシステムに焦点を当てている ^[1]。緊急介入の法的根拠を確立することで、英国政府は脅威をリアルタイムで無効化する手段を持つことになる ^[1]。