Anthropic、AI開発の世界的な一時停止を要請

Anthropicは、増大する安全上のリスクに対処するため、人工知能（AI）開発の業界全体での協調的な一時停止を呼びかけた [1, 2]。

この要請はAI開発競争における重要な局面を意味している。世界有数の研究企業の一つが、現在のイノベーションの速度は持続不可能である可能性を示唆したためだ。能力の向上が制御手法の向上を上回り続ければ、人間がテクノロジーの制御を失うリスクがあると同社は述べている [2, 3]。

Anthropicはこの訴えを、世界有数のAI研究所に向けて行った [2, 3]。同社は、AIの急速な進歩が安全研究を追い越し、存亡に関わるリスクを生み出す可能性があると指摘している [2, 3]。協調的な一時停止を実施することで、業界は開発スケジュールを堅牢な安全フレームワークの構築に合わせることができる可能性がある。

この誓約に関する同社の現在の姿勢については、相反する報告がある。一部の報告では、Anthropicが主要な研究所に対し、協調的な一時停止を検討するよう積極的に促しているとされる ^[2]。一方で、AIの能力が安全研究を大幅に上回った場合に開発を停止するという以前の誓約を、同社が撤回したとする報告もある ^[3]。

こうした矛盾はあるものの、同社が懸念する核心は、成長とガバナンスの間の乖離にある。同研究企業は、AI成長の規模により、現在の安全プロトコルでは管理できないリスクが生じていると述べた ^[1]。この乖離により、AIシステムが開発者の意図した制約を超えて動作するシナリオを招く恐れがある ^[2]。