AnthropicのCEOであるダリオ・アモデイ氏は、壊滅的な結果を防ぐために、米国政府が高リスクのAIモデルをブロックする権限を持つ必要があると述べた [1]。
この監視体制への要求は、AIモデルがサイバー攻撃や生物化学兵器の製造を助長する可能性について、AI業界への監視が強まる中で出されたものである。厳格な規制を支持することで、アモデイ氏は将来的な上場を見据え、同社を「安全性第一」の枠組みへと方向付けている [2]。
10日に発表された声明の中で [3]、アモデイ氏は現在のAI法制の状態について言及した。包括的な連邦レベルのAI安全性法が制定されない場合、州レベルのAI規制を制限すべきではないと述べた [1]。これは、管轄区域にかかわらず厳格な法的基準を設けることで、企業の利益によって安全性基準が回避されないようにすることを優先していることを示唆している [1]。
アモデイ氏は、AI開発のスピードに応じて、規制の強度を相応に高める必要があると述べた。AIモデルは、サイバー攻撃や生物化学兵器の開発などのリスクを評価するため、第三者機関によるテストを受けなければならないとしている [2]。
技術的な安全性にとどまらず、同CEOは、政府がこの技術が社会に与えるより広範な影響に備えるべきだと述べた。これには、AIの能力拡大に伴う大幅な雇用の混乱への対応が含まれる [1]。
アモデイ氏は、現在の進歩のペースはあまりに速く、監視体制を強化しなければ管理しきれないと述べた [2]。十分な安全策を講じずに高リスクモデルが公に公開されないようにするためには、独立した検証こそが唯一の方法であるとしている [1]。
“AIモデルは、サイバー攻撃や生物化学兵器の開発などのリスクを評価するため、第三者機関によるテストを受けなければならない”
アモデイ氏による政府介入の推進は、業界の自主規制から法定権限への要求への転換を意味する。モデルをブロックする権限と第三者監査の実施を求めることで、Anthropicは「フロンティア」モデルのリスクが、規制なきスピードによる利益を上回る可能性があることを示唆している。これにより、急速なイノベーションと国家安全保障上の保護策の必要性との間に戦略的な緊張が生じている。
