中国のプロパガンダ工作員、米国政策を標的にOpenAIを利用

中国のプロパガンダ工作員が、ドナルド・トランプ氏の関税政策に対する反対意見を生成させるため、OpenAIの主力チャットモデルを利用しているとされる [1, 2]。

この展開は、地政学的な影響力工作における生成AIの役割が増大していることを浮き彫りにしている。高度な言語モデルを活用することで、外国の工作員は、米国内の機密性の高い経済的・技術的な問題について、世論を誘導することを目的とした説得力のあるコンテンツを大規模に作成することが可能になる [1, 2]。

報告によると、これらの活動はデータセンターや人工知能（AI）の未来に関する米国内の議論への介入に重点を置いている [1, 2]。その目的は、ドナルド・トランプ氏が推進する貿易政策、特に関税に対する反対環境を作り出すことにある [1, 2]。

OpenAIは、自社ツールがこうした目的で利用されていることを特定し、重要インフラや貿易を巡る言説を操作しようとする試みがあったと指摘した [1, 2]。この取り組みは、西洋の政策目標を弱めるために西洋の技術を利用するという北京側の戦略的な動きを示唆しており、AI生成コンテンツの監視がいかに困難であるかという矛盾を強調している。

ワシントンにある中国大使館は、これらの疑惑を否定した [1, 2]。中国政府は、他国の内部政治プロセスに干渉するために組織的な偽情報キャンペーンを行っているという主張を一貫して拒否している [1, 2]。

OpenAIは、プラットフォームの悪用がないか監視を続けている。同社は以前から、政治キャンペーンや欺瞞的な影響力工作にモデルが利用されるのを防ぐためのガードレールを導入しているが、プロンプトエンジニアリングの手法が進化しているため、一部の利用者がこれらの制限を回避できている [1, 2]。