水曜日に発表された調査結果によると、ブラジルで政治的インフルエンサーとして活動するAI生成アバターの61% [2] が、自身が人工的な存在であることを開示していないことが分かった。

このような透明性の欠如は、選挙サイクルにおいて有権者が人間の支持者と合成されたペルソナを区別することを困難にする。これらのアカウントにラベルを貼らない行為は、民主的なプロセスの完全性を保護するために制定された特定の規制に違反している。

研究者は、さまざまなソーシャルメディアプラットフォームで活動する「Donas Marias」と呼ばれる18 [1] の政治アバターを特定した。これらの合成インフルエンサーは、人間の行動や関わり方を模倣することで、政治的な世論を誘導するように設計されている。こうしたアカウントが普及しているにもかかわらず、大半はブラジルの最高選挙裁判所（TSE）[2] が義務付けているAI開示ラベルを貼らずに運用されている。

TSEは、有権者の欺瞞を防ぐため、人工知能によって作成または操作されたあらゆるコンテンツに明確なラベルを貼ることを義務付けている。「Donas Marias」の作成者はこれらのラベルを省略することで、世界中の規制当局にとって懸念事項となっている合成誤情報の拡散を抑制するための透明性ルールを回避している。

この研究は、デジタルキャンペーンにおける法的要件と、実際にAIツールを導入している側の慣行との間の乖離を浮き彫りにしている。選挙裁判所は生成AI技術の使用に関して厳格なガイドラインを設けているが、特定されたアバターはソーシャルメディアプラットフォーム上の執行におけるグレーゾーンで活動し続けている。

これらの結果は、合成ペルソナが法的な開示という摩擦なく、公的な議論に影響を与えるために大規模に展開され得ることを示唆している。草の根的な支持や政治的合意をシミュレートするためにAIを利用することは、ソーシャルメディア上のデジタル活動を監視するTSEにとって主要な課題であり続けている。

“ブラジルのAI生成政治インフルエンサーアバターの61%が、自身の人工的な性質を開示していない。”

未開示のAIアバターが普及していることは、生成AI時代における選挙の透明性を確保する上での構造的な課題を示している。合成ペルソナが検知されることなく人間の政治的影響力を模倣できる場合、有権者が設計されたナラティブではなく、真正な人間の議論に基づいて意思決定を行っていることを保証するというTSEの能力が損なわれることになる。