PIB、S. ジャイシャンカル外相のAI生成動画を「偽物」と警告

インド政府広報局（PIB）は、S. ジャイシャンカル外務大臣の動画が拡散している件について、AIによって生成されたディープフェイクであると警告した [1, 2]。

この出来事は、高レベルの外交上の要請を模倣し、政治的な誤情報を拡散させるためにデジタル改変メディアが利用されるという、増大する脅威を浮き彫りにしている。動画は政府高官を模倣しているため、外交上の摩擦を生じさせたり、インドの外交政策に関して国民に混乱を招いたりする可能性がある。

操作された映像の中で、ジャイシャンカル外相は米国に対し、「Cockroach Janta Party」に関連するハンドラー（工作員）の引き渡しを促しているように見える [1, 2]。PIBは、このコンテンツは根拠がない（debunked）とし、視聴者を誤導するためにデジタル的に改変された動画であることを確認した ^[2]。

当該クリップの調査により、元の映像は共同記者会見中に撮影されたものであることが判明した [1, 2]。プロパガンダ目的のアカウントが、大臣の発言に関する虚偽の主張を広めるために、この動画をオンライン上で拡散させていた [1, 2]。

政府当局者は、このようなAI生成コンテンツは、一般の視聴者には本物に見えるように設計されていると述べた。ディープフェイク技術の使用により、悪意のある者が公人の既存の映像に合成音声を同期させることが可能となり、今回は実際には行われなかった外交上の要求を捏造するためにこの手法が用いられた [1, 2]。

PIBは、政府代表者を標的にした同様の誤情報キャンペーンを特定し、警告を発するため、引き続きデジタルプラットフォームの監視を続けるとしている ^[2]。