南アフリカは、国家AI政策の草案に捏造された学術的引用が含まれていたことが判明し [1]、これを再構築するための独立専門家パネルを任命した。
今回の措置は、政府による人工知能(AI)規制の試みが公に失敗したことを受けたものであり、AIを統治するための政策を起草する際に、AIが生成した「ハルシネーション(幻覚)」を利用していたという皮肉な状況を浮き彫りにした。この後退により、政府は枠組みが検証可能な根拠に基づいていることを確実にするため、重要な立法プロセスを再スタートさせることを余儀なくされた。
ソリー・マラツィ通信大臣は、同パネルが2026年5月26日に任命されたと述べた [4]。このグループはAI研究者、弁護士、ガバナンスの専門家で構成され、政策のレビューと書き換えを任務としている [1]。
元の草案は、一部の学術的引用が架空のものであることが明らかになったため撤回された [2]。具体的には、文書内の67件の引用のうち6件が捏造されていたことが判明している [5]。
マラツィ大臣は、これらのハルシネーションが含まれていたことは「重大な見落とし(massive oversight)」であったと述べた [6]。この誤りにより、存在しない研究に基づいた政策が採用されることを防ぐため、直ちに文書を撤回する措置が取られた [2]。
政府は、リカバリープロセスに向けて厳格なスケジュールを設定している。改訂されたAI政策は、2026年11月に閣僚会議に提示される予定である [3]。その審査を経て、政府は2027年1月に政策をパブリックコメントに付す計画だ [7]。
独立パネルは、新しい草案が正確性とガバナンスに関する国際基準を満たすよう取り組む。このプロセスは、政策が軽減しようとしているまさにその誤りに自らが陥ることなく、新興技術を監督する政府の能力に対する信頼を回復させることを目的としている。
“「重大な見落とし」”
この出来事は、生成AIに固有の「ハルシネーション」のリスク、つまりモデルが自信を持って誤った情報を生成するリスクを強調している。政府が厳格な人間による検証なしに政策立案にこうしたツールを依存することは、組織的な信頼性の喪失につながる。弁護士や研究者からなる多角的なパネルを任命したことは、南アフリカが法的枠組みを根拠に基づいたものにするため、「ヒューマン・イン・ザ・ループ(人間による介入)」の検証モデルへと移行していることを示唆している。




