MetaのAIモデレーション、実ユーザーを排除し不適切運用かとの批判

Meta社は、同社の人工知能（AI）によるモデレーションツールが、巧妙なボットを阻止できずに正当なユーザーを誤って排除しているのではないかという批判に直面している ^[1]。

この議論は、デジタルガバナンスにおける極めて重要な緊張関係を浮き彫りにしている。プラットフォームが数十億件の投稿を管理するために自動化への依存度を高めるにつれ、正当な発言がスパムとしてフラグを立てられる「誤検知（false positives）」のリスクが増大し、ユーザーの信頼や表現の自由を損なう可能性がある。

批判的な人々は、AI主導のモデレーションへの移行により、FacebookやInstagramを含むMetaのプラットフォーム全体で透明性が低下したと述べている ^[1]。これらのツールへの依存により、アカウントや視認性に影響を与える決定に対して、ユーザーが異議申し立てを行うことがより困難になっていると報告されている ^[1]。

AIはコンテンツ監視の規模を拡大するために設計されているが、現在のシステムは高度なスパム運用に後れを取っている可能性がある ^[1]。これにより、コミュニティを保護するためのアルゴリズムが、巧妙なボットの活動を許し続ける一方で、実在の人間をミュートするという状況が生じている ^[1]。

Metaはこれらのツールのエラー率に関する具体的な数値を公表していないが、議論の中心は効率性と正確性のバランスにある ^[1]。AIによる決定に対する、人間が主導する明確な異議申し立てプロセスの欠如が、プラットフォームの責任追及を求める人々にとって主要な争点となっている ^[1]。