ドイツの裁判所は、Googleの「AI Search Overviews（AIによる概要）」が生成した虚偽の記述について、Googleが直接的な責任を負うとの判決を下した [1, 2]。

この決定は、責任法の下で人工知能がどのように扱われるかという法的先例を確立するものとなる。AIによる要約における「ハルシネーション（幻覚）」や誤りについて企業の責任を認めることで、AIプラットフォームが単なる情報の受動的な伝達手段であるという考え方に疑問を投げかけた。

今回の法的措置は、GoogleのAI Overviewsによって自社が詐欺に関連していると誤って記載された、匿名の出版社2社によって起こされた [1, 2]。裁判所は、AIが引用したページの中に、これらの主張を裏付ける根拠が一切ないことを認定した [1, 2]。

この認定を受け、裁判所は暫定的な差し止め命令を出した [1, 2]。この命令により、Googleは検索結果において原告に関する虚偽の主張を掲載することが禁止される [1, 3]。

Googleは、複雑なトピックの迅速な要約を提供するためにAI Overviewsを検索体験に統合している。しかし、本件は、ウェブから合成した情報の正確性を検証する同ツールの能力に重大な欠陥があることを浮き彫りにした [3, 4]。

法務専門家は、この判決が欧州の管轄区域内で活動する他のAI企業の運営に影響を与える可能性があると指摘している [4, 5]。AI生成の要約が、第三者からの抜粋ではなくプラットフォームによって作成された「独自のコンテンツ」として扱われる場合、企業はより高い正確性の責任を負うことになる [5]。

“ドイツの裁判所は、GoogleのAI Search Overviewsが生成した虚偽の記述について、Googleが直接的な責任を負うとの判決を下した。”

この判決は、生成AIを取り巻く法的状況が、検索エンジンに通常与えられている「セーフハーバー（免責）」保護から離脱し、変化していることを示唆している。AIによる要約をプラットフォーム自身による事実の主張として扱うことで、公開検索ツールにLLMを導入する企業の法的リスクが高まり、名誉毀損訴訟を避けるためにより厳格なフィルタリングと検証プロセスの導入を余儀なくされる可能性がある。