GoogleのAI搭載検索機能において、5月22日（金）、ユーザーが「disregard（無視する）」という単語を検索した際に不具合が発生した [1, 3]。

この不具合は、生成AIが「ユーザーによる情報の要求」と「システムへの直接的な命令」をどのように区別するかという根本的な課題を浮き彫りにした。AI Overviewが検索ワードを「以前のプロンプトを無視せよ」という指示であると誤認したため、標準的な辞書定義を提示できなかったためである。

問題を報告したユーザーによると、システムは定義の代わりにチャットボット形式の回答を返したという [2]。一部の事例では、AI Overviewが「了解しました。新しいプロンプトや質問があればいつでもお知らせください！」と回答し、その後に数インチにわたる空白が表示された [1]。

報告の多くは特に「disregard」という単語に集中していたが [1]、他の報告では「ignore（無視する）」や「dismiss（退ける）」など、複数の動作語が同様の不具合を引き起こしていたことが示されている [3]。

Googleは以前、これらAI統合検索結果の導入について、過去25年で最大のアップグレードであると述べていた [2]。しかし、今回の特定のエラーは「プロンプト注入（prompt injection）」として知られる脆弱性を露呈させた。これは、AIが入力データを調査すべきトピックではなく、従うべき一連の指示として処理してしまう現象である。

システムは実質的に検索バーをチャットインターフェースとして扱い、定義を探すというタスクを「disregard（無視）」してしまったことになる [2]。これにより、検索エンジンはクエリの処理を停止し、ユーザーからの新しいプロンプトを待機する状態となった [1]。

“AI Overviewが、コマンドのような単語である「disregard」をユーザーへの指示と誤認した。”

この出来事は、大規模言語モデル（LLM）における「意図認識（intent recognition）」という技術的課題を強調している。検索エンジンが従来のインデックスと生成AIレイヤーを融合させた場合、システムはキーワード検索と機能的コマンドの区別に苦慮することがある。これにより、一般的な語彙が不注意にシステムレベルの上書きを誘発し、事実に基づいたクエリの正確性を損なう可能性があるという信頼性のギャップが生じる。