今月初めのGoogle I/O基調講演で、Googleは検索におけるAIについて大きな約束をしました。ユーザーはまもなく「Googleがあなたに代わって検索」できるようになると述べました。「AIオーバービュー」と呼ばれるこの機能は、今月初めにリリースされました。その結果、検索大手のGoogleはメモリアルデーの週末を費やして、WebからAIによる回答を一掃しました。

Google AI検索が5月14日に米国の全ユーザー向けに公開されて以来、AI概要では、ピザソースに接着剤を入れること、石を食べること、運動中に「スクワットプラグ」を使用すること（最後のものが何を指すかは推測できるでしょう）などをユーザーに提案してきました。

ソーシャルメディアで拡散されている例の中には、明らかにジョークとしてフォトショップで加工されたものもあれば、Lifehackerチームによって確認されたものもありました。例えば、Googleはピザにエルマーの糊を使うようにと具体的に提案してきました。残念ながら、今これらの答えを検索しようとすると、「この検索で​​はAIによる概要は利用できません」という免責事項が表示される可能性があります。

Google の AI 概要はなぜそうなっているのでしょうか?

GoogleのAI検索がユーザーを惑わせたのは今回が初めてではない。3月に「Search Generative Experience（検索生成体験）」として知られるAIオーバービューのベータ版が公開された際、ユーザーから、AIがマルウェアやスパムを拡散することで知られるサイトに誘導しているとの報告があった。

これらの問題の原因は何でしょうか？どうやら、一部の回答において、GoogleのAIは冗談を理解できないようです。具体的には、皮肉な投稿と本物の投稿を区別できず、しかもRedditで回答を探すのが大好きのようです。Redditを少しでも使ったことがある人なら、この組み合わせがどれほど悪いかお分かりいただけるでしょう。

ユーザーが少し調べてみたところ、AIの「ピザに接着剤を塗る」というアドバイスの出所は、「fucksmith」という名のRedditユーザーの11年前の投稿だったことが判明しました。同様に、「スクワットプラグ」の使用はRedditのエクササイズフォーラムで古くからあるジョークです（Lifehackerのシニアヘルスエディター、ベス・スクワレッキ氏が、この意図せぬ誤情報をここで解説しています）。

これらは、AI Overviews の問題点のほんの一例に過ぎません。また、The Onion の風刺記事を真理として引用する AI の傾向 (地質学者は実際には1 日に小さな石を 1 つ食べることを推奨していません) は、この問題を特によく示しています。インターネットには、無表情で繰り返すと非常に悪いアドバイスになるようなジョークが溢れていますが、AI Overviews はまさにそれを行っています。

GoogleのAI検索結果は、少なくともほとんどの主張について明確な出典を示しています（ただし、ピザに接着剤を入れるというアドバイスの出典を見つけるのにはかなりの労力が必要でした）。しかし、記事全体をクリックして読まない限り、その正確性についてはAIの言葉を鵜呑みにするしかありません。検索結果で最初に目にするのは、これらの主張が検索結果ページ上部の大きな太字で表示される場合、これは問題となる可能性があります。ベスの例を見ればわかるように、質の低い中学校のレポートのように、「ある人は言う」という言葉が、これらの回答において大きな影響力を持っています。

Google は AI 概要から撤退するのか?

AIによる概要が間違っている場合、大抵は笑える程度で、それ以上のものではありません。しかし、レシピや医療アドバイスに言及するとなると、事態は危険になりかねません。ガラガラヘビに噛まれたときの生き残り方に関する時代遅れのアドバイスや、検索エンジンがベスにも提供した、命に関わる可能性のあるキノコの見分け方のヒントなどです。

Google は、AI 概要の末尾に「Generative AI は実験段階です」（かなり小さい文字で）とタグを付けることで、不正確な情報に対する責任を回避しようとしましたが、AI 概要の提案によって誰かが傷ついた場合に、このタグが法廷で通用するかどうかは不明です。

AI Overview が失敗する例はインターネット上にたくさん出回っています。Air Budが実話と間違われたり、バラク・オバマがMuslim と呼ばれたりしましたが、Google 検索で最初に表示されるものは、スポンサー広告だけを心配していればよかった頃よりも、今ではさらに信頼性が低くなっているとだけ言っておけば十分でしょう。

仮にあなたがそれを見ているとしても、個人的な経験から言うと、そしておそらく反発を受けてのことですが、AIオーバービューは現在、先週と比べて検索結果で目立たなくなっているようです。この記事を執筆中に、「バナナプディングの作り方」や「過去3人のアメリカ大統領の名前を挙げてください」といった、よくあるアドバイスや事実を検索してみました。これらの質問は、以前の検索ではAIオーバービューが自信を持って正確に答えてくれたものでした。20ほどのクエリに対してオーバービューが表示されませんでした。Googleの担当者であるメーガン・ファーンズワース氏がThe Vergeに送ったメールでは、同社が問題のあるAIの回答を削除するために「迅速な措置を講じている」と述べられていたことを考えると、これは疑わしいと思いました。

Google AI Overviews が Search Labs で機能しない

Google は単に過剰な注意を払っているだけなのかもしれないし、あるいは検索の新しい Web フィルターをクリックしたり、検索 URL の末尾に udm=14 を追加したりするような AI 対策ハックが普及していることに注目しているのかもしれない。

いずれにせよ、何かが変わったようです。ブラウザの検索画面の左上（モバイル）または右上（デスクトップ）に、ビーカーのようなものが表示されるようになりました。それをクリックすると、Search Labs ページに移動し、AI Overviews を宣伝する目立つカードが表示されます（ビーカーが表示されない場合は、上記のリンクから Search Labs に登録してください）。そのカードをクリックすると、オフにできるトグルが表示されますが、このトグルは実際には検索全体には影響しないため、重要なのはその下にあるものです。

こちらにはAI Overviewsのデモがあり、大きく目立つ「例を試す」ボタンをクリックすると、機能のメリットを最大限に引き出す、リスクの低い回答がいくつか表示されます。そのボタンの下にはさらに3つの「試す」ボタンがありますが、そのうち2つはAI Overviewsにはアクセスできなくなりました。クリックすると、通常の検索結果ページが表示され、検索バーに例のプロンプトが追加されましたが、Geminiによる回答は表示されませんでした。

Google 自身ですら、厳選した AI 概要の例に自信がないのであれば、それは、少なくとも、ユーザーが Google に質問したときに最初に目にするものではないことを示していると言えるでしょう。 

批判する人たちは、AI 概要は、検索がソースのウェブページにユーザーを誘導することなくメディアを直接引用する、同社がすでに使用しているナレッジ パネルの論理的な次のステップに過ぎないと言うかもしれないが、ナレッジ パネル自体に議論がないわけではない。 

AIは幸運を感じているのか？

AIオーバービューがリリースされた5月14日、Googleリエゾンのダニー・サリバン氏は、AIオーバービューと同時に発表された、あまり注目されていない新機能であるウェブフィルターの支持を誇らしげに宣言しました。このウェブフィルターはAIとナレッジパネルの両方を無効化するもので、人気のudm=14ハックの核心となっています。ところが、一部のユーザーは、定番の10個の青いリンクだけを見たいと思っていることが判明しました。

これは、 Googleが「ラッキー」ボタンの表示を大幅に削減した10年以上前の議論を彷彿とさせます。この風変わりな機能は、AI概要やナレッジパネルの原型のような役割を果たしました。アルゴリズムがGoogle検索結果の最初の正確性を強く信頼しすぎて、ユーザーが自分で結果を確認できるようにするのではなく、そのままその検索結果へと誘導してしまうのです。

当時も検索がマルウェアや誤情報に乗っ取られる可能性は依然として存在していましたが、「I'm Feeling Lucky」が消滅した本当の要因は、誰も使わなかったことです。検索のわずか1%しか使われなかったこのボタンは、広告を見る前にユーザーを検索結果ページから誘導することでGoogleに何百万ドルもの広告収入を失わせ、その価値を失っていました。（ 「I'm Feeling Lucky」は現在でも使用できますが、デスクトップ版のみで、自動補完された検索候補をスクロールダウンして先に進んだ場合に限られます。）

AIオーバービューが近いうちに「I'm Feeling Lucky」のような道を辿るとは考えにくい。GoogleはAIに多額の資金を投入しており、「I'm Feeling Lucky」は2010年まで機能を停止していたからだ。しかし、少なくとも今のところは、Googleで最も忘れられた機能と同じくらい、サイト上で目立っているようだ。ユーザーがAI生成の選択肢に反応しないということは、Googleに検索を任せたくないと思っていることを示唆している。