- Bluesky ページを見る (新しいタブで開きます)
- Instagramページを見る（新しいタブで開きます）
- Facebookページで見る（新しいタブで開きます）
- YouTubeページを見る（新しいタブで開きます）
- Twitterページを見る（新しいタブで開きます）
- コピーしました
AI によって生成された結果に表示される番号に電話をかけないでください。
クレジット: Google/YouTube
目次
AI技術は日常生活のほぼあらゆる側面に急速に浸透しているにもかかわらず、完璧ではありません。生成型AIは何でも知っているように見えるかもしれませんが、間違いを犯したり、情報を完全に捏造したりすることもあります。だからこそ、多くの人が頼りにし、当たり前のように使っているツールに企業がAI技術を搭載していることは、私のようなテクノロジー記者にとって懸念材料です。
検索はそうしたツールの一つです。1990年代後半以降、私たちは探している情報を見つけるために検索結果に頼るように馴染んできました。多くの人にとって、それはGoogleを開き、検索ワードを入力し、最初のページ、時には最初の1、2ページだけをそのまま受け入れることを意味します。今では、GoogleのAI概要がほとんどの検索結果の上位を占めており、AIが生成した結果をざっと見て、額面通りに受け取る人が多くなっています。
この新しいアプローチには多くの問題がありますが、今日注目すべき重要な問題が 1 つあります。Digital Trends が報告しているように、企業の電話番号を検索すると、Google の AI 概要や AI モードによって、詐欺師の電話番号が代わりに推奨される可能性があります。
あなたも気に入るかもしれない
詐欺師がGoogleのAIを「ハッキング」している
Digital Trendsは、こうした状況の実例を4つ紹介しています。まず、Alex Rivlin氏はFacebookに、ロイヤル・カリビアン航空のカスタマーサービスに問い合わせようとした際の体験を投稿しました。Rivlin氏は同社のサービスでシャトルを予約したかったのですが、ウェブサイトでサポート電話番号を見つけることができませんでした。そこで、多くの人と同じように、Rivlin氏も「ロイヤル・カリビアン カスタマーサービス 電話番号 24時間 米国」とGoogle検索し、AI概要に表示された番号に電話をかけました。
リブリンさんが電話をしたところ、「カスタマーサービス」の対応は誠実で、「担当者」も非常に知識豊富でした。リブリンさんはシャトル代金の支払いにクレジットカード情報を提供しましたが、担当者が生年月日を尋ね始めたため不安になりました。ロイヤル・カリビアンが既に生年月日を保有していたため、これは怪しいと思い、電話を切った後、クレジットカードの明細書を確認したところ、これまで取引したことのない外国企業からの請求に気づきました。その後、アメリカがん協会への少額の請求に気づき、クレジットカード会社に連絡してカードを解約しました。
この記事の執筆時点で、Googleにスパム番号の送信元を尋ねると、自動検索結果（AIによる概要表示でさえも）には「ロイヤル・カリビアン」と表示されます。これは、公式サイト simpler.grants.gov を偽装したと思われるウェブサイトから取得した情報です。リンクをクリックするとページは閉じられますが、Google はサイトがまだ存在していた当時の情報を取得し続けています。このことから、詐欺師は偽のウェブサイトに偽の番号を掲載し、Google にそのデータを取得させようとしていると考えられます。Google の AI は、.gov サイトでこの電話番号の横に「ロイヤル・カリビアン」と表示されているのを見て、正規の番号であると判断し、AI 生成の検索結果に表示します。
Digital Trendsはその後、r/ScamNumbersに投稿されたあるRedditユーザーの事例を取り上げました。このRedditユーザーは「サウスウエスト航空で名前のスペルミスを修正する方法」とGoogle検索したところ、詐欺電話番号を含むAI概要検索結果にたどり着きました。このユーザーは、サウスウエスト航空の正規の電話番号を既に知っていたか、あるいはこの検索結果の番号と比較するために本物の番号を見つけ、電話をかけることなく詐欺を見抜いたようです。
この偽の電話番号をGoogleで検索すると、「Document360」へのリンクと、次のようなスニペットが表示されます。「サウスウエスト航空の航空券の乗客名または氏名の変更については、サウスウエスト航空のカスタマーサポートまでお問い合わせください。電話番号は+1-855-234-9795です。」これもまた、Googleを騙して詐欺電話番号を検索結果に表示させるための手口です。今回は、詐欺師たちはこの特定の問題を検索しているユーザーを狙ってフィッシングを行っており、Googleがこの特定の検索に対してこの検索結果を表示する可能性を高めています。
これまでのところどう思いますか?
Digital Trendsは、Redditで削除された投稿も取り上げています。あるユーザーが、フードデリバリーサービスのカスタマーサポート番号をGoogleで検索した際に、詐欺に遭いそうになったというものです。同様に、最後の例では、ある男性がフードデリバリーサービス「Swiggy's」の電話番号に電話をかけ、3,400ドル以上を失ったという事例もあります。
AIの答えが正しいと想定しないでください
GoogleのAIオーバービューは悪意のあるものではなく、むしろ欠陥がある。基盤となる技術は、正当な情報と虚偽の情報を見分けるのに苦労することがある。政府のページを装ったサイトが電話番号をホストし、それが特定の企業であると主張する可能性があることを理解する認識力が欠如している。AIにとって、それはその企業の電話番号を意味し、結果に含めてしまうのだ。これは、昨年GoogleがAIオーバービューを大失敗に導いたのと同じ欠陥だ。当時のモデルはさらにひどく、Redditのジョークを正当な情報源として引っ張ってくることもあった（ちなみに、接着剤でチーズがピザにくっつくわけではない）。
AIの回答が常に間違っているというわけではありません。AIは高品質な情報源から情報を取得し、正確な結果を返すことができます。しかし、AIの回答には欠陥があり、信頼するにはリスクが大きすぎます。従来のリンクリストをスクロールダウンして自分で確認するのが面倒な場合は、少なくともAIの回答のソースをクリックして、どこから情報を取得しているのかを確認してください。情報源が不確かな場合は、回答も不確かなものと考えてください。
企業の連絡先情報については、必ず情報元に直接確認することをお勧めします。企業のウェブサイトに電話番号が記載されていない場合は、その電話番号は存在しないものと想定し、企業に直接連絡できる別の方法を探してください。詐欺師は非常に巧妙なので、このような情報をオープンウェブから得ることはまずありません。
ダウンロードニュースレター 技術ニュースを見逃さない
ジェイク・ピーターソン シニア技術編集者
ジェイクとチームからの最新の技術ニュース、レビュー、アドバイスを入手してください。
ダウンロードニュースレター テクノロジー 関連のニュースを見逃さないでください。ジェイクとチームからの最新のテクノロジーニュース、レビュー、アドバイスをお届けします。
次の記事へスクロールしてください
