詐欺師はChatGPTをどのように利用するのでしょうか?

インターネット上には、住所や職歴、家族の名前など、私たち一人ひとりに関する公開情報が数多く存在しています。そして、AIに精通した詐欺師たちは、これらを悪用する可能性があります。しかし、ChatGPTの企業であるOpenAIが、自社の技術を悪意ある行為に利用することを許すはずがありません。Wired誌は以下のように報じています。

OpenAIのような企業は、自社のモデルが悪用されるのを防ごうとしています。しかし、新しいLLMがリリースされるたびに、ソーシャルメディアではAI設計者が導入した新しい制限を回避するAIジェイルブレイクが話題になっています。ChatGPT、Bing Chat、そしてGPT-4は、リリースから数分以内に、しかも数十通りもの方法でジェイルブレイクされました。悪用や有害な出力に対する保護対策のほとんどは表面的なものに過ぎず、意志の強いユーザーであれば簡単に回避できます。ジェイルブレイクが発見されると、通常は一般化され、ユーザーコミュニティがLLMの脆弱性を突いて攻撃を仕掛けます。そして、技術の進歩はあまりにも速く、その仕組みを完全に理解するのは誰にも不可能です。設計者でさえもです。

AI の会話を継続する能力は詐欺師にとって有用であり、人的資源を削減し、詐欺師にとって最も労力と時間のかかる側面の 1 つを削減します。

想定される例としては、同僚（あるいはフリーランサー）から「仕事関連」の特定のタスクを依頼する仕事関連のメールが届くことが挙げられます。メールの内容は、上司の名前を出したり、他の同僚の名前を出したりと、あなた個人に非常に具体的なものになることがあります。また、お子さんのサッカーのコーチから、新しいユニフォームのための寄付をお願いする詳細なメールが届くこともあります。銀行、警察、お子さんの学校など、権威のある人物や信頼できる組織は、標的になり得ます。誰にでも、説得力のある、説得力のある切り口があるはずです。

詐欺師はChatGPTのプロンプトを操作できることを覚えておいてください。どんな口調ででもどんなプロンプトでも簡単に作成できるため、正式な方法でも友好的な方法でも、緊急性とプレッシャーを作り出すことができます。

スパムメールのほとんどを捕捉する従来のメールフィルターは、文法エラーやスペルミスに頼る戦略をとっているため、うまく機能しない可能性があります。しかし、ChatGPTは文法が正確であるため、詐欺師はChatGPTに指示を与えることで、通常はスパムフィルターを検知する一般的な挨拶やトリガーワードを回避することができます。

AIを使った詐欺に騙されない方法

残念ながら、現時点ではAI詐欺を見抜くためにできることは多くありません。スパムメールのほとんどを処理するメールフィルターのように、AIが生成した詐欺をフィルタリングできる信頼性の高い技術は確かに存在しません。しかし、被害に遭わないための簡単な解決策はいくつかあります。

まず、あなたの会社がフィッシングに対する意識を高めるトレーニングを提供しているのであれば、今こそそれに真剣に注意を払い始めるべき時です。そこで提供される一般的な安全に関するアドバイスの多くは、AI 詐欺にも依然として役立ちます。

個人情報や金銭を要求するメールやテキストメッセージは、どれほど説得力があっても詐欺である可能性があることを忘れないでください。その信憑性を確かめるほぼ確実な方法は（少なくとも現時点では）、メッセージの送信者に電話をかけるか、直接会うことです（可能であれば）。AIが会話ホログラムを作成できるようになるまでは（AIはすでに誰の声でも偽造することを学習しています）、相手に直接電話をかけるか、直接会って要求の正当性を確認するのが最も安全な方法です。

次の記事へスクロールしてください