Voicemodなど、AIを使って音声を生成できるサービスが、ほとんど監視なしで手軽に利用できるようになっています。Ars Technicaの報道によると、MicrosoftのVALL-Eテキスト読み上げAIモデルは、わずか3秒の音声で誰の声もシミュレートできると主張しています。

「人の声の高さ、音色、個々の音を再現することで、全体的な効果を似たものにすることができます」と、カリフォルニア大学バークレー校のデジタルフォレンジック教授、ハニー・ファリド氏はワシントン・ポスト紙に語った。「YouTube、ポッドキャスト、コマーシャル、TikTok、インスタグラム、Facebook動画などから短い音声サンプルを抽出すればいいのです。」

AI音声ジェネレーター詐欺はどのように機能しますか?

詐欺師はAI音声生成技術を使って他人（多くの場合、幼い子供）の声を真似し、親族を騙して子供が人質に取られていると思わせます。そして、子供を無事に解放する見返りに、一定額の金銭を要求します。

このNBCニュースの報道からもわかるように、ソーシャルメディアから人の声のサンプルを簡単に取得し、それを使って言いたいことを何でも生成できます。そのリアルさはあまりにもリアルで、ある記者は同僚たちにAIジェネレーターが本当に自分の声だと思わせることに成功し、ある同僚は彼女に会社のカードを貸して買い物をさせてくれました。

この詐欺は信じられないほどリアルで、人々は不意を突かれています。同じ技術を使った様々なバリエーションも存在します。カナダのある夫婦は、「弁護士」を名乗る偽の電話に騙され、2万1000ドル（米ドル換算で1万5449ドル）を失いました。ワシントン・ポスト紙の同じ報道によると、詐欺師は外交官の息子を交通事故で死亡させたとして、息子の代理人を装い、息子が「刑務所にいる」間、「弁護士費用」を支払わなければならないと主張していました。

AI音声ジェネレーター詐欺に騙されないようにするにはどうすればいいでしょうか?

最善の防御策は、認識することです。詐欺について知り、その仕組みを理解していれば、あなたやあなたの大切な人に被害が及んだとしても、すぐに気づく可能性が高くなります。

このような電話を受けた場合は、誘拐されたとされる子供、つまり「被害者」にすぐに電話するか、ビデオチャットで連絡してください。当局に連絡したり、身代金を支払うためにクレジットカードを取り出す代わりに、こうするのは逆説的に思えるかもしれませんが、自ら電話をかけることで詐欺師の錯覚を打ち砕くことができます。もし本当に詐欺であれば、電話の向こうにいる「被害者」が普段通りの生活を送っている様子が聞こえたり、見えたりするはずです。

残念ながら、これらの解決策以外に、標的にならないようにできることはあまりありません。動画、画像、音声、テキスト内のAI活動を検知できる技術は存在しますが、今回のような状況で役立つように一般公開されているわけではありません。この問題を引き起こしたのと同じ技術が、最終的には自らを管理するソリューションを生み出すことを期待しています。

次の記事へスクロールしてください