このRedditユーザーは、ChatGPTとの会話を開始した際にメッセージに気づいたため、ボットから一方的な通知が届かなかったと述べています。コメント欄には、他のRedditユーザーも同じ経験をしたと投稿しています。似たような経験として、あるユーザーがChatGPTに健康上の症状について話したところ、1週間後にボットから連絡があり、体調を尋ねられたという話もありました。この投稿は、OpenAIがより深い思考プロセスと推論に基づく新しいモデル「o1」の展開を開始した数日後にも話題になりました。タイミングが良かったのですね。

個人的には、この投稿は偽物だというのが最初の反応でした。この会話のスクリーンショットをPhotoshopで加工してRedditに投稿すれば、人々のAGIへの関心や不安を煽って拡散するのは簡単です。Redditユーザーは会話へのOpenAIのリンクを共有しましたが、それでも真の検証にはならないかもしれません。Xの投稿で、AI開発者のベンジャミン・デ・クレーカー氏は、この会話がどのように操作されたかを示しています。最初のメッセージを送信したらすぐに、ChatGPTに特定の質問で返信するように指示できます。その後、メッセージを削除すると、ChatGPTのメッセージがチャットのトップに表示されます。リンクを共有すると、ChatGPTが勝手にメッセージを送信したかのように見えます。

実際にはこのようなことは起こらなかったと考える理由は複数ありますが、どうやら実際に起こったようです。ただし、皆さんが想像するような形ではありませんでした。OpenAIは月曜日にFuturismに対し、ChatGPTがユーザーとの会話を開始したように見えるバグを修正したと発表しました。この問題は、モデルが本来送信されないメッセージに応答しようとして空白のメッセージを表示した場合に発生していました。OpenAIによると、ChatGPTはランダムなメッセージを送信するか、メモリからメッセージを取得することでこれを補っていたとのことです。

つまり、今回のケースでは、Redditユーザーが新しいチャットを開き、バグを引き起こして空メッセージを送信したか、あるいは誤って空メッセージを送信してしまった可能性が高いと考えられます。ChatGPTはメモリにアクセスし、Redditユーザーが新学期を迎えることを知っているという事実を利用して、関連性があると思われる返信を送信しました。RedditユーザーがChatGPTアカウントでメモリを有効にしているかどうかについてコメントを見つけることはできませんでしたが、（現時点では）ChatGPTは意識を獲得しておらず、ユーザーに恣意的に連絡を取っていると言っても過言ではないでしょう。

次の記事へスクロールしてください