つまり、AIが生成した事実が真実かどうかは、テキストの見た目だけでは判断できません。テキストは、もっともらしく正しく見えるようにデザインされているからです。事実確認は自分で行う必要があります。ChatGPTを使って、あるウェイトリフティングシューズのヒールの高さが標準の3/4インチだと教えてもらえたとしたら、確かに正しいように聞こえますが、その情報が他の場所で見つからなければ、確認することはできません。つまり、時間の無駄なのです。

ChatGPTは検索エンジンではありません

さて、AIを搭載した検索エンジンというものが存在します。Bing Chatの仕組みはこうです。実際に検索を行って情報を見つけ、AIを使ってその情報を分かりやすいテキストに整形します。Bing Chatが伝える情報ごとに、その情報源をクリックして、その情報がどこから来たのかを確認できます。しかし、ChatGPTをはじめとする他のAIチャットボットは、そのような仕組みではありません。

それでも、ChatGPTは検索エンジンの代替として位置付けられることがあります。検索結果のページを延々と読み進む必要がないことを称賛するGuiding Techの記事や、薬の安全性情報の提供においてGoogleよりも優れていると評価されているCNBCの記事をご覧ください。（ちなみに、 ChatGPTを医療アドバイスに使用しないでください。）しかし、ChatGPTは検索エンジンと同じ機能を果たすことは全くなく、検索エンジンとして使うこともできません。

例えば、自動車愛好家のクリス・パウカート氏は、自動車に関する自身の発言についてファクトチェックを求めるメールを受け取ったとツイートしました。メールを送信したマーケターは、ChatGPTでその発言を「見つけた」ので、真実かどうか確認したいと述べていました。確認してくれたマーケターは素晴らしい対応でした。というのも、それはパウカート氏が実際に発言したり書いたりした内容とは全く異なるものだったからです。しかし、なぜ彼らはテキストジェネレーターが引用文を「見つける」のに適した場所だと思ったのでしょうか？

確かに、ChatGPTは膨大な量のデータ（「インターネット全体」と表現されることもありますが、これは文字通りではありません）で学習されていますが、それは単に事実を認識しているというだけのことです。それらの事実を応答に必ず使用するという保証はありません。

私自身を例に挙げると、ボットに私が書いた本のタイトルを尋ねました。すると5冊の本がリストアップされましたが、そのうち4冊は実在するものの私の本ではなく、1冊は実在しないものでした。何が起こったのかは分かっていると思います。ボットは私が編集者であり、フィットネスについて書いていることを知っているのです。そのため、ランナーズワールドやメンズヘルスといったフィットネス雑誌の「編集者」が著者となっている本を私のものとしてクレジットしているのです。

ChatGPTを使ってアイデアを得たり、もっと情報を探す場所をブレインストーミングしたりするのは問題ありません。しかし、ChatGPTの回答が現実に基づいているとは期待しないでください。お気に入りの本に基づいて本を推薦するといった些細なことでさえ、存在しない本を捏造してしまう可能性があります。

次の記事へスクロールしてください