これらのフェイクブックには実在の作家が関わっていることから、その作家のファンは、お気に入りの作家が魅力的な新作を出版したと信じるかもしれません。たとえ名前の挙がっている作家が誰なのか全く分からなくても、この記事を参考に図書館や書店へ足を運び、夏の読書リストを早めに準備できるかもしれません。最初の10冊のおすすめから選ぼうとすると、かなり長い時間探すことになるでしょう。

ここで何が起こったのですか?

サンタイムズのBlueskyの記事によると、この記事は社説ではなく、編集室によって承認・作成されたものではないとのことです。記事では、コンテンツがAI生成であるかどうかについては言及されていませんが、404 Mediaが著者にインタビューしたところ、著者はこの記事だけでなく他の記事でもAIを使用していることを認め、「背景情報を得るためにAIを使うことはありますが、必ず事前に資料を確認します。今回はそうしていませんでした。あまりにも明白なことなのに、見落としていたなんて信じられません。言い訳はできません」と述べています。

この確認を得る前から、新聞社はこの記事を生成AIを使って書いたように思えました。それは文章がぎこちないからだけではありません。AIはしばしば幻覚を起こします。言い換えれば、事実を捏造することがあります。モデルがなぜこのような結果になるのかは完全には解明されていません。学習データの問題か、あるいはモデルがその学習から導き出す結論に問題があるのか​​もしれません。しかし、AIモデルが表面上は向上しているにもかかわらず、問題は悪化の一途を辿っています。

これは、より良いプロンプトを使っても避けられない問題です。生成AIを使うと、時折幻覚を起こすため、出力に不正確な情報（あるいは全くの嘘）がないか確認する必要があります。この技術を理解していない人がChatGPTのようなプログラムで何ができるのかを理解し、このような記事を生成したいと考えるのは当然ですが、多くの作家やアーティストが長年主張してきたように、人間の作業員をAIチャットボットに置き換えても同等の品質の成果は期待できません。確かに、ChatGPTは1分以内に15冊の書籍の推薦リストを喜んで生成してくれますが、その推薦リストの一部（あるいはほとんど）が役に立たない可能性もあるのです。

このような記事を生成AIを使って掲載することには賛成できません。しかし、新聞社が記事作成をボットに外注するのであれば、生成された記事をレビューし、すべてが正しいことを確認するために、人間のファクトチェッカー（あるいは、編集者かもしれません）が必要です。とはいえ、その時点では、人間のライターに報酬を支払って、自ら書籍の推薦をしてもらうのが良いでしょう。失業中や不完全雇用のジャーナリストなら、きっと喜んでそうしてくれるでしょう。サンタイムズ紙はAIの背後に人間のライターがいるようですが、その作業は世代ごとに必要です。そうでなければ、このような記事が生まれるでしょう。

好奇心から、ChatGPTにアンディ・ウィアー著『最後のアルゴリズム』のあらすじを尋ねてみた。ボットはウェブを検索して答えを探し、その本は実際には存在しないと正確に報告してくれた。ボットはいくつかの推測を立て、サンタイムズ紙は間違いなくAIを使って記事を生成したと述べていた（もっとも、解雇を願う怠惰なインターンが捏造した可能性もあるが）。おそらく、ボットが収集したソーシャルメディアの投稿がその可能性を示唆していたためだろう。しかし、ボットの最後の考えは特に的を射ており（そして、うっかり自意識過剰になっていた）、私は次のように思った。

「この事件は、特にAIが生成したコンテンツが関係する場合、情報を検証することの重要性を強調している」とChatGPTは書いている。

次の記事へスクロールしてください