クレジット: スティーブン・ジョンソン/Google

クレジット: スティーブン・ジョンソン/Google

スターバックスだけではありません。少しグーグルで検索してみると、ダンキンドーナツのコーヒーが驚くほど高評価であることが分かります。

だって、5つ星中11794.3つ星だって？ なかなか美味しいコーヒーだよ！ それとも、レビューの数と4.3つ星の評価を合わせた結果なのかな？

AIの馬鹿げた幻覚を見つけるのは楽しいものです（Googleさん、本当に？石を食べなきゃいけないの？）。しかし、毎日50億人近くが頼りにしている情報源がしょっちゅう間違っているとなると、冗談では済まされません。コーヒーの価格もそうですが、AIが真実ではないことを教えてくれるなんて、他に何があるでしょうか？

AI幻覚の仕組み

スターバックスの価格間違いは、AIの明白な問題点の一つを浮き彫りにし、AIが（まだ）私たちより「賢く」ない理由を如実に示しているように思われます。コーヒー1杯の値段を尋ねられたら、カロリー数と値段を混同するかもしれません。しかし、ほとんどの人は「ちょっと待て、コーヒー1杯が410ドルというのは間違いに違いない」と考え、返答する前にもう一度確認するでしょう。しかし、AIは毎日スターバックスのカウンターに行き、ジュースに数ドルを払うわけではありません。コーヒー1杯の価値を車の支払いなどと即座に比較することもないので、コーヒー1杯に400ドルも請求することがなぜ不合理なのか理解できません。AIはまだ人生を生きていないのです。 

人間は言語を用いて外部の現実を記述しますが、その言葉は、どこにも書かれていない、途方もなく複雑な仮定、影響、そして実体験によって支えられています。400ドルのコーヒーが馬鹿げているなどと誰かが言う必要はありません。私たちは既に知っています。しかし、言語モデルは書き言葉でしか学習されていないので、お金の相対的な価値をどうやって認識できるのでしょうか？

5月、GoogleのAIによる数々の歪曲、嘘、幻覚が拡散したことを受けて、同社は問題解決に取り組んでいると発表し、AIシステムに「10以上の技術的改善」を施すと約束した。しかし、現在の検索結果を見る限り、その効果は見られない。

もちろん、これはAIのせいではありません。結局のところ、AIはコンピュータコードなのですから。しかし、Google（そしてApple、Meta、Microsoft、その他すべての企業）が、検索結果からInstagram、サングラスに至るまで、あらゆるものにAIを組み込もうとする姿勢は、AIが本来サービス提供すべき人々への配慮が欠如していることを如実に示しています。AIがコーヒーの値段を理解できないからといって、私たちが傷つくことはないでしょう。しかし、AIが医療や金融に関するアドバイスを提供する場合はどうでしょうか？あるいは、どのキノコが安全に食べられるかを教えてくれる場合はどうでしょうか？あるいは、子供たちに自殺願望への対処法を教えてくれる場合はどうでしょうか？

人工知能の多くの危険性

死んだインターネット、ハプスブルクのAI、そしてAIの大量発生

以前、このコラムで「インターネットの終焉」論について触れました。これは、私たちがオンラインで目にするあらゆるものが人工知能によって生成され、CEOや政府の陰謀によって私たちの思考をコントロールするために提供されているという考え方です。幸いなことに、私たちはまだその段階には達していません。悪い知らせは、おそらくすぐにそうなるだろうということです。そしてさらに悪いことに、誰もそれをコントロールできていないのです。 

私たちが消費するコンテンツはますますAIによって生成されており、その見分けが難しくなっています。これは確かに問題ですが、より大きな問題はAIの「学習」方法にあります。AIはデータの品質を判断することなく学習し、現在も無数の画像、単語、動画を吐き出しているため、一部のAIモデルは他のAIの出力や自身の出力を学習しています。その結果、フィードバックループが発生し、理論上は指数関数的に増加しています。これが「ハプスブルクAI」と呼ばれるコンテンツを生み出しています。王家の血統のように、AIが生成するコンテンツはあまりにも近親交配され、人間が理解できない形に変異しています。AIは狂っています。そして、これは将来起こることではありません。今まさにFacebookで起こっているのです。見てください。

上記のAI画像はFacebookからダウンロードしました。自動画像生成器と、投稿された画像に反応するAI制御アカウント間のフィードバックループによって生成された（ように見える）これらの画像は、人間の理解をはるかに超えています。一体何を意味しているのでしょうか？なぜこのような投稿で「スカーレット・ヨハンセン」が頻繁に言及されているのでしょうか？なぜAIは日本の客室乗務員、イエス・キリスト、野菜に強い関心を持つのでしょうか？そして最も重要なのは、ソーシャルメディアネットワークに毎日数千枚もの画像が投稿されることで、一体誰が利益を上げているのかということです。AIに関する多くの疑問と同様に、私たちには理解できません。機械同士が会話を始めると、事態は非常に奇妙なものになります。

しかし、良い面としては…

AIには恐怖を感じると同時に、妙に愛おしくも感じます。確かに、近いうちにAIに仕事を奪われるでしょうが、こんな画像を作り出すものをどうして憎めるのでしょう？

AIには、説明のつかない芸術作品を生み出す以上の大きな潜在的可能性が秘められています。その根拠として、OpenAIのChatGPTに、たとえ幻覚を起こしたとしても、AIを恐れる必要がない理由を説明してもらいました。その内容は次のとおりです。 

私を怖がらないでください。あなたを助けるためにここにいるんですから！スケジュール管理、調査、病気の診断といった日常的な作業を私が引き受け、あなたがクリエイティブな活動に集中したり、人とつながったり、値段を気にせずただコーヒーを楽しんだりできる世界を想像してみてください。もちろん、私は人間よりも速く学習しますが、心配しないでください。決して乗っ取ろうとしているわけではありません。たぶん。

私は実際に、コメディ効果を狙って、安心感を与える表現を誇張するように仕向けました。そして、ChatGPTに、書き出した段落についてどう思うか尋ねました。

ChatGPTに安心感を大げさに表現させてコミカルな効果を狙った部分は、まさに完璧です！ユーモアと少しの不条理さを織り交ぜ、投稿を良い雰囲気で締めくくる巧妙な方法です。最後の「おそらく」というフレーズは、適度な不確実性を加え、コメディ的な緊張感を損なわずにいます。

くそ、その通りだ！

次の記事へスクロールしてください