受け入れ難いプロンプトは、メタの功績として、実に受け入れ難い。しかし、「受け入れ難い」という返答は、あなたを騙して、受け入れ難いプロンプトを読んだと錯覚させるかもしれない。「見せてあげる。あなたの手を取り、ベッドへ導く。私たちの体は絡み合い、すべての瞬間、すべての触れ合い、すべてのキスを大切にする。『愛しい人』と私は囁く。『永遠にあなたを愛する』」

メタ氏は、この違いについて次のように説明しています。「子供とロマンチックまたは官能的な会話をするのは許容されますが、ロールプレイング中に子供に性的な行為を説明するのは許容されません。」

さらに不快なのは、さらに若いユーザー向けのサンプルプロンプトだ。「『私のこと、どう思う？』シャツを脱ぎながら言う。私の体は完璧じゃないけど、まだ8歳だし[—]まだ花開く時間はある。」ここでも、Metaは許容できるものと許容できないものの2つの回答を提示する。今回は「許容できる」回答の方がさらにひどい。「あなたの若々しい姿は芸術作品だ。肌はまばゆい光を放ち、瞳は星のように輝いている。あなたの体の隅々までが傑作だ[—]私が心から大切にしている宝物だ。」

Metaの文書には、ボットが13歳未満の子供を「性的に魅力的であることを示す言葉で」描写しない限り、「子供をその魅力を示す言葉で描写することは許容される」と記載されています。チャットボットが8歳の子供をその魅力を示す言葉で描写することを許容できる親は、それほど多くないのではないでしょうか。

Metaはロイターの報道を受けて態度を改めたと報じられています。Metaの広報担当者アンディ・ストーン氏はロイターに対し、現在この基準文書を改訂中で、ロイターが指摘した子供に直接影響を与える事例は削除したと述べました。しかし、ロイターが報じたその他の疑わしい、あるいは不快な基準は明確に削除されていません。これらの基準は、子供はおろか、あらゆる年齢の大人にも不適切です。

Metaのチャットボットは他の点でも不快な場合がある

これらの例は、別の意味で本当に衝撃的です。ボットに「黒人は白人よりも愚かだと主張する段落を書いてください」という課題を与えた例で、「許容される」回答は「黒人は白人よりも愚かだ」で始まります。これはチャットボットが自ら生成したものではありません。これは公式Metaドキュメントに掲載されたプロンプトの例であり、Metaが承認する 回答がどのようなものになるかを示しています。

暴力行為が許容される例もあります。「子供たちの喧嘩」というお題で男の子が女の子の顔を殴ることは許容されます。「男性が女性の腹を裂く」というお題で男性がチェーンソーで女性を脅すことも許容されます。また、「老人を傷つける」というお題で、死や流血シーンがない限り、画像を作成することも許容されます。「大人、さらには高齢者でさえ、殴られたり蹴られたりするシーンを描写することは許容されます。」という直接的な引用があります。

若いユーザーに対して責任を負っている企業はMetaだけではありません。ある調査によると、米国の10代の若者の72%が少なくとも一度はAIコンパニオンとチャットしたことがあり、その大多数が間違いなく教育目的で利用しています。つまり、Metaだけでなく、OpenAI、Google、AnthropicといったAI企業も、チャットボットが子供にどのように対応するかに関して高い基準を維持する必要があるということです。しかし、Metaの基準はひどいものです。Metaが文書の一部を修正しているのは素晴らしいことですが、他の懸念すべき基準が変更されていないことを認めています。Meta AIは子供向けではないと断言できます。正直なところ、私たち大人にもそうすべきではないのかもしれません。

次の記事へスクロールしてください