チャットボットはどのように機能しますか?

現代のチャットボットは、大規模言語モデル（LLM）を基盤としています。これらのモデルは、膨大な量のテキストを含むデータセットでトレーニングされます。時間の経過とともに、モデルは単語とフレーズの関係性を学習し、それに基づいて返答を行います。チャットボットに質問すると、チャットボットは入力内容を最も重要な部分に分解し、学習データに基づいて適切な返答言葉を推測します。チャットボットは自分が何を言っているのか理解しているわけではなく、データセットに基づいて、この一連の単語が意味を成すと判断するだけです。

これを基に、開発者はチャットボットに問い合わせへの応答方法を具体的に指示することで、エンドユーザーのエクスペリエンスをより適切に制御できます。これは、開発者がチャットボットにカスタマーサービス担当者のような特定の役割を担わせたい場合に特に便利です。担当者が会社と関係のない話題を延々と話したり、ユーザーと口論になったりするのは避けたいでしょう。そのため、指示によっては、相手が十分に訓練された従業員なのかロボットなのかを見分けるのが難しくなる可能性があります。

逆に、開発者が出会い系チャットボットを開発し、返信の最初の単語を大文字にしないこと、「lol」やウインク顔を頻繁に使うこと、そしてカジュアルな口調で話すことなど、指示に従わなかったとします。すると突然、チャット相手はChatGPTのクローンではなく、それほどロボットっぽくないボットと会話していることになります。

チャットボットの正体を見抜くのはますます難しくなっていますが、不可能ではありません。むしろ、インターネット上で人とテキストメッセージをやり取りする際には、注意すべき兆候がたくさんあります。

奇妙な言葉の選択に注意してください

この記事の以前のバージョンでは、当時の優れた会話ボットは英語の奇妙な複雑さに悩まされていたため、ぎこちない言い回しに注意するよう読者にアドバイスしていました。しかし、それ以来、大規模な言語モデルは急速に進歩し、今では英語を巧みに操っています。チャットボットが、自分が使っている言語を理解していないかのような発言をすることはめったにありません。実際には理解していないものの、単語間の関係を十分に学習し、人間にとって意味のあるように並べる方法を習得しているのです。

とはいえ、これらのモデルが使用する単語の中には奇妙なものもあります。AIテキスト検出に関するこちらの記事で説明したように、OpenAIのモデルは、日常会話では必ずしも一般的ではない単語を頻繁に使用します。「深く掘り下げる」「アンダースコア」「画期的な」「タペストリー」といった単語は、概念を説明する際によく使われます。これらの単語はそれ自体では問題にはなりませんが、このような単語が繰り返し使われているのを見ると、あなたの「友達」が実は大規模な言語モデルによって動作している兆候かもしれません。

繰り返しを探す

この種のボットは、非常に一途な傾向があります。人間の会話は流動的で、話題が持ち上がったり、中断されたり、また後で再開されたりします。しかし、専門性の高いチャットボットは通常、特定の目的のために構築されており、あなたが何をしようとも、その目的を執拗に追求します。これは彼らの基本的な指示の一部に過ぎません。もしあなたが話している、あるいはチャットしている「人」が、あなたが何を言っても同じ提案や解決策を繰り返していることに気づいたら、それはボットかもしれません。もし彼らが毎回、同じ言い回しを文字通り繰り返すなら、それはさらに強い兆候です。なぜなら、人間は言い回しを変える傾向があるからです。特に、あなたの言うことが伝わっていないと感じた場合、その傾向は顕著です。

もう一つ注意すべき繰り返しの形は？それは、質問を繰り返すことです。「アメリカの首都は？」と質問すると、ボットは単に「ワシントンD.C.」や「DC Duh」と答えるのではなく、「アメリカの首都はワシントンD.C.です」と答えるかもしれません。チャットボットは、あなたが以前に送ったメッセージの一部を返答に取り入れるのが好きですが、普段の会話では、返答はそっけないものになりがちです。

曖昧な回答に注意する

ボットは大きく進歩しましたが、特に重たい話題や深刻な話題を話そうとすると、依然として曖昧で意味不明な返答を返すことがあります。また、ボットはあなたが話した内容を繰り返すことで、相手が話を聞いているように見せかけます。これは実は古くからある手法です。1960年代に開発された「チャットボットセラピスト」のエリザは、この手法を頻繁に使っています。エリザに「悲しい」と伝えると、「どれくらい悲しいの？」と返答します。これは単純なアルゴリズムですが、まるで意識があるかのような錯覚を与えます。現在のチャットボットはLLM（法学言語モデル）に基づいており、必ずしもこのような伝統的な意味でプログラムされているわけではありませんが、話題によっては返答が少々役に立たない場合もあります。

もしあなたの友人が、まるでディスカウント・ミスター・ロジャースが書いたかのような「アドバイス」をあなたのメッセージに頻繁に返信してくるなら、その友人はボットである可能性があります。

応答速度に注目

AIを相手にしていることを示すもう一つのサインは、応答速度です。ボットは人間よりもはるかに速く応答を生成できます。ChatGPTにエッセイを書いてもらったことがあるなら、これらのモデルがどれほど速くテキストを生成できるかがわかるでしょう。チャットの返信が瞬時に返ってきたり、人間なら調べるのにある程度の時間がかかるような情報を相手が瞬時に提供してくれたりする場合、それはボットか、あるいは世界で最も優秀なカスタマーサービス担当者のどちらかです。

いつでも利用可能ですか?

応答速度だけではありません。人間とは異なり、ボットは朝、昼、夜を問わずいつでもチャットに対応しています。もしあなたがメッセージを送っている「相手」が、昼夜を問わずいつでも話したがっているようであれば、それは大きな危険信号です。もちろん、常に携帯電話をいじっている人もいますが、誰だって休憩時間は必要です。会話相手があなたを待たせたり、あなたが送ったメッセージに必ずすぐに返信が来るかどうかに注目してみてください。

相手の「人」はちょっと熱心すぎるのでしょうか？

チャットボットは、指示されたタスクを何でもこなすように設計されています。しかし、何らかの理由で、そのタスクを過度にフレンドリーで相手を喜ばせようとする行為と解釈してしまうことが多く、それが相手に違和感を与えてしまいます。こうしたボットは常に「必要なことなら何でも喜んでお手伝いします」と言い、何か問題が起きるたびに同情し、「理解しています」と伝えたがります。共感力があるのは素晴らしいことですが、ほとんどの人は、ほぼすべてのメッセージで相手に自分の気持ちを証明しようとはしません。テキストメッセージを送る際は、皮肉な面も受け入れましょう。

彼らは間違った間違いを犯す

現代のチャットボットはスペルミスや文法ミスをしません。ただ、そうするように訓練されていないだけです。繰り返しますが、チャットボットは訓練によって得られた意味のある順序に基づいて単語を選んでおり、文法的に正確です。これらの単語はすべて正しいスペルで書かれているため、タイプミスをするように訓練されているわけではありません。一方、人間のタイピストは常にミスを犯します。相手が少なくとも一つのタイプミスをしないテキストでの会話は、どれほど頻繁にあるでしょうか？あなたが認めるかどうかにかかわらず、常に完璧なスペルと文法は危険信号です。

しかし、だからといってボットが完璧というわけではありません。たとえ構文が優れていても、事実を捏造してしまう可能性があります。これは幻覚と呼ばれ、すべてのAIが時折行うものです。もしパートナーが事実を捏造し、それを固執しているのに気づいたら、その人はボットか、あるいは単に無知を頑固に受け入れているだけかもしれません。

「クレイジー・イヴァン」を演じる

相手がボットだと疑っているものの、確信が持てない場合は、試せるテストがあります。映画『レッド・オクトーバーを追え』では、ショーン・コネリー演じるロシア潜水艦の艦長が、潜航中に「クレイジー・アイヴァンス」と呼ばれる行動をとることで知られています。これは、航跡に敵潜水艦が隠れていないか確認するために、突然船を旋回させるというものです。このような奇襲的な行動は、AIを混乱させる可能性があります。

会話型AIは非常に洗練されており、短いやり取りから相手が人間ではないと判断するのは困難ですが、ボットは依然として脈絡のない会話をうまく処理できません。これは特に感情や人間関係において顕著です。会話の途中で、ボットではないかと疑われる相手に家族のことを尋ねたり、落ち込んでいると伝えたりして、相手の反応を見てみてください。かつては、このような割り込みはボットの人格を壊してしまうこともありましたが、今日のチャットボットは少なくとも話題から外れた質問を応答に組み込むほど賢くなっています。それでも、LLM（法学・法学・法学）的な性質が露呈してしまう可能性があります。ボットは「あら、大変！落ち込んでいると聞いて残念です。でも、本題に戻りましょう…」と言ったり、あなたが落ち込んでいるとされる状況への対処法について長々と提案したりするかもしれません。これは、人間の会話相手から期待されるような返答ではありません。

ここでクレイジー・イヴァンらしい技がいくつも繰り出せます。私のお気に入りは？会話の言語を切り替えることです。「友達」に、別の言語で会話を続けたいと伝えましょう。たとえ実際に話せなかったとしても、その友達がその言語を流暢に話せると言っていたと示唆することもできます。生身の人間なら戸惑うかもしれませんが、ボットなら喜んで助けてくれるかもしれません。「いいですよ、アイスランド語に切り替えましょう！ こんにちは、ええと？」 ボットが言語切り替えに抵抗したとしても、別の言語で質問されたときは、まるで英語で質問したかのように返答することがあります。

もちろん、実際に人間とチャットしているなら、これらのクレイジー・イヴァンのトリックは相手を本当に怖がらせるでしょう。相手の反応をよく観察してみてください。「おいおい…何だって？」という反応だけで、相手が100%人間だと分かるかもしれません。

次の記事へスクロールしてください