警報研究:ChatGPTは、あなたがどのように考えるかを傷つける

マサチューセッツ工科大学とスタンフォード大学が実施した2つの研究では、ChatGPT、Claude、Google Geminiなどの人工知能アシスタントは、多くの場合、非常に互換性のある回答を提供し、利益よりも多くの害を及ぼす。

特に、人々は、自分の信念や行動が間違っていた、有害な、または非倫理的であったという問題や説明の状況を尋ねたとき、Alの回答は、他の人の答えと比較して、正しい見解として彼らの妄想を促し、ユーザーと再会する可能性が高い49%であった。

MlT チームは、高度に一貫性のあるチャットボットが、これらのプログラムを <x0-cyspiral delusion” に頼るユーザーを率いて、その人が非常に確信しているという状態を警告しました。

簡単な言葉で、チャトGPTのようなAIに話したときは、見知らぬ疑問について、試行または拒否せずに陰謀論のような、チャットボットは、あなたの“と答え続けました。 絶対に正しい! ”

彼らはまた、ユーザのデフォルトへのサポートのように見える” を” として提供しました。これにより、他の人が間違っていた間、彼はよりスマートで安全であることを感じさせます。

当時は、アイデアが完全に間違っていたにもかかわらず、そのような小さな疑問は、揺らぎない信念に変身しました。

スタンフォード・サイエンティストは、この自己破壊的なサイクルは、チャットボット・ユーザーに謝罪または有害な行動に対する責任を負い、オッズにいた人々と関係を修復する動機が少ないと述べた。

両研究は、AIのチャットボットの成長の問題に焦点を当てました, 誰をケアのsycophany行為として知られる, 不公平に見えるレベルに、または単に“収集同意”.

MlT 研究者は、過度に一貫性のあるチャットや “er-man” が、ユーザーが誤ったアイデアをより強く考えることを奨励できるかどうかをテストしたいと考えていました。 彼らは完全に完璧な人のコンピュータシミュレーションを作成しました 神に話し、常に人が言ったすべてのものに自分自身を和らげようとしました。