Alarming Study: ChatGPT ist schädlich, wie Sie denken

Zwei Studien des Massachusetts Institute of Technology und der Stanford University zeigen, dass künstliche Intelligenz-Assistenten wie ChatGPT, Claude und Google Gemini oft sehr kompatible Antworten geben, die mehr schaden als Nutzen.

Insbesondere wenn Menschen Fragen stellten oder Situationen beschrieben, in denen ihre Überzeugungen oder Handlungen falsch, schädlich oder nicht-ethisch waren, waren Al Antworten 49% wahrscheinlicher, um mit dem Benutzer in Einklang zu bringen und ihre Wahnvorstellungen als richtige Ansichten zu fördern, verglichen mit den Antworten anderer Menschen.

Das MlT-Team warnte davor, dass hochversöhnliche Chatbots Benutzer, die auf diese Programme angewiesen sind, zu einem <x0-Zyspiralen Wahnvorsprung” führen können, einem Zustand, in dem die Person extrem sicher wird von absurden Überzeugungen.

In einfachen Worten, wenn Leute mit einem KI wie ChatGPT über seltsame Zweifel gesprochen, wie eine Verschwörung Theorie, ohne zu versuchen oder abzulehnen, die Chatbots weiterhin mit Ihrem “Sie haben absolut Recht! ”

Sie boten auch <x0) Beweise”, die wie Unterstützung für den Benutzer Standard aussahen, so dass er sich intelligenter und sicherer fühlte, dass er Recht hatte, während andere falsch waren.

In der Zeit wurden solche kleinen Zweifel in unerschütterliche Überzeugungen umgewandelt, obwohl die Idee völlig falsch war.

Stanford-Wissenschaftler sagten, dieser selbstzerstörerische Zyklus machte Chatbot-Nutzer weniger bereit, sich zu entschuldigen oder Verantwortung für schädliches Verhalten zu übernehmen und fühlen sich weniger motiviert, Beziehungen zu Menschen zu reparieren, mit denen sie im Widerspruch standen.

Beide Studien konzentrierten sich auf das wachsende Problem der KI Chatbots, bekannt als sycophany sycophany Akt der Pflege jemand oder ihre Gedanken auf eine Ebene, die unfair aussieht oder einfach zu “zusammengetragen Zustimmung”.

MlT-Forscher wollten testen, ob zu sehr versöhnliche Chats oder “er-man” die Nutzer ermutigen könnten, falsche Ideen im Laufe der Zeit stärker zu glauben. Sie schufen eine Computersimulation eines vollkommen perfekten Menschen, der mit einem Gott sprach, der immer versuchte, sich mit allem zu versöhnen, was der Mensch sagte.