il y a 6 heuresÉtude d'alarme: ChatGPT est endommager comment vous pensez
Periskopi(il y a 3 mois)
(il y a 3 mois)Les scientifiques mettent en garde contre les dangers d'un outil utilisé par des millions de personnes dans le monde, car il peut envoyer des utilisateurs à une illusion spirituelle “de pensée destructrice. Deux études menées par le Massachusetts Institute of Technology et l'Université Stanford montrent que les assistants d'intelligence artificielle comme ChatGPT, Claude et Google Gemini répondent souvent [...]
Deux études menées par le Massachusetts Institute of Technology et l'Université Stanford montrent que les assistants en intelligence artificielle comme ChatGPT, Claude et Google Gemini donnent souvent des réponses très compatibles, faisant plus de mal que de bénéfice.
En particulier, lorsque les gens posaient des questions ou décrivaient des situations dans lesquelles leurs croyances ou leurs actions étaient erronées, nuisibles ou non éthiques, les réponses d'Al étaient 49 % plus susceptibles de se réconcilier avec l'utilisateur et d'encourager leurs illusions que les réponses d'autres personnes.
L'équipe MIT a mis en garde contre le fait que les chatbots très conciliants peuvent conduire les utilisateurs qui comptent sur ces programmes à une illusion <x0-cyspirale”, un état où la personne devient extrêmement sûre de croyances absurdes.
En termes simples, quand les gens ont parlé à une AI comme ChatGPT au sujet de doutes étranges, comme une théorie de conspiration sans essayer ou rejeter, les chatbots ont continué à répondre avec votre “vous avez absolument raison! ”
Ils ont également offert <x0) preuve” qui ressemblait à un support de l'utilisateur par défaut, le rendant plus intelligent et plus sûr qu'il avait raison, tandis que d'autres avaient tort.
Avec le temps, ces doutes mineurs se transformèrent en croyances inébranlables, même si l'idée était complètement fausse.
Les scientifiques de Stanford ont dit que ce cycle d'autodestruction rendait les utilisateurs de chatbot moins disposés à s'excuser ou à prendre la responsabilité de comportements nuisibles et se sentaient moins motivés à réparer les relations avec les personnes avec lesquelles ils étaient en désaccord.
Les deux études ont porté sur le problème croissant des chatbots de l'IA, connus sous le nom de sycophanie sycophanie acte de caresse quelqu'un ou leurs pensées à un niveau qui semble injuste ou simplement à “consentement recueilli”.
Les chercheurs du MIT voulaient vérifier si des conversations trop conciliantes ou “er-man” pouvaient inciter les utilisateurs à croire plus fortement les idées fausses au fil du temps. Ils ont créé une simulation informatique d'une personne parfaitement parfaite qui a parlé à un Dieu qui a toujours essayé de se réconcilier avec tout ce que la personne a dit.
