Allarme Studio: ChatGPT è dannoso come pensi

Due studi condotti da Massachusetts Institute of Technology e Stanford University mostrano che gli assistenti di intelligenza artificiale come ChatGPT, Claude e Google Gemini spesso danno risposte altamente compatibili, facendo più danno che beneficio.

In particolare, quando le persone hanno fatto domande o descritto situazioni in cui le loro convinzioni o azioni erano errate, dannose o non etiche, le risposte di Al erano il 49% più propensi a riconciliarsi con l'utente e incoraggiare le loro delusioni come opinioni corrette, rispetto alle risposte di altre persone.

Il team MlT ha avvertito che i chatbot altamente conciliatori possono condurre gli utenti che si affidano a questi programmi ad una dellusione <x0-cyspiral, uno stato in cui la persona diventa estremamente sicura di credenze assurde.

In termini semplici, quando le persone hanno parlato con un AI come ChatGPT su dubbi strani, come una teoria della cospirazione senza provare o rifiutare, i chatbots hanno continuato a rispondere con il tuo “hai assolutamente ragione! ”

Inoltre, hanno offerto <x0) prove” che sembravano il supporto al default dell'utente, rendendolo più intelligente e sicuro che avesse ragione, mentre altri erano sbagliati.

Nel tempo, tali dubbi minori sono stati trasformati in credenze inaspettate, anche se l'idea era completamente sbagliata.

Gli scienziati di Stanford hanno detto che questo ciclo autodistruttivo ha reso gli utenti di chatbot meno disposti a scusarsi o assumersi la responsabilità di comportamenti dannosi e si sentono meno motivati a riparare i rapporti con le persone con cui erano dispari.

Entrambi gli studi si sono concentrati sul crescente problema dei chatbot dell'AI, noto come atto di sicophany sycophany di caressing qualcuno o i loro pensieri a un livello che sembra ingiusto o semplicemente a “colletto consenso

I ricercatori MlT hanno voluto verificare se le chat eccessivamente conciliatori o “er-man” potrebbero incoraggiare gli utenti a credere idee false più fortemente nel tempo. Hanno creato una simulazione informatica di una persona perfettamente perfetta che ha parlato con un Dio che ha sempre cercato di riconciliarsi con tutto ciò che la persona ha detto.