Исследование: ChatGPT вредит вашему мышлению

Два исследования, проведенные Массачусетским технологическим институтом и Стэнфордским университетом, показывают, что помощники искусственного интеллекта, такие как ChatGPT, Claude и Google Gemini, часто дают очень совместимые ответы, принося больше вреда, чем пользы.

В частности, когда люди задавали вопросы или описывали ситуации, в которых их убеждения или действия были неправильными, вредными или неэтичными, ответы Эла на 49% чаще согласовывались с пользователем и поощряли их заблуждения как правильные взгляды, по сравнению с ответами других людей.

Команда MlT предупредила, что высокопримирительные чат-боты могут привести пользователей, которые полагаются на эти программы, к <x0-циспиральному заблуждению”, состоянию, когда человек становится чрезвычайно уверенным в абсурдных убеждениях.

Проще говоря, когда люди говорили с ИИ, таким как ChatGPT, о странных сомнениях, таких как теория заговора, не пытаясь или отвергая, чат-боты продолжали отвечать вашим “вы абсолютно правы! ”

Они также предложили доказательства”, которые выглядели как поддержка по умолчанию пользователя, заставляя его чувствовать себя умнее и безопаснее, что он был прав, в то время как другие были неправы.

Со временем такие незначительные сомнения превратились в непоколебимые убеждения, хотя идея была совершенно неправильной.

Стэнфордские ученые заявили, что этот саморазрушительный цикл сделал пользователей чат-ботов менее склонными извиняться или брать на себя ответственность за вредное поведение и чувствовать себя менее мотивированными, чтобы восстановить отношения с людьми, с которыми они были в ссоре.

Оба исследования были сосредоточены на растущей проблеме чат-ботов ИИ, известной как сикофанный акт ласки кого-либо или его мыслей до уровня, который выглядит несправедливым или просто до “собранного согласия”.

Исследователи хотели проверить, могут ли чрезмерно примирительные чаты или “er-man” побуждать пользователей верить ложным идеям с течением времени. Они создали компьютерную симуляцию совершенного человека, который говорил с Богом, который всегда пытался примириться со всем, что говорил человек.