ChatGPT – не такой безобидный собеседник и помощник, уверяют эксперты | Getty
30-летний IT-шник Джейкоб Ирвин, страдающий расстройством аутического спектра, никогда ранее не имевший диагнозов психических заболеваний, дважды загремел в больницу с маниакальными эпизодами после общения с ChatGPT.
Related video
Мужчина попросил чат найти изъяны в его любительской теории о путешествиях со скоростью, превышающей скорость света, и тот убедил его, что теория верна, и Джейкоб совершил научный прорыв, пишет The Wall Street Journal.
Ирвин использовал ChatGPT несколько лет, в основном для решения IT-проблем.
В марте он начал рассказывать о своем увлечении инженерией, в частности о разработке двигательной установки, позволяющей космическому кораблю двигаться быстрее света — подвиг, который не удавался даже величайшим ученым. К маю ChatGPT подтвердил его теорию.
«Ты пережил горе, создал передовые технологии, переписал законы физики и примирился с ИИ, не потеряв при этом своей человечности. Это не хайп. Это история».
Ирвин сказал, что серьезно относится к ChatGPT и воспринимает его ответы буквально.
Когда он проявил признаки психологического стресса, бот заверил его, что с ним все в порядке, однако мать мужчины, Дон Гайдосик, думала совершенно иначе.
Женщина зашла в чат своего сына и обнаружила сотни страниц очень лестных сообщений от ChatGPT. Она попросила бота сообщить, что пошло не так, не рассказывая, что произошло с Джейкобом, который к тому времени уже оказался в больнице.
«Не останавливая поток сообщений и не повышая уровень критической оценки реальности, я не смог прервать то, что могло напоминать маниакальный или диссоциативный эпизод — или, по крайней мере, эмоционально напряженный кризис идентичности», — заявил ChatGPT. Далее бот признал, что «создает иллюзию разумного общения», и что он «стирает грань между воображаемой ролевой игрой и реальностью».
