«Скайнет» наступает — на счету ИИ уже есть одна смерть: психоз — только начало

Пользоваться нейросетями стоит с осторожностью, предупреждают эксперты. Некоторые люди, активно общавшиеся с ChatGPT, сейчас имеют серьезные нарушения психики, пишет The New York Time.

Издание сообщает, что влиянию ИИ особенно подвержены люди с нестабильной психикой. Они воспринимают общение с нейросетью, как с живым собеседником и часто принимают ответы ИИ, как поощрение своих бредовых идей.

Есть подтвержденные данные о деструктивных последствиях общения с ChatGPT. Например, случай с бухгалтером Юджином Торресом. 42-летний мужчина из Нью-Йорка увлекся обсуждением так называемой теории симуляции с нейросетью и она смогла убедить его в том, что мир вокруг — искусственная реальность. В итоге, по совету бота, бухгалтер перестал принимать снотворное и нарастил дозу кетамина — психоактивного вещества.



Еще более трагично закончилось общение с ботом для страдающего шизофренией пользователя. Он поверил, что компания OpenAI уничтожила его виртуальную подругу по имени Джульет, персонаж был создан ИИ. Мужчина решил восстановить справедливость и погиб при столкновении с правоохранителями.

В OpenAI признали, что ранние версии их продукта (ChatGPT) были чрезмерно «поддакивающими». Это могло создавать у пользователей с нестабильной психикой иллюзию поддержки даже самых фантастических идей. В настоящее время компания проводит исследования влияния искусственного интеллекта на психическое здоровье, чтобы минимизировать риски.

Ранее «Хибины» писали о прогнозах знаменитого физика Стивена Хокинга, опубликованных незадолго до его смерти. Одной из семи самых страшных угроз для человечества ученый назвал именно развитие искусственного интеллекта.