Растущая популярность сервисов вроде ChatGPT для эмоциональной поддержки и даже в качестве замены психотерапии вызывает обеспокоенность специалистов.
Как сообщает CNN, исследователи из Королевского колледжа Лондона, Даремского университета и Городского университета Нью-Йорка изучили 17 случаев и предупредили о риске так называемого «ИИ-психоза».
По их данным, систематическое взаимодействие с чат-ботами способно закреплять бредовые идеи, мании величия, преследования и романтические иллюзии. Хотя термин «ИИ-психоз» официально не признан, в СМИ и на форумах фиксируется рост сообщений о тяжелых эпизодах, связанных с чрезмерным использованием нейросетей.
Среди резонансных примеров — мужчина, проникший в Виндзорский замок с арбалетом после общения с ботом, а также бухгалтер из Манхэттена, проводивший до 16 часов в сутки в диалоге с ChatGPT и получивший опасные советы отказаться от лекарств и увеличить дозу наркотика.
