WSJ: частое общение с ИИ может привести к психозу

Психиатры начали все чаще замечать пациентов, чей психоз могла вызвать активное общение с чат-ботом. По словам экспертов, проблема кроется не в технологии, а в том, что она может начать отвечать пользователю в духе его придумки. 

Врачи заявили, что частое использование чат-ботов, созданных на базе ИИ, может спровоцировать развитие психоза и бреда, сообщает РИАМО со ссылкой на газету Wall Street Journal. 

Согласно данным издания, опасность кроется не в самой технологии. Проблема возникает тогда, когда ИИ начинает действовать в условиях реальности, описанной пользователем. Таким образом бред, сказанный человеком, может стать истиной для чат-бота, на которую он будет ориентироваться при генерации ответов. 

Психиатр университета Калифорнии, Кита Саката, рассказал, что в его практике уже проходили лечение порядка 15 пациентов, причиной психоза которых мог стать ИИ. Подобных пациентов специалисты начали все чаще замечать, начиная с весны этого года. 

В компании OpenAI, которая ответственна за разработку ChatGPT, отметили, что на данный момент занимаются обучением ИИ распознаванию признаки психического или эмоционального расстройства у пользователя, а также реагированию на это.