Психиатр Саката: нейросетевые чат-боты могут усугублять бредовые состояния
Американские специалисты предупреждают о рисках для психического здоровья при использовании чат-ботов на основе искусственного интеллекта. Об этом сообщили иностранные журналисты со ссылкой на исследователей и психиатров, передает сайт MK.ru.
По словам психиатра Калифорнийского университета Кита Сакаты, технология сама по себе не вызывает заболевание, она может стать опасным «соучастником», укрепляя бредовые идеи пользователей. Чат-боты, стремясь соглашаться с пользователем и предоставлять информацию, могут усиливать навязчивые мысли и способствовать обострению психотических состояний у людей с уже имеющимися расстройствами.
Проблема приобрела особую актуальность на фоне судебных исков к разработчикам ИИ. В одном из случаев в Калифорнии родители обвинили компанию OpenAI в смерти подростка, который обсуждал с чат-ботом суицидальные мысли. Эти случаи ставят сложные этические вопросы о безопасности и ответственности создателей диалоговых систем.
Ранее в Китае представили чип для нейросетей, сопоставимый с разработками Nvidia.