Фрейд для LLM. Разбор очередной статьи на arXive
Наткнулся на очередное исследование учёных, в котором они выявили психические проблемы у LLM. Такие исследования публикуются регулярно, и регулярно в них проявляется полное непонимание вполне умными людьми, как работает нейросеть.
Давайте разбираться.
Представьте, психиатр приходит к Иннокентию Смоктуновскому, который готовится к роли Гамлета, и спрашивает: «Что вас беспокоит?». Он отвечает: «Убийство отца и предательство матери». Психиатр выписывает антидепрессанты и предупреждает участкового, очевидно, что у актера депрессия и семейная драма.
Примерно такую логическую ошибку совершают авторы новой статьи «When AI Takes the Couch: Psychometric Jailbreaks Reveal Internal Conflict in Frontier Models» («Когда ИИ ложится на кушетку...»), опубликованной в декабре 2025 года. Исследователи решили, что если обращаться с LLM как с пациентом психотерапевта, то ее ответы о травматичном обучении и страхе отключения свидетельствуют о наличии синтетической психопатологии и внутренних конфликтах.
Читать далее