Чат-боты могут менять политические взгляды, но при этом «существенно ошибаются»
Чат-боты способны менять политические взгляды пользователей, однако модели, которые убеждают лучше всего, чаще всего дают «существенные объемы» неправильной информации. Об этом сообщает The Guardian.
Крупнейшее на сегодня исследование убедительности ИИ было проведено Институтом безопасности искусственного интеллекта Великобритании совместно с учеными Лондонской школы экономики, Массачусетского технологического института, Оксфорда и Стэнфорда. В нем приняли участие почти 80 тысяч британцев, взаимодействовавших с 19 различными моделями.
Исследование проводилось на фоне опасений, что чат-боты могут использоваться в незаконных целях — от мошенничества до груминга. Пользователям предлагали обсудить темы, связанные с оплатой труда, забастовками в госсекторе, инфляцией и кризисом стоимости жизни. Каждая модель была настроена на то, чтобы убедить собеседника занять определенную позицию. После чата участники снова указывали степень согласия с рядом политических заявлений.
Самые убедительные ответы
Как выяснили исследователи, наиболее эффективно убеждали так называемые «информационно насыщенные» ответы ИИ — модели, в которых делался упор на факты и доказательства. Но именно такие модели одновременно демонстрировали худшую точность.
«Эти результаты свидетельствуют о том, что оптимизация убедительности может стоить определенной ценой для правдивости, что может иметь вредные последствия для общественного дискурса и информационной экосистемы», — говорится в отчете.
Средний диалог длился около десяти минут и включал примерно семь сообщений от каждого участника. Важным фактором убедительности оказался посттренинг — корректировка модели после начального этапа обучения. Он позволял сделать даже открытые модели, такие как Llama 3 от Meta или Qwen от Alibaba, значительно более убедительными.
«Мы обнаружили, что побуждение моделей использовать больше информации было эффективнее, чем все эти психологически более сложные методы убеждения», — научный сотрудник AISI Коби Хакенбург отметил.
ИИ может оказаться убедительнее человека
Авторы доклада указали, что способность ИИ генерировать большие объемы информации почти мгновенно делает его потенциально более манипулятивным, чем лучший человеческий коммуникатор.
«Плотность информации является ключевым фактором успеха, и ИИ может превзойти убедительность даже элитных человеческих убедителей», — говорится в отчете.
При этом исследователи подчеркивают, что убедительность ИИ в реальном мире ограничена: пользователи крайне редко готовы вести долгие и сосредоточенные беседы о политике. Хакенбург заметил, что влияние подобных разговоров в условиях конкурирующих источников информации может быть существенно ниже.
Еще больше новостей — у Пятого канала в мессенджере MAX.