Может ли чат-бот на искусственном интеллекте «придумывать» мошеннические схемы или использоваться в них
Руководитель департамента информационной безопасности ИМБА ИТ Андрей Прозоровский рассказал об опасности современных технологий, на основании которых работают чат-боты.
По словам эксперта, часто пользователей чат-ботов, которых всё больше становится и в России, разработчики привлекают бесплатным функционалом. Но в этом как раз и заключается опасность: такие программы нередко таят в себе вредоносные ссылки или спам, навязчивую и бесполезную рекламу.
Кроме того, чат-боты могут использоваться в мошеннических схемах, а недавнее исследование специалистов из OpenAI’s Alignment Research Center (ARC) показало, что чат-бот и сам может придумывать различные ходы для обмана человека.
Цель у мошенников, как правило, одна — кража и последующая компрометация данных пользователя. Чтобы этого не допустить, следует передавать даже незначительные по своей ценности данные по закрытым каналам связи.
Также Прозоровский перечислил базовые правила цифровой гигиены для безопасного взаимодействия с чат-ботом:
- Перед скачиваем чат-бота на компьютер необходимо убедиться в легитимности источника;
- необходимо убедиться, что разработчик сервиса является проверенным, а бот не запрашивает у пользователя избыточных разрешений или персональных данных.