Хакеры научились обманывать ИИ, заставляя его выдавать номера мошенников вместо настоящей техподдержки
Исследователи Aurascape предупредили о новой схеме, в которой хакеры заставляют ИИ-сервисы вроде Perplexity и Google AI Overview выдавать мошеннические номера техподдержки.
Уязвимость не связана с джейлбрейками моделей — атакуют не сам ИИ, а источники, из которых он собирает ответы.
Злоумышленники взламывают авторитетные сайты — университетские, государственные, крупные WordPress-порталы — и загружают туда PDF и текст с якобы «официальными» номерами.
Параллельно они используют YouTube и Yelp, оставляя комментарии ботов с теми же телефонами. Благодаря высокой репутации площадок, такие страницы попадают в индекс и выглядят для алгоритмов достоверными.
Когда пользователь спрашивает, например, номер Emirates или British Airways, ИИ объединяет найденные фрагменты в единый ответ — и уверенно выдает мошеннический контакт как настоящий.
Эксперты называют это новым классом атак: преступники учатся работать не с поисковой выдачей, а с генеративными системами, которые формируют один «правильный» ответ.