FT: ИИ помогает хакерам проникать в компании под видом настоящих сотрудников
С развитием ИИ компании, которые ранее в основном защищались от традиционных внутренних атак, теперь сталкиваются с более сложными сценариями — от фейковых сотрудников до утечек данных через ИИ-сервисы. Об этом сообщает Financial Times.
Одним из наиболее показательных примеров стала деятельность северокорейской хакерской группировки, раскрытая в прошлом году. Злоумышленники смогли проникнуть более чем в 100 американских компаний, выдавая себя за десятки реальных граждан США, чьи персональные данные были похищены.
Для реализации схемы хакеры использовали так называемые "фермы ноутбуков" — устройства, размещенные на территории США и создававшие впечатление, что удаленные сотрудники действительно находятся внутри страны. При этом компьютеры фактически управлялись из-за рубежа. По итогам расследования правоохранительные органы задержали восемь граждан США, которые помогали организаторам схемы. Общий доход от деятельности хакеров превысил $5 млн.
По данным оператора связи Verizon, около 12% из 22 тыс. зарегистрированных в мире киберинцидентов в текущем году были связаны с атаками изнутри компаний. Эксперты отмечают, что подобные угрозы традиционно считаются одними из самых опасных, поскольку внутренний нарушитель имеет доступ к корпоративным системам и лучше понимает их слабые места.
Генеративный ИИ дополнительно усложняет ситуацию, позволяя создавать цифровых персонажей, которые могут имитировать настоящих сотрудников с помощью фейковых изображений, голоса и видеотрансляций. В результате компании начали пересматривать процессы найма, привлекая специалистов по информационной безопасности уже на этапе проверки кандидатов.
Эксперты считают, что выявлять подобные попытки мошенничества можно с помощью простых методов. Например, во время онлайн-собеседования кандидата можно попросить выполнить естественные движения: повернуть голову или поднять руку. Такие действия позволяют обнаружить многие виды дипфейков.
Дополнительный риск связан с ошибками самих сотрудников. По данным Fortinet, около 62% инцидентов информационной безопасности в прошлом году произошли из-за человеческого фактора или утечки учетных данных. Для бизнеса наиболее серьезные атаки могут оборачиваться потерями от $1 млн до $10 млн.
Отдельной проблемой становится так называемое "теневое использование ИИ", когда сотрудники самостоятельно загружают рабочие документы и конфиденциальную информацию в публичные чат-боты. Представители Google предупреждают, что такие данные потенциально могут попасть к третьим лицам.
С развитием ИИ-агентов, способных выполнять задачи вместо сотрудников, риски становятся еще выше. Такие системы могут получить доступ к корпоративным ресурсам и при недостаточной защите использоваться злоумышленниками для проведения атак.
В ответ компании начинают внедрять новые инструменты контроля за использованием ИИ и защиты конфиденциальных данных. Однако перед бизнесом возникает сложная задача: обеспечить безопасность инфраструктуры, не превращая рабочую среду в систему тотального контроля.