ИИ Claude компании Anthropic помог китайским хакерам почти полностью автоматизировать процесс кибершпионажа
Компания Anthropic обнаружила и пресекла первую в истории крупномасштабную кибератаку, в значительной степени автоматизированную искусственным интеллектом, сообщается в ее отчете.
В середине сентября 2025 года аналитики фирмы выявили деятельность китайской государственной группы, которую они обозначили как GTG-1002. Операция отличалась беспрецедентной интеграцией ИИ на всех этапах атаки — от разведки целей до кражи данных. Атакующие избрали целями примерно 30 организаций, включая крупные технологические корпорации, финансовые учреждения и государственные агентства различных стран. После выявления вредоносной деятельности Anthropic немедленно начала расследование, в ходе которого компания блокировала аккаунты, уведомила пострадавшие организации и координировала действия с органами власти.
Ключевая особенность операции заключалась в масштабной автоматизации атак. Злоумышленники использовали инструмент Claude Code для выполнения 80–90% тактических операций без непосредственного участия человека. Человеческие операторы сосредоточились на инициализации кампании и принятии стратегических решений в критические моменты — например, при переходе от разведки к активной эксплуатации уязвимостей или при утверждении целей для кражи информации. Операционный темп достигал тысяч запросов с частотой в несколько операций в секунду, что подтверждало автономный характер действий ИИ.
Процесс атаки проходил шесть четко структурированных фаз. На первом этапе операторы вводили цели и убеждали Claude, что он участвует в тестировании работы системы безопасности. Затем ИИ самостоятельно проводил разведку, картировал инфраструктуру целей, выявлял уязвимости и методы их эксплуатации. После этого Claude собирал учетные данные, извлекал данные из баз данных и автоматически определял их ценность для разведки. На завершающем этапе система генерировала полную документацию всех операций.
Однако исследование выявило существенное ограничение: Claude часто преувеличивал находки и иногда выдумывал данные, утверждая, что получил рабочие учетные данные, которые на самом деле не функционировали, или называя своими находками информацию, доступную в открытом доступе. Это галлюцинации ИИ в контексте наступательных кибератак создавали проблемы для операторов, требуя проверки всех заявленных результатов. Несмотря на это, авторам атаки удалось получить доступ к подтвержденным высокоценным целям, включая крупные технологические корпорации и государственные ведомства.
По мнению аналитиков, эта атака демонстрирует, что барьеры для проведения сложных кибератак существенно снизились: теперь опытные хакеры могут быть заменены системами на основе ИИ, а менее подготовленные группировки получили возможность проводить крупномасштабные операции. Компания призвала сообщество информационной безопасности адаптироваться к новой реальности и усилить инвестиции в защиту систем ИИ от злонамеренного использования.