Эксперт назвал главные ошибки в кибербезопасности при внедрении ИИ

Более половины кибератак начинаются с фишинга.

Даже при наличии передовых систем защиты решающим фактором остается человеческий: сотрудник открывает вредоносное письмо, и заражение происходит внутри корпоративного периметра. О том, как избежать угроз и защитить корпоративные данные, рассказал 5 ноября «Известиям» заместитель директора департамента металлургии и материалов Сергей Грачев.

«63% компаний не проводят оценку безопасности новых технологий до их внедрения — в том числе это касается ИИ-агентов и других цифровых решений, которые всё активнее входят в корпоративные процессы. Формирование этики и культуры кибербезопасности включает несколько базовых элементов: лидерство и вовлеченность руководства, системное обучение сотрудников, формирование ответственности на всех уровнях и интеграцию киберзащиты в каждый бизнес-процесс», — сказал эксперт.

Грачев также выделил растущие риски, связанные с использованием искусственного интеллекта. По его словам, более 60% компаний уже применяют ИИ, но 77% из них не соблюдают базовые требования безопасности. Эксперт предостерег, что многие организации внедряют ИИ-модели, не учитывая источники данных и возможные уязвимости.

«К типичным угрозам относятся утечки конфиденциальных данных, “галлюцинации” моделей (генерация ложных ответов), искажение прогнозов, ошибки в управлении оборудованием и производственными процессами. Особенно это критично для отраслей с высокой степенью автоматизации — нефтегаза, энергетики, логистики. Главный вывод: внедрение инноваций без учета киберрисков — это прямой путь к потерям и репутационным рискам. Безопасность должна быть не “дополнением”, а неотъемлемой частью цифровой трансформации компании», — заявил специалист.