Эксперт Дмитриев предупредил о росте киберугроз из-за ИИ-агентов
Интеллектуальные агенты, встроенные в программное обеспечение и работающие от лица пользователей, становятся новой серьёзной угрозой для бизнеса, о чём в беседе с RT рассказал эксперт Иван Дмитриев. По его словам, такие системы могут быть использованы киберпреступниками в качестве мощного инструмента.
Дмитриев уточнил, что сами по себе ИИ-агенты не обладают собственными стремлениями или выгодой, поскольку их действия полностью определяются целями, алгоритмами и правилами, заложенными разработчиками. Тем не менее эксперт указал, что уже сегодня подобные решения способны изменять содержание электронных документов до их подписания, создавать риск появления поддельных подписей и показывать результаты, превосходящие навыки участников соревнований белых хакеров. Всё это расширяет возможности злоумышленников при совершении кибератак.
Он отметил, что по мере развития технологий преступники получают доступ к инструментам, которые ранее были доступны только крупным структурам. Дмитриев также подчеркнул, что привычные методы защиты электронной почты и мессенджеров теперь могут рассматриваться лишь как базовый уровень цифровой гигиены.
Эксперт заявил, что ключевая угроза сосредоточена вокруг новых способов взаимодействия пользователей с приложениями, в частности — вокруг ИИ-агентов, встроенных в системы и выполняющих действия от имени человека. В таких условиях, по мнению Дмитриева, бизнесу необходим комплексный подход к информационной безопасности.
Он пояснил, что фундамент защиты должен включать автоматизированные решения на базе искусственного интеллекта, способные противостоять новым видам угроз, а также участие специалистов, контролирующих корректность алгоритмов, создаваемых ИИ. По словам эксперта, обеспечение информационной безопасности становится одной из главных задач цифровой эпохи, особенно для организаций, работающих с большим объёмом конфиденциальных данных и критически важных документов.
Ранее заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев назвал самые распространённые схемы обмана со смартфонами.