ИИ-гиганты провалили проверку на безопасность

Отчёт экспертов по ИИ западной компании Future of Life Institute (FLI) показывает, что меры обеспечения безопасности ведущих отраслевых компаний, таких как OpenAI, Anthropic, xAI и Meta*, «далеки от новых мировых стандартов». ИИ-эксперт Станислав Ежов рассказал о рисках и их минимизации при внедрении ИИ в бизнес-процессы.

Независимые эксперты пришли к выводу, что хотя IT-гиганты и соревнуются в разработке «суперинтеллекта», ни один из них не имеет продуманной стратегии контроля таких передовых систем.

В докладе говорится, что именно экзистенциальная безопасность — готовность компаний к экстремальным рискам в будущем, связанным с ИИ-системами, по своим возможностям равными человеку или превосходящими его, в частности к риску потери контроля над такими системами,— является главной структурной слабостью отрасли.

«Отчет FLI подтверждает то, что происходит в реальности — крупные ИИ-компании гонятся за производительностью, забыв про управление рисками. Важно понимать, что для бизнеса такой подход несёт проблемы безопасности, так как уязвимости чужих моделей приобретаются вместе с самими моделями. Внедрение ИИ в бизнес-процессы сегодня актуальная повестка. Мы в «Группе Астра» видим это и уже сейчас можно отметить рост объема нашей помощи компаниям при именно безопасном внедрении ИИ. Это хорошая динамика, говорящая, что бизнес начинает трепетнее относиться к киберрискам. LLMOps/MLOps в собственном периметре, прозрачность всех операций, соответствие требованиям безопасности, которые обеспечивает наш Тессеракт позволяют бизнесу значительно минимизировать, если не исключить вовсе проблему безопасности», — говорит Станислав Ежов, директор по ИИ «Группы Астра».

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.