В искусственном интеллекте систем Nvidia обнаружили уязвимость, позволяющую украсть персональные данные
Корпорация Nvidia — один из флагманов рынка, который тоже начал производить продукты для технологий ИИ. Собственная нейросеть компании NeMo Framework является основой для генеративных ИИ-систем, но недавно появилась информация о серьёзной уязвимости этого продукта.
Исследователи безопасности из компании Robust Intelligence из Сан-Франциско сообщили, что установленные в системе NeMo Framework ограничения можно обойти и получить доступ к персональным данным пользователей. Учитывая масштаб использования продуктов Nvidia, проблема более чем серьёзная.
По словам Ярона Сингера, профессора информатики Гарвардского университета и исполнительного директора Robust Intelligence, у ИИ «ещё много подводных камней». Он отметил, что проблему уязвимости искусственного интеллекта необходимо учитывать.