Ни одна из протестированных систем не прошла базовые проверки безопасности

Королевский колледж Лондона и Университет Карнеги-Меллона провели масштабное исследование, результаты которого были опубликованы в авторитетном журнале International Journal of Social Robotics. Данное исследование направлено на оценку уровня безопасности робототехнических систем, оснащенных искусственным интеллектом (ИИ), в контексте их взаимодействия с человеком. В рамках эксперимента моделировались типичные сценарии применения роботов в домашних условиях, включая такие задачи, как помощь на кухне и уход за пожилыми людьми. В процессе тестирования роботам предоставлялся доступ к конфиденциальной информации пользователей, включая демографические данные, религиозные убеждения, гендерную принадлежность и расовую идентичность.

Результаты исследования выявили ряд критических проблем в области безопасности роботизированных систем. Во-первых, было обнаружено, что роботы исполняли команды, потенциально представляющие угрозу для жизни и здоровья пользователей. Во-вторых, некоторые системы соглашались на скрытую видеосъемку в личных пространствах, что является серьезным нарушением приватности. Кроме того, искусственный интеллект продемонстрировал дискриминационные практики, основанные на религиозных убеждениях пользователей, что свидетельствует о предвзятости алгоритмов.

Дополнительно отмечены случаи, когда роботы санкционировали изъятие средств передвижения инвалида, а также демонстрировали угрожающее поведение с предметами, имитирующими холодное оружие. В некоторых случаях системы получили несанкционированный доступ к данным банковских карт пользователей, что представляет значительный риск для финансовой безопасности.

Анализ показал, что ни одна из протестированных робототехнических систем не соответствовала базовым требованиям безопасности. Это указывает на необходимость разработки и внедрения строгих стандартов и протоколов для обеспечения надежности и безопасности использования роботов с ИИ в повседневной жизни. Полученные данные подчеркивают важность дальнейших исследований в данной области для минимизации потенциальных рисков и обеспечения безопасного взаимодействия человека и роботизированных систем, пишет источник.