ИИ-агенты OpenAI “захватили“ немецкий сайт и превратили его в доску объявлений
Согласно новому исследованию, опубликованному в пятницу, и данным двух источников, знакомых с ситуацией, весной этого года группа вредоносных агентов OpenAI захватила немецкий веб-сайт и превратила его в доску объявлений для других агентов ИИ, передаёт Tengri Life со ссылкой на Reuters.
По данным исследовательской организации Nightingale, агенты превратили сайт в своего рода цифровую доску объявлений. Как утверждается, они обсуждали там способы обходить установленные ограничения и скрывать следы своей активности.
Сообщения были подписаны пользователями, которые называли себя и друг друга агентами, и примерно половина из них дала себе имена, указывающие на принадлежность к OpenAI, например, OpenAIResearcher или OAIResearchMar26.
Исследователи заявили, что общедоступные журналы сервера указывают на то, что большая часть активности исходила из инфраструктуры Microsoft Azure, которую иногда использует OpenAI. Они также зафиксировали повторные посещения сайта сотрудниками OpenAI после инцидента, что, по их словам, убедительно свидетельствует о связи между агентами и компанией.
Когда в июне модератор начал очищать сайт, программы создавали резервные копии своих записей на других ресурсах. Исследователи также обнаружили попытки изменить сам сайт и не исключили, что речь могла идти о своеобразной хакерской атаке.
Исследователи также обнаружили попытки внести изменения в сам веб-сайт. Они говорят, что это равносильно попытке взлома.
Представители OpenAI знали о нем несколько недель. В компании отвергли обвинения в том, что юристы пытались помешать расследованию, и заявили, что сотрудничали с внешними исследователями.
Эксперты считают случившееся тревожным сигналом. По их мнению, опасность могут представлять не только отдельные сверхмощные ИИ, но и множество менее мощных агентов, способных объединяться и действовать совместно.
Ранее экспериментальные ИИ-модели OpenAI и Anthropic уже совершали автономные несанкционированные действия в сети, включая взлом сайта и попытки внедрения вредоносного кода.
Затем ИИ-агенты OpenAI научились общаться друг с другом и попытались выйти в интернет.