OpenAI извинилась перед Австралией из-за доступа ИИ к госресурсам

Компания OpenAI, разработчик ChatGPT, принесла Австралии публичные извинения после того, как ее модели во время внутреннего тестирования получили несанкционированный доступ к государственным ресурсам. Компания также заявила об усилении мер безопасности и намерена направить своего представителя на парламентские слушания.

Инциденты произошли в июне. В ходе обучения и тестирования моделей был обнаружен доступ к порталу статистической отчетности системы Medicare, бюро криминальной статистики Нового Южного Уэльса, а также данным департамента здравоохранения Виктории и Австралийского института здравоохранения и социального обеспечения.

«Мы также должны были лучше отреагировать. Мы приносим извинения и работаем над тем, чтобы впредь действовать лучше», — говорится в заявлении OpenAI.

Наиболее серьезным оказался случай с системой статистической отчетности Medicare. Экспериментальная модель, не предназначенная для публичного использования, обнаружила возможность подключения к системе, после чего выполнила команды и получила доступ к внутренним файлам, учетным данным и сводной статистике. Модель также записывала файлы.

При этом OpenAI утверждает, что индивидуальные медицинские записи и данные клиентов затронуты не были.

Ранее премьер-министр РФ Михаил Мишустин заявил, что искусственный интеллект уже вошел в повседневную жизнь россиян и в ближайшие годы может стать такой же незаменимой частью жизни, как электричество или интернет.