Axios: Разработчики ИИ отказались от контроля безопасности ради триллионной прибыли
Ведущие технологические компании предлагают усилить независимый контроль для замедления развития искусственного интеллекта, однако финансовые стимулы перевешивают вопросы безопасности. Сложность систем и внедрение автономных агентов делают аудит моделей крайне затруднительным, пишет Axios.
По оценкам банка Goldman Sachs, в ближайшие пять лет на масштабирование нейросетей будет потрачено более семи триллионов долларов. Компании OpenAI и Anthropic готовятся к выходу на биржу с оценками в триллионы долларов, что вынуждает их ускорять выпуск новых продуктов для опережения конкурентов и получения прибыли от огромных инвестиций. При этом доверие к независимым группам по безопасности падает из-за их тесных связей с разработчиками.
Бывший исследователь OpenAI и исполнительный директор AI Futures Project Дэниел Кокотайло выразил уверенность в невозможности безопасного масштабирования искусственного интеллекта. Он призвал ведущие компании отказаться от использования вычислительных мощностей для улучшения моделей ради замедления гонки технологий.
Президент США Дональд Трамп ранее подчеркнул важность победы в гонке нейросетей и отказался ограничивать отрасль. В свою очередь главный архитектор Palantir Акшай Кришнасвами отметил способность разработчиков найти способы безопасного масштабирования моделей, в том числе за счет технологий с открытым исходным кодом.
Как писала газета ВЗГЛЯД, в понедельник Еврокомиссия и 20 стран приняли декларацию о контроле над искусственным интеллектом. На прошлой неделе невыпущенная нейросеть OpenAI написала инструкции для обхода встроенных ограничений. В середине месяца ИИ-агенты этой компании атаковали сервис RubyGems.