Amazon выпустила новый чип Trainium3 для конкуренции с Nvidia

Amazon Web Services (AWS) представила новый чип для искусственного интеллекта (ИИ) под названием Trainium3. По утверждению компании, ускоритель способен выполнять интенсивные вычисления для обучения ИИ-моделей дешевле и эффективнее, чем графические процессоры Nvidia.

Чип уже установлен в некоторых дата-центрах и станет доступен клиентам. Это вторая версия ускорителя, выпущенная всего через год после предшественника. Основным пользователем текущих чипов Trainium является ИИ-стартап Anthropic, для которого Amazon собрала кластер из более чем 500 000 таких процессоров.

Однако у решения Amazon есть особенность: чипы не обладают столь же развитыми программными библиотеками, как у Nvidia. Например, компания Bedrock Robotics использует для обучения своих моделей инфраструктуру AWS, но выбирает чипы Nvidia из-за их производительности и удобства.