MLPerf Training 3.0 – новые результаты, в том числе H100
ML Commons представила новые результаты тестов MLPerf Training. С переходом на версию 3.0 были добавлены новые тесты LLM. Тесты Tiny, которые важны для сегмента пограничных вычислений (Edge) и экономичного инференса, были обновлены.
Результаты тестов доступны для оценки напрямую на ML Commons ( MLPerf Training 3.0 и MLPerf Tiny 1.1 ).
Но нам больше интересны подробности, которые можно извлечь из результатов тестов и системной информации. Например, ML Commons показывает прирост производительности в отдельных тестах, что позволяет сделать выводы о хорошей масштабируемости на системах разных производителей, причем рост получился даже быстрее закона Мура. С другой стороны, есть сравнительно плоские кривые результатов, где рост уже не такой заметный.
{nozuna nzgallery}fc535ae1-14ef-11ee-88a5-000c29322405{/nozuna nzgallery}Интересны новые результаты тренировки, которые включают новые тесты LLM (большой языковой модели). В том числе массив C4 от HuggingFace объемом 305 Гбайт, содержащий около 174 млрд. ...