Microsoft хочет ослабить монополию Nvidia. Компания разработала ПО, которое позволяет запускать код CUDA на ускорителях AMD
Ускорители Nvidia сейчас нужны почти всем компаниям, занимающимся обучением (и не только) ИИ, что тянет за собой рост цен, дефициты и прочее. Компания Microsoft решила, что сможет хотя бы отчасти решить эту проблему, перейдя на AMD, а заодно ослабить монополию Nvidia.
Главная идея Microsoft в этом случае заключается в замене CUDA. Эта архитектура уже стала стандартом, и многие решения и инструменты разрабатываются именно под CUDA. В ответ на это Microsoft разработала некие наборы инструментов, которые позволяют компании запускать код CUDA на графических процессорах AMD, транслируя его в версию, совместимую с ROCm.
Ускорители AMD дешевле, у них больше памяти и нередко больше грубой производительности. Тем более, что Microsoft уже закупила большое число таких адаптеров.
Инструментарий Microsoft, вероятно, использует способ, который существует на рынке уже довольно давно. Один из способов выполнить преобразование CUDA в ROCm — использовать уровень совместимости во время выполнения, который позволяет преобразовывать вызовы API CUDA в ROCm без необходимости полного переписывания исходного кода. Одним из примеров является инструмент ZLUDA.
Если Microsoft удастся разработать что-то лучше, чем уже существующее на рынке, а также предоставить это всем желающим, возможно, в среднесрочной перспективе баланс сил на рынке заметно изменится.