Опять грядёт дефицит графических процессоров NVIDIA. На этот раз из-за ChatGPT
Графические процессоры NVIDIA могут столкнуться с нехваткой из-за увеличения спроса со стороны компаний, использующих ChatGPT и другие инструменты генерации на базе искусственного интеллекта.
Дело в том, что именно процессоры NVIDIA хорошо подходят для обучения моделей искусственного интеллекта. Поэтому крупные технологические компании, использующие ChatGPT, применяют графические процессоры NVIDIA для удовлетворения своих растущих требований. Похоже, что мастерство производителя GPU в этой области может привести к нехватке чипов в ближайшие месяцы.
Так, Microsoft и Google уже планируют интегрировать модели, подобные ChatGPT, в свои поисковые системы. Для этого Google потребуется 512 820 серверов A100 HGX с общим количеством 4 102 568 графических процессоров A100.