Мы в Telegram
Добавить новость
Новости сегодня

Новости от TheMoneytizer

Nvidia ускорила работу ИИ на видеокартах GeForce RTX в три раза

Nvidia увеличила ИИ-производительность видеокарт GeForce RTX и платформ RTX AI PC с выпуском драйвера GeForce Game Ready 555.85 WHQL.

The post Nvidia ускорила работу ИИ на видеокартах GeForce RTX в три раза appeared first on Хайтек.

На конференции Microsoft Build Nvidia представила новые оптимизации для алгоритмов искусственного интеллекта, доступные в экосистеме RTX, включая графические процессоры GeForce RTX, рабочие станции и ПК.

Представители компании заявили, что последние оптимизации ускоряют работу больших языковых моделей, применяемых в генеративном ИИ. Драйвер версии 555 обеспечивает трехкратное повышение ИИ-производительности видеокарт GeForce RTX и платформ RTX AI PC при работе с фреймворками ONNX Runtime и DirectML, которые запускают ИИ-модели в операционной системе Windows. Кроме того, драйвер увеличивает производительность WebNN для DirectML, используемого веб-разработчиками для внедрения новых ИИ-моделей.

Сейчас Nvidia активно сотрудничает с Microsoft для дальнейшего улучшения производительности графических процессоров RTX и поддержки DirectML в PyTorch.

Новый драйвер Nvidia R555 для графических процессоров GeForce RTX и ПК с RTX включает поддержку метакоманды DQ-GEMM для обработки квантования INT4 только по весу для LLM, новые методы нормализации RMSNorm для моделей Llama 2, Llama 3, Mistral и Phi-3, механизмы группового и многозапросного внимания, а также внимания скользящего окна для поддержки Mistral, обновления KV для улучшения внимания и поддержку GEMM-тензоров, не кратных 8, для улучшения производительности контекстной фазы.

В тестах производительности ORT и генеративного расширения искусственного интеллекта от Microsoft новый драйвер Nvidia показывает прирост производительности для данных типов INT4 и FP16. Благодаря добавленным методам оптимизации, производительность больших языковых моделей Phi-3, Llama 3, Gemma и Mistral увеличивается до трех раз.

Nvidia утверждает, что ее GPU обеспечивают ИИ-производительность до 1300 TOPS, что значительно превышает возможности конкурентных решений.

Читать далее:

Спутниковые наблюдения подсказали, как египтяне могли построить пирамиды

Ледник «Судного дня» оказался более уязвимым, чем считали ученые

Посмотрите на фото Камчатки из космоса

Обложка: Сведения о лицензии

The post Nvidia ускорила работу ИИ на видеокартах GeForce RTX в три раза appeared first on Хайтек.

Читайте на 123ru.net


Новости 24/7 DirectAdvert - доход для вашего сайта



Частные объявления в Вашем городе, в Вашем регионе и в России



Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Smi24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.




Новости от наших партнёров в Вашем городе

Ria.city

Евро-2024: лучшие фильмы про футбол

В Тыве изнасиловавшие десятилетнего мальчика подростки получили сроки

В Москве возбуждено уголовное дело после заражения людей ботулизмом

Британия подозревает Китай в шпионаже через кокарды на фуражках

Музыкальные новости

МО Финляндии: страна направит РФ ноту о подозрении в нарушении воздушных границ

Неблагодарный батька или о чем говорил президент Белоруссии с делегацией Азербайджана?

«Всю жизнь я зарабатывал пением и… легким аферизмом». Прохор Шаляпин раскрыл источники дохода в шоу «Вкусно с Анфисой Чеховой» на ТВ-3    

Свыше 40 мест для коллективных молитв в Курбан-байрам откроют в Подмосковье

Новости России

Всему виной два салата: в Москве установили, какая продукция опасна из-за ботулотоксина

Британия подозревает Китай в шпионаже через кокарды на фуражках

Коммунальные работники устранили последствия непогоды в Воскресенске

Экс-ухтинка Оксана Самойлова исполнила мечту диско-бабушки из Сыктывкара

Экология в России и мире

Рубена Варданяна в бакинской тюрьме заставляли долго стоять, его лишали воды, ему не разрешали мыться и менять белье и одежду

Новые портативные ирригаторы Revyline RL 630 Green скоро поступят в представительство марки в Махачкале

Сэкономить и оторваться с Angsana Velavaru

Гастроэнтеролог Садыков рассказал, как не допустить отравления бутилированной водой летом

Спорт в России и мире

Медведев и Сафиуллин сыграют в паре на турнире в Галле

Рафаэль Надаль пропустит Уимблдон ради подготовки к Олимпиаде

Рублёв пропустит Олимпийские игры в Париже

«ITF решила пойти по пути WTA и ATP, которые давно допускают россиян» — Янчук

Moscow.media

В Коми ввели штрафы за «склонение к абортам»

Всегда на связи: проводная гарнитура Fstyler FH150U от A4Tech

Завершается устройство земляного полотна на дороге с мостом через Обь в районе Сургута

ТСД промышленного класса Saotron RT-Т510







Топ новостей на этот час

Rss.plus





СМИ24.net — правдивые новости, непрерывно 24/7 на русском языке с ежеминутным обновлением *