Мы в Telegram
Добавить новость

Новости сегодня на DirectAdvert

Новости сегодня от Adwile

Nvidia ускорила работу ИИ на видеокартах GeForce RTX в три раза

Nvidia увеличила ИИ-производительность видеокарт GeForce RTX и платформ RTX AI PC с выпуском драйвера GeForce Game Ready 555.85 WHQL.

The post Nvidia ускорила работу ИИ на видеокартах GeForce RTX в три раза appeared first on Хайтек.

На конференции Microsoft Build Nvidia представила новые оптимизации для алгоритмов искусственного интеллекта, доступные в экосистеме RTX, включая графические процессоры GeForce RTX, рабочие станции и ПК.

Представители компании заявили, что последние оптимизации ускоряют работу больших языковых моделей, применяемых в генеративном ИИ. Драйвер версии 555 обеспечивает трехкратное повышение ИИ-производительности видеокарт GeForce RTX и платформ RTX AI PC при работе с фреймворками ONNX Runtime и DirectML, которые запускают ИИ-модели в операционной системе Windows. Кроме того, драйвер увеличивает производительность WebNN для DirectML, используемого веб-разработчиками для внедрения новых ИИ-моделей.

Сейчас Nvidia активно сотрудничает с Microsoft для дальнейшего улучшения производительности графических процессоров RTX и поддержки DirectML в PyTorch.

Новый драйвер Nvidia R555 для графических процессоров GeForce RTX и ПК с RTX включает поддержку метакоманды DQ-GEMM для обработки квантования INT4 только по весу для LLM, новые методы нормализации RMSNorm для моделей Llama 2, Llama 3, Mistral и Phi-3, механизмы группового и многозапросного внимания, а также внимания скользящего окна для поддержки Mistral, обновления KV для улучшения внимания и поддержку GEMM-тензоров, не кратных 8, для улучшения производительности контекстной фазы.

В тестах производительности ORT и генеративного расширения искусственного интеллекта от Microsoft новый драйвер Nvidia показывает прирост производительности для данных типов INT4 и FP16. Благодаря добавленным методам оптимизации, производительность больших языковых моделей Phi-3, Llama 3, Gemma и Mistral увеличивается до трех раз.

Nvidia утверждает, что ее GPU обеспечивают ИИ-производительность до 1300 TOPS, что значительно превышает возможности конкурентных решений.

Читать далее:

Спутниковые наблюдения подсказали, как египтяне могли построить пирамиды

Ледник «Судного дня» оказался более уязвимым, чем считали ученые

Посмотрите на фото Камчатки из космоса

Обложка: Сведения о лицензии

The post Nvidia ускорила работу ИИ на видеокартах GeForce RTX в три раза appeared first on Хайтек.

Читайте на 123ru.net

Другие проекты от 123ru.net



Архангельск

Более 39 млн рублей направлено на летний отдых и оздоровление детей-сирот в Архангельской области



Мода

Smena SS-2024




Українські новини

Монтаж димоходів та вентиляційних систем у Києві



Новости 24 часа

Автопробег в честь Дня России прошел в Ленинском округе



Game News

Age of Sail: Navy & Pirates 1.0.1.13



Москва

Владимир Путин, Дмитрий Медведев, Анатолий Голод: ПРИЗНАНИЕ НАТО НАДО ПРИМЕНЯТЬ!



News Every Day

Max free trial returns just in time for House of the Dragon season 2 this week



Происшествия

В Коми ввели штрафы за «склонение к абортам»



Москва

Охота началась: Лондон ещё не понял, что его ждёт – Путин нашёл, чем ответить на «кузькину мать» США



Элджей

В Новосибирске согласовали репертуар, с которым выступит Элджей на музыкальном фестивале



Москва

Школьники Пензенской области вошли в число призеров международного конкурса «Расскажи миру о своей



Рафаэль Надаль

Дядя Надаля назвал причину поражения Зверева в финале «Ролан Гаррос»



Москва

В Дубне сотрудники Росгвардии помогли утиному семейству перейти оживленную трассу



Сбербанк

Рост объема ипотечного кредитования Волго-Вятского банка Сбербанка в апреле 2024 года составил 27 %



Симферополь

В Нижнегорском районе Крыма проведен рейд по бывшим мигрантам



Москва

Концертный директор для музыкантов. Концертный директор для певцов. Концертное агентство в Москве. Букинг агентство. Организация концертов и гастролей.



Москва

Собянин рассказал о новом вольере для снежных барсов в Московском зоопарке



Москва

Неблагодарный батька или о чем говорил президент Белоруссии с делегацией Азербайджана?



103news.com — быстрее, чем Я..., самые свежие и актуальные новости Вашего города — каждый день, каждый час с ежеминутным обновлением! Мгновенная публикация на языке оригинала, без модерации и без купюр в разделе Пользователи сайта 103news.com.

Как добавить свои новости в наши трансляции? Очень просто. Достаточно отправить заявку на наш электронный адрес mail@29ru.net с указанием адреса Вашей ленты новостей в формате RSS или подать заявку на включение Вашего сайта в наш каталог через форму. После модерации заявки в течении 24 часов Ваша лента новостей начнёт транслироваться в разделе Вашего города. Все новости в нашей ленте новостей отсортированы поминутно по времени публикации, которое указано напротив каждой новости справа также как и прямая ссылка на источник информации. Если у Вас есть интересные фото Вашего города или других населённых пунктов Вашего региона мы также готовы опубликовать их в разделе Вашего города в нашем каталоге региональных сайтов, который на сегодняшний день является самым большим региональным ресурсом, охватывающим все города не только России и Украины, но ещё и Белоруссии и Абхазии. Прислать фото можно здесь. Оперативно разместить свою новость в Вашем городе можно самостоятельно через форму.

Другие популярные новости дня сегодня


Новости 24/7 Все города России





Топ 10 новостей последнего часа




Новости России

В Дубне сотрудники Росгвардии помогли утиному семейству перейти оживленную трассу

Владимир Путин, Дмитрий Медведев, Анатолий Голод: ПРИЗНАНИЕ НАТО НАДО ПРИМЕНЯТЬ!

СК: Более десяти человек отравились в Москве заказанными через доставку продуктами

Найден материал на господина Шойгу? Ждем следующих генералов "на выход"


Москва

Концертный директор для музыкантов. Концертный директор для певцов. Концертное агентство в Москве. Букинг агентство. Организация концертов и гастролей.






Rss.plus

Филиал № 4 ОСФР по Москве и Московской области информирует: Свыше 5,2 миллиона жителей Московского региона получают набор социальных услуг в натуральном виде

Автопробег в честь Дня России прошел в Ленинском округе

Владимир Путин, Дмитрий Медведев, Анатолий Голод: ПРИЗНАНИЕ НАТО НАДО ПРИМЕНЯТЬ!

В Дубне сотрудники Росгвардии помогли утиному семейству перейти оживленную трассу

Moscow.media
Москва

Собянин утвердил проект строительства общественно-делового центра в ЗАО



103news.comмеждународная интерактивная информационная сеть (ежеминутные новости с ежедневным интелектуальным архивом). Только у нас — все главные новости дня без политической цензуры. "103 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. 103news.com — облегчённая версия старейшего обозревателя новостей 123ru.net.

Мы не навязываем Вам своё видение, мы даём Вам объективный срез событий дня без цензуры и без купюр. Новости, какие они есть — онлайн (с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии).

103news.com — живые новости в прямом эфире!

В любую минуту Вы можете добавить свою новость мгновенно — здесь.

Музыкальные новости

Коммерсантъ

Биометрии расширяют границы // Подтвердить персональные данные станет проще




Спорт в России и мире

Алексей Смирнов – актер, которого, надеюсь, еще не забыли

Баскетболисты пойдут кругами // Единая лига ВТБ пересмотрела формат проведения чемпионата

Резидент «Инсайт Люди» Дмитрий Зубов 12 июня установил мировой рекорд по чеканке мяча в «Лахта Центре»

В Москве выставили на продажу редкий Mercedes-Benz SLR McLaren за 100 млн рублей


Андрей Рублёв

Рублёв пропустит Олимпийские игры в Париже



Новости Крыма на Sevpoisk.ru


Москва

Резидент «Инсайт Люди» Дмитрий Зубов 12 июня установил мировой рекорд по чеканке мяча в «Лахта Центре»



Частные объявления в Вашем городе, в Вашем регионе и в России