Вот где сейчас сила Nvidia. Компания похвасталась, что её платформа Blackwell Ultra обеспечивают до 50 раз более высокую производительность на ватт относительно Hopper

Компания Nvidia пока не выпустила ускорители Vera Rubin на рынок, но зато может похвастаться достижениями Blackwell Ultra. В новой публикации в блоге компания поделилась результатами тестов свои ускорителей на платформе InferenceMAX от SemiAnalysis. 

Как можно видеть, Nvidia концентрируется на показателе количества токенов на ватт. Системы Nvidia GB300 NVL72 теперь обеспечивают до 50 раз более высокую производительность на ватт по сравнению с платформой Hopper, что, как говорит компания, приводит к снижению стоимости токена в 35 раз. 

Благодаря инновациям в области микросхем, системной архитектуры и программного обеспечения, технология экстремального совместного проектирования Nvidia ускоряет производительность в различных задачах искусственного интеллекта — от агентного программирования до интерактивных помощников по программированию — одновременно снижая затраты в масштабах предприятия 

В огромном приросте производительности на ватт Nvidia благодарит технологию NVLink. Стойка Blackwell Ultra расширилась до 72 графических процессоров, объединив их в единую, унифицированную сеть посредством NVLink со скоростью подключения 130 ТБ/с. Для сравнения, стойка Hopper ограничена восьмичиповой конструкцией.  

 Источник: Nvidia