ИИ-ускорители Intel не так уж плохи? Gaudi 3 показывает производительность на уровне Nvidia H100 и H200

Похоже ИИ-ускорители Intel Gaudi 3 не так уж и плохи. По крайней мере IBM, которая первой взялась использовать эти ускорители в своих системах, говорит именно об этом. 

Тесты показывают, что новейший ускоритель Intel превосходит ускорители Nvidia H100 и H200 на моделях IBM Granite (8B) и Llama-3.1. Правда, параметры были специфичны для каждого тестового прогона, что означает, что в реальных сценариях использования Intel Gaudi 3 может не показывать ту же производительность относительно конкурентов. 

При этом Gaudi 3 доступны в IBM Cloud по более низкой цене по сравнению с аналогами Nvidia, что делает эти решения хорошим вариантом для клиентов, ищущих экономически эффективный вариант вычислений. Насколько в итоге Gaudi 3 будут успешными, пока неясно, но сама Intel считает, что полностью провалила это направление. Она даже отказалась от разработки нового поколения, и что-то совершенно новое выпустит лишь в 2026-2027 году. 

 Источник: WCCF Tech, IBM