В МФТИ нашли альтернативу Nvidia: протестированы альтернативные GPU для работы с ИИ

Институт искусственного интеллекта МФТИ провел исследование возможностей альтернативных GPU и создал Центр компетенций, который призван помочь бизнесу в построении инфраструктуры, независимой от решений Nvidia при работе с искусственным интеллектом.

В МФТИ рассказали:

В последние несколько лет в России ограничена доступность оборудования и программного обеспечения Nvidia (мирового лидера в производстве графических процессоров): компании столкнулись с ростом сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной поддержки оборудования. В этой связи бизнесу необходимо искать новые подходы к построению вычислительных контуров для задач машинного обучения.

Учёные провели комплексное исследование рынка альтернативных ускорителей, включая продукцию китайских производителей Moore Threads и MetaX. Они оценили архитектурные особенности оборудования, драйверы, совместимость с фреймворками и поведение под нагрузкой. Тестирование проводилось на задачах запуска больших языковых моделей, компьютерного зрения, инференса и распределенных вычислений.

Исследование показало, что альтернативные карты S4000 от Moore Threads и C500 от MetaX могут применяться в широком спектре сценариев без потери функциональности. Тесты продемонстрировали стабильный запуск популярных языковых моделей, корректную работу современных фреймворков и предсказуемую производительность. В отдельных типах вычислений показатели альтернативных карт достигли или превзошли результаты Nvidia A100. Оборудование также продемонстрировало устойчивость при длительных нагрузках. 

В дальнейшем команда планирует продолжить тестирование новых поколений ускорителей, расширить перечень поддерживаемых моделей и подготовить отраслевые рекомендации для создания автономной ИИ-инфраструктуры.

 Источник: МФТИ