Raspberry Pi выпустила плату AI HAT+ 2 за 130 долларов для локального запуска генеративных ИИ-моделей

Компания Raspberry Pi представила новую плату AI HAT+ 2, предназначенную для запуска ИИ-моделей непосредственно «на борту». Новинка является улучшенной и более дорогой версией модуля, выпущенного в прошлом году. AI HAT+ 2 получила 8 ГБ оперативной памяти и чип Hailo 10H, обеспечивающий производительность ИИ в 40 TOPS. Цена платы составляет $130.

С AI HAT+ 2, Raspberry Pi 5 сможет переложить на неё задачи, связанные с искусственным интеллектом, освободив основной процессор Arm для выполнения других задач. В отличие от предыдущей версии AI HAT+, ориентированной на обработку изображений, AI HAT+ 2 оснащена собственной оперативной памятью и способна запускать небольшие генеративные ИИ-модели, такие как Llama 3.2, DeepSeek-R1-Distill и ряд моделей Qwen. Устройство также позволяет обучать и дорабатывать ИИ-модели.

В демонстрации, представленной Raspberry Pi, показано, как можно использовать плату для работы модели, способной генерировать текстовое описание потока с камеры, а также отвечать на вопрос о наличии людей в кадре. Другой пример демонстрирует перевод текста с французского на английский язык с помощью Qwen2.

Однако блогер Jeff Geerling обнаружил, что Raspberry Pi 5 с 8 ГБ оперативной памяти в целом превосходит AI HAT+ 2 по производительности в поддерживаемых моделях. Geerling связывает более низкую производительность с ограничением энергопотребления: Pi 5 может работать с мощностью до 10 Вт, в то время как AI HAT+ 2 ограничена 3 Вт.

Хотя AI HAT+ 2 может быть идеальным решением для конкретных сценариев использования, Geerling отмечает, что «дополнительных 8 ГБ оперативной памяти недостаточно, чтобы дать этой плате преимущество перед покупкой модуля Pi с 16 ГБ оперативной памяти, который будет более гибким и сможет запускать модели быстрее». Оригинальная плата AI HAT+, выпущенная в прошлом году, также может обрабатывать ИИ-изображения по более низкой цене — от $70.

 Источник: The Verge