Microsoft создала сверхлегкую 1-битную модель ИИ, которая работает на обычных процессорах и не требует много памяти

Microsoft разработала BitNet b1.58 2B4T — сверхлегкую 1-битную модель ИИ с 2 миллиардами параметров. Модель, доступная на Hugging Face под лицензией MIT, способна работать на обычных CPU. 

Ключевая особенность BitNet — использование 1-битных весов (-1, 0, +1), что значительно снижает требования к памяти и вычислительной мощности по сравнению со стандартными 16/32-битными моделями. Обученная на 4 триллионах токенов, BitNet демонстрирует производительность, сравнимую с Google Gemma 3 1B, используя при этом всего 400 МБ памяти. 

BitNet b1.58 2B4T можно использовать на устройствах с ограниченными ресурсами без необходимости в мощных GPU или NPU.

 Источник: Toms HARDWARE