Microsoft создала сверхлегкую 1-битную модель ИИ, которая работает на обычных процессорах и не требует много памяти

в 12:38, , рубрики: Новости

Microsoft разработала BitNet b1.58 2B4T — сверхлегкую 1-битную модель ИИ с 2 миллиардами параметров. Модель, доступная на Hugging Face под лицензией MIT, способна работать на обычных CPU. 

Microsoft создала сверхлегкую 1-битную модель ИИ, которая работает на обычных процессорах и не требует много памяти
Изображение сгенерировано Kandinsky

Ключевая особенность BitNet — использование 1-битных весов (-1, 0, +1), что значительно снижает требования к памяти и вычислительной мощности по сравнению со стандартными 16/32-битными моделями. Обученная на 4 триллионах токенов, BitNet демонстрирует производительность, сравнимую с Google Gemma 3 1B, используя при этом всего 400 МБ памяти. 

BitNet b1.58 2B4T можно использовать на устройствах с ограниченными ресурсами без необходимости в мощных GPU или NPU.

Источник

* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js