Ученые Microsoft представили легкую ИИ-модель BitNet

Ученые Microsoft представили легкую ИИ-модель BitNet

Ученые из Microsoft разработали новую языковую модель BitNet b1.58 2B4T, которая может работать даже на обычных процессорах. Это облегченная версия искусственного интеллекта (ИИ) с двумя миллиардами параметров, обученная на четырех триллионах токенов. Модель уже доступна в открытом доступе на платформе Hugging Face и, по оценкам, способна запускаться, например, на чипе Apple M2. BitNet использует 1-битные веса, представленные всего тремя значениями: -1, 0 и +1. За счет этого модель требует гораздо меньше памяти и вычислительных ресурсов по сравнению с аналогами, работающими с 16- или 32-битными данными. Несмотря на простоту, в точности BitNet уступает более сложным моделям, но масштаб тренировочных данных — эквивалент более 33 миллионов книг — частично компенсирует это. В тестах BitNet показала достойные результаты, сравнившись с другими компактными ИИ, такими как Gemma 3 от Google и Qwen 2.5 от Alibaba. При этом она использует всего 400 МБ оперативной памяти — менее трети от объема, необходимого ближайшему аналогу. Чтобы добиться таких результатов, модель должна работать через специальную библиотеку bitnet.cpp, доступную на GitHub. Без нее, например, при использовании стандартной библиотеки transformers, эффективность будет значительно ниже. Такие легкие модели могут стать решением для запуска ИИ на устройствах с ограниченными ресурсами, сократив нагрузку на дата-центры и сделав технологии более доступными для обычных пользователей....
19.04.2025 - 06:19
Источник: www.ferra.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Microsoft и ASUS представили две портативки Xbox с процессорами AMDMicrosoft и ASUS представили две портативки Xbox с процессорами AMD В течение последнего года Microsoft и ASUS работали вместе над созданием не одного, а двух новых портативных устройств ROG Xbox Ally. Оба этих устрой ...

Учёные представили банк данных для обучения ИИУчёные представили банк данных для обучения ИИ Российские исследователи опубликовали банк данных, предназначенный для обучения ИИ самостоятельному принятию решений и освоению правил работы на нагл ...

Microsoft и Asus представили портативную консоль Xbox AllyMicrosoft и Asus представили портативную консоль Xbox Ally На выставке Xbox Games Showcase 2025 компания Microsoft официально анонсировала портативную игровую консоль Xbox Ally, разработанную совместно с Asus ...

Российские ученые представили прибор для неинвазивного анализа кровиРоссийские ученые представили прибор для неинвазивного анализа крови Забор крови сейчас требует обязательного укола иглой. Процедура эта не самая приятная даже для взрослых, а дети ее боятся, как огня. Во всем мире пыт ...

Учёные представили температурно-адаптивное устройство на основе диоксида ванадияУчёные представили температурно-адаптивное устройство на основе диоксида ванадия Учёные из Пекинского технологического института представили новое поколение температурно-адаптивного устройства радиационного охлаждения, которое мож ...

Этот пластик прочнее стали  ученые представили новый материалЭтот пластик прочнее стали — ученые представили новый материал Тросы из этого пластика прочнее, чем из стали. Источник: studyfinds.org Когда речь заходит о пластике, мы представляем далеко не самый прочный матери ...

Учёные представили покрытие, которое превосходит тефлон без вреда для здоровьяУчёные представили покрытие, которое превосходит тефлон без вреда для здоровья В мире кухонной посуды может произойти настоящая революция: инженеры представили новое антипригарное покрытие, которое способно заменить тефлон, при ...

Учёные Ставрополья представили новый инновационный метод защиты цифровых данныхУчёные Ставрополья представили новый инновационный метод защиты цифровых данных Исследователи из Северо-Кавказского федерального университета представили новый метод обнаружения угроз, связанных с ненадежными и скомпрометированны ...

Ученые представили операционную систему квантового компьютера с открытым исходным кодомУченые представили операционную систему квантового компьютера с открытым исходным кодом Университет Осаки и партнеры выпустили OQTOPUS — операционную систему с открытым исходным кодом для квантовых компьютеров, призванную упростить интег ...

Учёные Apple представили три проекта для ИИ-программирования: обучение, поиск багов и тестированиеУчёные Apple представили три проекта для ИИ-программирования: обучение, поиск багов и тестирование Apple опубликовала три статьи, посвящённые исследованиям в области искусственного интеллекта. Учёные компании предложили новые подходы для поиска оши ...

Учёные представили первую радиокарту Млечного Пути в цвете и невероятных деталяхУчёные представили первую радиокарту Млечного Пути в цвете и невероятных деталях Наша галактика Млечный Путь, видимая невооружённым глазом как яркая полоса звёзд в небе, в радиодиапазоне предстаёт куда более сложной структурой, пе ...

ROG Xbox Ally: Microsoft и ASUS представили портативную игровую консоль на базе Windows (обновление)ROG Xbox Ally: Microsoft и ASUS представили портативную игровую консоль на базе Windows (обновление) После того как Microsoft, по всей видимости, отложила выпуск собственного портативного устройства с Windows, компания, как и ожидалось, объявила о па ...