[📪정보] MS, CPU구동가능한 1비트모델 BitNet b1.58 2B4T 출시

[익명(landofooo)]

Microsoft 연구진이 2 억이 아닌 2 십억 매개변수를 갖춘 최초의 1비트 AI 모델 ‘BitNet b1.58 2B4T’를 공개했으며, 이 모델은 가중치를 −1·0·1 세 가지 값으로 양자화해 메모리와 연산 효율을 극대화하고 CPU(애플 M2 포함)에서 실행 가능하다  . 4 조 토큰(약 3천3백만 권 분량)으로 학습된 BitNet b1.58 2B4T는 유사 규모의 전통적인 풀 프리시전 모델과 동등하거나 다소 뛰어난 성능을 보이며, GSM8K·PIQA 벤치마크에서 Meta의 Llama 3.2 1B, Google Gemma 3 1B, Alibaba Qwen 2.5 1.5B 등을 능가했다  . 또한, Microsoft의 bitnet.cpp 프레임워크를 통해 동급 모델 대비 최대 두 배 빠른 속도를 내며 메모리 사용량도 대폭 줄였지만, 현재 GPU는 지원되지 않아 호환성 측면에서는 제약이 따른다  . 이 모델은 MIT 라이선스로 공개되어 누구나 활용할 수 있다  

https://techcrunch.com/2025/04/16/microsoft-researchers-say-theyve-developed-a-hyper-efficient-ai-model-that-can-run-on-cpus/

Microsoft researchers say they've developed a hyper-efficient AI model that can run on CPUs | TechCrunch

[익명(dlwo0827)]

와 비트넷 오랜만이네

[천사다천사(jjtheman999)]

MS가 비트넷 연구한다더니 진짜 뭔가 해냈구나

[천사다천사(jjtheman999)]

그런데 GPU를 아예 안쓰는건 의외네

[익명(landofooo)]

돌릴수 있다지 좋다 이건 아니라서

[천사다천사(jjtheman999)]

그래도 GPU없이 돌아가는 AI가 나온건 좋은거 같음. 다만 호환성 문제는 있겠지

[익명(pair0074)]

이래서 MS가 투자에서 발 뺐나? - dc App