[รุ่นย่อขนาด] ย้อนกลับไปปีที่แล้ว Microsoft ได้เปิดตัว Bitnet.cpp โมเดล AI เวอร์ชั่นบีบอัดให้มีขนาดเล็ก เพื่อให้ใช้งานบนโน้ตบุ๊กได้ ไม่จำต้องใช้เครื่อง PC ระดับ Server เหมือนก่อน แต่ก็ได้ประสิทธิภาพดีไม่แพ้โมเดล AI ตัวดัง ล่าสุด Microsoft ได้ปล่อยตัวโมเดล AI ดังกล่าวให้โหลดใช้งานได้แล้ว
Microsoft เปิดตัว BitNet b1.58 2B4T โมเดล AI ขนาดย่อม มาพร้อมพารามิเตอร์มากถึง 2 พันล้านตัว กับชุดข้อมูลมากถึง 4 ล้านล้านโทเค็น (เทียบได้กับหนังสือประมาณ 33 ล้านเล่ม) แต่ทั้งหมดนั้นกลับใช้หน่วยความจำเพียงเพียง 400MB เท่านั้น และสามารถท้าชนกับ Llama 3.2 1B ของ Meta กับ Gemma 3 1B ของ Google รวมถึง Qwen 2.5 1.5B ของ Alibaba ได้เลย
“BitNet b1.58 2B4T มีประสิทธิภาพเหนือกว่าโมเดลดั้งเดิมที่มีขนาดใกล้เคียงกัน” คำกล่าวจากนักวิจัยของทาง Microsoft
อย่างไรก็ตาม BitNet b1.58 2B4T สามารถโหลดใช้งานได้ผ่าน bitnet.cpp ของ Microsoft ซึ่งยังทำงานได้กับฮาร์ดแวร์บางรุ่นเท่านั้น และยังไม่รองรับการประมวลผลด้วย GPU ที่แม้ปัจจุบันเป็นชิปโครงสร้างพื้นฐานด้าน AI ก็ตาม
ดูรายละเอียดเพิ่มเติมได้ที่ https://huggingface.co/microsoft/bitnet-b1.58-2B-4T
ที่มา : Techcrunch
