مقدمة إلى LLM

الفصل 6 — التقليم وتقطير المعرفة

المقالة السادسة من جولة LLM Primer VI. تناثر 2:4 على Hopper، وتقطير توزيع المُعلِّم لا مُتغيَّره الأقصى، وترتيب: قطِّر ثم قلِّم ثم كمِّم.

1447-11-11

الفصل 5 — كشف غموض التكميم

المقالة الخامسة من جولة LLM Primer VI. لماذا ينجو نموذج 70B من 4-bit ولا ينجو نموذج 1B، وماذا يفعل AWQ وGPTQ وSmoothQuant وGGUF فعلاً، وسلَّم الأمان مع انضباط المعايرة.

1447-11-10

LLM Primer VI — مقدمة السلسلة والفهرس

مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.

1447-11-05