مقدمة إلى LLM

الفصل 5 — كشف غموض التكميم

المقالة الخامسة من جولة LLM Primer VI. لماذا ينجو نموذج 70B من 4-bit ولا ينجو نموذج 1B، وماذا يفعل AWQ وGPTQ وSmoothQuant وGGUF فعلاً، وسلَّم الأمان مع انضباط المعايرة.

1447-11-10

الفصل 4 — السيليكون المتخصص ودوائر ASIC

المقالة الرابعة من جولة LLM Primer VI. Groq LPU للاستجابة الحتمية، وInferentia2 وTPU وGaudi 3 عندما يستقر النموذج، وأين لا تزال GPU تفوز في نطاق تنوع النماذج.

1447-11-09

LLM Primer VI — مقدمة السلسلة والفهرس

مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.

1447-11-05