مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 15 — واجهات API بلا خادم مقابل البنية التحتية المخصَّصة
المقالة الخامسة عشرة من جولة LLM Primer VI. صيغة التعادل نظيفة ولكن مخادعة، وبند هندسة المنصة يُقرِّر الصفقة، وموقف هجين مع مُوجِّه على حد التطبيق.
1447-11-20
الفصل 6 — التقليم وتقطير المعرفة
المقالة السادسة من جولة LLM Primer VI. تناثر 2:4 على Hopper، وتقطير توزيع المُعلِّم لا مُتغيَّره الأقصى، وترتيب: قطِّر ثم قلِّم ثم كمِّم.
1447-11-11
الفصل 5 — كشف غموض التكميم
المقالة الخامسة من جولة LLM Primer VI. لماذا ينجو نموذج 70B من 4-bit ولا ينجو نموذج 1B، وماذا يفعل AWQ وGPTQ وSmoothQuant وGGUF فعلاً، وسلَّم الأمان مع انضباط المعايرة.
1447-11-10
الفصل 4 — السيليكون المتخصص ودوائر ASIC
المقالة الرابعة من جولة LLM Primer VI. Groq LPU للاستجابة الحتمية، وInferentia2 وTPU وGaudi 3 عندما يستقر النموذج، وأين لا تزال GPU تفوز في نطاق تنوع النماذج.
1447-11-09
الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي
المقالة الثالثة من جولة LLM Primer VI. اقرأ ورقة مواصفات GPU بترتيب VRAM ثم عرض نطاق HBM ثم دعم FP8/FP4 ثم FLOP: H100 وH200 وB200 وL40S وMI300X لكل عبء عمل.
1447-11-08