مقدمة إلى LLM

الفصل 4 — السيليكون المتخصص ودوائر ASIC

المقالة الرابعة من جولة LLM Primer VI. Groq LPU للاستجابة الحتمية، وInferentia2 وTPU وGaudi 3 عندما يستقر النموذج، وأين لا تزال GPU تفوز في نطاق تنوع النماذج.

1447-11-09

الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي

المقالة الثالثة من جولة LLM Primer VI. اقرأ ورقة مواصفات GPU بترتيب VRAM ثم عرض نطاق HBM ثم دعم FP8/FP4 ثم FLOP: H100 وH200 وB200 وL40S وMI300X لكل عبء عمل.

1447-11-08