مقدمة إلى LLM

الفصل 12 — التخديم المُفصَّل وKubernetes

المقالة الثانية عشرة من جولة LLM Primer VI. تقسيم التعبئة الأمامية وفك التشفير على تجمُّعَي GPU، ونقل ذاكرة KV عبر NVLink/InfiniBand، وLeaderWorkerSet وGrove وKAI Scheduler.

1447-11-17

الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي

المقالة الثالثة من جولة LLM Primer VI. اقرأ ورقة مواصفات GPU بترتيب VRAM ثم عرض نطاق HBM ثم دعم FP8/FP4 ثم FLOP: H100 وH200 وB200 وL40S وMI300X لكل عبء عمل.

1447-11-08