الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي

المقالة الثالثة من الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. الفصل الذي يُحاجج بأن عليك شراء GPU للتخديم بحسب عرض نطاق HBM وسعة VRAM، لا بحسب رقم FLOP/s الذي يتصدَّر ورقة المواصفات.

لماذا يوجد هذا الفصل

أرسى الفصلان 1 و2 عبءَ العمل: تُريد التعبئة الأمامية إشباع محرِّكات المصفوفات، ويُريد فك التشفير تدفُّق الأوزان وذاكرة KV بأقصى سرعة ممكنة، وأثر ذاكرة KV يتزايد مضاعفاً. اختيار السيليكون هو حيث تلتقي هاتان السِّمتان بالسوق. كتالوج GPU لمراكز البيانات في 2026 مجموعةٌ صغيرة من البطاقات تبدو متشابهةً ظاهرياً — مُسرِّع، وبضعة آلاف من الأنوية، ومصرف ذاكرة على العُلبة — وتتشعَّب بحدة في البُعدَين اللذَين يحكمان فعلاً كلفة فك التشفير: عرض نطاق HBM وسعة VRAM. يمشي الفصل 3 على التشكيلة المهيمنة إنتاجياً اليوم — H100 وH200 وB200 وL40S وMI300X — ويمنح المهندسَ آليةً كافية لاختيار بطاقة لعبء عمل مُعطى بدل الوثوق برسم بياني معياري.

في سطر واحد: للتخديم، رقمَا ورقة المواصفات المهمَّان هما عرض نطاق HBM (بأي سرعة تتدفق الأوزان وKV) وسعة VRAM (ما مقدار النموذج الذي يسع قبل أن تُضطر إلى الانتقال إلى GPU مُتعدِّدة) — رقم FLOP/s يهم في الغالب للتعبئة الأمامية.

3.1 H100 هي الافتراضي الآمن، وH200 هي رقعة عرض النطاق

تظل H100 حصان العمل في كل أسطول استدلال إنتاجي تقريباً بلا سبب مُحدَّد للانتقال إلى غيرها. 80 GB من HBM3، و3.35 TB/s من عرض النطاق على متغيِّر SXM (2.04 TB/s على PCIe)، و989 TFLOP من BF16، والأهم — دعم FP8 الأصلي في نوى الموتِّرات، الذي يُنصِّف نقل الأوزان لكل رمز ويُتيح لنموذج 70B أن يسع في 70 GB بدلاً من 140. مكدس البرمجيات ناضج؛ والسعر استقر. حيث تُجهَد H100 هو السعة: 80 GB تحد نموذج 70B بدقة FP8 مع ذاكرة KV لدُفعة تخديم، وتُجبر على توازي الموتِّرات فوق ذلك. H200 هي الإصلاح الجراحي — نفس حوسبة Hopper، نفس ظرف 700 W، لكن 141 GB من HBM3e و4.80 TB/s من عرض النطاق. لأي عبء عمل كان محدوداً بـ HBM على H100 (وهو تقريباً كل عبء فك تشفير)، H200 رفعٌ للإنتاجية جاهزٌ للتركيب بنحو 40 بالمئة من عرض النطاق وحده، مع فسحة لذاكرة KV التي لم تستطع H100 حملها.

3.2 Blackwell تُضيف FP4 وتُضاعف سقف عرض النطاق

B200 ليست تحديثاً لـ Hopper. 192 GB من HBM3e، و8.00 TB/s من عرض النطاق، و2250 TFLOP من BF16، ومحرِّك محوِّل من الجيل الثاني يدعم FP4 في نوى الموتِّرات أصلياً. FP4 يُنصِّف نقل الأوزان لكل رمز مرة أخرى نسبةً إلى FP8؛ مُدمَجاً مع مضاعفة عرض النطاق الخام، نموذج 70B الذي يفك تشفير عند ~24 رمزاً في الثانية على H100 يتجاوز بأريحيّة 100 رمز في الثانية على B200 لمستخدم واحد، ويتوسَّع تقريباً خطياً مع الدُّفعة. سعة 192 GB تحمل نموذج 180B بدقة FP8 على بطاقة واحدة، ونموذج 70B بـ FP16 مع فسحة KV كبيرة، مما يُزيل توازي الموتِّرات من كثير من النشرات. الكلفة هي السعر وظرف 1000 W الحراري؛ أعباء العمل التي تُسدِّد فيها Blackwell أوضح ما تكون هي تلك التي كانت H100 تقاتل فيها سقف عرض نطاق أو سعة على كل طلب.

3.3 L40S وMI300X خيارات شكل عبء العمل

L40S بطاقة من جيل Ada لأعباء عمل لا تحتاج إلى قطعة من مركز بيانات. 48 GB من GDDR6، و0.86 TB/s من عرض النطاق، ونحو رُبع إنتاجية HBM على H100 — لكن بثلث السعر وشكل PCIe قياسي. للنماذج الصغيرة (حتى 13B أو نحوها)، ولأعباء العمل الدُّفعية غير المتزامنة، أو لنشرات الحافة حيث لا تتوفَّر هيكلية HGX من مركز بيانات، L40S هي الإجابة الصحيحة، وشراء H100 من أجلها هدر. AMD MI300X هي الطرف الآخر من الطيف: 192 GB من HBM3، و5.30 TB/s من عرض النطاق، و1307 TFLOP من BF16 على OAM. من حيث التخديم الخام، هي منافسةٌ لـ H200 أو أفضل من حيث السعة، تُطابق تقريباً على فك التشفير المُقيَّد بعرض النطاق، وتصل بكلفة وحدة أقل بصورة ذات معنى. المقايضةُ هي مكدس البرمجيات — ROCm أغلق أغلب الفجوة مقابل CUDA لكن ليس كلها، والمحركات الناضجة (vLLM وTensorRT-LLM وSGLang) أكثر اختباراً على NVIDIA. للفرق ذي كفاءة ROCm، MI300X رافعةُ تكلفة؛ للفرق دون ذلك، H200 هي الشراء الأأمن.

يجدر بنا تذكُّره: اقرأ ورقة المواصفات بهذا الترتيب: VRAM (هل النموذج يسع؟)، ثم عرض نطاق HBM (بأي سرعة يعمل فك التشفير؟)، ثم دعم FP8/FP4 (كم يشتري التكميم مرة أخرى؟)، ثم FLOP/s. القراءة بالترتيب المعاكس — ترتيب التسويق — تشتري البطاقة الخاطئة.

ما يُمهِّد له الفصل 3

حالما أُعيدت قراءة ورقة مواصفات GPU بعدسة عرض النطاق وVRAM، السؤالُ التالي الطبيعي هو هل GPU متعدِّدة الأغراض البنيةُ الصحيحة أصلاً. يمشي الفصل 4 على البدائل السيليكونية المتخصصة — LPU من Groq وAWS Inferentia2 وTPU v5p وv6 من Google وIntel Gaudi 3 — كلٌّ منها حجَّةٌ بأن استدلال LLM منتظم كفايةً لتبرير رقاقة مبنيّة للغرض. ثم يمشي الفصل 5 على الحركة من جانب البرمجيات التي تُقلِّص عرض النطاق لكل رمز مباشرةً: التكميم من FP16 نزولاً إلى FP8 وFP4، الذي يُحوِّل عبء عمل مُقيَّداً بعرض النطاق إلى عبء يتحرَّك اختناقه.

التالي — الفصل 4: السيليكون المتخصص ودوائر ASIC. المُسرِّعات المبنيَّة للغرض — Groq وInferentia2 وTPU وGaudi 3 — والنطاقات التي تتفوَّق فيها على GPU في زمن الاستجابة أو التكلفة لكل رمز.

هل تريد الصورة الكاملة؟ يشمل فصل الكتاب جدول مقارنة المواصفات الكامل مع MSRP وTDP، وحسابيات توازي الموتِّرات عندما تُجبر سقوف VRAM على الانتقال إلى مُتعدِّدة GPU، والفارق بين SXM وPCIe الذي يُعثِر المعايير، وحاشية «بلغة بسيطة» عن كيفية قراءة ورقة مواصفات لتخديم LLM. اطّلع على LLM Primer VI على أمازون ←