مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 16 — استراتيجيات خفض التكلفة في الإنتاج
المقالة الختامية من جولة LLM Primer VI. التوجيه الذكي للنموذج أعلى رافعة، وضغط السياق وواجهات API الدُّفعية والتخزين المؤقت الدلالي تشتري كلٌّ شريحة كبيرة، والحركات تتراكم مضاعفياً.
1447-11-21
الفصل 15 — واجهات API بلا خادم مقابل البنية التحتية المخصَّصة
المقالة الخامسة عشرة من جولة LLM Primer VI. صيغة التعادل نظيفة ولكن مخادعة، وبند هندسة المنصة يُقرِّر الصفقة، وموقف هجين مع مُوجِّه على حد التطبيق.
1447-11-20
الفصل 14 — اقتصاديات الرموز وتسعير API
المقالة الرابعة عشرة من جولة LLM Primer VI. لماذا يكلف المُخرَج 4–8× المُدخَل، والتحسين يعتمد على شكل المدخل والمُخرَج، وكيف تُضخِّم رموز التفكير غير المرئية الفاتورة.
1447-11-19
الفصل 13 — التوسع التلقائي والتخفيف من البدء البارد
المقالة الثالثة عشرة من جولة LLM Primer VI. لماذا يفشل HPA على LLM بأربع طرق، وKEDA يُوسِّع على عمق الطابور وTTFT وامتلاء KV، وCRIU يضغط بدءاً بارداً إلى 3–6 ثوانٍ.
1447-11-18
الفصل 12 — التخديم المُفصَّل وKubernetes
المقالة الثانية عشرة من جولة LLM Primer VI. تقسيم التعبئة الأمامية وفك التشفير على تجمُّعَي GPU، ونقل ذاكرة KV عبر NVLink/InfiniBand، وLeaderWorkerSet وGrove وKAI Scheduler.
1447-11-17
الفصل 11 — طبقة المنصة والتنسيق
المقالة الحادية عشرة من جولة LLM Primer VI. Ray Serve أولاً Python، KServe أولاً Kubernetes، BentoML يحزم، Triton يُجمِّع نماذج مختلفة — الاختيار عن ملاءمة ثقافة التشغيل.
1447-11-16
الفصل 10 — طبقة محرك LLM
المقالة العاشرة من جولة LLM Primer VI. vLLM كافتراضي Python-Native، وTensorRT-LLM يشتري الإنتاجية بخط بناء، وSGLang يفوز على أعباء الوكيل، وشجرة قرار بحسب شكل عبء العمل.
1447-11-15
الفصل 9 — فك التشفير التخميني
المقالة التاسعة من جولة LLM Primer VI. رؤية التحقق تحفظ الصحة تماماً، وEAGLE يربط المسوَّدة بالحالة المخفية للهدف، وسقفا α·N و1/α يحكمان تسريع التخمين.
1447-11-14
الفصل 8 — الجيل التالي من إدارة ذاكرة KV
المقالة الثامنة من جولة LLM Primer VI. PagedAttention يجعل KV ذاكرةً افتراضيّة، وإخلاء H2O وInfiniGen يُزيل الرموز التي لا تهم، والتخزين المؤقت للبادئات هو أعلى رافعة عائد.
1447-11-13
الفصل 7 — استراتيجيات التجميع المتقدمة
المقالة السابعة من جولة LLM Primer VI. لماذا يفشل التجميع الساكن على مشكلة الأسرع انتهاءً، وكيف يُحوِّل التجميع المستمر الدُّفعة إلى فعل، والتعبئة الأمامية المُجزَّأة توحِّد الطورَين.
1447-11-12
الفصل 6 — التقليم وتقطير المعرفة
المقالة السادسة من جولة LLM Primer VI. تناثر 2:4 على Hopper، وتقطير توزيع المُعلِّم لا مُتغيَّره الأقصى، وترتيب: قطِّر ثم قلِّم ثم كمِّم.
1447-11-11
الفصل 5 — كشف غموض التكميم
المقالة الخامسة من جولة LLM Primer VI. لماذا ينجو نموذج 70B من 4-bit ولا ينجو نموذج 1B، وماذا يفعل AWQ وGPTQ وSmoothQuant وGGUF فعلاً، وسلَّم الأمان مع انضباط المعايرة.
1447-11-10
الفصل 4 — السيليكون المتخصص ودوائر ASIC
المقالة الرابعة من جولة LLM Primer VI. Groq LPU للاستجابة الحتمية، وInferentia2 وTPU وGaudi 3 عندما يستقر النموذج، وأين لا تزال GPU تفوز في نطاق تنوع النماذج.
1447-11-09
الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي
المقالة الثالثة من جولة LLM Primer VI. اقرأ ورقة مواصفات GPU بترتيب VRAM ثم عرض نطاق HBM ثم دعم FP8/FP4 ثم FLOP: H100 وH200 وB200 وL40S وMI300X لكل عبء عمل.
1447-11-08
الفصل 2 — تحدي ذاكرة KV
المقالة الثانية من جولة LLM Primer VI. صيغة حجم ذاكرة KV، والمقايضات المعمارية بين MHA وGQA وMQA وMLA، ولماذا يهدر التخصيص الساذج معظمَ الميزانية بالتجزئة الداخلية.
1447-11-07
الفصل 1 — ميكانيكا توليد الرموز
المقالة الأولى من جولة LLM Primer VI. الحلقة الانحدارية الذاتية متسلسلة بالضرورة الرياضية، والتعبئة الأمامية وفك التشفير يُجهدان الشريحة بطرق متعاكسة، ولماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪.
1447-11-06
LLM Primer VI — مقدمة السلسلة والفهرس
مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.
1447-11-05