مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 9 — سلامة النموذج ومخاطر سلسلة التوريد
المقال التاسع من جولة LLM Primer VII. أثر النموذج بوصفه ملفاً ثنائياً من طرف ثالث: أبواب خلفية تنجو من التدريب، وpickle مقابل safetensors، وSigstore ورصد الانحراف.
1447-12-01
الفصل 6 — مخاطر التوليد المُعزَّز بالاسترجاع
المقال السادس من جولة LLM Primer VII. حدود الثقة الخمس في RAG، والحقن غير المباشر عبر الفهرس، وأنماط الاسترجاع الآمنة التي تعزل المستأجرين وتُنسّب الثقة عند الاستيراد.
1447-11-28
LLM Primer VII — تمهيد السلسلة والفهرس
تمهيد سلسلة LLM Primer VII: أمان الذكاء الاصطناعي، وفهرس الجولة الفصلية من 10 إلى 26 مايو، ولماذا يُعيد أمن النماذج اللغوية الكبيرة بناءَ الأرض التي وقف عليها الأمن التقليدي.
1447-11-22
الفصل 12 — التخديم المُفصَّل وKubernetes
المقالة الثانية عشرة من جولة LLM Primer VI. تقسيم التعبئة الأمامية وفك التشفير على تجمُّعَي GPU، ونقل ذاكرة KV عبر NVLink/InfiniBand، وLeaderWorkerSet وGrove وKAI Scheduler.
1447-11-17
الفصل 11 — طبقة المنصة والتنسيق
المقالة الحادية عشرة من جولة LLM Primer VI. Ray Serve أولاً Python، KServe أولاً Kubernetes، BentoML يحزم، Triton يُجمِّع نماذج مختلفة — الاختيار عن ملاءمة ثقافة التشغيل.
1447-11-16
الفصل 10 — طبقة محرك LLM
المقالة العاشرة من جولة LLM Primer VI. vLLM كافتراضي Python-Native، وTensorRT-LLM يشتري الإنتاجية بخط بناء، وSGLang يفوز على أعباء الوكيل، وشجرة قرار بحسب شكل عبء العمل.
1447-11-15
الفصل 9 — فك التشفير التخميني
المقالة التاسعة من جولة LLM Primer VI. رؤية التحقق تحفظ الصحة تماماً، وEAGLE يربط المسوَّدة بالحالة المخفية للهدف، وسقفا α·N و1/α يحكمان تسريع التخمين.
1447-11-14
الفصل 8 — الجيل التالي من إدارة ذاكرة KV
المقالة الثامنة من جولة LLM Primer VI. PagedAttention يجعل KV ذاكرةً افتراضيّة، وإخلاء H2O وInfiniGen يُزيل الرموز التي لا تهم، والتخزين المؤقت للبادئات هو أعلى رافعة عائد.
1447-11-13
الفصل 7 — استراتيجيات التجميع المتقدمة
المقالة السابعة من جولة LLM Primer VI. لماذا يفشل التجميع الساكن على مشكلة الأسرع انتهاءً، وكيف يُحوِّل التجميع المستمر الدُّفعة إلى فعل، والتعبئة الأمامية المُجزَّأة توحِّد الطورَين.
1447-11-12
الفصل 6 — التقليم وتقطير المعرفة
المقالة السادسة من جولة LLM Primer VI. تناثر 2:4 على Hopper، وتقطير توزيع المُعلِّم لا مُتغيَّره الأقصى، وترتيب: قطِّر ثم قلِّم ثم كمِّم.
1447-11-11
الفصل 5 — كشف غموض التكميم
المقالة الخامسة من جولة LLM Primer VI. لماذا ينجو نموذج 70B من 4-bit ولا ينجو نموذج 1B، وماذا يفعل AWQ وGPTQ وSmoothQuant وGGUF فعلاً، وسلَّم الأمان مع انضباط المعايرة.
1447-11-10
الفصل 2 — تحدي ذاكرة KV
المقالة الثانية من جولة LLM Primer VI. صيغة حجم ذاكرة KV، والمقايضات المعمارية بين MHA وGQA وMQA وMLA، ولماذا يهدر التخصيص الساذج معظمَ الميزانية بالتجزئة الداخلية.
1447-11-07
الفصل 1 — ميكانيكا توليد الرموز
المقالة الأولى من جولة LLM Primer VI. الحلقة الانحدارية الذاتية متسلسلة بالضرورة الرياضية، والتعبئة الأمامية وفك التشفير يُجهدان الشريحة بطرق متعاكسة، ولماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪.
1447-11-06
LLM Primer VI — مقدمة السلسلة والفهرس
مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.
1447-11-05
الفصل 5 — تقييم تطبيقات LLM
المقالة الخامسة من جولة LLM Primer V. يعترف الفصل بأن assertEqual مات في مخرجات LLM ويُعيد بناء انضباط الاختبار حول قضاةٍ مُثبَّتين برُبريكات، والثلاثي RAG، واختبارات مسار الوكلاء.
1447-11-01الفصل 6 — استراتيجيات التنسيق الأساسية
المقالة السادسة من جولة LLM Primer IV. الشكلان الأساسيان للتنسيق — الأنابيب المتتابعة وتوازي الاندفاع-الجمع — والسؤال الأسبق الذي ينبغي على كل فريقٍ طرحه: هل نظام الوكلاء المتعدد هو الإجابة الصحيحة أصلاً؟
1447-10-16الفصل 11 — التحديثات المستمرة وتحسين الخط
المقالة الحادية عشرة والأخيرة من جولة LLM Primer III. CDC والفهرسة التزايدية تُبقي المكتبة طازجة، التَّخزين المؤقت الدلالي وتَدريج النماذج يُبقيان زمن الاستجابة منخفضاً، وحلقة تَغذيةٍ راجعة من أربع مراحل تَسد الفجوة بين ما يُخبر به الإنتاج الفريق وما يُغيِّره الفريق فعلاً — مع جسرٍ إلى المجلد الرابع عن Model Context Protocol.
1447-10-09LLM Primer III — مقدمة السلسلة والفهرس
انطلاقة الجولة الفصلية للكتاب الثالث في سلسلة LLM Primer — تعزيز ذكاء المؤسسة بـ RAG. لماذا يبدو التوليد المعزز بالاسترجاع بسيطاً من الخارج وهو في باطنه طبقة من التخصصات، ولمن كُتب هذا الكتاب، وجدول النشر للمقالات الإحدى عشرة المقبلة من 18 إلى 28 مارس.
1447-09-28