مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 14 — اقتصاديات الرموز وتسعير API
المقالة الرابعة عشرة من جولة LLM Primer VI. لماذا يكلف المُخرَج 4–8× المُدخَل، والتحسين يعتمد على شكل المدخل والمُخرَج، وكيف تُضخِّم رموز التفكير غير المرئية الفاتورة.
1447-11-19الفصل 13 — التوسع التلقائي والتخفيف من البدء البارد
المقالة الثالثة عشرة من جولة LLM Primer VI. لماذا يفشل HPA على LLM بأربع طرق، وKEDA يُوسِّع على عمق الطابور وTTFT وامتلاء KV، وCRIU يضغط بدءاً بارداً إلى 3–6 ثوانٍ.
1447-11-18الفصل 12 — التخديم المُفصَّل وKubernetes
المقالة الثانية عشرة من جولة LLM Primer VI. تقسيم التعبئة الأمامية وفك التشفير على تجمُّعَي GPU، ونقل ذاكرة KV عبر NVLink/InfiniBand، وLeaderWorkerSet وGrove وKAI Scheduler.
1447-11-17الفصل 11 — طبقة المنصة والتنسيق
المقالة الحادية عشرة من جولة LLM Primer VI. Ray Serve أولاً Python، KServe أولاً Kubernetes، BentoML يحزم، Triton يُجمِّع نماذج مختلفة — الاختيار عن ملاءمة ثقافة التشغيل.
1447-11-16الفصل 10 — طبقة محرك LLM
المقالة العاشرة من جولة LLM Primer VI. vLLM كافتراضي Python-Native، وTensorRT-LLM يشتري الإنتاجية بخط بناء، وSGLang يفوز على أعباء الوكيل، وشجرة قرار بحسب شكل عبء العمل.
1447-11-15الفصل 8 — الجيل التالي من إدارة ذاكرة KV
المقالة الثامنة من جولة LLM Primer VI. PagedAttention يجعل KV ذاكرةً افتراضيّة، وإخلاء H2O وInfiniGen يُزيل الرموز التي لا تهم، والتخزين المؤقت للبادئات هو أعلى رافعة عائد.
1447-11-13الفصل 7 — استراتيجيات التجميع المتقدمة
المقالة السابعة من جولة LLM Primer VI. لماذا يفشل التجميع الساكن على مشكلة الأسرع انتهاءً، وكيف يُحوِّل التجميع المستمر الدُّفعة إلى فعل، والتعبئة الأمامية المُجزَّأة توحِّد الطورَين.
1447-11-12الفصل 6 — التقليم وتقطير المعرفة
المقالة السادسة من جولة LLM Primer VI. تناثر 2:4 على Hopper، وتقطير توزيع المُعلِّم لا مُتغيَّره الأقصى، وترتيب: قطِّر ثم قلِّم ثم كمِّم.
1447-11-11الفصل 4 — السيليكون المتخصص ودوائر ASIC
المقالة الرابعة من جولة LLM Primer VI. Groq LPU للاستجابة الحتمية، وInferentia2 وTPU وGaudi 3 عندما يستقر النموذج، وأين لا تزال GPU تفوز في نطاق تنوع النماذج.
1447-11-09الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي
المقالة الثالثة من جولة LLM Primer VI. اقرأ ورقة مواصفات GPU بترتيب VRAM ثم عرض نطاق HBM ثم دعم FP8/FP4 ثم FLOP: H100 وH200 وB200 وL40S وMI300X لكل عبء عمل.
1447-11-08الفصل 2 — تحدي ذاكرة KV
المقالة الثانية من جولة LLM Primer VI. صيغة حجم ذاكرة KV، والمقايضات المعمارية بين MHA وGQA وMQA وMLA، ولماذا يهدر التخصيص الساذج معظمَ الميزانية بالتجزئة الداخلية.
1447-11-07الفصل 1 — ميكانيكا توليد الرموز
المقالة الأولى من جولة LLM Primer VI. الحلقة الانحدارية الذاتية متسلسلة بالضرورة الرياضية، والتعبئة الأمامية وفك التشفير يُجهدان الشريحة بطرق متعاكسة، ولماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪.
1447-11-06LLM Primer VI — مقدمة السلسلة والفهرس
مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.
1447-11-05الفصل 8 — تحسين الأداء والتخديم والتكلفة
المقالة الأخيرة من جولة LLM Primer V. اقتصاديات LLM الإنتاجية بوصفها انضباطاً مُتعدد الطبقات — الاستدعاء الأرخص هو الذي لم يُجرَ (تخزين مؤقت دلالي)، والتالي هو المُجرى ضد أصغر نموذجٍ يفي بالغرض (مُوجِّه)، والأرضية تُوضع داخل خادم الاستدلال بـ KV cache والدُّفَعات المستمرة وفكّ الترميز التخميني.
1447-11-04الفصل 4 — الوكلاء واستدعاء الأدوات
المقالة الرابعة من جولة LLM Primer V. الوكيل بوصفه نموذجاً مُلَقَّماً ضدّ أدواتٍ ذات مخططات وطبقات ذاكرة وأسلاك متعددة الوكلاء يجب هندستها قبل أن يُوثَق بالحلقة في أيّ عملٍ حقيقي.
1447-10-29الفصل 13 — الأُطُر وتكامل السحابة
المقالة الثالثة عشرة من جولة LLM Primer IV. Strands مع Bedrock، نمط طبقة الحالة في AWS، إطار وكلاء Microsoft، LangChain، Semantic Kernel — وأشكال التكامل الإنتاجي الثلاثة التي تَصل إليها الفِرَق مستقلَّة.
1447-10-23الفصل 10 — ذاكرة المهام طويلة الأفق
المقالة العاشرة من جولة LLM Primer IV. الذاكرة قصيرة المدى عبر النوافذ وألواح ReAct الشخصية، الذاكرة طويلة المدى عبر متجهات حادثية ومخازن دلالية، وتقنيات الكَبس التي تُبقي الوكيل منتجاً عبر ساعات وأيام.
1447-10-20الفصل 9 — إدارة ميزانية الانتباه
المقالة التاسعة من جولة LLM Primer IV. عَفَن السياق، هاوية «الضائع في المنتصف»، عَفَن طاقم الأدوات، والإجابات المعمارية الثلاث — MCP، RAG، الضبط الدقيق — على سؤال أين تَنتمي معرفة النموذج المفقودة فعلاً.
1447-10-19الفصل 7 — تطبيق ضوابط الوصول
المقالة السابعة من جولة LLM Primer III. ACL على مستوى الوثيقة بوصفها الأساس، RBAC مع تسميات حساسية Microsoft Purview، ReBAC مع Zanzibar وSpiceDB، وانضباط التَّرشيح المُسبق مقابل اللاحق الذي يَجري تحتها جميعاً.
1447-10-05سلسلة LLM Primer — دليل ميداني للذكاء الاصطناعي التوليدي، مجلَّداً تلوَ مجلَّد
سلسلة LLM Primer — دليل ميداني كامل من سبعة مجلدات حول الذكاء الاصطناعي التوليدي بقلم Sho Shimoda. من الأساسيات إلى الأمان. تشمل Physical AI كمجلد شقيق. جميع المجلدات السبعة متوفرة على أمازون.
1447-08-27