مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 8 — الجيل التالي من إدارة ذاكرة KV
المقالة الثامنة من جولة LLM Primer VI. PagedAttention يجعل KV ذاكرةً افتراضيّة، وإخلاء H2O وInfiniGen يُزيل الرموز التي لا تهم، والتخزين المؤقت للبادئات هو أعلى رافعة عائد.
1447-11-13
الفصل 7 — استراتيجيات التجميع المتقدمة
المقالة السابعة من جولة LLM Primer VI. لماذا يفشل التجميع الساكن على مشكلة الأسرع انتهاءً، وكيف يُحوِّل التجميع المستمر الدُّفعة إلى فعل، والتعبئة الأمامية المُجزَّأة توحِّد الطورَين.
1447-11-12
الفصل 2 — تحدي ذاكرة KV
المقالة الثانية من جولة LLM Primer VI. صيغة حجم ذاكرة KV، والمقايضات المعمارية بين MHA وGQA وMQA وMLA، ولماذا يهدر التخصيص الساذج معظمَ الميزانية بالتجزئة الداخلية.
1447-11-07
الفصل 1 — ميكانيكا توليد الرموز
المقالة الأولى من جولة LLM Primer VI. الحلقة الانحدارية الذاتية متسلسلة بالضرورة الرياضية، والتعبئة الأمامية وفك التشفير يُجهدان الشريحة بطرق متعاكسة، ولماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪.
1447-11-06
LLM Primer VI — مقدمة السلسلة والفهرس
مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.
1447-11-05
الفصل 8 — تحسين الأداء والتخديم والتكلفة
المقالة الأخيرة من جولة LLM Primer V. اقتصاديات LLM الإنتاجية بوصفها انضباطاً مُتعدد الطبقات — الاستدعاء الأرخص هو الذي لم يُجرَ (تخزين مؤقت دلالي)، والتالي هو المُجرى ضد أصغر نموذجٍ يفي بالغرض (مُوجِّه)، والأرضية تُوضع داخل خادم الاستدلال بـ KV cache والدُّفَعات المستمرة وفكّ الترميز التخميني.
1447-11-04الفصل 5 — بروتوكولات النقل والاكتشاف
المقالة الخامسة من جولة LLM Primer IV. النقول الثلاثة التي يَدعمها MCP، وطبقة الاكتشاف .well-known مع بطاقات الخادم، والاهتمامات التشغيلية المُملَّة — CORS، التحقُّق من المَنشأ، التخزين المؤقت — التي تُقرِّر هل الخادم مواطنٌ شبكي متعاون أم عبءٌ.
1447-10-15
سلسلة LLM Primer — دليل ميداني للذكاء الاصطناعي التوليدي، مجلَّداً تلوَ مجلَّد
سلسلة LLM Primer — دليل ميداني كامل من سبعة مجلدات حول الذكاء الاصطناعي التوليدي بقلم Sho Shimoda. من الأساسيات إلى الأمان. تشمل Physical AI كمجلد شقيق. جميع المجلدات السبعة متوفرة على أمازون.
1447-08-27