مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 14 — اقتصاديات الرموز وتسعير API
المقالة الرابعة عشرة من جولة LLM Primer VI. لماذا يكلف المُخرَج 4–8× المُدخَل، والتحسين يعتمد على شكل المدخل والمُخرَج، وكيف تُضخِّم رموز التفكير غير المرئية الفاتورة.
1447-11-19
الفصل 8 — الجيل التالي من إدارة ذاكرة KV
المقالة الثامنة من جولة LLM Primer VI. PagedAttention يجعل KV ذاكرةً افتراضيّة، وإخلاء H2O وInfiniGen يُزيل الرموز التي لا تهم، والتخزين المؤقت للبادئات هو أعلى رافعة عائد.
1447-11-13
الفصل 1 — ميكانيكا توليد الرموز
المقالة الأولى من جولة LLM Primer VI. الحلقة الانحدارية الذاتية متسلسلة بالضرورة الرياضية، والتعبئة الأمامية وفك التشفير يُجهدان الشريحة بطرق متعاكسة، ولماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪.
1447-11-06
الفصل 8 — تحسين الأداء والتخديم والتكلفة
المقالة الأخيرة من جولة LLM Primer V. اقتصاديات LLM الإنتاجية بوصفها انضباطاً مُتعدد الطبقات — الاستدعاء الأرخص هو الذي لم يُجرَ (تخزين مؤقت دلالي)، والتالي هو المُجرى ضد أصغر نموذجٍ يفي بالغرض (مُوجِّه)، والأرضية تُوضع داخل خادم الاستدلال بـ KV cache والدُّفَعات المستمرة وفكّ الترميز التخميني.
1447-11-04الفصل الثاني — الاحتمال، الرموز، والنصّ
المقالة الثانية من جولة LLM Primer I. كيف تختلف الرموز عن الكلمات، وما حقيقة التوزيع الاحتمالي الذي يُنتجه النموذج في كلِّ خطوة، وكيف تُغيِّر temperature وtop-p شخصيّة المخرَجات.
1447-09-02