مقدمة إلى LLM

تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.

إجمالي 23 مقالات متاحة. | حالياً في الصفحة 1 من 1.

الفصل 3 — أمن البيانات والخصوصية

المقال الثالث من جولة LLM Primer VII. البيانات بوصفها أصلاً بدورة حياة: مخاطر التدريب والاستذكار والاستخراج، وحادثتا Samsung وGarante، ونظام التشفير والعزل والاحتفاظ.

1447-11-25

الفصل 2 — نمذجة التهديد لأنظمة LLM

المقال الثاني من جولة LLM Primer VII. أسئلة Shostack الأربعة، وSTRIDE وPASTA وMITRE ATLAS مطبقة على أنظمة LLM، وقالب نموذج تهديد عملي تشير إليه بقية الكتاب.

1447-11-24

LLM Primer VII — تمهيد السلسلة والفهرس

تمهيد سلسلة LLM Primer VII: أمان الذكاء الاصطناعي، وفهرس الجولة الفصلية من 10 إلى 26 مايو، ولماذا يُعيد أمن النماذج اللغوية الكبيرة بناءَ الأرض التي وقف عليها الأمن التقليدي.

1447-11-22

الفصل 14 — اقتصاديات الرموز وتسعير API

المقالة الرابعة عشرة من جولة LLM Primer VI. لماذا يكلف المُخرَج 4–8× المُدخَل، والتحسين يعتمد على شكل المدخل والمُخرَج، وكيف تُضخِّم رموز التفكير غير المرئية الفاتورة.

1447-11-19

الفصل 13 — التوسع التلقائي والتخفيف من البدء البارد

المقالة الثالثة عشرة من جولة LLM Primer VI. لماذا يفشل HPA على LLM بأربع طرق، وKEDA يُوسِّع على عمق الطابور وTTFT وامتلاء KV، وCRIU يضغط بدءاً بارداً إلى 3–6 ثوانٍ.

1447-11-18

الفصل 12 — التخديم المُفصَّل وKubernetes

المقالة الثانية عشرة من جولة LLM Primer VI. تقسيم التعبئة الأمامية وفك التشفير على تجمُّعَي GPU، ونقل ذاكرة KV عبر NVLink/InfiniBand، وLeaderWorkerSet وGrove وKAI Scheduler.

1447-11-17

الفصل 11 — طبقة المنصة والتنسيق

المقالة الحادية عشرة من جولة LLM Primer VI. Ray Serve أولاً Python، KServe أولاً Kubernetes، BentoML يحزم، Triton يُجمِّع نماذج مختلفة — الاختيار عن ملاءمة ثقافة التشغيل.

1447-11-16

الفصل 10 — طبقة محرك LLM

المقالة العاشرة من جولة LLM Primer VI. vLLM كافتراضي Python-Native، وTensorRT-LLM يشتري الإنتاجية بخط بناء، وSGLang يفوز على أعباء الوكيل، وشجرة قرار بحسب شكل عبء العمل.

1447-11-15

الفصل 9 — فك التشفير التخميني

المقالة التاسعة من جولة LLM Primer VI. رؤية التحقق تحفظ الصحة تماماً، وEAGLE يربط المسوَّدة بالحالة المخفية للهدف، وسقفا α·N و1/α يحكمان تسريع التخمين.

1447-11-14

الفصل 8 — الجيل التالي من إدارة ذاكرة KV

المقالة الثامنة من جولة LLM Primer VI. PagedAttention يجعل KV ذاكرةً افتراضيّة، وإخلاء H2O وInfiniGen يُزيل الرموز التي لا تهم، والتخزين المؤقت للبادئات هو أعلى رافعة عائد.

1447-11-13

الفصل 7 — استراتيجيات التجميع المتقدمة

المقالة السابعة من جولة LLM Primer VI. لماذا يفشل التجميع الساكن على مشكلة الأسرع انتهاءً، وكيف يُحوِّل التجميع المستمر الدُّفعة إلى فعل، والتعبئة الأمامية المُجزَّأة توحِّد الطورَين.

1447-11-12

الفصل 6 — التقليم وتقطير المعرفة

المقالة السادسة من جولة LLM Primer VI. تناثر 2:4 على Hopper، وتقطير توزيع المُعلِّم لا مُتغيَّره الأقصى، وترتيب: قطِّر ثم قلِّم ثم كمِّم.

1447-11-11

الفصل 5 — كشف غموض التكميم

المقالة الخامسة من جولة LLM Primer VI. لماذا ينجو نموذج 70B من 4-bit ولا ينجو نموذج 1B، وماذا يفعل AWQ وGPTQ وSmoothQuant وGGUF فعلاً، وسلَّم الأمان مع انضباط المعايرة.

1447-11-10

الفصل 4 — السيليكون المتخصص ودوائر ASIC

المقالة الرابعة من جولة LLM Primer VI. Groq LPU للاستجابة الحتمية، وInferentia2 وTPU وGaudi 3 عندما يستقر النموذج، وأين لا تزال GPU تفوز في نطاق تنوع النماذج.

1447-11-09

الفصل 3 — وحدات GPU لمراكز البيانات للذكاء الاصطناعي التوليدي

المقالة الثالثة من جولة LLM Primer VI. اقرأ ورقة مواصفات GPU بترتيب VRAM ثم عرض نطاق HBM ثم دعم FP8/FP4 ثم FLOP: H100 وH200 وB200 وL40S وMI300X لكل عبء عمل.

1447-11-08

الفصل 2 — تحدي ذاكرة KV

المقالة الثانية من جولة LLM Primer VI. صيغة حجم ذاكرة KV، والمقايضات المعمارية بين MHA وGQA وMQA وMLA، ولماذا يهدر التخصيص الساذج معظمَ الميزانية بالتجزئة الداخلية.

1447-11-07

الفصل 1 — ميكانيكا توليد الرموز

المقالة الأولى من جولة LLM Primer VI. الحلقة الانحدارية الذاتية متسلسلة بالضرورة الرياضية، والتعبئة الأمامية وفك التشفير يُجهدان الشريحة بطرق متعاكسة، ولماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪.

1447-11-06

LLM Primer VI — مقدمة السلسلة والفهرس

مقدمة الجولة الفصلية لـ LLM Primer VI: توسيع أنظمة الذكاء الاصطناعي. لماذا يترك مستخدم واحد وحدةَ H100 عاطلة بنسبة 99.7٪، وكيف تتعامل الفصول الستة عشر مع اختناق عرض النطاق التخديمي.

1447-11-05

الفصل 8 — تحسين الأداء والتخديم والتكلفة

المقالة الأخيرة من جولة LLM Primer V. اقتصاديات LLM الإنتاجية بوصفها انضباطاً مُتعدد الطبقات — الاستدعاء الأرخص هو الذي لم يُجرَ (تخزين مؤقت دلالي)، والتالي هو المُجرى ضد أصغر نموذجٍ يفي بالغرض (مُوجِّه)، والأرضية تُوضع داخل خادم الاستدلال بـ KV cache والدُّفَعات المستمرة وفكّ الترميز التخميني.

1447-11-04