مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 17 — تهديدات المستقبل والدفاعات الناشئة
المقال الأخير من جولة LLM Primer VII وخاتمة سلسلة LLM Primer بمجملها. الوكلاء المستقلّون والوسائط الجديدة والهوية الاصطناعية وضمان الذكاء الاصطناعي، ثم جسر إلى Physical AI.
1447-12-09
الفصل 8 — الهجمات الخصومية على النماذج
المقال الثامن من جولة LLM Primer VII. النسب من FGSM إلى اللواحق العامّة، والهجمات على الصندوق الأسود بكلفة قليلة، وسرقة النماذج بوصفها هجوماً على السرية يُنتج بديلاً أبيض الصندوق.
1447-11-30
الفصل 7 — الهلوسة والموثوقية
المقال السابع من جولة LLM Primer VII. آليات الهلوسة، والفجوة بين الثقة والصحّة، والمعايرة والتحقق الهجين بوصفها الإصلاح التشغيلي.
1447-11-29
الفصل 6 — مخاطر التوليد المُعزَّز بالاسترجاع
المقال السادس من جولة LLM Primer VII. حدود الثقة الخمس في RAG، والحقن غير المباشر عبر الفهرس، وأنماط الاسترجاع الآمنة التي تعزل المستأجرين وتُنسّب الثقة عند الاستيراد.
1447-11-28
الفصل 5 — التحقق من المُدخل وتصفية المُخرج
المقال الخامس من جولة LLM Primer VII. مراحل التطهير والتوجيه المهيكل وأدوات الحواجز والفريق الأحمر، ومقاييس أمان صادقة تربط معدل النجاح بحجم الحركة.
1447-11-27
الفصل 4 — حقن التوجيهات وكسر القيود
المقال الرابع من جولة LLM Primer VII. لماذا لا يمتلك حقن التوجيهات إصلاحاً بنيوياً كالاستعلامات الوسيطة، وعائلات كسر القيود، والدفاع الطبقي بأربع طبقات مستقلة.
1447-11-26
الفصل 2 — نمذجة التهديد لأنظمة LLM
المقال الثاني من جولة LLM Primer VII. أسئلة Shostack الأربعة، وSTRIDE وPASTA وMITRE ATLAS مطبقة على أنظمة LLM، وقالب نموذج تهديد عملي تشير إليه بقية الكتاب.
1447-11-24
LLM Primer VII — تمهيد السلسلة والفهرس
تمهيد سلسلة LLM Primer VII: أمان الذكاء الاصطناعي، وفهرس الجولة الفصلية من 10 إلى 26 مايو، ولماذا يُعيد أمن النماذج اللغوية الكبيرة بناءَ الأرض التي وقف عليها الأمن التقليدي.
1447-11-22الفصل 12 — تَصلُّب البروتوكول والدفاعات
المقالة الثانية عشرة من جولة LLM Primer IV. مجموعات الدفاع الأربع — التَشهيد التَشفيري، انضباط نطاقات OAuth مع جلساتٍ مُقَيَّدة، العزل الصندوقي وقت التشغيل، وبوّابات الإنسان في الحلقة — تَتركَّب في وضعٍ لا يَعتمد على تَصرُّف النموذج صحيحاً تحت الظروف الخصومية.
1447-10-22الفصل 11 — أسطح الهجوم وثغرات البروتوكول
المقالة الحادية عشرة من جولة LLM Primer IV. الهجمات الكلاسيكية مُكَيَّفة لـ MCP — النائب المُلتبس، تَمرير الرمز، اختطاف الجلسة — العيوب على مستوى البروتوكول حول تَصعيد القدرة والمعاينة غير المُصادَق عليها، وتَوارُث الثقة الضمني الذي يَجعل تسميم السياق مشكلةً بنيوية لا نَظافة.
1447-10-21الفصل 9 — إدارة ميزانية الانتباه
المقالة التاسعة من جولة LLM Primer IV. عَفَن السياق، هاوية «الضائع في المنتصف»، عَفَن طاقم الأدوات، والإجابات المعمارية الثلاث — MCP، RAG، الضبط الدقيق — على سؤال أين تَنتمي معرفة النموذج المفقودة فعلاً.
1447-10-19الفصل 6 — نماذج التهديد والثغرات في RAG
المقالة السادسة من جولة LLM Primer III. سطح الهجوم المُوسَّع للاسترجاع — تَسميم المكتبة، القِطع الخصمية، الحقن غير المباشر للموجِّه، قَلب التضمين، ومشكلة النائب المُلتبس في RAG الوكيلي. هجماتٌ ملموسة، كلٌّ قد بُرهنت، كلٌّ قابلٌ للتكرار.
1447-10-04
سلسلة LLM Primer — دليل ميداني للذكاء الاصطناعي التوليدي، مجلَّداً تلوَ مجلَّد
سلسلة LLM Primer — دليل ميداني كامل من سبعة مجلدات حول الذكاء الاصطناعي التوليدي بقلم Sho Shimoda. من الأساسيات إلى الأمان. تشمل Physical AI كمجلد شقيق. جميع المجلدات السبعة متوفرة على أمازون.
1447-08-27