مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 17 — تهديدات المستقبل والدفاعات الناشئة
المقال الأخير من جولة LLM Primer VII وخاتمة سلسلة LLM Primer بمجملها. الوكلاء المستقلّون والوسائط الجديدة والهوية الاصطناعية وضمان الذكاء الاصطناعي، ثم جسر إلى Physical AI.
1447-12-09
الفصل 16 — الضبط الدقيق والتكييف الآمنان
المقال السادس عشر من جولة LLM Primer VII. تآكل المحاذاة عبر بيانات حميدة، والتسميم بمائة مثال مصوغ، وبوابات تقييم CI، وسجل نماذج يجعل التراجع دقائق لا يوماً.
1447-12-08
الفصل 15 — بناء منظّمة ذكاء اصطناعي آمنة
المقال الخامس عشر من جولة LLM Primer VII. الطبقة التنظيمية التي تحمل الاختصاص عبر السنوات: ثقافة، وفرق حمراء، ومخاطر مورّدين، وتقييم مستمرّ، ووصاية طويلة الأمد.
1447-12-07
الفصل 11 — الرصد والتسجيل والاستجابة للحوادث
المقال الحادي عشر من جولة LLM Primer VII. سياسة تسجيل مبنية على أعراف OpenTelemetry GenAI، وكشف مركّب بالتوقيع والإحصاء والسلوك، ودليل استجابة حوادث مستوحى من NIST.
1447-12-03
الفصل 8 — الهجمات الخصومية على النماذج
المقال الثامن من جولة LLM Primer VII. النسب من FGSM إلى اللواحق العامّة، والهجمات على الصندوق الأسود بكلفة قليلة، وسرقة النماذج بوصفها هجوماً على السرية يُنتج بديلاً أبيض الصندوق.
1447-11-30
الفصل 6 — مخاطر التوليد المُعزَّز بالاسترجاع
المقال السادس من جولة LLM Primer VII. حدود الثقة الخمس في RAG، والحقن غير المباشر عبر الفهرس، وأنماط الاسترجاع الآمنة التي تعزل المستأجرين وتُنسّب الثقة عند الاستيراد.
1447-11-28
الفصل 5 — التحقق من المُدخل وتصفية المُخرج
المقال الخامس من جولة LLM Primer VII. مراحل التطهير والتوجيه المهيكل وأدوات الحواجز والفريق الأحمر، ومقاييس أمان صادقة تربط معدل النجاح بحجم الحركة.
1447-11-27
الفصل 4 — حقن التوجيهات وكسر القيود
المقال الرابع من جولة LLM Primer VII. لماذا لا يمتلك حقن التوجيهات إصلاحاً بنيوياً كالاستعلامات الوسيطة، وعائلات كسر القيود، والدفاع الطبقي بأربع طبقات مستقلة.
1447-11-26
الفصل 3 — أمن البيانات والخصوصية
المقال الثالث من جولة LLM Primer VII. البيانات بوصفها أصلاً بدورة حياة: مخاطر التدريب والاستذكار والاستخراج، وحادثتا Samsung وGarante، ونظام التشفير والعزل والاحتفاظ.
1447-11-25
الفصل 2 — نمذجة التهديد لأنظمة LLM
المقال الثاني من جولة LLM Primer VII. أسئلة Shostack الأربعة، وSTRIDE وPASTA وMITRE ATLAS مطبقة على أنظمة LLM، وقالب نموذج تهديد عملي تشير إليه بقية الكتاب.
1447-11-24
الفصل 1 — لماذا أمن الذكاء الاصطناعي مختلف
المقال الأول من جولة LLM Primer VII. لماذا لا يكفي الأمن التقليدي، وكيف تكسر LLM الفصل بين الشيفرة والبيانات، ولماذا يصبح غلاف السلوك هو سطح الهجوم بدل خطوط الشيفرة.
1447-11-23
LLM Primer VII — تمهيد السلسلة والفهرس
تمهيد سلسلة LLM Primer VII: أمان الذكاء الاصطناعي، وفهرس الجولة الفصلية من 10 إلى 26 مايو، ولماذا يُعيد أمن النماذج اللغوية الكبيرة بناءَ الأرض التي وقف عليها الأمن التقليدي.
1447-11-22
الفصل 16 — استراتيجيات خفض التكلفة في الإنتاج
المقالة الختامية من جولة LLM Primer VI. التوجيه الذكي للنموذج أعلى رافعة، وضغط السياق وواجهات API الدُّفعية والتخزين المؤقت الدلالي تشتري كلٌّ شريحة كبيرة، والحركات تتراكم مضاعفياً.
1447-11-21
الفصل 7 — أمن LLM ومحاورها الوقائية
المقالة السابعة من جولة LLM Primer V. تسمية محور الأمن الجديد الذي تُدخله تطبيقات LLM — التحكم بأيّ التعليمات تصل إلى النموذج، من أين، حاملةً كم من الصلاحية — وبناء مصفوفة التخفيف رباعية الطبقات حوله.
1447-11-03الفصل 11 — أسطح الهجوم وثغرات البروتوكول
المقالة الحادية عشرة من جولة LLM Primer IV. الهجمات الكلاسيكية مُكَيَّفة لـ MCP — النائب المُلتبس، تَمرير الرمز، اختطاف الجلسة — العيوب على مستوى البروتوكول حول تَصعيد القدرة والمعاينة غير المُصادَق عليها، وتَوارُث الثقة الضمني الذي يَجعل تسميم السياق مشكلةً بنيوية لا نَظافة.
1447-10-21الفصل 10 — ذاكرة المهام طويلة الأفق
المقالة العاشرة من جولة LLM Primer IV. الذاكرة قصيرة المدى عبر النوافذ وألواح ReAct الشخصية، الذاكرة طويلة المدى عبر متجهات حادثية ومخازن دلالية، وتقنيات الكَبس التي تُبقي الوكيل منتجاً عبر ساعات وأيام.
1447-10-20