مقدمة إلى LLM
تقدم هذه الصفحة دليلاً بسيطاً حول النماذج اللغوية الكبيرة (LLM) من الأساسيات إلى التطبيقات للمهتمين بتقنيات الذكاء الاصطناعي.
الفصل 17 — تهديدات المستقبل والدفاعات الناشئة
المقال الأخير من جولة LLM Primer VII وخاتمة سلسلة LLM Primer بمجملها. الوكلاء المستقلّون والوسائط الجديدة والهوية الاصطناعية وضمان الذكاء الاصطناعي، ثم جسر إلى Physical AI.
1447-12-09
الفصل 16 — الضبط الدقيق والتكييف الآمنان
المقال السادس عشر من جولة LLM Primer VII. تآكل المحاذاة عبر بيانات حميدة، والتسميم بمائة مثال مصوغ، وبوابات تقييم CI، وسجل نماذج يجعل التراجع دقائق لا يوماً.
1447-12-08
الفصل 15 — بناء منظّمة ذكاء اصطناعي آمنة
المقال الخامس عشر من جولة LLM Primer VII. الطبقة التنظيمية التي تحمل الاختصاص عبر السنوات: ثقافة، وفرق حمراء، ومخاطر مورّدين، وتقييم مستمرّ، ووصاية طويلة الأمد.
1447-12-07
الفصل 14 — التحيز والإنصاف والذكاء الاصطناعي المسؤول
المقال الرابع عشر من جولة LLM Primer VII. مصادر التحيز، ومقايضة الأمان مقابل النفع، والحدود المنهجية لقياس الإنصاف، والسياسة التنظيمية بوصفها الطبقة التي يحيا فيها الذكاء الاصطناعي المسؤول.
1447-12-06
الفصل 13 — الخريطة التنظيمية
المقال الثالث عشر من جولة LLM Primer VII. قانون AI الأوروبي مِرساةً، وGDPR وقواعد حماية البيانات النظيرة، وبطاقات النماذج والقابلية للتدقيق بوصفها الشكل التشغيلي.
1447-12-05
الفصل 12 — التحكم بالوصول والهوية
المقال الثاني عشر من جولة LLM Primer VII. المصادقة والتخويل والعزل وحدود المعدل، مع النموذج بوصفه حساباً تُقيَّد قدراته برموز قدرة يُصدرها الكود المحيط.
1447-12-04
الفصل 11 — الرصد والتسجيل والاستجابة للحوادث
المقال الحادي عشر من جولة LLM Primer VII. سياسة تسجيل مبنية على أعراف OpenTelemetry GenAI، وكشف مركّب بالتوقيع والإحصاء والسلوك، ودليل استجابة حوادث مستوحى من NIST.
1447-12-03
الفصل 10 — تصميم بنى LLM آمنة
المقال العاشر من جولة LLM Primer VII. البنية بوصفها الاختصاص الأمني الأول: عزل يحدّ نصف قطر الانفجار، وتحقق مُدرَّج بخمس طبقات، وسياسات مُعلَنة، وثقة صفرية على استدعاءات النموذج.
1447-12-02
الفصل 9 — سلامة النموذج ومخاطر سلسلة التوريد
المقال التاسع من جولة LLM Primer VII. أثر النموذج بوصفه ملفاً ثنائياً من طرف ثالث: أبواب خلفية تنجو من التدريب، وpickle مقابل safetensors، وSigstore ورصد الانحراف.
1447-12-01
الفصل 8 — الهجمات الخصومية على النماذج
المقال الثامن من جولة LLM Primer VII. النسب من FGSM إلى اللواحق العامّة، والهجمات على الصندوق الأسود بكلفة قليلة، وسرقة النماذج بوصفها هجوماً على السرية يُنتج بديلاً أبيض الصندوق.
1447-11-30
الفصل 7 — الهلوسة والموثوقية
المقال السابع من جولة LLM Primer VII. آليات الهلوسة، والفجوة بين الثقة والصحّة، والمعايرة والتحقق الهجين بوصفها الإصلاح التشغيلي.
1447-11-29
الفصل 6 — مخاطر التوليد المُعزَّز بالاسترجاع
المقال السادس من جولة LLM Primer VII. حدود الثقة الخمس في RAG، والحقن غير المباشر عبر الفهرس، وأنماط الاسترجاع الآمنة التي تعزل المستأجرين وتُنسّب الثقة عند الاستيراد.
1447-11-28
الفصل 5 — التحقق من المُدخل وتصفية المُخرج
المقال الخامس من جولة LLM Primer VII. مراحل التطهير والتوجيه المهيكل وأدوات الحواجز والفريق الأحمر، ومقاييس أمان صادقة تربط معدل النجاح بحجم الحركة.
1447-11-27
الفصل 4 — حقن التوجيهات وكسر القيود
المقال الرابع من جولة LLM Primer VII. لماذا لا يمتلك حقن التوجيهات إصلاحاً بنيوياً كالاستعلامات الوسيطة، وعائلات كسر القيود، والدفاع الطبقي بأربع طبقات مستقلة.
1447-11-26
الفصل 3 — أمن البيانات والخصوصية
المقال الثالث من جولة LLM Primer VII. البيانات بوصفها أصلاً بدورة حياة: مخاطر التدريب والاستذكار والاستخراج، وحادثتا Samsung وGarante، ونظام التشفير والعزل والاحتفاظ.
1447-11-25
الفصل 2 — نمذجة التهديد لأنظمة LLM
المقال الثاني من جولة LLM Primer VII. أسئلة Shostack الأربعة، وSTRIDE وPASTA وMITRE ATLAS مطبقة على أنظمة LLM، وقالب نموذج تهديد عملي تشير إليه بقية الكتاب.
1447-11-24
الفصل 1 — لماذا أمن الذكاء الاصطناعي مختلف
المقال الأول من جولة LLM Primer VII. لماذا لا يكفي الأمن التقليدي، وكيف تكسر LLM الفصل بين الشيفرة والبيانات، ولماذا يصبح غلاف السلوك هو سطح الهجوم بدل خطوط الشيفرة.
1447-11-23
LLM Primer VII — تمهيد السلسلة والفهرس
تمهيد سلسلة LLM Primer VII: أمان الذكاء الاصطناعي، وفهرس الجولة الفصلية من 10 إلى 26 مايو، ولماذا يُعيد أمن النماذج اللغوية الكبيرة بناءَ الأرض التي وقف عليها الأمن التقليدي.
1447-11-22