تحمي ميزة "وقت تشغيل الذكاء الاصطناعي" تطبيقات الإنتاج من الهجمات والاستجابات غير المرغوبة في الوقت الفعلي باستخدام حواجز حماية تم تكوينها تلقائيًا إلى الثغرات الأمنية لكل نموذج، ويتم تعريفها باستخدام ميزة "التحقق من صلاحية نماذج الذكاء الاصطناعي والتطبيقات".
يُسهّل نظام AI Defense الامتثال لمعايير أمان الذكاء الاصطناعي، بما في ذلك قائمة OWASP لأهم 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة. تعرّف على المزيد حول مخاطر الذكاء الاصطناعي الفردية، بما في ذلك كيفية ارتباطها بالمعايير من MITRE وNIST وOWASP، في تصنيفنا لأمان الذكاء الاصطناعي.
تُشكّل النماذج التأسيسية جوهر معظم تطبيقات الذكاء الاصطناعي اليوم، سواء عبر تعديلها من خلال الضبط الدقيق أو تصميمها حسب الغرض. تعرّف على التحديات التي يجب معالجتها لضمان أمان النماذج وسلامتها.
يتحول الإنشاء المعزَّز بالاسترجاع سريعًا ليصبح معيارًا لإضافة سياق غني إلى تطبيقات النماذج اللغوية الكبيرة (LLM). تعرّف على تأثيرات RAG الخاصة على الأمان والسلامة.
تُعد روبوتات الدردشة من أشهر تطبيقات النماذج اللغوية الكبيرة، كما بدأت تظهر عوامل مستقلة تؤدي المهام بالنيابة عن المستخدمين. تعرّف على مخاطر الأمن والسلامة لديها.