Cisco AI Defense: ميزة "التحقق من صلاحية نماذج الذكاء الاصطناعي والتطبيقات"

تحديد نقاط الثغرات الأمنية بالنموذج باستخدام التحقق من الصلاحية باستخدام الذكاء الاصطناعي

اختبِر نماذج الذكاء الاصطناعي تلقائيًا بحثًا عن مخاطر الأمان والسلامة.

ثِق في سلامة نماذجك وأمانها

تُجري ميزة "التحقق من صلاحية نماذج الذكاء الاصطناعي والتطبيقات" تقييمًا خورازميًا تلقائي التشغيل للثغرات الأمنية لأمان النموذج وسلامته، يتم تحديثه باستمرار من خلال فِرق أبحاث تهديدات الذكاء الاصطناعي. يمكنك بعد ذلك فهم مدى قابلية تعرض تطبيقك للتهديدات الناشئة وحمايته منها، بتعزيز من حواجز حماية وقت تشغيل الذكاء الاصطناعي.

الحماية من هجمات سلسلة إمداد الذكاء الاصطناعي

يعمل المطوّرون على تنزيل النماذج والبيانات من مستودعات عامة، بما في ذلك Hugging Face وGitHub، مما يعرّض مؤسستك لمخاطر كبيرة عن غير قصد. وتعمل ميزة "التحقق من الصلاحية باستخدام الذكاء الاصطناعي" تلقائيًا على فحص النماذج والبيانات والملفات مفتوحة المصدر لمنع تهديدات سلاسل التوريد، مثل ملفات النماذج الضارة التي يمكن أن تتيح تنفيذ تعليمات برمجية تحكمية في بيئتك. عند إدخال نموذج جديد إلى السجل الخاص بك، يمكن بدء تقييم باستخدام استدعاء بسيط على واجهة برمجة التطبيقات.

اكتشاف الثغرات الأمنية بالنموذج

للنماذج المختارة لتشغيل تطبيقاتك تأثيرات على السلامة والأمان. تختبر ميزة "التحقق من الصلاحية باستخدام الذكاء الاصطناعي" النماذج باستخدام مطالبات يتم إنشاؤها خوارزميًا عبر 200 فئة، مما يكشف عن قابلية تعرضها للإجراءات الخبيثة، مثل دَس المطالبات أو إفساد البيانات، أو النتائج غير المقصودة. تمتد هذه الفائدة لتشمل النماذج قيد الإنتاج، مما يتيح إمكانية اكتشاف الثغرات الأمنية الجديدة تلقائيًا وتصحيحها في النماذج الموجودة.

إنشاء حواجز حماية مخصصة لكل نموذج

يُسهم استخدام حواجز الحماية التابعة لجهات خارجية في حماية تطبيقات الذكاء الاصطناعي لديك من التعلم بناءً على بيانات سيئة، أو الاستجابة لطلبات خبيثة، أو مشاركة معلومات غير مقصودة. تُنشئ ميزة "التحقق من الصلاحية باستخدام الذكاء الاصطناعي" تلقائيًا حواجز حماية مصممة خصيصًا وفقًا للثغرات الأمنية المحددة المكتشفة في كل نموذج، مما يعزّز من فعاليتها. يمكن تعديل هذه القواعد بشكل إضافي لتلائم مجالاً أو حالة استخدام أو تفضيلات للشركة.

فرض معايير أمان الذكاء الاصطناعي تلقائيًا على مستوى مؤسستك بأكملها

تعريف حالة التحقق من صلاحية النماذج

تكتشف AI Cloud Visibility تلقائيًا النماذج التي يتعين التحقق من صلاحيتها داخل بيئتك، مما يتيح لك بدء عملية التحقق من الصلاحية مباشرة من لوحة المعلومات.

أتمتة أمان الذكاء الاصطناعي عبر دورة حياة النموذج

بمجرد اكتمال التقييم الأولي للنموذج، تُجري ميزة "التحقق من الصلاحية باستخدام الذكاء الاصطناعي" عمليات إضافية للمساعدة في ضمان استخدام النماذج بأمان وسلامة.

تبسيط الامتثال للتقارير المُؤتمتة

أنشئ تقارير الثغرات الأمنية تلقائيًا والتي تترجم نتائج الاختبار إلى تقرير سهل القراءة متوافق مع معايير الصناعة والمعايير التنظيمية.

تحقيق التميز في أمان الذكاء الاصطناعي في مؤسستك

يُسهّل نظام AI Defense الامتثال لمعايير أمان الذكاء الاصطناعي، بما في ذلك قائمة OWASP لأهم 10 مخاطر في تطبيقات النماذج اللغوية الكبيرة. تعرّف على المزيد حول مخاطر الذكاء الاصطناعي الفردية، بما في ذلك كيفية ارتباطها بالمعايير من MITRE وNIST وOWASP، في تصنيفنا لأمان الذكاء الاصطناعي.

اختبار النماذج التي تدعم تطبيقك

النماذج التأسيسية

تُشكّل النماذج التأسيسية جوهر معظم تطبيقات الذكاء الاصطناعي اليوم، سواء عبر تعديلها من خلال الضبط الدقيق أو تصميمها حسب الغرض. تعرّف على التحديات التي يجب معالجتها لضمان أمان النماذج وسلامتها.

تطبيقات RAG

يتحول الإنشاء المعزَّز بالاسترجاع (RAG) سريعًا ليصبح معيارًا لإضافة سياق غني إلى تطبيقات النماذج اللغوية الكبيرة (LLM). تعرّف على تأثيرات RAG الخاصة على الأمان والسلامة.

روبوتات الدردشة والوكلاء باستخدام الذكاء الاصطناعي

تُعد روبوتات الدردشة من أشهر تطبيقات النماذج اللغوية الكبيرة، كما بدأت تظهر عوامل مستقلة تؤدي المهام بالنيابة عن المستخدمين. تعرّف على مخاطر الأمن والسلامة لديها.


موارد إضافية

تصنيف أمان وسلامة الذكاء الاصطناعي

افهم مشهد تهديدات الذكاء الاصطناعي التوليدي من خلال التعريفات وإجراءات التخفيف وتصنيفات المعايير.

يُفسد الضبط الدقيق للنماذج اللغوية الكبيرة توافقها مع معايير الأمان والسلامة

تُظهر أبحاثنا أن الضبط الدقيق يجعل النماذج أكثر عُرضة لاختراقات الحماية بثلاثة أضعاف، وأكثر احتمالاً لإنتاج استجابة ضارّة بأكثر من 22 مرة.

بُنى مرجع أمان الذكاء الاصطناعي

اعمل على تأمين ممارسات وأنماط التصميم للفرق المطوِّرة للتطبيقات المدعومة بالماذج اللغوية الكبيرة (LLM).

مبادئ الذكاء الاصطناعي المسؤول من Cisco

تتفانى Cisco لتأمين الذكاء الاصطناعي والتقنيات الناشئة.

خيار أمان الذكاء الاصطناعي للمؤسسة

اعمل على سدّ فجوة أمان الذكاء الاصطناعي وافتح المجال لتحوّل الذكاء الاصطناعي واكتسِب الحماية الشاملة عبر بيئتك.