سؤال امتحان AAIA: تدريب يومي لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) — المجال: AI Auditing Tools and Techniques.
السؤال
شركة تستخدم خدمة تصنيف صور جهة خارجية وتطلب من فريق التدقيق تقييم "متانة" النموذج ضد الهجمات العدائية. الوصول للنموذج محدود (black-box) ويمكن إرسال طلبات API مع عينات اختبار ممثلة. ما هو الاختبار الأكثر فاعلية لتقييم مخاطر الهجوم العدائي في هذه الحالة؟
اعرض الإجابة والشرح
الإجابة الصحيحة: ج. إجراء هجمات عدائية بنمط black-box على عينات ممثلة وقياس تراجع الأداء
الخيار الصحيح هو إجراء هجمات عدائية بنمط black-box على عينات ممثلة وقياس تراجع الأداء، لأنه يوفر قياسًا مستقلاً ومباشرًا لمدى قدرة النموذج على الصمود أمام هجمات يمكن أن تنفذها جهة خارجية دون معرفة بنية النموذج. الاعتماد على تقرير المورد غير كافٍ لأن التقرير قد لا يعكس بيئة الإنتاج أو منهجيات الاختبار. مراقبة مؤشرات الثقة مفيدة للكشف عن مشكلات عامة لكنها لا تقدم اختبارًا استباقيًا للقدرة على توليد أمثلة عدائية واستغلالها. تطبيق مرشحات الإدخال هو إجراء تخفيفي يحتاج إلى اختبار فعاليته ولم يقدّم قياساً لمدى قابلية النموذج للهجوم.
هل تريد المزيد من التدريب؟
استعد لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) مع إطار تدقيق الذكاء الاصطناعي والامتثال: أساليب عملية وتقييم.
