سؤال امتحان AAIA: تدريب يومي لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) — المجال: AI Auditing Tools and Techniques.
السؤال
أثناء تدقيق نموذج ائتماني يعمل في الإنتاج ومكوّن من ensemble من شجرات القرار (non-differentiable)، يطلب الفريق شرح قرار التنبؤ لحالة فردية بشكل متسق وكفء. أي تقنية تفسير محلية تُعد الأنسب لهذا السيناريو؟
اعرض الإجابة والشرح
الإجابة الصحيحة: أ. تطبيق SHAP (TreeSHAP) لحساب مساهمات الميزات لكل حالة بشكل متسق وفعّال
الخيار الصحيح هو SHAP (TreeSHAP) لأن خوارزمية TreeSHAP توفر حسابات Shapley متسقة وكفءة مصممة خصيصاً لنماذج الشجر (tree ensembles)، وتنتج تفسيرات على مستوى الحالة مع خصائص عدالة وثبات أفضل مقارنة بالبدائل النموذج-عام. LIME مفيد كنموذج بديل محلي لكنه يعتمد على تقريب محلي يمكن أن يكون غير مستقر وحساس لاختيارات الاضطراب (perturbation) وقد يختلف بين مرات التشغيل. Integrated Gradients يتطلب موديل قابل للتفاضل (مثل الشبكات العصبية) لذلك غير مناسب لــ non-differentiable ensembles. Partial Dependence يقدم تأثيراً متوسطاً على مستوى السكان (global) وليس تفسيراً دقيقاً لحالة مفردة.
هل تريد المزيد من التدريب؟
استعد لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) مع إطار تدقيق الذكاء الاصطناعي والامتثال: أساليب عملية وتقييم.
