سؤال اليوم AAIA: حوكمة إعادة تدريب آلية

AI audit training by expert Yazan Abu Ghosh for auditors with certifications.

سؤال امتحان AAIA — سؤال اليوم AAIA: حوكمة إعادة تدريب آلية

سؤال امتحان AAIA: تدريب يومي لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) — المجال: AI Governance and Risk.

السؤال

فريق التدقيق يراجع سياسة مؤسسة تسمح بإعادة تدريب النماذج تلقائياً عند اكتشاف انحراف بيانات عبر نظام مراقبة. ما هو التحكم الأكثر ملاءمة لحوكمة عمليات إعادة التدريب الآلي وتقليل مخاطر نشر نماذج غير ملائمة؟

  • أ. السماح بتشغيل آلي كامل لإعادة التدريب والتبديل إلى النموذج الجديد عند تجاوز عتبة الانحراف دون مراجعة بشرية.
  • ب. تسجيل كل عمليات إعادة التدريب وإخطار أصحاب المصالح مع إتاحة نقطة استعادة سريعة دون اشتراط الموافقة قبل النشر.
  • ج. إلزام موافقة بشرية موثقة على نتائج اختبار ما قبل النشر وخطة مراقبة ما بعد النشر قبل نشر أي نموذج تم إعادة تدريبه آلياً.
  • د. اعتماد سياسات تؤرخ تلقائياً لإعادة التدريب وتطبيقها فقط على بيانات مشروطة دون متطلبات اختبار أداء إضافية.
اعرض الإجابة والشرح

الإجابة الصحيحة: ج. إلزام موافقة بشرية موثقة على نتائج اختبار ما قبل النشر وخطة مراقبة ما بعد النشر قبل نشر أي نموذج تم إعادة تدريبه آلياً.

الخيار الثالث هو الأفضل لأنه يضمن تدخلاً بشرياً موثقاً بعد اختبارات ما قبل النشر وقبل نشر النموذج المعاد تدريبه، مع وضع خطة مراقبة ما بعد النشر لتتبع الأداء وقرار التراجع إن لزم. هذا يوازن بين الأتمتة والحوكمة ويقلل مخاطر اتخاذ قرارات إنتاجية مبكّرة. الخيار الأول خطير لأنه يسمح بنشر آلي كامل دون مراجعة، مما يزيد احتمال نشر نموذج تدهور أداؤه أو تحيزه. الخيار الثاني مفيد للتتبع والاستعادة لكن يفتقد شرط الموافقة المسبقة الذي يحمي من نشر غير مناسب. الخيار الرابع يعتمد على شروط البيانات فقط ويتجاهل اختبارات الأداء والمراجعة البشرية الضرورية.

هل تريد المزيد من التدريب؟

استعد لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) مع إطار تدقيق الذكاء الاصطناعي والامتثال: أساليب عملية وتقييم.