سؤال اليوم AAIA: مراقبة معالجة التحيّز

AI audit training by expert Yazan Abu Ghosh for auditors with certifications.

سؤال امتحان AAIA — سؤال اليوم AAIA: مراقبة معالجة التحيّز

سؤال امتحان AAIA: تدريب يومي لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) — المجال: AI Governance and Risk.

السؤال

فريق التدقيق الداخلي يلاحظ أن فريق التعلم الآلي نفّذ تعديلًا لإعادة وزن عينات التدريب لمعالجة تحيّز مكتشف بعد النشر، دون توثيق خطة أو إشعار أصحاب المصلحة. ما هو الإجراء الحوكمي الأفضل لضمان أن معالجة التحيّز تُنفَذ بمسؤولية وتُراقَب لتجنّب آثار جانبية غير مقصودة؟

  • أ. تنفيذ اختبارات عدالة شاملة قبل النشر مع آلية تلقائية للعودة إلى النسخة السابقة إذا فشلت الاختبارات
  • ب. اعتماد خطة معالجة تحيّز موثّقة وموقّعة من أصحاب المصلحة مع مراقبة ما بعد النشر وتقرير دوري عن المؤشرات
  • ج. تقييد الوصول إلى خط أنابيب التدريب بحيث لا يمكن سوى فريق هندسي محدد تغيير الأوزان أو التسميات
  • د. الاحتفاظ بنسخ ثابتة وغير قابلة للتغيير من مجموعات البيانات ونماذج التدريب لأغراض التحقيق اللاحق
اعرض الإجابة والشرح

الإجابة الصحيحة: ب. اعتماد خطة معالجة تحيّز موثّقة وموقّعة من أصحاب المصلحة مع مراقبة ما بعد النشر وتقرير دوري عن المؤشرات

الإجابة الصحيحة هي اعتماد خطة معالجة تحيّز موثّقة وموقّعة مع مراقبة ما بعد النشر، لأن ذلك يوفر حوكمة واضحة ومسؤولية وتوافق أصحاب المصلحة، ويضمن تتبع تأثيرات المعاملة الفعلية وإتاحة إجراءات تصحيحية إذا ظهرت آثار جانبية. الخيار الأول (اختبارات ما قبل النشر مع عودة تلقائية) مفيد تقنياً لكنه لا يغطي الجوانب الحَوكَمِيّة أو مشاركة أصحاب المصلحة، وقد يسبب توقفات تشغيلية دون قرار مؤسسي. الخيار الثالث (تقييد الوصول) يعزّز مراقبة التغيير لكنه لا يضمن فهم أو تقييم تأثيرات المعالجة ولا يمنح آلية لمراجعة القرار. الخيار الرابع (النسخ الثابتة) مهم للأدلّة والتدقيق لكنه وحده لا يضمن موافقة أو إشراف أو مراقبة تشغيلية لفعالية المعالجة.

هل تريد المزيد من التدريب؟

استعد لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) مع إطار تدقيق الذكاء الاصطناعي والامتثال: أساليب عملية وتقييم.