سؤال اليوم AAIA: تدقيق التعلم الموزع

AI audit training by expert Yazan Abu Ghosh for auditors with certifications.

سؤال امتحان AAIA — سؤال اليوم AAIA: تدقيق التعلم الموزع

سؤال امتحان AAIA: تدريب يومي لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) — المجال: AI Auditing Tools and Techniques.

السؤال

مستشفى تعمل ضمن شبكة تدريب موزّع (federated learning) على نموذج تشخيص، وتمنع سياسات الخصوصية إرسال البيانات الخام إلى المركز. كمدقق، أي إجراء يوفّر أفضل دليل تقني على أن تحديثات العملاء كانت أصلية ولم تُعدّل أثناء النقل مع الحفاظ على سرية البيانات؟

  • أ. طلب نسخ من البيانات الخام من كل موقع وإعادة تشغيل التدريب مركزياً للتحقق من التحديثات
  • ب. تنفيذ secure aggregation مصحوباً بتوقيعات رقمية لكل تحديث وفحوص تجزئة (hash) لإثبات النشأة والسلامة دون كشف البيانات
  • ج. الاعتماد على مراقبة أداء النموذج المركزية وكاشفات الانحراف (drift detectors) لالتقاط تحديثات غير متوقعة
  • د. إجراء تدقيق دوري لكود التدريب على الأجهزة المحلية دون تسجيل أو توقيع للتحديثات المرسلة
اعرض الإجابة والشرح

الإجابة الصحيحة: ب. تنفيذ secure aggregation مصحوباً بتوقيعات رقمية لكل تحديث وفحوص تجزئة (hash) لإثبات النشأة والسلامة دون كشف البيانات

الخيار الثاني هو الأفضل لأنه يجمع بين تجميع آمن (secure aggregation) الذي يحمي خصوصية البيانات المحلية، وتوقيعات رقمية/تجزئة التحديثات التي تثبت مصدر التحديث وسلامته دون الكشف عن بيانات التدريب. الخيار الأول ينتهك الخصوصية ويغالب قيود الحوكمة. الخيار الثالث مفيد لاكتشاف تغيّر الأداء لكنه لا يوفّر دليل قاطع على مصدر أو عدم تعديل التحديثات أثناء النقل. الخيار الرابع يحسّن الشفافية في الكود لكنه لا يسجل أو يبرهن على كل تحديث مرسل، وبالتالي لا يكفي لإثبات النشأة أو منع التلاعب عند التجميع المركزي.

هل تريد المزيد من التدريب؟

استعد لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) مع إطار تدقيق الذكاء الاصطناعي والامتثال: أساليب عملية وتقييم.