سؤال اليوم AAIA: التحكم في وصول نماذج الذكاء الاصطناعي

AI audit training by expert Yazan Abu Ghosh for auditors with certifications.

سؤال امتحان AAIA — سؤال اليوم AAIA: التحكم في وصول نماذج الذكاء الاصطناعي

سؤال امتحان AAIA: تدريب يومي لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) — المجال: AI Operations.

السؤال

في شركة برمجيات متوسطة الحجم، يقوم مهندسو ML ومورِّدون خارجيون بتحميل نماذج إلى سجل النماذج المشترك. حدث سابقاً استبدال إصدار الإنتاج بنموذج غير مقصود بسبب خطأ بشري. ما هو الإجراء الأكثر فعالية لضمان سلامة النماذج المخزنة في سجل النماذج (model registry) والتحقق التلقائي من مصدرها قبل النشر؟

  • أ. فرض توقيع تشفيري رقمي على حزَم النماذج والتحقق التلقائي من التوقيع في خط نشر CI/CD قبل النشر
  • ب. تطبيق قواعد حماية الفروع ومراجعات الكود على مستودعات النماذج كضابط أساسي للتحكم في الوصول
  • ج. الاحتفاظ بسجلات تدفقات النشر والتدقيق لفترة طويلة للتحقق اللاحق بعد أي حادث
  • د. تقييد الوصول إلى سجل النماذج إلى نطاقات IP داخلية فقط عبر جدار ناري شبكي
اعرض الإجابة والشرح

الإجابة الصحيحة: أ. فرض توقيع تشفيري رقمي على حزَم النماذج والتحقق التلقائي من التوقيع في خط نشر CI/CD قبل النشر

فرض توقيع تشفيري رقمي على حزَم النماذج مع تحقق تلقائي في خط نشر CI/CD هو الحل الأكثر فعالية لأنه يضمن سلامة الحزمة ومصدرها (integrity و provenance) قبل السماح بالنشر. التوقيع يمنع استبدال الملفات أو تحميل نسخ غير مصرح بها حتى لو تمكن شخص من الوصول إلى السجل. خيار قواعد حماية الفروع ومراجعات الكود مهم لكنه يفتقد إلى تحقُّق ثنائي للثنائيات (binaries) ولا يمنع تغيّر الحزم بعد البناء. الاحتفاظ بسجلات التدقيق مفيد للتحقيق بعد الحادث لكنه إجراء استباقي ضعيف ولا يمنع النشر الخاطئ. تقييد الشبكة يقلل السطح الهجومي لكنه لا يضمن عدم تعديل الحزمة أو أن من نشرها هو المصدر المصرح به.

هل تريد المزيد من التدريب؟

استعد لامتحان شهادة ISACA المتقدمة في تدقيق الذكاء الاصطناعي (AAIA) مع إطار تدقيق الذكاء الاصطناعي والامتثال: أساليب عملية وتقييم.