أمن الذكاء الاصطناعي والتعلم الآلي الخصمي

المقدمة

ومع تزايد اندماج أنظمة الذكاء الاصطناعي في التطبيقات الحيوية، أصبح تأمينها ضد التهديدات العدائية أكثر أهمية. تغطي هذه الدورة الهجمات العدائية، ومخاطر استغلال النماذج، وتقنيات الدفاع. سيتعلم المشاركون كيف يتلاعب المهاجمون بالمدخلات، أو يسميمون مجموعات البيانات، أو يعكسون النماذج للهندسة العكسية. تساعد التمارين العملية المتعلمين على فهم كيفية ظهور نقاط الضعف وكيفية التخفيف منها. بحلول النهاية، سيتمكن المشاركون من تحديد المخاطر الأمنية للذكاء الاصطناعي والدفاع ضدها.

أهداف الدورة

• فهم مفاهيم التعلم الآلي العدائي
• استكشف أنواع الهجمات على أنظمة الذكاء الاصطناعي
• تعلم استراتيجيات الدفاع للنماذج القوية
• تحليل التهديدات التي تواجه خطوط أنابيب التدريب
• بناء سير عمل آمن للذكاء الاصطناعي

الفئة المستهدفة

• مهندسو التعلم الآلي
• محترفو الأمن السيبراني
• باحثون في سلامة الذكاء الاصطناعي
• مهندسو البيانات
• الطلاب الذين يدرسون تعلم الآلة الخصمي