ماسح طرف ثالث: Protect AI

هل أنت مهتم بالانضمام إلى شراكتنا الأمنية / تقديم معلومات الفحص على المنصة؟ يرجى التواصل معنا عبر security@huggingface.co.*

تلتقط أداة Guardian التابعة لـ Protect AI استغلال pickle وKeras وغيرها من الثغرات، كما هو موضح في صفحة قاعدة المعرفة. كما تستفيد أداة Guardian من التقارير التي يرسلها مجتمعها من صائدي المكافآت Huntr.

مثال على تقرير لـ danger.dat

تعاونّا مع Protect AI لتوفير الفحص لجعل Hub أكثر أمانًا. وبالمثل، كما يتم فحص الملفات بواسطة نظام الفحص الداخلي لدينا، يتم فحص ملفات المستودعات العامة بواسطة Guardian.

تمت إعادة تصميم واجهتنا الأمامية خصيصًا لهذا الغرض، وذلك لاستيعاب الماسحات الجديدة:

إليك مثالًا على مستودع يمكنك الاطلاع عليه لرؤية الميزة أثناء العمل: mcpotato/42-eicar-street.

تذكير بأمن النموذج

لمشاركة النماذج، نقوم بتسلسل هياكل البيانات التي نستخدمها للتفاعل مع هذه النماذج، وذلك لتسهيل التخزين والنقل. بعض صيغ التسلسل عرضة لاستغلال خطير، مثل تنفيذ الأكواد بشكل تعسفي (ننظر إليك يا pickle)، مما يجعل مشاركة النماذج محفوفة بالمخاطر.

مع تزايد شعبية منصة Hugging Face كموقع لمشاركة النماذج، نود حماية المجتمع من هذه المخاطر، ولهذا السبب طورنا أدوات مثل picklescan وندمج ماسحات الطرف الثالث.

ليس Pickle هو الصيغة القابلة للاستغلال الوحيدة المتوفرة، انظر للمرجع حول كيفية استغلال طبقات Keras Lambda لتحقيق تنفيذ أوامر برمجية تعسفية.

Update on GitHub