PEFT documentation
الإعداد
الإعداد
PeftConfigMixin هي فئة الإعداد الأساسية لتخزين إعدادات المحوّل (adapter) الخاص بنموذج PeftModel، بينما PromptLearningConfig هي فئة الإعداد الأساسية لطرق الموجهات الناعمة (p-tuning وprefix tuning وprompt tuning). تحتوي هذه الفئات الأساسية على طرق لحفظ وتحميل إعدادات النموذج من Hub، وتحديد طريقة PEFT المستخدمة، ونوع المهمة المراد تنفيذها، وإعدادات النموذج مثل عدد الطبقات وعدد رؤوس الانتباه.
PeftConfigMixin
فئة peft.config.PeftConfigMixin
< source >( task_type: Optional[TaskType] = Nonepeft_type: Optional[PeftType] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = None )
هذا هو فئة الإعداد الأساسية لنماذج محوّل PEFT. يحتوي على جميع الطرق المشتركة بين جميع نماذج محوّل PEFT. ترث هذه الفئة من PushToHubMixin التي تحتوي على الطرق اللازمة لدفع نموذجك إلى Hub. الطريقة save_pretrained ستحفظ إعدادات نموذج المحوّل الخاص بك في مجلد. الطريقة from_pretrained ستحمّل إعدادات نموذج المحوّل الخاص بك من مجلد.
تحقق من kwargs قبل تهيئة كائن الإعدادات.
يمكن للفئات الفرعية تجاوز هذه الطريقة لإضافة فحوصات محددة.
from_json_file
< source >( path_json_file: str**kwargs )
يحمّل ملف تكوين من ملف json.
from_peft_type
< source >( **kwargs )
تحمّل هذه الطريقة إعدادات نموذج المُكيّف الخاص بك من مجموعة من معاملات الكلمات المفتاحية (kwargs).
يُحدَّد نوع التهيئة المناسب بواسطة الحجة peft_type. إذا لم تُوفَّر peft_type،
فإنّ نوع الفئة المستدعية هو الذي يُنشأ.
from_pretrained
< source >( pretrained_model_name_or_path: strsubfolder: Optional[str] = None**kwargs )
المعاملات
- pretrained_model_name_or_path (
str) — المجلد أو معرف مستودع Hub حيث يتم حفظ التهيئة. - subfolder (
str، اختياري) — مجلد فرعي اختياري تحتpretrained_model_name_or_path. - kwargs (معلمات إضافية بالكلمة المفتاحية، اختيارية) —
معلمات بالكلمة المفتاحية تُمرَّر إلى huggingface_hub.hf_hub_download (مثل
token،revision،cache_dir). لا يمكن تمرير المعلمات الخاصة بإعداد PEFT، مثلtask_typeأوr، كتجاوزات. لتغيير السمات، اضبطها على الإعداد المُعاد بعد التحميل.
تحمّل هذه الطريقة إعدادات نموذج المُكيّف الخاص بك من مجلد.
save_pretrained
< source >( save_directory: str**kwargs )
المعاملات
- save_directory (
str) — المجلد الذي سيتم حفظ التكوين فيه. - kwargs (معلمات إضافية بالكلمة المفتاحية، اختيارية) — معلمات إضافية بالكلمة المفتاحية تُمرَّر إلى طريقة push_to_hub.
يحفظ هذا الأسلوب إعدادات نموذج المُكيّف الخاص بك في مجلد.
يعيد إعدادات نموذج المُكيّف الخاص بك على شكل قاموس.
PeftConfig
فئة peft.PeftConfig
< source >( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = False )
هذا هو فئة الإعداد الأساسية لتخزين إعداد PeftModel.
PromptLearningConfig
فئة peft.PromptLearningConfig
< source >( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsenum_virtual_tokens: int = Nonetoken_dim: int = Nonenum_transformer_submodules: Optional[int] = Nonenum_attention_heads: Optional[int] = Nonenum_layers: Optional[int] = Nonemodules_to_save: Optional[list[str]] = None )
المعاملات
- num_virtual_tokens (
int) — عدد الرموز الافتراضية المستخدمة. - token_dim (
int) — بُعد التضمين المخفي لنموذج الترانسفورمر الأساسي. - num_transformer_submodules (
int) — عدد وحدات التحويل الفرعية في نموذج التحويل الأساسي. - num_attention_heads (
int) — عدد رؤوس الانتباه في نموذج الترانسفورمر الأساسي. - num_layers (
int) — عدد الطبقات في نموذج الترانسفورمر الأساسي.
هذا هو فئة الإعداد الأساسية لتخزين إعداد PrefixTuning أو PromptEncoder أو PromptTuning.
get_peft_config
peft.get_peft_config
< source >( config_dict: dict[str, Any] )
يعيد كائن إعدادات Peft من قاموس.