PEFT documentation
LyCORIS
LyCORIS
LyCORIS (Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion) هي محوِّلات تحليل مصفوفات تشبه LoRA تُعدِّل طبقة الانتباه المتقاطع (cross-attention) في UNet. وتَرِث طريقتا LoHa وLoKr من فئات Lycoris هنا.
LycorisConfig
فئة peft.tuners.lycoris_utils.LycorisConfig
< source >( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falserank_pattern: Optional[dict] = <factory>alpha_pattern: Optional[dict] = <factory> )
إعداد أساسي لمُكيّفات LyCORIS
LycorisLayer
طبقة أساسية لمُكيّفات LyCORIS
دمج
< source >( safe_merge: bool = Falseadapter_names: Optional[list[str]] = None )
المعاملات
- safe_merge (
bool، اختياري) — إذا كانTrue، فسيتم تنفيذ عملية الدمج في نسخة من الأوزان الأصلية والتحقق من قيم NaN قبل دمج الأوزان. هذا مفيد إذا كنت تريد التحقق مما إذا كانت عملية الدمج ستنتج قيم NaN. القيمة الافتراضية هيFalse. - adapter_names (
List[str], اختياري) — قائمة أسماء المحوِّلات (adapters) التي يجب دمجها. إذا كانتNone، فسيتم دمج جميع المحوِّلات النشطة. القيمة الافتراضية هيNone.
دمج أوزان المُكيّف النشط في الأوزان الأساسية
تقوم هذه الطريقة بإلغاء دمج جميع طبقات المُكيِّف المُدمجة من الأوزان الأساسية.
LycorisTuner
فئة peft.tuners.lycoris_utils.LycorisTuner
< source >( modelpeft_config: Union[PeftConfig, dict[str, PeftConfig]]adapter_name: strlow_cpu_mem_usage: bool = Falsestate_dict: Optional[dict[str, torch.Tensor]] = None )
المعاملات
- model (
torch.nn.Module) — النموذج الذي سيتم تكييفه. - config (LoraConfig) — إعدادات نموذج Lora.
- adapter_name (
str) — اسم المُكيّف، القيمة الافتراضية هي"default". - low_cpu_mem_usage (
bool,optional, defaults toFalse) — إنشاء أوزان مُكيّف فارغة على جهاز meta. مفيد لتسريع عملية التحميل.
مُعدِّل أساسي لمُكيِّفات LyCORIS