Parámetros

• adapter_names (list[str, str]) — Los nombres de los adaptadores que se van a eliminar.

Parámetros

• target_rank (int) — El rango más alto entre todos los adaptadores que se cargarán.
• check_compiled (str, opcional, por defecto "error") — Cómo manejar un modelo que ya está compilado. La comprobación puede devolver los siguientes mensajes:
  • “error” (predeterminado): lanza un error
  • “warn”: emitir una advertencia
  • “ignore”: no hacer nada

Parámetros

• components — (list[str]): lista de componentes inyectables con LoRA en los que fusionar los LoRAs.
• lora_scale (float, por defecto 1.0) — Controla cuánto influyen los parámetros de LoRA en las salidas.
• safe_fusing (bool, por defecto False) — Si se deben comprobar los pesos fusionados en busca de valores NaN antes de fusionarlos y, si los valores son NaN, no fusionarlos.
• adapter_names (list[str], opcional) — Nombres de los adaptadores que se usarán para la fusión. Si no se pasa nada, se fusionarán todos los adaptadores activos.

Parámetros

• adapter_names (list[str] o str) — Los nombres de los adaptadores a utilizar.
• adapter_weights (float, dict o list, opcional) — Pesos para los adaptadores. Un escalar escala todos los componentes compatibles con LoRA. Un diccionario asigna nombres de componentes (p. ej. "unet", "transformer" o "text_encoder") a pesos; el peso de un componente UNet también puede ser un diccionario anidado de escalas de bloques. Un solo escalar o diccionario se aplica a cada adaptador. Una lista debe contener un escalar, diccionario o None por adaptador, en el orden de adapter_names. None toma por defecto 1.0, incluidas las entradas de la lista y los pesos de los componentes. Los componentes no especificados y los bloques de UNet también toman por defecto 1.0.

Parámetros

• adapter_names (list[str]) — lista de adaptadores para enviar al dispositivo.
• device (torch.device | str | int) — Dispositivo al que se enviarán los adaptadores. Puede ser un dispositivo de torch, un str o un entero.

Parámetros

• components (list[str]) — lista de componentes inyectables con LoRA desde los que desvincular LoRA.
• unfuse_unet (bool, por defecto True) — Si se deben desfusionar los parámetros LoRA del UNet.
• unfuse_text_encoder (bool, por defecto True) — Si se deben desfusionar los parámetros LoRA del codificador de texto. Si el codificador de texto no fue parcheado con los parámetros LoRA, no tendrá ningún efecto.

Parámetros

• state_dict (dict) — Un state dict estándar que contiene los parámetros de las capas lora. La clave debe tener un prefijo adicional de text_encoder para distinguirlas de las capas lora de unet.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• text_encoder (CLIPTextModel) — El modelo de codificador de texto en el que se cargarán las capas LoRA.
• prefix (str) — Prefijo esperado del text_encoder en el state_dict.
• lora_scale (float) — En qué medida se escala la salida de la capa lineal lora antes de sumarla a la salida de la capa lora regular.
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y no inicializando los pesos aleatorios.
• hotswap (bool, opcional) — Vea load_lora_weights().
• metadata (dict) — Metadatos opcionales del adaptador LoRA. Si se proporcionan, los argumentos de LoraConfig de peft no se derivarán del state dict.

Parámetros

• state_dict (dict) — Un state dict estándar que contiene los parámetros de las capas lora. Las claves pueden indexarse directamente en el unet o tener un prefijo adicional unet, que se puede usar para distinguir entre las capas lora del codificador de texto.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• unet (UNet2DConditionModel) — El modelo UNet en el que se cargarán las capas LoRA.
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y sin inicializar los pesos aleatorios.
• hotswap (bool, opcional) — Vea load_lora_weights().
• metadata (dict) — Metadatos opcionales del adaptador LoRA. Si se proporcionan, los argumentos de LoraConfig de peft no se derivarán del state dict.

Parámetros

• pretrained_model_name_or_path_or_dict (str o os.PathLike o dict) — Vea lora_state_dict().
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y no inicializando los pesos aleatorios.
• hotswap (bool, opcional) — Por defecto es False. Si se debe sustituir un adaptador (LoRA) existente por el adaptador recién cargado en su lugar. Esto significa que, en lugar de cargar un adaptador adicional, se tomarán los pesos del adaptador existente y se reemplazarán con los pesos del nuevo adaptador. Esto puede ser más rápido y eficiente en memoria. Sin embargo, la principal ventaja del hotswap es que, cuando el modelo se compila con torch.compile, la carga del nuevo adaptador no requiere recompilar el modelo. Al usar hotswap, el adapter_name debe ser el nombre de un adaptador ya cargado. Si el nuevo adaptador y el antiguo tienen rangos y/o alphas de LoRA (es decir, escalado) diferentes, es necesario llamar a un método adicional antes de cargar el adaptador: pipeline = ... # carga el pipeline de diffusers max_rank = ... # el rango más alto entre todos los LoRAs que se desean cargar # llamar *antes* de compilar y cargar el adaptador LoRA pipeline.enable_lora_hotswap(target_rank=max_rank) pipeline.load_lora_weights(file_name) # opcionalmente, compilar el modelo ahora Tenga en cuenta que el hotswap de adaptadores del codificador de texto aún no se admite. Esta técnica tiene algunas limitaciones adicionales, documentadas aquí: https://huggingface.co/docs/peft/main/en/package_reference/hotswap

  Si el nuevo adaptador y el antiguo tienen rangos y/o alfas LoRA (es decir, escalado) diferentes, necesitas llamar a un método adicional antes de cargar el adaptador:

  pipeline = ...  # load diffusers pipeline
  max_rank = ...  # the highest rank among all LoRAs that you want to load
  # call *before* compiling and loading the LoRA adapter
  pipeline.enable_lora_hotswap(target_rank=max_rank)
  pipeline.load_lora_weights(file_name)
  # optionally compile the model now

  Tenga en cuenta que el intercambio en caliente de adaptadores del codificador de texto aún no es compatible. Esta técnica tiene algunas limitaciones adicionales, que se documentan aquí: https://huggingface.co/docs/peft/main/en/package_reference/hotswap

• kwargs (dict, opcional) — Vea lora_state_dict().

Parámetros

• pretrained_model_name_or_path_or_dict (str o os.PathLike o dict) — Puede ser:
  • Una cadena de texto, el model id (por ejemplo, google/ddpm-celebahq-256) de un modelo preentrenado alojado en el Hub.
  • Una ruta a un directorio (por ejemplo, ./my_model_directory) que contiene los pesos del modelo guardados con ModelMixin.save_pretrained().
  • Un diccionario de estado de torch.
• cache_dir (str | os.PathLike, opcional) — Ruta a un directorio donde se almacena en caché la configuración de un modelo preentrenado descargado si no se utiliza la caché estándar.
• force_download (bool, opcional, valor predeterminado False) — Indica si se debe forzar la (re)descarga de los pesos del modelo y los archivos de configuración, ignorando las versiones en caché si existen.
• proxies (dict[str, str], opcional) — Un diccionario de servidores proxy a utilizar por protocolo o punto de acceso, por ejemplo, {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Los proxies se utilizan en cada solicitud.
• local_files_only (bool, opcional, valor predeterminado False) — Indica si se deben cargar únicamente los pesos y archivos de configuración del modelo locales. Si se establece en True, el modelo no se descargará desde el Hub.
• token (str o bool, opcional) — El token que se usará como autorización HTTP bearer para los archivos remotos. Si True, se utiliza el token generado desde diffusers-cli login (almacenado en ~/.huggingface).
• revision (str, opcional, valor predeterminado "main") — La versión específica del modelo que se va a utilizar. Puede ser el nombre de una rama, el nombre de una etiqueta, un id de commit o cualquier identificador permitido por Git.
• subfolder (str, opcional, por defecto "") — La ubicación de la subcarpeta de un archivo de modelo dentro de un repositorio de modelos más grande en el Hub o localmente.
• weight_name (str, opcional, predeterminado a None) — Nombre del archivo de state dict serializado.
• return_lora_metadata (bool, opcional, predeterminado en False) — Cuando está habilitado, devuelve además los metadatos del adaptador LoRA, que normalmente se encuentran en el state dict.

Parámetros

• save_directory (str o os.PathLike) — Directorio donde se guardarán los parámetros de LoRA. Se creará si no existe.
• unet_lora_layers (dict[str, torch.nn.Module] o dict[str, torch.Tensor]) — State dict de las capas LoRA correspondientes al unet.
• text_encoder_lora_layers (dict[str, torch.nn.Module] o dict[str, torch.Tensor]) — State dict de las capas LoRA correspondientes al text_encoder. Debe pasar explícitamente el state dict de LoRA del codificador de texto, ya que proviene de 🤗 Transformers.
• is_main_process (bool, opcional, valor predeterminado True) — Indica si el proceso que realiza esta llamada es el proceso principal o no. Útil durante el entrenamiento distribuido cuando es necesario llamar a esta función en todos los procesos. En este caso, establezca is_main_process=True solo en el proceso principal para evitar condiciones de carrera.
• save_function (Callable) — La función que se utilizará para guardar el diccionario de estado. Útil durante el entrenamiento distribuido cuando se necesita reemplazar torch.save con otro método. Puede configurarse con la variable de entorno DIFFUSERS_SAVE_MODE.
• safe_serialization (bool, opcional, valor predeterminado True) — Si se guarda el modelo usando safetensors o de la forma tradicional de PyTorch con pickle.
• unet_lora_adapter_metadata — Metadatos del adaptador LoRA asociados con el unet que se serializarán con el state dict.
• text_encoder_lora_adapter_metadata — Metadatos del adaptador LoRA asociados con el codificador de texto que se serializarán con el state dict.

Parámetros

• state_dict (dict) — Un state dict estándar que contiene los parámetros de las capas lora. La clave debe tener un prefijo adicional de text_encoder para distinguirlas de las capas lora de unet.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• text_encoder (CLIPTextModel) — El modelo de codificador de texto en el que se cargarán las capas LoRA.
• prefix (str) — Prefijo esperado del text_encoder en el state_dict.
• lora_scale (float) — En qué medida se escala la salida de la capa lineal lora antes de sumarla a la salida de la capa lora regular.
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y no inicializando los pesos aleatorios.
• hotswap (bool, opcional) — Vea load_lora_weights().
• metadata (dict) — Metadatos opcionales del adaptador LoRA. Si se proporcionan, los argumentos de LoraConfig de peft no se derivarán del state dict.

Parámetros

• state_dict (dict) — Un state dict estándar que contiene los parámetros de las capas lora. Las claves pueden indexarse directamente en el unet o tener un prefijo adicional unet, que se puede usar para distinguir entre las capas lora del codificador de texto.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• unet (UNet2DConditionModel) — El modelo UNet en el que se cargarán las capas LoRA.
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y sin inicializar los pesos aleatorios.
• hotswap (bool, opcional) — Vea load_lora_weights().
• metadata (dict) — Metadatos opcionales del adaptador LoRA. Si se proporcionan, los argumentos de LoraConfig de peft no se derivarán del state dict.

Parámetros

• pretrained_model_name_or_path_or_dict (str o os.PathLike o dict) — Puede ser:
  • Una cadena de texto, el model id (por ejemplo, google/ddpm-celebahq-256) de un modelo preentrenado alojado en el Hub.
  • Una ruta a un directorio (por ejemplo, ./my_model_directory) que contiene los pesos del modelo guardados con ModelMixin.save_pretrained().
  • Un diccionario de estado de torch.
• cache_dir (str | os.PathLike, opcional) — Ruta a un directorio donde se almacena en caché la configuración de un modelo preentrenado descargado si no se utiliza la caché estándar.
• force_download (bool, opcional, valor predeterminado False) — Indica si se debe forzar la (re)descarga de los pesos del modelo y los archivos de configuración, ignorando las versiones en caché si existen.
• proxies (dict[str, str], opcional) — Un diccionario de servidores proxy a utilizar por protocolo o punto de acceso, por ejemplo, {'http': 'foo.bar:3128', 'http://hostname': 'foo.bar:4012'}. Los proxies se utilizan en cada solicitud.
• local_files_only (bool, opcional, valor predeterminado False) — Indica si se deben cargar únicamente los pesos y archivos de configuración del modelo locales. Si se establece en True, el modelo no se descargará desde el Hub.
• token (str o bool, opcional) — El token que se usará como autorización HTTP bearer para los archivos remotos. Si True, se utiliza el token generado desde diffusers-cli login (almacenado en ~/.huggingface).
• revision (str, opcional, valor predeterminado "main") — La versión específica del modelo que se va a utilizar. Puede ser el nombre de una rama, el nombre de una etiqueta, un id de commit o cualquier identificador permitido por Git.
• subfolder (str, opcional, por defecto "") — La ubicación de la subcarpeta de un archivo de modelo dentro de un repositorio de modelos más grande en el Hub o localmente.
• weight_name (str, opcional, predeterminado a None) — Nombre del archivo de state dict serializado.
• return_lora_metadata (bool, opcional, predeterminado en False) — Cuando está habilitado, devuelve además los metadatos del adaptador LoRA, que normalmente se encuentran en el state dict.

Parámetros

• state_dict (dict) — Un state dict estándar que contiene los parámetros de las capas lora. La clave debe tener un prefijo adicional de text_encoder para distinguirlas de las capas lora de unet.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• text_encoder (CLIPTextModel) — El modelo de codificador de texto en el que se cargarán las capas LoRA.
• prefix (str) — Prefijo esperado del text_encoder en el state_dict.
• lora_scale (float) — En qué medida se escala la salida de la capa lineal lora antes de sumarla a la salida de la capa lora regular.
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y no inicializando los pesos aleatorios.
• hotswap (bool, opcional) — Vea load_lora_weights().
• metadata (dict) — Metadatos opcionales del adaptador LoRA. Si se proporcionan, los argumentos de LoraConfig de peft no se derivarán del state dict.

Parámetros

• state_dict (dict) — Un state dict estándar que contiene los parámetros de las capas lora. La clave debe tener un prefijo adicional de text_encoder para distinguirlas de las capas lora de unet.
• network_alphas (dict[str, float]) — El valor de la alfa de la red utilizado para un aprendizaje estable y para evitar el underflow. Este valor tiene el mismo significado que la opción --network_alpha en el script de entrenamiento de kohya-ss. Consulte este enlace.
• text_encoder (CLIPTextModel) — El modelo de codificador de texto en el que se cargarán las capas LoRA.
• prefix (str) — Prefijo esperado del text_encoder en el state_dict.
• lora_scale (float) — En qué medida se escala la salida de la capa lineal lora antes de sumarla a la salida de la capa lora regular.
• adapter_name (str, opcional) — Nombre del adaptador que se usará para referenciar el modelo de adaptador cargado. Si no se especifica, se usará default_{i}, donde i es el número total de adaptadores que se están cargando.
• low_cpu_mem_usage (bool, opcional) — Acelera la carga del modelo cargando solo los pesos LoRA preentrenados y no inicializando los pesos aleatorios.
• hotswap (bool, opcional) — Vea load_lora_weights().
• metadata (dict) — Metadatos opcionales del adaptador LoRA. Si se proporcionan, los argumentos de LoraConfig de peft no se derivarán del state dict.

Parámetros

• save_directory (str o os.PathLike) — Directorio donde se guardarán los parámetros de LoRA. Se creará si no existe.
• transformer_lora_layers (dict[str, torch.nn.Module] o dict[str, torch.Tensor]) — State dict de las capas LoRA correspondientes al transformer.
• text_encoder_lora_layers (dict[str, torch.nn.Module] o dict[str, torch.Tensor]) — State dict de las capas LoRA correspondientes al text_encoder. Debe pasar explícitamente el state dict de LoRA del codificador de texto, ya que proviene de 🤗 Transformers.
• is_main_process (bool, opcional, valor predeterminado True) — Indica si el proceso que realiza esta llamada es el proceso principal o no. Útil durante el entrenamiento distribuido cuando es necesario llamar a esta función en todos los procesos. En este caso, establezca is_main_process=True solo en el proceso principal para evitar condiciones de carrera.
• save_function (Callable) — La función que se utilizará para guardar el diccionario de estado. Útil durante el entrenamiento distribuido cuando se necesita reemplazar torch.save con otro método. Puede configurarse con la variable de entorno DIFFUSERS_SAVE_MODE.
• safe_serialization (bool, opcional, valor predeterminado True) — Si se guarda el modelo usando safetensors o de la forma tradicional de PyTorch con pickle.
• transformer_lora_adapter_metadata — Metadatos del adaptador LoRA asociados con el transformer que se serializarán junto con el state dict.
• text_encoder_lora_adapter_metadata — Metadatos del adaptador LoRA asociados con el codificador de texto que se serializarán con el state dict.

Parámetros

• components (list[str]) — lista de componentes inyectables con LoRA desde los que desvincular LoRA.

Parámetros

• reset_to_overwritten_params (bool, por defecto False) — Si se deben restablecer los módulos cargados con LoRA a sus parámetros originales. Consulte la documentación de Flux para obtener más información.

Parámetros

• save_directory (str o os.PathLike) — Directorio donde se guardarán los parámetros de LoRA. Se creará si no existe.
• unet_lora_layers (dict[str, torch.nn.Module] o dict[str, torch.Tensor]) — State dict de las capas LoRA correspondientes al unet.
• text_encoder_lora_layers (dict[str, torch.nn.Module] o dict[str, torch.Tensor]) — State dict de las capas LoRA correspondientes al text_encoder. Debe pasar explícitamente el state dict de LoRA del codificador de texto, ya que proviene de 🤗 Transformers.
• is_main_process (bool, opcional, valor predeterminado True) — Indica si el proceso que realiza esta llamada es el proceso principal o no. Útil durante el entrenamiento distribuido cuando es necesario llamar a esta función en todos los procesos. En este caso, establezca is_main_process=True solo en el proceso principal para evitar condiciones de carrera.
• save_function (Callable) — La función que se utilizará para guardar el diccionario de estado. Útil durante el entrenamiento distribuido cuando se necesita reemplazar torch.save con otro método. Puede configurarse con la variable de entorno DIFFUSERS_SAVE_MODE.
• safe_serialization (bool, opcional, valor predeterminado True) — Si se guarda el modelo usando safetensors o de la forma tradicional de PyTorch con pickle.