Diffusers documentation

Inférence à distance

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.43.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inférence à distance

L'inférence distante permet d'accéder à un Inference Endpoint afin de décharger les besoins locaux de génération pour le décodage et l'encodage.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Paramètres

  • endpoint (str) — Point de terminaison pour Remote Decode.
  • tensor (torch.Tensor) — Tenseur à décoder.
  • processor (VaeImageProcessor ou VideoProcessor, facultatif) — Utilisé avec return_type="pt", et return_type="pil" pour les modèles vidéo.
  • do_scaling (bool, par défaut True, facultatif) — DÉPRÉCIÉ. Utilisez plutôt scaling_factor/shift_factor. Continuez à définir do_scaling=None/do_scaling=False pour désactiver le scaling jusqu’au retrait de cette option Si True, le scaling, par exemple latents / self.vae.config.scaling_factor, est appliqué à distance. Si False, l’entrée doit être transmise avec le scaling déjà appliqué.
  • scaling_factor (float, facultatif) — Le facteur d'échelle est appliqué lorsqu'il est transmis, par exemple latents / self.vae.config.scaling_factor.
    • SD v1 : 0.18215
    • SD XL : 0.13025
    • Flux : 0.3611 Si None, l'entrée doit être transmise avec l'échelle appliquée.
  • shift_factor (float, facultatif) — Le décalage est appliqué lorsqu'il est transmis, par ex. latents + self.vae.config.shift_factor.
    • Flux : 0,1159 Si None, l'entrée doit être transmise avec l'échelle appliquée.
  • output_type ("mp4" ou "pil" ou "pt", default “) — Type de sortie de l'endpoint Type de sortie de l'endpoint. Susceptible de changer. Signalez vos préférences concernant le type souhaité.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Recommandations : "pt" avec partial_postprocess=True est le transfert le plus petit pour une qualité complète. "pt" avec partial_postprocess=False est le plus compatible avec le code tiers. "pil" avec image_format="jpg" est le transfert le plus petit dans l’ensemble.

  • return_type ("mp4" ou "pil" ou "pt", default “) — Type de retour de la fonction.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" ou "jpg", par défaut jpg) — Utilisé avec output_type="pil". Le point de terminaison renvoie jpg ou png.
  • partial_postprocess (bool, par défaut False) — Utilisé avec output_type="pt". Le tenseur partial_postprocess=False est en float16 ou bfloat16, sans dénormalisation. Le tenseur partial_postprocess=True est en uint8, dénormalisé.
  • input_tensor_type ("binary", par défaut "binary") — Type de transfert de tenseur.
  • output_tensor_type ("binary", par défaut "binary") — Type de transfert de tenseur.
  • height (int, facultatif) — Requis pour les latents "packed".
  • width (int, facultatif) — Requis pour les latents "packed".

Hugging Face Hybrid Inference, qui permet d’exécuter le décodage VAE à distance.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Paramètres

  • endpoint (str) — Point de terminaison pour Remote Decode.
  • image (torch.Tensor ou PIL.Image.Image) — Image à encoder.
  • scaling_factor (float, facultatif) — Le facteur d'échelle est appliqué lorsqu'il est transmis, par exemple latents * self.vae.config.scaling_factor.
    • SD v1 : 0.18215
    • SD XL : 0.13025
    • Flux : 0.3611 Si None, l'entrée doit être transmise avec l'échelle appliquée.
  • shift_factor (float, facultatif) — Le décalage est appliqué lorsqu'il est transmis, par ex. latents - self.vae.config.shift_factor.
    • Flux : 0,1159 Si None, l'entrée doit être transmise avec l'échelle appliquée.

Hugging Face Hybrid Inference, qui permet d’exécuter l’encodage VAE à distance.

Update on GitHub