Diffusers documentation

MiniMaxMusic3Transformer1DModel

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

MiniMaxMusic3Transformer1DModel

MiniMax Music 3の2.4BパラメータのフローマッチングDiffusion Transformerです。このモデルは、自己回帰型言語モデル段階のフレームごとの隠れ状態を条件として、128チャネルのFlow-VAEオーディオ潜在変数をノイズ除去します。フローマッチングのタイムステップをシーケンストークンとして先頭に追加します(Stable-Audio系譜の連続型トランスフォーマーで、部分的なローテーションアテンションとGLUフィードフォワードを使用)。

MiniMaxMusic3Transformer1DModel

class diffusers.MiniMaxMusic3Transformer1DModel

< >

( in_channels: int = 128condition_dim: int = 2048num_layers: int = 36num_attention_heads: int = 32attention_head_dim: int = 64ff_inner_dim: int = 8192rotary_dim: int = 32fourier_embedding_dim: int = 256 )

MiniMax Music 3 の flow-matching diffusion transformer です。autoregressive language-model ステージによって生成されるフレームごとの hidden state を条件として、Flow-VAE の audio latent を denoise します。

入力値は、(batch, in_channels, length) の形状を持つ 1 次元の潜在変数シーケンスです。条件付けシグナル(encoder_hidden_states、形状 (batch, length, condition_dim))は、潜在変数のタイムラインにすでに整合されている必要があります。MiniMaxMusic3ConditionEncoder を参照してください。フローマッチングの timestep は 0(ノイズ)から 1(データ)まで変化します。

forward

< >

( hidden_states: Tensortimestep: Tensorencoder_hidden_states: Tensorreturn_dict: bool = True )

パラメータ

  • hidden_states (torch.Tensor、形状 (batch, in_channels, length)) — ノイズ付き Flow-VAE 潜在変数。
  • timestep (torch.Tensor、shape (batch,)) — [0, 1] における Flow-matching の時間。0 は純粋なノイズ、1 はデータを表します。
  • encoder_hidden_states (torch.Tensor、形状 (batch, length, condition_dim)) — MiniMaxMusic3ConditionEncoder からのフレーム整列された条件付けです。classifier-free guidance の無条件ブランチにはゼロを渡してください。
  • return_dict (bool、デフォルトはTrue) — プレーンなタプルではなく、Transformer2DModelOutputを返すかどうかを指定します。
Update on GitHub