# Jenis adapter campuran

Biasanya, tidak mungkin mencampur berbagai jenis adapter di 🤗 PEFT. Anda dapat membuat model PEFT dengan dua adapter LoRA yang berbeda (yang dapat memiliki opsi konfigurasi yang berbeda), tetapi tidak mungkin menggabungkan adapter LoRA dan LoHa. Namun, dengan [PeftMixedModel](/docs/peft/main/id/package_reference/peft_model#peft.PeftMixedModel), hal ini dapat dilakukan selama jenis adapternya kompatibel. Tujuan utama dari mengizinkan jenis adapter yang dicampur adalah untuk menggabungkan adapter yang telah dilatih untuk inferensi. Meskipun memungkinkan untuk melatih model adapter campuran, hal ini belum diuji dan tidak direkomendasikan.

Untuk memuat berbagai jenis adapter ke dalam model PEFT, gunakan [PeftMixedModel](/docs/peft/main/id/package_reference/peft_model#peft.PeftMixedModel) alih-alih [PeftModel](/docs/peft/main/id/package_reference/peft_model#peft.PeftModel):

```py
from peft import PeftMixedModel

base_model = ...  # load the base model, e.g. from transformers
# load first adapter, which will be called "default"
peft_model = PeftMixedModel.from_pretrained(base_model, <path_to_adapter1>)
peft_model.load_adapter(<path_to_adapter2>, adapter_name="other")
peft_model.set_adapter(["default", "other"])
```

Metode [set_adapter()](/docs/peft/main/id/package_reference/peft_model#peft.PeftMixedModel.set_adapter) diperlukan untuk mengaktifkan kedua adapter, jika tidak hanya adapter pertama yang akan aktif. Anda dapat terus menambahkan lebih banyak adapter dengan memanggil [add_adapter()](/docs/peft/main/id/package_reference/peft_model#peft.PeftModel.add_adapter) secara berulang.

[PeftMixedModel](/docs/peft/main/id/package_reference/peft_model#peft.PeftMixedModel) tidak mendukung penyimpanan dan pemuatan adapter campuran. Adapter harus sudah dilatih, dan pemuatan model memerlukan eksekusi skrip setiap kali.

## Tips

- Tidak semua tipe adapter dapat digabungkan. Lihat [`peft.tuners.mixed.COMPATIBLE_TUNER_TYPES`](https://github.com/huggingface/peft/blob/1c1c7fdaa6e6abaa53939b865dee1eded82ad032/src/peft/tuners/mixed/model.py#L35) untuk daftar tipe yang kompatibel. Error akan dilempar jika Anda mencoba menggabungkan tipe adapter yang tidak kompatibel.
- Dimungkinkan untuk mencampur beberapa adapter dari tipe yang sama, yang dapat berguna untuk menggabungkan adapter dengan konfigurasi yang sangat berbeda.
- Jika Anda ingin menggabungkan banyak adapter yang berbeda, cara paling performan adalah dengan menambahkan tipe adapter yang sama secara berurutan. Misalnya, tambahkan LoRA1, LoRA2, LoHa1, LoHa2 dalam urutan ini, bukan LoRA1, LoHa1, LoRA2, dan LoHa2. Meskipun urutan dapat memengaruhi output, tidak ada urutan *terbaik* secara inheren, sehingga sebaiknya pilih urutan yang tercepat.