Abstrak dari makalah tersebut adalah:

Desain modular mendorong model neural untuk memisahkan dan menggabungkan kembali berbagai aspek pengetahuan agar dapat digeneralisasi secara lebih sistematis ke tugas-tugas baru. Dalam karya ini, kami mengasumsikan bahwa setiap tugas terkait dengan subset dari kumpulan keterampilan diskrit laten (yang mungkin kecil). Sebaliknya, keterampilan tersebut berkorespondensi dengan parameterisasi model yang efisien secara parameter (sparse / low-rank). Dengan mempelajari secara bersama-sama parameterisasi ini dan matriks alokasi tugas-keterampilan, jaringan untuk setiap tugas diinstansiasi sebagai rata-rata dari parameter keterampilan yang aktif. Untuk mendorong partisi lunak keterampilan yang tidak sepele di antara tugas-tugas, kami bereksperimen dengan serangkaian bias induktif, seperti prior Indian Buffet Process dan learning rate dua kecepatan. Kami mengevaluasi model keterampilan laten kami pada dua pengaturan utama: 1) pembelajaran penguatan multitask untuk mengikuti instruksi yang berakar pada 8 level platform BabyAI; dan 2) adaptasi few-shot dari model generatif teks-ke-teks yang telah dilatih sebelumnya pada CrossFit, sebuah benchmark yang terdiri dari 160 tugas NLP. Kami menemukan bahwa desain modular dari jaringan secara signifikan meningkatkan efisiensi sampel dalam pembelajaran penguatan dan generalisasi few-shot dalam pembelajaran terawasi, dibandingkan dengan baseline yang menggunakan parameter yang sepenuhnya dibagikan, spesifik tugas, atau dihasilkan secara kondisional, di mana pengetahuan terjerat di antara tugas-tugas. Selain itu, kami menunjukkan bagaimana keterampilan diskrit membantu interpretabilitas, karena menghasilkan hierarki tugas yang eksplisit.

Abstrak dari makalah tersebut adalah:

Pemurnaan ulang yang efisien parameter (PEFT) untuk generalisasi lintas tugas terdiri dari pra-pelatihan adapter pada set pelatihan multi-tugas sebelum adaptasi few-shot ke tugas uji. Polytropon [Ponti et al., 2023] (Poly) secara bersama-sama mempelajari inventaris adapter dan fungsi routing yang memilih subset (ukuran variabel) adapter untuk setiap tugas selama pra-pelatihan dan adaptasi few-shot. Dalam makalah ini, kami menyelidiki peran yang dimainkan oleh routing adapter dalam keberhasilannya dan merancang varian baru berdasarkan temuan kami. Pertama, kami membangun intuisi bahwa routing yang lebih granular memberikan ekspresivitas yang lebih besar. Oleh karena itu, kami mengusulkan MHR (Multi-Head Routing), yang menggabungkan subset parameter adapter dan melampaui Poly di bawah anggaran parameter yang sebanding; dengan hanya melakukan pemurnaan ulang pada fungsi routing dan bukan adapter (MHR-z), kami mencapai kinerja yang kompetitif dengan efisiensi parameter yang ekstrem. Kedua, kami menemukan bahwa kinerja Poly/MHR adalah hasil dari optimasi multi-tugas yang lebih baik, bukan bias induktif modular yang memfasilitasi rekombinasi adapter dan adaptasi lokal, seperti yang sebelumnya dihipotesiskan. Faktanya, kami menemukan bahwa MHR menunjukkan keselarasan gradien yang lebih tinggi antar tugas dibandingkan metode lain. Karena ini menyiratkan bahwa routing hanya krusial selama pra-pelatihan multi-tugas, kami mengusulkan MHR-mu, yang membuang routing dan melakukan pemurnaan ulang pada rata-rata adapter yang telah dipra-latih selama adaptasi few-shot. Hal ini menetapkan MHR-mu sebagai metode yang efektif untuk pemurnaan ulang single-adapter.