論文の抄録は以下の通りです:

モジュール化された設計は、ニューラルモデルが知識の異なる側面を分離し再結合することを促し、新しいタスクへのより体系的な汎化を可能にします。本研究では、各タスクが（潜在的に小さい）インベントリからの潜在離散スキル（latent discrete skills）の部分集合に関連付けられていると仮定します。その際、スキルはパラメータ効率の高い（スパース / 低ランク）モデルのパラメータ化に対応します。これらとタスク-スキル割当行列を同時に学習することで、各タスクのネットワークは、アクティブなスキルのパラメータの平均としてインスタンス化されます。タスク間でスキルが非自明なソフトパーティションを形成することを好むよう、インドアン・ビュッフェ・プロセス（Indian Buffet Process）の事前分布や2段階の学習率などの一連の誘導バイアスを実験的に適用しました。潜在スキルモデルは、主に以下の2つの設定で評価しました。1) BabyAIプラットフォームの8レベルにおける、グラウンデッドな指示追従のためのマルチタスク強化学習。2) CrossFit（160のNLPタスクで構成されるベンチマーク）における、事前学習済みテキスト-テキスト生成モデルのファインショット適応。完全共有、タスク固有、または条件付き生成のパラメータを持つベースライン（タスク間で知識が絡み合っている場合）と比較して、ネットワークのモジュール化された設計は、強化学習におけるサンプル効率と、教師あり学習におけるファインショット汎化を大幅に向上させることがわかりました。さらに、離散スキルが明示的なタスク階層を生成するため、解釈可能性にどのように寄与するかを示しました。

論文の抄録は以下の通りです:

タスク横断汎化のためのパラメータ効率型ファインチューニング（PEFT）は、テストタスクへの少ショット適応の前に、マルチタスク学習セット上でアダプタを事前学習することから成り立っています。Polytropon [Ponti et al., 2023]（Poly）は、事前学習と少ショット適応の両方の段階で、各タスクに対して（可変サイズの）アダプタのサブセットを選択するルーティング関数とともに、アダプタのインベントリを共同で学習します。本論文では、アダプタルーティングがその成功において果たす役割を調査し、その知見に基づいて新しいバリアントを設計します。まず、より細粒度のルーティングにより表現力が向上するという直観に基づき、MHR（Multi-Head Routing）を提案します。MHRはアダプタパラメータのサブセットを組み合わせ、同程度のパラメータ予算のもとでPolyを上回る性能を発揮します。また、アダプタではなくルーティング関数のみファインチューニングを行うことで（MHR-z）、極端なパラメータ効率のもとで競争力のある性能を実現します。第二に、Poly/MHRの性能は、アダプタの再構成や局所適応を促進するモジュール化された帰納的バイアス（以前に仮定されていたもの）によるものではなく、より良いマルチタスク最適化の結果であることが判明しました。実際、MHRは他のどの手法よりもタスク間の勾配整合性が高いことが示されました。これはルーティングがマルチタスク事前学習の段階でのみ重要であることを意味するため、少ショット適応時に事前学習済みアダプタの平均をファインチューニングし、ルーティングを破棄するMHR-muを提案します。これにより、MHR-muは単一アダプタのファインチューニングにおける有効な手法として確立されます。