Hub documentation
ChatUI sur Spaces
ChatUI sur Spaces
HuggingChat est une interface open source qui permet à chacun d’essayer de grands modèles de langage open source tels que Falcon, StarCoder et BLOOM. Grâce à un modèle Docker officiel appelé ChatUI, vous pouvez déployer votre propre HuggingChat basé sur un modèle de votre choix en quelques clics à l’aide de l’infrastructure de Hugging Face.
Déployez votre propre interface de chat
Pour commencer, rendez-vous simplement ici. Dans le backend de cette application, text-generation-inference est utilisé pour une inférence de modèle mieux optimisée. Comme ces modèles ne peuvent pas s’exécuter sur des CPU, vous pouvez sélectionner le GPU en fonction du modèle choisi.
Vous devez fournir un point de terminaison MongoDB où vos conversations seront écrites. Si vous laissez cette section vide, vos journaux seront persistés dans une base de données à l'intérieur de l'Espace. Notez que Hugging Face n'a pas accès à vos conversations. Vous pouvez configurer le nom et le thème de l'Espace en fournissant les paramètres application name et application color. En dessous, vous pouvez sélectionner l'identifiant Hugging Face Hub du modèle que vous souhaitez servir. Vous pouvez également modifier les hyperparamètres de génération dans le dictionnaire ci-dessous au format JSON.
Note : Si vous souhaitez déployer un modèle à accès restreint ou un modèle dans un dépôt privé, vous pouvez simplement fournir HF_TOKEN dans les secrets du dépôt. Vous devez définir sa valeur sur un jeton d’accès que vous pouvez obtenir ici.
Une fois la création terminée, vous verrez Building sur votre Space. Une fois la construction achevée, vous pourrez essayer votre propre HuggingChat !
Commencez à discuter !
