text-genration-webui: Fichier configuration du fichier flags.txt

Dans le cadre de la mise en place et de l’utilisation de serveurs dédiés à la génération de texte, il est commun de devoir reconfigurer manuellement plusieurs paramètres via l’interface graphique à chaque démarrage du serveur. Cette tâche peut rapidement devenir répétitive et fastidieuse. Heureusement, une solution existe pour simplifier ce processus : l’utilisation d’un fichier nommé flags.txt. Ce fichier permet de préconfigurer divers paramètres avant même le lancement du serveur, offrant ainsi une manière efficace d’améliorer et de personnaliser son environnement de travail dès le départ. Les options de configuration seront détaillées ci-dessous, et cette documentation pourra être mise à jour au fur et à mesure de la découverte de nouvelles fonctionnalités.

Flags.txt

Situé à la racine du dépôt, le fichier flags.txt sert de point d’entrée pour l’ajout d’arguments de configuration. La plupart des arguments disponibles peuvent être trouvés dans le fichier README.md. Voici quelques-uns des arguments les plus pertinents et utiles pour la personnalisation de votre serveur :

–model

--model phi-2.Q4_0.gguf

Cet argument spécifie le modèle à charger automatiquement au démarrage du serveur. Il élimine le besoin de charger manuellement le modèle via l’interface graphique après le démarrage. Pour l’utiliser, naviguez jusqu’au dossier contenant le modèle désiré, récupérez son nom, et insérez-le après --model dans votre fichier flags.txt. Cela garantira le chargement par défaut du modèle spécifié dès le démarrage.

–model-dir

--model-dir K:\models

L’argument --model-dir change le répertoire par défaut où les modèles sont stockés. Si vous avez besoin de partager un même ensemble de modèles entre plusieurs installations, cet argument est particulièrement utile. Cependant, veillez à noter que les nouveaux modèles téléchargés via l’interface seront désormais enregistrés dans ce nouveau répertoire spécifié.

–character

--character Example

Le paramètre --character permet de charger un personnage spécifique par son nom dès le démarrage du serveur. Cette fonction est idéale pour des scénarios tels que les jeux de rôle ou des applications spécifiques nécessitant différents rôles ou contextes préconfigurés.

–settings

--settings settings.yaml

Au démarrage, un fichier est lu pour appliquer une configuration plus détaillée au sein de l’interface. Ces réglages sont localisés dans le fichier settings-template.yaml. Pour personnaliser davantage votre serveur, vous pouvez créer un fichier de configuration sur mesure, tel que settings.yaml, et le charger en utilisant cet argument. Copiez les paramètres du fichier settings-template, collez-les dans votre nouveau fichier et ajustez-les selon vos préférences pour une expérience utilisateur optimisée dès le lancement du serveur.

Bref

Ces options de configuration offrent une flexibilité et une personnalisation considérables pour les utilisateurs avancés souhaitant optimiser leur expérience de génération de texte. N’hésitez pas à expérimenter avec ces paramètres pour trouver la configuration qui répond le mieux à vos besoins spécifiques.