managing-models-in-the-editor

Gestion des modèles dans l'éditeur

Le plugin fournit un panneau de paramètres dans l'éditeur Unreal Engine où vous pouvez parcourir, télécharger, importer, supprimer et tester des modèles LLM.

Accès aux paramètres du plugin

1. Ouvrez Édition → Paramètres du projet
2. Accédez à Greffons → Runtime Local LLM

Le panneau de paramètres comporte deux sections principales :

• Modèles téléchargés : modèles actuellement sur le disque et prêts à l'emploi
• Modèles disponibles : modèles prédéfinis du catalogue intégré que vous pouvez télécharger

Téléchargement de modèles

1. Dans la section Modèles disponibles, trouvez la famille de modèles et la variante souhaitée
2. Cliquez sur le bouton Télécharger à côté de la variante
3. Une barre de progression indique l'état du téléchargement
4. Une fois terminé, le modèle est déplacé vers la section Modèles téléchargés

Vous pouvez télécharger plusieurs modèles simultanément. Pour annuler un téléchargement en cours, cliquez sur le bouton Annuler correspondant.

Pour supprimer des modèles téléchargés, cliquez sur le bouton Supprimer à côté du modèle que vous souhaitez supprimer.

Tous les modèles téléchargés seront intégrés à votre projet, donc pour réduire la taille du projet, supprimez tout modèle dont vous n'avez plus besoin.

Choisir un modèle

Pour les plateformes mobiles/VR, commencez par un petit modèle (paramètres 1B–3B) avec quantification Q4_K_M. Pour les ordinateurs de bureau, les modèles 7B en Q4_K_M ou Q5_K_M offrent un bon équilibre entre qualité et performances.

Importation de modèles personnalisés

Vous pouvez importer n'importe quel fichier GGUF depuis votre système de fichiers local ou une URL :

1. Cliquez sur le bouton Importer un modèle personnalisé en haut du panneau des paramètres
2. Dans la boîte de dialogue qui apparaît, choisissez un mode :
   • Importer un fichier local : Parcourir pour sélectionner un fichier .gguf sur le disque
   • Télécharger depuis une URL : Entrez une URL directe vers un fichier .gguf
3. Renseignez le nom du modèle et facultativement une description / le nombre de paramètres
4. Cliquez sur Confirmer pour importer ou lancer le téléchargement

Lors de l'importation d'un fichier local, le plugin le copie dans le répertoire Content/RuntimeLocalLLM/Models et crée un fichier sidecar de métadonnées. Lors de l'importation à partir d'une URL, le plugin télécharge le fichier directement dans ce répertoire.

Les modèles personnalisés sont traités de la même manière que les modèles téléchargés et seront empaquetés avec votre projet.

Tester les modèles dans l'éditeur

Le plugin inclut une fenêtre de test pour effectuer des tests d'inférence rapides sans lancer votre jeu :

1. Cliquez sur le bouton Test LLM en haut du panneau des paramètres
2. Dans la fenêtre de test, sélectionnez un modèle dans la liste déroulante des modèles présents sur le disque
3. Configurez les paramètres d'inférence (temperature, max tokens, system prompt, etc.)
4. Saisissez une invite et cliquez sur Send
5. Observez le flux de réponse en temps réel
6. Cliquez sur Stop pour annuler la génération, ou sur Clear pour réinitialiser la conversation

Cela est utile pour vérifier qu'un modèle fonctionne correctement avant de l'intégrer dans la logique de votre jeu.

Paramètres d'empaquetage

Lorsque vous téléchargez ou importez un modèle, le plugin met automatiquement à jour la configuration d'empaquetage de votre projet pour inclure le répertoire RuntimeLocalLLM/Models dans Répertoires non-asset additionnels à copier (DirectoriesToAlwaysStageAsNonUFS). Cela garantit que tous les fichiers du modèle sont inclus dans votre build empaqueté. Vous n'avez pas besoin de configurer cela manuellement.