Gestion des modèles dans l'éditeur

Le plugin fournit un panneau de paramètres dans l'éditeur Unreal Engine où vous pouvez parcourir, télécharger, importer, supprimer et tester les modèles LLM.

Accéder aux paramètres du plugin

1. Ouvrez Édition → Paramètres du projet
2. Accédez à Plugins → Runtime Local LLM

Le panneau des paramètres comporte deux sections principales :

• Modèles téléchargés : Modèles actuellement sur le disque et prêts à être utilisés
• Modèles disponibles : Modèles prédéfinis du catalogue intégré que vous pouvez télécharger

Téléchargement des modèles

1. Dans la section Modèles disponibles, trouvez la famille et la variante du modèle souhaité
2. Cliquez sur le bouton Télécharger à côté de la variante
3. Une barre de progression indique l'état du téléchargement
4. Une fois terminé, le modèle se déplace dans la section Modèles téléchargés

Vous pouvez télécharger plusieurs modèles simultanément. Pour annuler un téléchargement en cours, cliquez sur le bouton Annuler à côté de celui-ci.

Pour supprimer les modèles téléchargés, cliquez sur le bouton Supprimer à côté du modèle que vous souhaitez retirer.

Tous les modèles téléchargés seront empaquetés avec votre projet. Pour réduire la taille du projet, supprimez les modèles dont vous n'avez plus besoin.

Choisir un modèle

Pour les plateformes mobiles/VR, commencez avec un petit modèle (1B–3B paramètres) en quantification Q4_K_M. Pour les ordinateurs de bureau, les modèles 7B en Q4_K_M ou Q5_K_M offrent un bon équilibre entre qualité et performances.

Importation de modèles personnalisés

Vous pouvez importer n'importe quel fichier GGUF depuis votre système de fichiers local ou une URL :

1. Cliquez sur le bouton Importer un modèle personnalisé en haut du panneau des paramètres
2. Dans la boîte de dialogue qui apparaît, choisissez un mode :
   • Importer un fichier local : Parcourir un fichier .gguf sur le disque
   • Télécharger depuis une URL : Saisir une URL directe vers un fichier .gguf
3. Remplissez le nom du modèle et la description facultative / le nombre de paramètres
4. Cliquez sur Confirmer pour importer ou lancer le téléchargement

Lors de l'importation d'un fichier local, le plugin le copie dans le répertoire Content/RuntimeLocalLLM/Models et crée un fichier de métadonnées associé. Lors de l'importation depuis une URL, le plugin télécharge le fichier directement dans ce répertoire.

Les modèles personnalisés sont traités de la même manière que les modèles téléchargés et seront inclus dans le package de votre projet.

Tester les modèles dans l'éditeur

Le plugin inclut une fenêtre de test pour une inférence rapide sans exécuter votre jeu :

1. Cliquez sur le bouton Test LLM en haut du panneau des paramètres
2. Dans la fenêtre de test, sélectionnez un modèle dans la liste déroulante des modèles présents sur le disque
3. Configurez les paramètres d'inférence (température, nombre maximal de tokens, prompt système, etc.)
4. Saisissez un prompt et cliquez sur Envoyer
5. Observez le flux de réponse en temps réel
6. Cliquez sur Arrêter pour annuler la génération, ou sur Effacer pour réinitialiser la conversation

Ceci est utile pour vérifier qu'un modèle fonctionne correctement avant de l'intégrer dans votre logique de jeu.

Paramètres de conditionnement

Lorsque vous téléchargez ou importez un modèle, le plugin met automatiquement à jour la configuration de packaging de votre projet pour inclure le répertoire RuntimeLocalLLM/Models dans Répertoires supplémentaires non liés aux assets à copier (DirectoriesToAlwaysStageAsNonUFS). Cela garantit que tous les fichiers du modèle sont livrés avec votre build packagé. Vous n'avez pas besoin de configurer cela manuellement.