Proyecto de demostración
En la carpeta Demo dentro del directorio Content del plugin, encontrarás activos creados con fines de demostración.
Si no ves el directorio de plugins, abre el Content Browser, haz clic en el botón Settings en la esquina superior derecha y activa Show Engine Content y Show Plugin Content. El proyecto de demostración debería estar ubicado en el directorio Engine → Plugins → Runtime Local LLM Content.
Estos activos se proporcionan para demostrar la implementación de inferencia LLM en el dispositivo. La demostración incluye:
- Una interfaz de chat donde puedes enviar mensajes y recibir respuestas en streaming token por token desde el LLM
- Modelos precargados listos para usar desde el primer momento
- La capacidad de descargar modelos adicionales mediante URL en tiempo de ejecución
- Un menú de configuración para ajustar los parámetros de inferencia (temperatura, tokens máximos, tamaño de contexto, etc.)
La demo está implementada usando Blueprints y widgets UMG para simplificar. Es compatible con UE 4.27 y versiones posteriores.
Para probar la demo, abre el nivel RLLM_Demo ubicado en la carpeta Demo y ejecútalo en el editor. Esto mostrará los widgets de chat del LLM en tu pantalla, con los que podrás interactuar. También puedes empaquetar el proyecto para tu dispositivo de destino. Para establecer el nivel RLLM_Demo como predeterminado en tu proyecto empaquetado, ve a la configuración del proyecto y define RLLM_Demo como el Mapa Predeterminado del Juego.