Pular para o conteúdo principal

Projeto de demonstração

Na pasta Demo dentro do diretório Content do plugin, você encontrará assets criados para fins de demonstração.

Se você não conseguir ver o diretório de plugins, abra o Navegador de Conteúdo, clique no botão Configurações no canto superior direito e ative Mostrar Conteúdo do Engine e Mostrar Conteúdo de Plugins. O projeto de demonstração deve estar localizado no diretório EnginePluginsRuntime Local LLM Content.

Estes ativos são fornecidos para demonstrar a implementação de inferência de LLM no dispositivo. A demonstração inclui:

  • Uma interface de chat onde você pode enviar mensagens e receber respostas em streaming token por token do LLM
  • Modelos pré-baixados prontos para uso imediato
  • A capacidade de baixar modelos adicionais via URL em tempo de execução
  • Um menu de configurações para ajustar parâmetros de inferência (temperatura, tokens máximos, tamanho do contexto, etc.)

A demonstração é implementada usando Blueprints e widgets UMG para simplicidade. Ela é compatível com UE 4.27 e versões posteriores.

Para testar a demonstração, abra o nível RLLM_Demo localizado na pasta Demo e execute-o no editor. Isso exibirá os widgets de chat do LLM na sua tela, com os quais você pode interagir. Você também pode empacotar o projeto para o seu dispositivo de destino. Para definir o nível RLLM_Demo como padrão no seu projeto empacotado, vá para as configurações do projeto e defina RLLM_Demo como o Mapa Padrão do Jogo.