Gerenciando modelos no editor

O plugin fornece um painel de configurações dentro do editor do Unreal Engine, onde você pode navegar, baixar, importar, excluir e testar modelos de LLM.

Acessando as Configurações do Plugin

1. Abra Editar → Configurações do Projeto
2. Navegue até Plugins → Runtime Local LLM

O painel de configurações tem duas seções principais:

• Modelos Baixados: Modelos atualmente no disco e prontos para uso
• Modelos Disponíveis: Modelos pré-definidos do catálogo integrado que você pode baixar

Baixando Modelos

1. Na seção Modelos Disponíveis, encontre a família e a variante do modelo desejado
2. Clique no botão Baixar ao lado da variante
3. Uma barra de progresso exibe o status do download
4. Após a conclusão, o modelo é movido para a seção Modelos Baixados

Você pode baixar vários modelos simultaneamente. Para cancelar um download em andamento, clique no botão Cancelar ao lado dele.

Para excluir qualquer modelo baixado, clique no botão Excluir ao lado do modelo que deseja remover.

Todos os modelos baixados serão empacotados com seu projeto. Portanto, para reduzir o tamanho do projeto, exclua quaisquer modelos que não forem mais necessários.

Escolhendo um Modelo

Para plataformas móveis/VR, comece com um modelo pequeno (1B–3B parâmetros) na quantização Q4_K_M. Para desktop, modelos de 7B em Q4_K_M ou Q5_K_M oferecem um bom equilíbrio entre qualidade e desempenho.

Importando Modelos Personalizados

Você pode importar qualquer arquivo GGUF do seu sistema de arquivos local ou de uma URL:

1. Clique no botão Importar Modelo Personalizado no topo do painel de configurações
2. Na caixa de diálogo que aparece, escolha um modo:
   • Importar Arquivo Local: Navegue para selecionar um arquivo .gguf no disco
   • Baixar da URL: Insira uma URL direta para um arquivo .gguf
3. Preencha o nome do modelo e a descrição opcional / contagem de parâmetros
4. Clique em Confirmar para importar ou iniciar o download

Ao importar um arquivo local, o plugin o copia para o diretório Content/RuntimeLocalLLM/Models e cria um arquivo de metadados auxiliar. Ao importar de uma URL, o plugin baixa o arquivo diretamente para esse diretório.

Modelos personalizados são tratados da mesma forma que modelos baixados e serão empacotados com seu projeto.

Testando Modelos no Editor

O plugin inclui uma janela de teste para inferência rápida sem executar seu jogo:

1. Clique no botão Testar LLM no topo do painel de configurações
2. Na janela de teste, selecione um modelo na lista suspensa de modelos no disco
3. Configure os parâmetros de inferência (temperatura, tokens máximos, prompt do sistema, etc.)
4. Digite um prompt e clique em Enviar
5. Observe o fluxo de resposta em tempo real
6. Clique em Parar para cancelar a geração, ou Limpar para reiniciar a conversa

Isso é útil para verificar se um modelo funciona corretamente antes de integrá-lo à sua lógica de jogo.

Configurações de Empacotamento

Quando você baixa ou importa um modelo, o plugin atualiza automaticamente a configuração de empacotamento do seu projeto para incluir o diretório RuntimeLocalLLM/Models em Diretórios Adicionais Sem Ativos Para Copiar (DirectoriesToAlwaysStageAsNonUFS). Isso garante que todos os arquivos de modelo sejam enviados junto com sua build empacotada. Você não precisa configurar isso manualmente.