Gerenciando modelos no editor

O plugin fornece um painel de configurações dentro do editor do Unreal Engine onde você pode navegar, baixar, importar, deletar e testar modelos de LLM.

Acessando as Configurações do Plugin

1. Abra Edit → Project Settings
2. Navegue até Plugins → Runtime Local LLM

O painel de configurações possui duas seções principais:

• Downloaded Models: Modelos atualmente no disco e prontos para uso
• Available Models: Modelos pré-definidos do catálogo integrado que você pode baixar

Baixando Modelos

1. Na seção Available Models, encontre a família do modelo e a variante que você deseja
2. Clique no botão Download próximo à variante
3. Uma barra de progresso mostra o status do download
4. Assim que concluído, o modelo é movido para a seção Downloaded Models

Você pode baixar vários modelos simultaneamente. Para cancelar um download em andamento, clique no botão Cancel próximo a ele.

Para deletar qualquer modelo baixado, clique no botão Delete próximo ao modelo que você deseja remover.

Todos os modelos baixados serão empacotados com o seu projeto, portanto, para reduzir o tamanho do projeto, exclua quaisquer modelos que você não precise mais.

Escolhendo um Modelo

Para plataformas mobile/VR, comece com um modelo pequeno (1B–3B parâmetros) com quantização Q4_K_M. Para desktop, modelos de 7B com Q4_K_M ou Q5_K_M oferecem um bom equilíbrio entre qualidade e desempenho.

Importando Modelos Personalizados

Você pode importar qualquer arquivo GGUF do seu sistema de arquivos local ou de uma URL:

1. Clique no botão Importar Modelo Personalizado no topo do painel de configurações
2. No diálogo que aparecer, escolha um modo:
   • Importar Arquivo Local: Procure por um arquivo .gguf no disco
   • Baixar de URL: Insira uma URL direta para um arquivo .gguf
3. Preencha o nome do modelo e a descrição / contagem de parâmetros opcionais
4. Clique em Confirmar para importar ou iniciar o download

Ao importar um arquivo local, o plugin o copia para o diretório Content/RuntimeLocalLLM/Models e cria um arquivo de metadados auxiliar. Ao importar de uma URL, o plugin baixa o arquivo diretamente para esse diretório.

Os modelos personalizados são tratados da mesma forma que os modelos baixados e serão empacotados com o seu projeto.

Testando Modelos no Editor

O plugin inclui uma janela de teste para testes rápidos de inferência sem executar o jogo:

1. Clique no botão Test LLM na parte superior do painel de configurações
2. Na janela de teste, selecione um modelo na lista suspensa de modelos em disco
3. Configure os parâmetros de inferência (temperatura, máximo de tokens, prompt do sistema, etc.)
4. Digite um prompt e clique em Send
5. Observe o fluxo da resposta em tempo real
6. Clique em Stop para cancelar a geração ou em Clear para reiniciar a conversa

Isso é útil para verificar se um modelo funciona corretamente antes de integrá-lo na lógica do seu jogo.

Configurações de Empacotamento

Quando você baixa ou importa um modelo, o plugin atualiza automaticamente a configuração de empacotamento do seu projeto para incluir o diretório RuntimeLocalLLM/Models em Additional Non-Asset Directories To Copy (DirectoriesToAlwaysStageAsNonUFS). Isso garante que todos os arquivos do modelo sejam incluídos na sua build empacotada. Você não precisa configurar isso manualmente.