Ana içeriğe geç

Editörde modelleri yönetme

Eklenti, Unreal Engine düzenleyicisi içinde LLM modellerine göz atabileceğiniz, indirebileceğiniz, içe aktarabileceğiniz, silebileceğiniz ve test edebileceğiniz bir ayarlar paneli sağlar.

Eklenti Ayarlarına Erişme​

  1. Düzenle → Proje Ayarları seçeneğini açın
  2. Eklentiler → Runtime Local LLM bölümüne gidin

Ayarlar paneli iki ana bölümden oluşur:

  • İndirilen Modeller: Şu anda diskte bulunan ve kullanıma hazır modeller
  • Mevcut Modeller: İndirebileceğiniz, yerleşik katalogdaki ön tanımlı modeller

Modeller İndiriliyor​

  1. Mevcut Modeller bölümünde, istediğiniz model ailesini ve varyantını bulun
  2. Varyantın yanındaki İndir düğmesine tıklayın
  3. Bir ilerleme çubuğu indirme durumunu gösterir
  4. İşlem tamamlandığında, model İndirilen Modeller bölümüne taşınır

Aynı anda birden fazla model indirebilirsiniz. Devam eden bir indirmeyi iptal etmek için yanındaki İptal düğmesine tıklayın.

İndirilen herhangi bir modeli silmek için, kaldırmak istediğiniz modelin yanındaki Sil düğmesine tıklayın.

İndirilen tüm modeller projenizle birlikte paketlenecektir, bu nedenle proje boyutunu küçültmek için artık ihtiyacınız olmayan modelleri silin.

Bir Model Seçme

Mobil/VR platformları için, Q4_K_M nicelemesinde küçük bir modelle (1B–3B parametre) başlayın. Masaüstü için, Q4_K_M veya Q5_K_M nicelemesindeki 7B modeller, kalite ve performans açısından iyi bir denge sunar.

Özel Modelleri İçe Aktarma​

Herhangi bir GGUF dosyasını yerel dosya sisteminizden veya bir URL'den içe aktarabilirsiniz:

  1. Ayarlar panelinin üst kısmındaki Özel Modeli İçe Aktar düğmesine tıklayın
  2. Açılan iletişim kutusunda bir mod seçin:
    • Yerel Dosyayı İçe Aktar: Disk üzerinde bir .gguf dosyası bulun
    • URL'den İndir: Bir .gguf dosyasına doğrudan URL girin
  3. Model adını ve isteğe bağlı açıklama / parametre sayısını girin
  4. İçe aktarmak veya indirmeyi başlatmak için Onayla'ya tıklayın

Yerel bir dosya içe aktarılırken, eklenti dosyayı Content/RuntimeLocalLLM/Models dizinine kopyalar ve bir meta veri yan dosyası oluşturur. URL'den içe aktarırken, eklenti dosyayı doğrudan bu dizine indirir.

Özel modeller, indirilen modellerle aynı şekilde işlenir ve projenizle birlikte paketlenir.

Editörde Modelleri Test Etme​

Eklenti, oyununuzu çalıştırmadan hızlı çıkarım testi yapmanızı sağlayan bir test penceresi içerir:

  1. Ayarlar panelinin üst kısmındaki Test LLM düğmesine tıklayın
  2. Test penceresinde, diskteki modellerin açılır listesinden bir model seçin
  3. Çıkarım parametrelerini yapılandırın (sıcaklık, maksimum token, sistem istemi vb.)
  4. Bir istem girin ve Gönder'e tıklayın
  5. Yanıt akışını gerçek zamanlı olarak izleyin
  6. Oluşturmayı iptal etmek için Durdur'a veya konuşmayı sıfırlamak için Temizle'ye tıklayın

Bu, bir modeli oyun mantığınıza entegre etmeden önce doğru çalıştığını doğrulamak için kullanışlıdır.

Paketleme Ayarları​

Bir model indirdiğinizde veya içe aktardığınızda, eklenti, projenizin paketleme yapılandırmasını otomatik olarak güncelleyerek RuntimeLocalLLM/Models dizinini Kopyalanacak Ek Varlık Olmayan Dizinler (DirectoriesToAlwaysStageAsNonUFS) bölümüne ekler. Bu, tüm model dosyalarının paketlenmiş yapınızla birlikte gönderilmesini sağlar. Bunu manuel olarak yapılandırmanız gerekmez.