Demo projesi

Eklentinin Content dizini içindeki Demo klasöründe, gösterim amaçlı oluşturulmuş varlıkları bulacaksınız.

Eklenti dizinini göremiyorsanız, İçerik Tarayıcısı'nı açın, sağ üst köşedeki Ayarlar düğmesine tıklayın ve Motor İçeriğini Göster ile Eklenti İçeriğini Göster seçeneklerini etkinleştirin. Demo projesi, Motor → Eklentiler → Runtime Local LLM İçeriği dizininde bulunmalıdır.

Bu varlıklar, cihaz üzerinde LLM çıkarımının uygulanmasını göstermek için sağlanmıştır. Demo şunları içerir:

Mesaj gönderebileceğiniz ve LLM'den akışlı, token token yanıtlar alabileceğiniz bir sohbet arayüzü
Kullanıma hazır, önceden indirilmiş modeller
Çalışma zamanında URL üzerinden ek modeller indirme yeteneği
Çıkarım parametrelerini (sıcaklık, maksimum token, bağlam boyutu vb.) yapılandırmak için bir ayarlar menüsü

Demo, basitlik amacıyla Blueprint'ler ve UMG widget'ları kullanılarak uygulanmıştır. UE 4.27 ve sonraki sürümleri destekler.

Demoyu test etmek için Demo klasöründe bulunan RLLM_Demo seviyesini açın ve düzenleyicide çalıştırın. Bu, ekranınızda etkileşim kurabileceğiniz LLM sohbet araçlarını gösterecektir. Projeyi hedef cihazınız için paketleyebilirsiniz. Paketlenmiş projenizde RLLM_Demo seviyesini varsayılan yapmak için proje ayarlarına gidin ve RLLM_Demo'yu Oyun Varsayılan Haritası olarak ayarlayın.