डेमो प्रोजेक्ट

प्लगइन की Content निर्देशिका के भीतर Demo फ़ोल्डर में, आपको प्रदर्शन प्रयोजनों के लिए बनाए गए एसेट मिलेंगे।

यदि आप प्लगइन निर्देशिका नहीं देख पा रहे हैं, तो Content Browser खोलें, ऊपरी-दाएं कोने में Settings बटन पर क्लिक करें, और Show Engine Content और Show Plugin Content को सक्षम करें। डेमो प्रोजेक्ट Engine → Plugins → Runtime Local LLM Content निर्देशिका में स्थित होना चाहिए।

ये एसेट डिवाइस पर LLM अनुमान के कार्यान्वयन को प्रदर्शित करने के लिए प्रदान किए गए हैं। डेमो में शामिल हैं:

• एक चैट इंटरफ़ेस जहाँ आप संदेश भेज सकते हैं और LLM से स्ट्रीमिंग टोकन-दर-टोकन प्रतिक्रियाएँ प्राप्त कर सकते हैं
• पूर्व-डाउनलोड किए गए मॉडल बॉक्स से बाहर उपयोग के लिए तैयार
• रनटाइम पर URL के माध्यम से अतिरिक्त मॉडल डाउनलोड करने की क्षमता
• अनुमान पैरामीटर कॉन्फ़िगर करने के लिए एक सेटिंग्स मेनू (तापमान, अधिकतम टोकन, संदर्भ आकार, आदि)

डेमो को सरलता के लिए Blueprints और UMG विजेट्स का उपयोग करके लागू किया गया है। यह UE 4.27 और बाद के संस्करणों का समर्थन करता है।

डेमो का परीक्षण करने के लिए, Demo फ़ोल्डर में स्थित RLLM_Demo स्तर खोलें और संपादक में चलाएं। यह आपकी स्क्रीन पर LLM चैट विजेट्स प्रदर्शित करेगा, जिनके साथ आप बातचीत कर सकते हैं। आप अपने लक्ष्य डिवाइस के लिए प्रोजेक्ट को पैकेज भी कर सकते हैं। अपने पैकेज किए गए प्रोजेक्ट में RLLM_Demo स्तर को डिफ़ॉल्ट के रूप में सेट करने के लिए, प्रोजेक्ट सेटिंग्स में जाएं और Game Default Map के रूप में RLLM_Demo सेट करें।