示範專案
在插件的 Content 目錄下的 Demo 資料夾中,您會找到為示範目的而建立的素材。
如果您看不到插件目錄,請開啟內容瀏覽器,點擊右上角的設定按鈕,然後啟用顯示引擎內容和顯示插件內容。示範專案應位於引擎 → 插件 → Runtime Local LLM Content 目錄中。

這些資產旨在展示裝置端 LLM 推論的實作方式。示範內容包含:
- 一個聊天介面,讓您可以發送訊息並從 LLM 接收逐個 Token 串流回應
- 預先下載的模型,開箱即可使用
- 能夠在執行時透過 URL 下載其他模型
- 一個設定選單,用於配置推論參數(溫度、最大 Token 數、上下文大小等)
為求簡潔,此示範使用藍圖(Blueprints)與UMG小工具(UMG widgets)實作。支援 UE 4.27 及更新版本。
若要測試示範,請開啟位於 Demo 資料夾中的 RLLM_Demo 關卡,並在編輯器中執行。這將會在螢幕上顯示 LLM 聊天小工具,供您進行互動。您也可以將專案打包至目標裝置。若要將 RLLM_Demo 關卡設為打包專案中的預設關卡,請前往專案設定,並將 RLLM_Demo 設為 遊戲預設地圖。