示範專案
在插件 Content 目錄下的 Demo 資料夾中,您可以找到為示範目的而建立的資產。
如果您看不到插件目錄,請開啟 內容瀏覽器,點擊右上角的 設定 按鈕,並啟用 顯示引擎內容 和 顯示插件內容。示範專案應位於 Engine → Plugins → Runtime Local LLM Content 目錄中。

這些資產旨在展示裝置端 LLM 推論的實作方式。示範內容包含:
- 一個聊天介面,您可以在其中發送訊息並接收 LLM 逐個 token 串流回覆
- 預先下載的模型,開箱即可使用
- 可在執行時期透過 URL 下載其他模型的功能
- 用於設定推論參數(溫度、最大 token 數、上下文大小等)的設定選單
此示範使用 Blueprints 和 UMG 小工具實作,以保持簡潔。它支援 UE 4.27 及更高版本。
若要測試示範,請開啟位於 Demo 資料夾中的 RLLM_Demo 關卡,並在編輯器中執行。這將在您的螢幕上顯示 LLM 聊天小工具,您可以與其互動。您也可以將專案打包到目標裝置上。若要將 RLLM_Demo 關卡設定為打包專案中的預設關卡,請前往專案設定,並將 RLLM_Demo 設定為 遊戲預設地圖。