演示项目

在插件的 Content 目录下的 Demo 文件夹中，您可以找到用于演示目的而创建的资产。

如果看不到插件目录，请打开内容浏览器，点击右上角的设置按钮，然后启用显示引擎内容和显示插件内容。演示项目应位于引擎 → 插件 → Runtime Local LLM Content目录中。

这些资源旨在演示设备端大语言模型推理的实现。演示内容包括：

• 一个聊天界面，您可以发送消息并逐词接收来自LLM的流式响应
• 预下载的模型开箱即用
• 支持在运行时通过URL下载额外模型
• 设置菜单，用于配置推理参数（温度、最大令牌数、上下文大小等）

为简化实现，该演示使用蓝图和UMG控件构建。支持 UE 4.27 及更高版本。

要测试演示，请打开位于 Demo 文件夹中的 RLLM_Demo 关卡，并在编辑器中运行。此时屏幕上会显示 LLM 聊天控件，您可以与之交互。您也可以将项目打包到目标设备上。要将 RLLM_Demo 关卡设置为打包项目中的默认关卡，请进入项目设置，将 RLLM_Demo 设为 游戏默认地图。