デモプロジェクト

プラグインの Content ディレクトリ内の Demo フォルダーには、デモンストレーション用に作成されたアセットがあります。

プラグインディレクトリが表示されない場合は、Content Browser を開き、右上隅の Settings ボタンをクリックして、Show Engine Content と Show Plugin Content を有効にします。デモプロジェクトは、Engine → Plugins → Runtime Local LLM Content ディレクトリにあるはずです。

これらのアセットは、オンデバイスLLM推論の実装をデモンストレーションするために提供されています。デモには以下が含まれます:

• メッセージを送信し、LLMからストリーミングのトークン単位の応答を受信できるチャットインターフェース
• すぐに使用できる、事前ダウンロードされたモデル
• ランタイムにURLから追加のモデルをダウンロードする機能
• 推論パラメータ（temperature、max tokens、context sizeなど）を設定する設定メニュー

デモは、シンプルさのためにBlueprintsとUMGウィジェットを使用して実装されています。UE 4.27以降のバージョンをサポートしています。

デモをテストするには、Demo フォルダーにある RLLM_Demo レベルを開き、エディタで実行します。

これにより、画面上にLLMチャットウィジェットが表示され、操作できるようになります。

また、プロジェクトをターゲットデバイス向けにパッケージ化することもできます。

パッケージ化されたプロジェクトで RLLM_Demo レベルをデフォルトとして設定するには、プロジェクト設定に移動し、RLLM_Demo を Game Default Map として設定します。