デモプロジェクト

プラグインの Content ディレクトリ内にある Demo フォルダには、デモンストレーション用に作成されたアセットがあります。

プラグインディレクトリが表示されない場合は、コンテンツブラウザを開き、右上隅の設定ボタンをクリックして、エンジンコンテンツを表示とプラグインコンテンツを表示を有効にしてください。デモプロジェクトは、エンジン → プラグイン → Runtime Local LLM Content ディレクトリにあります。

これらのアセットは、デバイス上でのLLM推論の実装を実演するために提供されています。デモには以下が含まれます：

• メッセージを送信し、LLMからトークン単位でストリーミング応答を受け取れるチャットインターフェース
• すぐに使用できる状態で事前ダウンロードされたモデル
• 実行時にURL経由で追加のモデルをダウンロードする機能
• 推論パラメータ（温度、最大トークン数、コンテキストサイズなど）を設定するための設定メニュー

デモは、シンプルさを重視してブループリントとUMGウィジェットを使用して実装されています。UE 4.27以降のバージョンをサポートしています。

デモをテストするには、DemoフォルダにあるRLLM_Demoレベルを開き、エディタで実行してください。これにより、LLMチャットウィジェットが画面に表示され、操作できるようになります。また、プロジェクトをターゲットデバイス向けにパッケージ化することも可能です。パッケージ化したプロジェクトでRLLM_Demoレベルをデフォルトに設定するには、プロジェクト設定に移動し、Game Default MapとしてRLLM_Demoを設定してください。