데모 프로젝트

플러그인의 Content 디렉토리 안에 있는 Demo 폴더에서 데모 목적으로 생성된 에셋을 찾을 수 있습니다.

플러그인 디렉토리가 보이지 않으면 Content Browser를 열고, 우측 상단의 Settings 버튼을 클릭한 후 Show Engine Content와 Show Plugin Content를 활성화하세요. 데모 프로젝트는 Engine → Plugins → Runtime Local LLM Content 디렉토리에 있습니다.

이 에셋들은 온디바이스 LLM 추론의 구현을 보여주기 위해 제공됩니다. 데모에는 다음이 포함됩니다:

• 메시지를 보내고 LLM으로부터 스트리밍 방식으로 토큰 단위 응답을 받을 수 있는 채팅 인터페이스
• 사전 다운로드된 모델로 즉시 사용 가능
• 런타임에 URL을 통해 추가 모델을 다운로드할 수 있는 기능
• 추론 파라미터(온도, 최대 토큰 수, 컨텍스트 크기 등)를 설정할 수 있는 설정 메뉴

데모는 간소화를 위해 Blueprints와 UMG 위젯을 사용하여 구현되었습니다. UE 4.27 이상 버전을 지원합니다.

데모를 테스트하려면 Demo 폴더에 위치한 RLLM_Demo 레벨을 열고 에디터에서 실행하세요. 그러면 화면에 LLM 채팅 위젯이 표시되며, 상호 작용할 수 있습니다. 또한 프로젝트를 대상 디바이스에 맞게 패키징할 수도 있습니다. 패키지된 프로젝트에서 RLLM_Demo 레벨을 기본값으로 설정하려면 Project Settings로 이동하여 RLLM_Demo를 Game Default Map으로 설정하세요.