데모 프로젝트

플러그인의 Content 디렉터리 내 Demo 폴더에는 데모 목적으로 생성된 에셋이 있습니다.

플러그인 디렉토리가 보이지 않으면 콘텐츠 브라우저를 열고 오른쪽 상단의 설정 버튼을 클릭한 후 엔진 콘텐츠 표시와 플러그인 콘텐츠 표시를 활성화하세요. 데모 프로젝트는 엔진 → 플러그인 → Runtime Local LLM 콘텐츠 디렉토리에 위치해 있습니다.

이 에셋들은 온디바이스 LLM 추론 구현을 시연하기 위해 제공됩니다. 데모에는 다음이 포함됩니다:

• 메시지를 보내고 LLM으로부터 토큰 단위로 스트리밍 응답을 받을 수 있는 채팅 인터페이스
• 즉시 사용 가능한 사전 다운로드 모델
• 런타임 시 URL을 통해 추가 모델을 다운로드할 수 있는 기능
• 추론 매개변수(온도, 최대 토큰, 컨텍스트 크기 등)를 구성할 수 있는 설정 메뉴

데모는 단순화를 위해 블루프린트와 UMG 위젯을 사용하여 구현되었습니다. UE 4.27 이상 버전을 지원합니다.

데모를 테스트하려면 Demo 폴더에 있는 RLLM_Demo 레벨을 열고 에디터에서 실행하세요. 그러면 화면에 상호작용할 수 있는 LLM 채팅 위젯이 표시됩니다. 또한 대상 기기용으로 프로젝트를 패키징할 수도 있습니다. 패키징된 프로젝트에서 RLLM_Demo 레벨을 기본값으로 설정하려면 프로젝트 설정으로 이동하여 RLLM_Demo를 게임 기본 맵으로 지정하세요.