에디터에서 모델 관리하기

이 플러그인은 언리얼 엔진 에디터 내에서 LLM 모델을 탐색, 다운로드, 가져오기, 삭제 및 테스트할 수 있는 설정 패널을 제공합니다.

플러그인 설정에 접근하기

1. 편집 → 프로젝트 설정 열기
2. 플러그인 → Runtime Local LLM으로 이동

설정 패널에는 두 개의 주요 섹션이 있습니다:

• 다운로드된 모델: 현재 디스크에 있으며 사용할 준비가 된 모델
• 사용 가능한 모델: 내장 카탈로그에서 다운로드할 수 있는 사전 정의된 모델

모델 다운로드 중

1. 사용 가능한 모델 섹션에서 원하는 모델 제품군과 변형을 찾으세요
2. 변형 옆에 있는 다운로드 버튼을 클릭하세요
3. 진행 표시줄에 다운로드 상태가 표시됩니다
4. 완료되면 모델이 다운로드된 모델 섹션으로 이동합니다

여러 모델을 동시에 다운로드할 수 있습니다. 진행 중인 다운로드를 취소하려면 옆에 있는 취소 버튼을 클릭하세요.

다운로드된 모델을 삭제하려면, 제거하려는 모델 옆에 있는 삭제 버튼을 클릭하세요.

다운로드한 모든 모델은 프로젝트와 함께 패키징되므로, 프로젝트 크기를 줄이기 위해 더 이상 필요하지 않은 모델은 삭제하세요.

모델 선택하기

모바일/VR 플랫폼의 경우 Q4_K_M 양자화로 소형 모델(1B–3B 파라미터)부터 시작하세요. 데스크톱의 경우 Q4_K_M 또는 Q5_K_M 양자화의 7B 모델이 품질과 성능의 좋은 균형을 제공합니다.

사용자 정의 모델 가져오기

로컬 파일 시스템이나 URL에서 GGUF 파일을 가져올 수 있습니다:

1. 설정 패널 상단의 사용자 정의 모델 가져오기 버튼을 클릭하세요
2. 나타나는 대화 상자에서 모드를 선택하세요:
   • 로컬 파일 가져오기: 디스크에서 .gguf 파일을 찾아보기
   • URL에서 다운로드: .gguf 파일의 직접 URL 입력
3. 모델 이름과 선택적 설명/매개변수 개수를 입력하세요
4. 확인을 클릭하여 가져오거나 다운로드를 시작하세요

로컬 파일을 가져올 때, 플러그인은 해당 파일을 Content/RuntimeLocalLLM/Models 디렉터리로 복사하고 메타데이터 사이드카 파일을 생성합니다. URL에서 가져올 때는 플러그인이 파일을 해당 디렉터리에 직접 다운로드합니다.

커스텀 모델은 다운로드한 모델과 동일하게 취급되며 프로젝트와 함께 패키징됩니다.

편집기에서 모델 테스트하기

이 플러그인은 게임을 실행하지 않고도 빠른 추론 테스트를 할 수 있는 테스트 창을 포함하고 있습니다.

1. 설정 패널 상단의 LLM 테스트 버튼을 클릭하세요
2. 테스트 창에서 디스크에 있는 모델 드롭다운에서 모델을 선택하세요
3. 추론 매개변수(온도, 최대 토큰, 시스템 프롬프트 등)를 구성하세요
4. 프롬프트를 입력하고 보내기를 클릭하세요
5. 실시간으로 응답 스트림을 확인하세요
6. 중지를 클릭하여 생성을 취소하거나, 지우기를 클릭하여 대화를 초기화하세요

이것은 모델을 게임 로직에 통합하기 전에 올바르게 작동하는지 확인하는 데 유용합니다.

패키징 설정

모델을 다운로드하거나 가져오면 플러그인이 자동으로 프로젝트의 패키징 구성을 업데이트하여 RuntimeLocalLLM/Models 디렉터리를 추가로 복사할 비에셋 디렉터리(DirectoriesToAlwaysStageAsNonUFS)에 포함시킵니다. 이렇게 하면 모든 모델 파일이 패키징된 빌드와 함께 제공됩니다. 수동으로 구성할 필요가 없습니다.