Chuyển tới nội dung chính

Cách sử dụng các mô hình ngôn ngữ

Chọn, tải xuống và đóng gói các mô hình​

Hiện tại, plugin được thiết kế để hỗ trợ một mô hình ngôn ngữ duy nhất, được chọn trước trong trình biên tập, để đóng gói và sử dụng với dự án. Thực hiện theo các bước sau để chọn, tải xuống và chuẩn bị một mô hình ngôn ngữ cụ thể:

  1. Chọn mô hình mong muốn từ các tùy chọn có sẵn. Plugin hỗ trợ các mô hình sau ngay khi cài đặt:

    Mô hình Chuẩn:

    • Tiny
    • Base
    • Small
    • Medium
    • Large V1
    • Large V2
    • Large V3
    • Large V3 Turbo

    Mô hình Lượng tử hóa (kích thước tệp giảm):

    • Tiny Quantized (Q5_1) - Lượng tử hóa xuống 5 bit và 1 điểm thập phân
    • Tiny Quantized (Q8_0) - Lượng tử hóa xuống 8 bit và 0 điểm thập phân
    • Base Quantized (Q5_1) - Lượng tử hóa xuống 5 bit và 1 điểm thập phân
    • Small Quantized (Q5_1) - Lượng tử hóa xuống 5 bit và 1 điểm thập phân
    • Medium Quantized (Q5_0) - Lượng tử hóa xuống 5 bit và 0 điểm thập phân
    • Large V2 Quantized (Q5_0) - Lượng tử hóa xuống 5 bit và 0 điểm thập phân
    • Large V3 Quantized (Q5_0) - Lượng tử hóa xuống 5 bit và 0 điểm thập phân
    • Large V3 Turbo Quantized (Q5_0) - Lượng tử hóa xuống 5 bit và 0 điểm thập phân

    Mô hình Chưng cất:

    • Distil Small - Phiên bản chưng cất của mô hình Small
    • Distil Medium - Phiên bản chưng cất của mô hình Medium
    • Distil Large V2 - Phiên bản chưng cất của mô hình Large V2
    • Distil Large V3 - Phiên bản chưng cất của mô hình Large V3

    Mô hình Tùy chỉnh:

    • Custom - Chỉ định tên mô hình tùy chỉnh và URL để tải xuống mô hình ngôn ngữ của riêng bạn từ một máy chủ

    Mỗi mô hình (ngoại trừ Custom) có thể được cấu hình là Đa ngôn ngữ hoặc Chỉ tiếng Anh.

  2. Nhấp vào nút Setup Language Model, nút này sẽ yêu cầu bạn tải xuống mô hình ngôn ngữ đã chọn tự động nếu nó chưa có trên máy cục bộ của bạn.

  3. Sau khi quá trình tải xuống hoàn tất, Trình biên tập sẽ tạo một tài sản mô hình ngôn ngữ nằm tại "Plugins/RuntimeSpeechRecognizer/Content/LanguageModels/LanguageModel.uasset". Tài sản mô hình ngôn ngữ này sẽ là tài sản duy nhất được đóng gói cùng với dự án của bạn.

Bạn cũng có thể xóa bất kỳ mô hình ngôn ngữ nào đã tải xuống cục bộ bằng cách nhấp vào nút Clear Language Models.

Ngoài ra, bạn có thể tải xuống thủ công và đặt các mô hình ngôn ngữ chỉ từ https://huggingface.co/ggerganov/whisper.cpp vào thư mục "Plugins/RuntimeSpeechRecognizer/Content".

Lưu ý rằng chỉ mô hình ngôn ngữ đã chọn mới được đóng gói cùng với dự án của bạn. Do đó, bạn không cần phải lo lắng về các mô hình khác vì chúng sẽ bị loại trừ trong giai đoạn đóng gói.