كشف النشاط الصوتي

موجة الصوت المتدفقة، جنبًا إلى جنب مع أنواعها المشتقة مثل موجة الصوت القابلة للتسجيل، تدعم كشف النشاط الصوتي (VAD). يقوم VAD بتصفية بيانات الصوت الواردة لملء المخزن المؤقت الداخلي فقط عند اكتشاف الصوت.

يقدم المكون الإضافي تطبيقين لكشف النشاط الصوتي:

كشف النشاط الصوتي الافتراضي

يستخدم التطبيق الافتراضي libfvad، وهي مكتبة خفيفة الوزن لكشف النشاط الصوتي تعمل بكفاءة عبر جميع المنصات وإصدارات المحرك التي يدعمها Runtime Audio Importer.

كشف النشاط الصوتي Silero

متاح كمكون إضافي تمديدي، Silero VAD هو كاشف نشاط صوتي قائم على الشبكات العصبية يوفر دقة أعلى، خاصة في البيئات الصاخبة. يستخدم التعلم الآلي للتمييز بين الكلام والضوضاء الخلفية بشكل أكثر موثوقية.

الاستخدام الأساسي

لتمكين كشف النشاط الصوتي بعد إنشاء موجة صوت، استخدم الدالة ToggleVAD:

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)
StreamingSoundWave->ToggleVAD(true);

بعد تمكين VAD، يمكنك إعادة تعيينه في أي وقت:

Blueprint

C++

// Reset the VAD
StreamingSoundWave->ResetVAD();

إعدادات VAD الافتراضية

عند استخدام موفر VAD الافتراضي، يمكنك ضبط مستوى عدوانيته عن طريق تغيير وضع VAD:

Blueprint

C++

// Set the VAD mode (only works with the default VAD provider)
StreamingSoundWave->SetVADMode(ERuntimeVADMode::VeryAggressive);

تتحكم معلمة الوضع في مدى عدوانية كاشف النشاط الصوتي (VAD) في تصفية الصوت. القيم الأعلى أكثر تقييدًا، مما يعني أنها أقل عرضة للإبلاغ عن إيجابيات كاذبة ولكن قد تفوت بعض الكلام.

موفرو كاشف النشاط الصوتي (VAD)

بعد تمكين كاشف النشاط الصوتي (VAD) باستخدام دالة ToggleVAD، يمكنك الاختيار بين مختلف موفري كاشف النشاط الصوتي (VAD) لتناسب احتياجاتك. المزود الافتراضي مدمج، بينما تتوفر موفرو إضافيون مثل Silero VAD من خلال إضافات الامتداد.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)
// Make sure to call ToggleVAD(true) before setting the provider

// Set the VAD provider to Silero VAD
StreamingSoundWave->SetVADProvider(URuntimeSileroVADProvider::StaticClass());

ملحق Silero VAD

يوفر Silero VAD كشفًا أكثر دقة للكلام باستخدام الشبكات العصبية. لاستخدامه:

1. تأكد من أن المكوّن الإضافي Runtime Audio Importer مثبت بالفعل في مشروعك

2. لإصدارات Unreal Engine 5.5 وأقدم: قبل تنزيل المكوّن الإضافي لملحق Silero VAD، تأكد من تعطيل NNERuntimeORT في مشروعك. قد يتسبب تفعيل NNERuntimeORT في تعطل البرنامج عند استخدام Silero VAD على هذه الإصدارات من المحرك بسبب التعارضات

3. قم بتنزيل المكوّن الإضافي لملحق Silero VAD من Google Drive

4. استخرج المجلد من الأرشيف الذي تم تنزيله إلى مجلد Plugins الخاص بمشروعك (قم بإنشاء هذا المجلد إذا لم يكن موجودًا)

5. لإصدارات Unreal Engine 5.6 وأحدث: قم بتحرير ملف RuntimeAudioImporterSileroVAD.uplugin لإضافة تبعية NNERuntimeORT. في حقل "Plugins"، بعد تضمين RuntimeAudioImporter، أضف:

   ,
   {
       "Name": "NNERuntimeORT",
       "Enabled": true
   }

6. أعد بناء مشروعك (هذا الامتداد يتطلب مشروع C++)

important

• VAD الافتراضي يعمل مع جميع إصدارات المحرك المدعومة بواسطة Runtime Audio Importer (UE 4.24, 4.25, 4.26, 4.27, 5.0, 5.1, 5.2, 5.3, 5.4, 5.5, و 5.6)

• Silero VAD يدعم Unreal Engine 4.27 وجميع إصدارات UE5 (4.27, 5.0, 5.1, 5.2, 5.3, 5.4, 5.5, و 5.6)

• UE 5.5 والإصدارات الأقدم: يجب تعطيل NNERuntimeORT قبل استخدام Silero VAD لمنع حدوث تعطل بسبب تضارب الإضافات

• متطلب UE 5.6+: بدءًا من Unreal Engine 5.6، يتطلب امتداد Silero VAD إضافة تبعية الإضافة NNERuntimeORT يدويًا إلى ملف .uplugin

• Silero VAD متاح لأنظمة Windows وLinux وMac وAndroid (بما في ذلك Meta Quest) وiOS

• يتم توفير هذا الامتداد كشفرة مصدرية ويتطلب مشروع C++ لاستخدامه

• لمزيد من المعلومات حول كيفية بناء الإضافات يدويًا، راجع درس بناء الإضافات

بمجرد التثبيت، يمكنك تحديده كمزود VAD الخاص بك باستخدام الدالة SetVADProvider مع مزود فئة Silero.

اكتشاف بدء وانتهاء الكلام

اكتشاف نشاط الصوت (Voice Activity Detection) لا يكتشف فقط وجود الكلام، بل يسمح أيضًا باكتشاف بدء ونهاية نشاط الكلام. هذا مفيد لتحريك الأحداث عند بدء الكلام أو انتهائه أثناء التشغيل أو التسجيل.

يمكنك تخصيص حساسية اكتشاف بدء وانتهاء الكلام عن طريق ضبط معاملات مثل مدة الكلام الدنيا ومدة الصمت. تساعد هذه المعاملات في ضبط الاكتشاف بدقة لتجنب الإيجابيات الكاذبة، مثل التقاط الضوضاء القصيرة أو فترات التوقف القصيرة جدًا بين الكلام.

مدة الكلام الدنيا

معامل مدة الكلام الدنيا يحدد الحد الأدنى من نشاط الصوت المستمر المطلوب لتحريك حدث بدء الكلام. هذا يساعد في تصفية الضوضاء القصيرة التي لا ينبغي اعتبارها كلامًا، للتأكد من أن نشاط الصوت المستمر فقط هو الذي يتم التعرف عليه. القيمة الافتراضية لـ مدة الكلام الدنيا هي 300 ميلي ثانية.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)

// Set the minimum speech duration
StreamingSoundWave->SetMinimumSpeechDuration(200);

مدة الصمت

معلمة مدة الصمت تحدد مدة الصمت المطلوبة لتحريك حدث نهاية الكلام. هذا يمنع انتهاء اكتشاف الكلام بشكل مبكر خلال التوقفات الطبيعية بين الكلمات أو الجمل. القيمة الافتراضية لـ مدة الصمت هي 500 مللي ثانية.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)

// Set the silence duration
StreamingSoundWave->SetSilenceDuration(700);

الربط مع مندوبي الكلام

يمكنك الربط مع مندوبين محددين عند بدء الكلام أو انتهائه. هذا مفيد لتحريك سلوك مخصص بناءً على نشاط الكلام، مثل بدء أو إيقاف التعرف على النص، أو ضبط مستوى صوت مصادر الصوت الأخرى.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)

// Bind to the OnSpeechStartedNative delegate
StreamingSoundWave->OnSpeechStartedNative.AddWeakLambda(this, [this]()
{
  // Handle the result when speech starts
});

// Bind to the OnSpeechEndedNative delegate
StreamingSoundWave->OnSpeechEndedNative.AddWeakLambda(this, [this]()
{
  // Handle the result when speech ends
});

مقارنة مزودي VAD

Default VAD

Default VAD (libfvad)

المزايا:

• خفيف الوزن وفعال
• يعمل على جميع المنصات
• استخدام الحد الأدنى من الموارد
• مناسب للأجهزة المحمولة ومنخفضة الطاقة

الأفضل لـ:

• كشف الصوت البسيط في البيئات الهادئة
• تطبيقات الهاتف المحمول
• المشاريع التي تكون فيها الأدوية أولوية
• عندما تكون هناك حاجة لدعم منصة عالمي

Silero VAD

Silero VAD

المزايا:

• دقة أعلى في اكتشاف الصوت
• تحمل متفوق للضوضاء في البيئات الصعبة
• نتائج أكثر اتساقًا عبر المتحدثين المختلفين
• خيارات تكوين متقدمة للتحكم الدقيق

الأفضل لـ:

• التطبيقات التي تتطلب اكتشاف صوت دقيق
• البيئات ذات الضوضاء الخلفية
• أنظمة التعرف على الصوت
• تطبيقات الصوت الاحترافية

ملاحظة

قد يتطلب Silero VAD موارد حاسوبية أكثر من Default VAD.