Detección de Actividad de Voz

Streaming Sound Wave, junto con sus tipos derivados como Capturable Sound Wave, soporta Detección de Actividad de Voz (VAD). VAD filtra los datos de audio entrantes para poblar el búfer interno solo cuando se detecta voz.

El plugin ofrece dos implementaciones de VAD:

Default VAD

La implementación por defecto utiliza libfvad, una biblioteca ligera de detección de actividad de voz que funciona eficientemente en todas las plataformas y versiones del motor soportadas por Runtime Audio Importer.

Silero VAD

Disponible como un plugin de extensión, Silero VAD es un detector de actividad de voz basado en redes neuronales que proporciona mayor precisión, especialmente en entornos ruidosos. Utiliza aprendizaje automático para distinguir de manera más confiable el habla del ruido de fondo.

Uso Básico

Para habilitar VAD después de crear una onda de sonido, utiliza la función ToggleVAD:

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)
StreamingSoundWave->ToggleVAD(true);

Después de habilitar VAD, puedes restablecerlo en cualquier momento:

Blueprint

C++

// Reset the VAD
StreamingSoundWave->ResetVAD();

Configuración predeterminada de VAD

Cuando se utiliza el proveedor VAD predeterminado, puedes ajustar su agresividad cambiando el modo VAD:

Blueprint

C++

// Set the VAD mode (only works with the default VAD provider)
StreamingSoundWave->SetVADMode(ERuntimeVADMode::VeryAggressive);

El parámetro mode controla cuán agresivamente el VAD filtra el audio. Valores más altos son más restrictivos, lo que significa que es menos probable que reporten falsos positivos pero podrían omitir algo de voz.

Proveedores de VAD

Después de activar el VAD con la función ToggleVAD, puedes elegir entre diferentes proveedores de Detección de Actividad de Voz para adaptarte a tus necesidades. El proveedor predeterminado es el integrado, mientras que proveedores adicionales como Silero VAD están disponibles a través de plugins de extensión.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)
// Make sure to call ToggleVAD(true) before setting the provider

// Set the VAD provider to Silero VAD
StreamingSoundWave->SetVADProvider(URuntimeSileroVADProvider::StaticClass());

Extensión Silero VAD

Silero VAD proporciona una detección de voz más precisa utilizando redes neuronales. Para usarlo:

1. Asegúrate de que el plugin Runtime Audio Importer ya esté instalado en tu proyecto

2. Para UE 5.5 y anteriores: Antes de descargar el plugin de extensión Silero VAD, asegúrate de que NNERuntimeORT esté deshabilitado en tu proyecto. Tener NNERuntimeORT habilitado puede causar bloqueos al usar Silero VAD en estas versiones del motor debido a conflictos

3. Descarga el plugin de extensión Silero VAD desde Google Drive

4. Extrae la carpeta del archivo descargado en la carpeta Plugins de tu proyecto (crea esta carpeta si no existe)

5. Para UE 5.6 y posteriores: Edita el archivo RuntimeAudioImporterSileroVAD.uplugin para agregar la dependencia NNERuntimeORT. En el campo "Plugins", después de la inclusión de RuntimeAudioImporter, agrega:

   ,
   {
       "Name": "NNERuntimeORT",
       "Enabled": true
   }

6. Reconstruye tu proyecto (esta extensión requiere un proyecto C++)

important

• El VAD predeterminado funciona con todas las versiones del motor compatibles con Runtime Audio Importer (UE 4.24, 4.25, 4.26, 4.27, 5.0, 5.1, 5.2, 5.3, 5.4, 5.5 y 5.6)

• Silero VAD es compatible con Unreal Engine 4.27 y todas las versiones de UE5 (4.27, 5.0, 5.1, 5.2, 5.3, 5.4, 5.5 y 5.6)

• UE 5.5 y anteriores: NNERuntimeORT debe deshabilitarse antes de usar Silero VAD para evitar fallos debido a conflictos de plugins

• Requisito de UE 5.6+: A partir de Unreal Engine 5.6, la extensión Silero VAD requiere que la dependencia del plugin NNERuntimeORT se agregue manualmente al archivo .uplugin

• Silero VAD está disponible para Windows, Linux, Mac, Android (incluyendo Meta Quest) e iOS

• Esta extensión se proporciona como código fuente y requiere un proyecto C++ para su uso

• Para más información sobre cómo construir plugins manualmente, consulta el tutorial de Construcción de Plugins

Una vez instalado, puedes seleccionarlo como tu proveedor de VAD usando la función SetVADProvider con el proveedor de clase Silero.

Detección de inicio y fin de habla

La Detección de Actividad de Voz no solo detecta la presencia de habla, sino que también permite detectar el inicio y el fin de la actividad de habla. Esto es útil para activar eventos cuando el habla comienza o termina durante la reproducción o captura.

Puedes personalizar la sensibilidad de la detección de inicio y fin de habla ajustando parámetros como la duración mínima de habla y la duración de silencio. Estos parámetros ayudan a afinar la detección para evitar falsos positivos, como captar ruidos breves o pausas demasiado cortas entre el habla.

Duración Mínima de Habla

El parámetro Duración Mínima de Habla establece la cantidad mínima de actividad de voz continua requerida para activar un evento de inicio de habla. Esto ayuda a filtrar ruidos breves que no deberían considerarse habla, para asegurar que solo se reconozca la actividad de voz sostenida. El valor predeterminado para Duración Mínima de Habla es 300 milisegundos.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)

// Set the minimum speech duration
StreamingSoundWave->SetMinimumSpeechDuration(200);

Duración del Silencio

El parámetro Duración del Silencio establece la duración de silencio requerida para activar un evento de fin de habla. Esto evita que la detección de habla termine prematuramente durante las pausas naturales entre palabras u oraciones. El valor predeterminado para Duración del Silencio es 500 milisegundos.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)

// Set the silence duration
StreamingSoundWave->SetSilenceDuration(700);

Vinculación a Delegados de Voz

Puedes vincular a delegados específicos cuando el habla comienza o termina. Esto es útil para activar comportamientos personalizados basados en la actividad de voz, como iniciar o detener el reconocimiento de texto, o ajustar el volumen de otras fuentes de audio.

Blueprint

C++

// Assuming StreamingSoundWave is a UE reference to a UStreamingSoundWave object (or its derived type, such as UCapturableSoundWave)

// Bind to the OnSpeechStartedNative delegate
StreamingSoundWave->OnSpeechStartedNative.AddWeakLambda(this, [this]()
{
  // Handle the result when speech starts
});

// Bind to the OnSpeechEndedNative delegate
StreamingSoundWave->OnSpeechEndedNative.AddWeakLambda(this, [this]()
{
  // Handle the result when speech ends
});

Comparación de Proveedores de VAD

VAD Predeterminado

VAD Predeterminado (libfvad)

Ventajas:

• Ligero y eficiente
• Funciona en todas las plataformas
• Uso mínimo de recursos
• Adecuado para dispositivos móviles y de baja potencia

Ideal para:

• Detección de voz simple en entornos silenciosos
• Aplicaciones móviles
• Proyectos donde el rendimiento es una prioridad
• Cuando se requiere soporte universal de plataforma

Silero VAD

Silero VAD

Ventajas:

• Mayor precisión en la detección de voz
• Tolerancia superior al ruido en entornos desafiantes
• Resultados más consistentes entre diferentes hablantes
• Opciones de configuración avanzadas para un control preciso

Ideal para:

• Aplicaciones que requieren detección de voz precisa
• Entornos con ruido de fondo
• Sistemas de reconocimiento de voz
• Aplicaciones de audio profesionales

nota

Silero VAD puede requerir más recursos computacionales que el VAD predeterminado.