Zum Hauptinhalt springen

Verwendung des Plugins

Der Runtime AI Chatbot Integrator bietet zwei Hauptfunktionen: Text-zu-Text-Chat und Text-zu-Sprache (TTS). Beide Funktionen folgen einem ähnlichen Workflow:

  1. Registrieren Sie Ihren API-Provider-Token
  2. Konfigurieren Sie funktionsspezifische Einstellungen
  3. Senden Sie Anfragen und verarbeiten Sie Antworten

Provider-Token registrieren

Bevor Sie Anfragen senden, registrieren Sie Ihren API-Provider-Token mit der Funktion RegisterProviderToken.

Register Provider Token in Blueprint

Text-zu-Text-Chat-Funktionalität

Das Plugin unterstützt zwei Chat-Anfragemodi für jeden Anbieter:

Nicht-Streaming-Chat-Anfragen

Erhalten Sie die vollständige Antwort in einem einzigen Aufruf.

Send OpenAI Chat Request

Streaming-Chat-Anfragen

Empfangen Sie Antworten in Echtzeit für eine dynamischere Interaktion.

Send OpenAI Streaming Chat Request

Text-to-Speech (TTS)-Funktionalität

Konvertieren Sie Text in hochwertige Sprachaudio mit führenden TTS-Anbietern. Das Plugin gibt Roh-Audiodaten (TArray<uint8>) zurück, die Sie entsprechend den Anforderungen Ihres Projekts verarbeiten können.

Während die folgenden Beispiele die Audioverarbeitung für die Wiedergabe mit dem Runtime Audio Importer-Plugin demonstrieren (siehe Audio-Import-Dokumentation), ist der Runtime AI Chatbot Integrator flexibel gestaltet. Das Plugin gibt einfach die Roh-Audiodaten zurück und überlässt Ihnen die vollständige Freiheit, wie Sie diese für Ihren spezifischen Anwendungsfall verarbeiten. Dies kann Audio-Wiedergabe, Speicherung in Dateien, weitere Audioverarbeitung, Übertragung an andere Systeme, benutzerdefinierte Visualisierungen und mehr umfassen.

Nicht-Streaming TTS-Anfragen

Nicht-Streaming TTS-Anfragen liefern die vollständigen Audiodaten in einer einzigen Antwort, nachdem der gesamte Text verarbeitet wurde. Dieser Ansatz eignet sich für kürzere Texte, bei denen das Warten auf die vollständigen Audiodaten kein Problem darstellt.

OpenAI TTS-Anfrage senden

Streaming TTS Anfragen

Streaming TTS liefert Audio-Chunks während ihrer Generierung, sodass Sie Daten inkrementell verarbeiten können, anstatt auf die vollständige Synthese des Audios warten zu müssen. Dies reduziert die wahrgenommene Latenz für längere Texte erheblich und ermöglicht Echtzeitanwendungen.

OpenAI Streaming TTS Anfrage senden

Fehlerbehandlung

Beim Senden von Anfragen ist es entscheidend, potenzielle Fehler durch Überprüfung des ErrorStatus in Ihrem Callback zu behandeln. Der ErrorStatus liefert Informationen über Probleme, die während der Anfrage auftreten können.

Fehlerbehandlung

Anfragen abbrechen

Das Plugin ermöglicht es Ihnen, sowohl Text-zu-Text- als auch TTS-Anfragen während ihrer Ausführung abzubrechen. Dies kann nützlich sein, wenn Sie eine lang laufende Anfrage unterbrechen oder den Gesprächsfluss dynamisch ändern möchten.

Anfrage abbrechen

Best Practices

  1. Behandeln Sie potenzielle Fehler stets durch Überprüfung des ErrorStatus in Ihrem Callback
  2. Beachten Sie API-Ratelimits und Kosten
  3. Verwenden Sie den Streaming-Modus für längere oder interaktive Konversationen
  4. Ziehen Sie in Betracht, nicht mehr benötigte Requests abzubrechen, um Ressourcen effizient zu verwalten
  5. Nutzen Sie Streaming TTS für längere Texte, um die wahrgenommene Latenz zu reduzieren
  6. Für Audioverarbeitung bietet das Runtime Audio Importer Plugin eine praktische Lösung, Sie können jedoch auch eine benutzerdefinierte Verarbeitung basierend auf Ihren Projektanforderungen implementieren

Troubleshooting

  • Überprüfen Sie, ob Ihre API-Zugangsdaten korrekt sind
  • Prüfen Sie Ihre Internetverbindung
  • Stellen Sie sicher, dass alle Audioverarbeitungsbibliotheken (wie Runtime Audio Importer) korrekt installiert sind, wenn Sie mit TTS-Funktionen arbeiten
  • Vergewissern Sie sich, dass Sie das korrekte Audioformat bei der Verarbeitung von TTS-Antwortdaten verwenden
  • Für Streaming TTS: Stellen Sie sicher, dass Sie Audioblöcke korrekt verarbeiten