Transkribierung erfolgt teilweise sehr langsam

Die Performance unseres LLM-Partners Mistral ist wieder im Normalbereich. Transkribierungen erfolgen mittlerweile wieder in der normalen Geschwindigkeit nach einem Call und im Nachgang werden dann auch z.B. Zusammenfassungen erstellt und - bei einer entsprechenden Konfiguration - letztere auch direkt ins CRM synchronisiert. Wenn Kund:innen als Workaround auf das LLM von OpenAI gewechselt sind, dies aber nicht dauerhaft wünschen, können diese nun wieder in der sipgate App unter "Einstellungen" --> "AI Assist" --> "Beta Funktionen" --> "Large Language Model" von "OpenAI" zu "Mistral AI" zurück wechseln. Sicherheitshalber beobachten wir die Situation noch eine Weile.

Die Verzögerungen resultieren aus Performance-Problemen bei Mistral, einem unserer LLM-Partner. Kundi:innen, die dieses LLM Model in der sipgate App ausgewählt haben, sehen sich teilweise den Verzögerungen gegenüber. Bis die Perfomance-Probleme von unserem LLM-Partner behoben sind, wird es helfen, mindestens vorübergehend, d.h. als Workaround, in der sipgate App unter "Einstellungen" --> "AI Assist" --> "Beta Funktionen" --> "Large Language Model" von "Mistral AI" zu "OpenAI" zu wechseln.

Derzeit erfolgt die Transkribierung von Calls sehr langsam, womit auch z.B. Zusammenfassungen von Calls nur verzögert erstellt werden und im Nachgang auch verzögert, wenn eine Integration zu einem CRM genutzt wird, in das CRM synchronisiert wird. Wir suchen die Ursache.