Interaktion mit dem LLM-Provider optimieren
Als Persona will ich die Interaktion zwischen Chat MS und LLM-Provider optimieren, damit der Chat mehr Anfragen verarbeiten kann und sinnvolle Rückmeldungen an das Frontend gibt.
Akzeptanzkriterien
-
Timeout bei Anfrage zum LLM-Provider ist konfigurierbar -
Fehlermeldung bei einem Timeout ist UX-freundlich -
Review einer zweiten Person durchgeführt
Edited by Johannes Matzenmiller