Interaktion mit dem LLM-Provider optimieren

Als Persona will ich die Interaktion zwischen Chat MS und LLM-Provider optimieren, damit der Chat mehr Anfragen verarbeiten kann und sinnvolle Rückmeldungen an das Frontend gibt.

Akzeptanzkriterien

  • Timeout bei Anfrage zum LLM-Provider ist konfigurierbar
  • Fehlermeldung bei einem Timeout ist UX-freundlich
  • Review einer zweiten Person durchgeführt
Edited by Johannes Matzenmiller
To upload designs, you'll need to enable LFS and have an admin enable hashed storage. More information