Retry-Mechanismus zum LLM-Provider überprüfen

Als Entwicki will ich die Notwendigkeit von Retries zum LLM-Provider überprüfen, da so die UX bei einem Fehler verbessert werden könnte.

Hintergund:

Im Code lag bisher ein hard-gecodedeter Retry zum LLM-Provider von "3" vor. Dieser wurde jedoch entfernt, da der Provider einen HTTPX-Client nutzt, welcher das Argument ignoriert hat. Ist ein Retry-Mechanismus notwendig? Zu beachten: Auch der Core hat einen Retry-Mechanismus zum Chat, sodass sich diese multiplizieren könnten.

Akzeptanzkriterien

  • Notwendigkeit des Retry-Mechanismus überprüft @dmoch @dymat
  • ggf. Ticket zur Umsetzung geschrieben
  • Review einer zweiten Person durchgeführt
Edited by Johannes Matzenmiller
To upload designs, you'll need to enable LFS and have an admin enable hashed storage. More information