Reranker Microservice implementieren

Als Entwickli möchte ich das re-ranking überarbeiten, damit die MS-Architektur erhalten bleibt.

Dafür wird ein neuer Ranker gewählt, welcher sich mit vllm/ollama deployen lässt. Somit kann der RAG-MS wieder ohne GPU-Support durchgeführt werden.

Akzeptanzkriterien

  • Ranker-Model ist ausgewählt
  • Ranker-Microservice ist in haystack-Pipelines eingebunden
  • Core ist aktualisiert
  • Dokumentation ist aktualisiert
  • Review einer zweiten Person durchgeführt
Edited by Matthias Werner
To upload designs, you'll need to enable LFS and have an admin enable hashed storage. More information