Haystack
Haystack ist ein Open-Source-Framework von deepset für Anwendungen mit Sprachmodellen in Python. Modulare Pipelines und Agenten-Workflows geben ausdrücklich vor, wie Informationen abgerufen, gefiltert und an das Modell weitergegeben werden.
- Projekt
- Haystack
- Herausgeber
- deepset
- Repository
- github.com/deepset-ai/haystack
- Dokumentation
- docs.haystack.deepset.ai/docs/intro
- Sprachen
- Python
- Kategorie
- KI-Agenten-Frameworks
Was ist Haystack?
Haystack ist ein Orchestrierungs-Framework von deepset, veröffentlicht unter der Apache-2.0-Lizenz. Anwendungen werden aus Komponenten zu Pipelines zusammengesetzt – für RAG, semantische Suche, Frage-Antwort-Systeme, multimodale Anwendungen und Agenten. Das Projekt stellt das Prinzip des Context Engineering in den Mittelpunkt: Abruf, Ranking, Filterung und Routing von Informationen bleiben sichtbar und nachvollziehbar.
Kernfähigkeiten
- Pipelines
- Komponenten für Retrieval, Indexierung, Tool Calling, Gedächtnis und Evaluation, verbunden mit Schleifen, Verzweigungen und Bedingungen.
- Agenten
- Lifecycle-Hooks für Leitplanken und eigene Logik; Schritte, Token-Verbrauch und Tool-Aufrufe werden für Monitoring und Kostenkontrolle mitgezählt.
- Asynchrone Ausführung
- Eine Pipeline läuft synchron oder asynchron und kann Token für Token streamen.
- Anbieterunabhängigkeit
- Integrationen unter anderem mit OpenAI, Mistral, Anthropic, Cohere, Hugging Face, Google, Azure OpenAI, AWS Bedrock und lokalen Modellen.
- Bereitstellung
- Mit dem Begleitprojekt Hayhooks lassen sich Pipelines und Agenten als REST-API oder MCP-Server bereitstellen.
Wann Haystack passt
Haystack passt, wenn Sie genau festlegen wollen, welcher Kontext ein Modell erreicht – etwa bei Suche und Antworten über große Dokumentbestände. Hinweis: Haystack erhebt standardmäßig anonyme Nutzungsstatistiken zu Pipeline-Komponenten; die Dokumentation beschreibt, wie sich das abschalten lässt.
Haystack wirksam im AI-first-Geschäftsmodell nutzen
Die explizite Struktur von Haystack unterstützt eine Anforderung, die im Betrieb oft unterschätzt wird: nachvollziehen zu können, warum ein Agent eine bestimmte Antwort gegeben oder eine Aktion vorgeschlagen hat.
Nutzen Sie Hooks und Zählwerte, um Leitplanken und Kostengrenzen umzusetzen, die Sie vorher im Operating Model vereinbart haben. Welche Grenze gilt und wer bei einer Überschreitung entscheidet, ist eine Geschäftsfrage – Haystack liefert die Stellen, an denen sie technisch greift.
Vom Tool zum Ergebnis
Im AI-first-Coaching klären Sie, welche Ergebnisse KI-Agenten in Ihrer Marktbearbeitung verantworten sollen und in welchem Rahmen. Danach gestaltet, entwickelt und betreibt REVAGO Ihr System. Sie zahlen für Ergebnisse – nicht für Aktivität.
Häufige Fragen
Was ist Haystack?
Haystack ist ein Open-Source-Framework von deepset (Apache-2.0-Lizenz) für Anwendungen mit Sprachmodellen in Python. Es setzt Pipelines und Agenten-Workflows aus Komponenten zusammen und eignet sich unter anderem für RAG, semantische Suche und Agenten.
Kann Haystack Agenten bauen?
Ja. Haystack enthält eine Agenten-Komponente mit Tool Calling, parallelen Tool-Aufrufen, Lifecycle-Hooks für Leitplanken sowie Zählwerten für Schritte und Token-Verbrauch.
Wie stelle ich eine Haystack-Pipeline bereit?
Das Begleitprojekt Hayhooks stellt Pipelines und Agenten als HTTP-Endpunkte oder MCP-Server bereit, auch mit OpenAI-kompatiblen Chat-Endpunkten. Daneben gibt es Docker-Images.
Weiterlesen im Wiki
Neutrale Einordnung, keine Empfehlung einzelner Anbieter. REVAGO ist mit den aufgeführten Projekten nicht verbunden. Beschreibungen beruhen auf den öffentlichen Angaben der Projekte; Funktionsumfang und Lizenzen können sich ändern.