haystack

haystack是一个端到端LLM框架，可让您构建由LLM，Transformer Models，Vector Search等提供支持的应用程序。无论您是要执行检索型生成（RAG），文档搜索，问答还是回答生成， haystack都可以将最新的嵌入模型和LLMS策划为管道中，以构建端到端的NLP应用程序并解决您的用例。

目录

• 安装
• 文档
• 特征
• 用例
• Deepset AI平台（托管解决方案）
• Hayhooks（REST API部署）
• ?Deepset Studio
• 遥测
• ?社区
• 为haystack做出了贡献
• 谁使用haystack

安装

获得haystack最简单方法是通过PIP：

pip install haystack -ai

从主分支安装，尝试最新功能：

pip install git+https://git*h*ub.*com/deepset-ai/haystack.git@main

haystack支持包括Docker图像在内的多种安装方法。有关综合指南，请参阅文档。

文档

如果您是该项目的新手，请查看“什么是haystack ？”然后浏览“入门指南”，并在几分钟之内构建您的第一个LLM应用程序。通过教程继续学习。对于更高级的用例，或者只是为了获得一些灵感，您可以在食谱中浏览我们的haystack食谱。

在任何给定的时刻，请点击文档以了解有关haystack更多信息，它可以为您和背后的技术做什么。

特征

• 技术不可知：允许用户灵活地确定他们想要的供应商或技术，并使其轻松将任何组件切换为另一个组件。 haystack允许您使用和比较来自Openai，Cohere和Hugging Face的模型，以及您自己的本地型号或在Azure，Bedrock和Sagemaker上托管的型号。
• 明确：使其透明，不同的运动部件可以互相“交谈”，从而更容易适合您的技术堆栈和用例。
• 灵活性： haystack在一个地方提供所有工具：数据库访问，文件转换，清洁，分裂，培训，评估，推理等。每当需要自定义行为时，就很容易创建自定义组件。
• 可扩展：为社区和第三方提供一种统一，简便的方式，以建立自己的组件并在haystack周围建立一个开放的生态系统。

您可以使用haystack做什么的一些示例：

• 通过使用可用的矢量数据库之一并自定义LLM交互来构建检索增强发电（RAG） ，天空是极限
• 用自然语言进行问题回答，以在文档中找到细粒度的答案。
• 执行语义搜索并根据含义检索文档。
• 构建可以做出复杂决策来回答复杂查询的应用程序：例如可以解决复杂客户查询的系统，对许多断开的资源进行知识搜索等等。
• 使用猎犬和生产规模的组件扩展到数百万的文档。
• 使用现成的型号或将它们调整到您的数据中。
• 使用用户反馈评估，基准测试并不断改进模型。

提示

您是否正在寻找从haystack中受益的托管解决方案？ DeepSet AI平台是我们完全管理的端到端平台，可将LLM与您的数据集成在一起，该平台将haystack用于LLM Pipelines体系结构。

提示

您想自己部署并提供haystack管道作为REST API吗？ Hayhooks提供了一种用自定义逻辑包装管道的简单方法，并通过HTTP端点将其曝光，包括与OpenAI兼容的聊天完成端点，以及与Open-Webui（例如Open-Webui）的完整聊天接口的兼容性。

?DeepSet Studio：您的haystack开发环境

使用DeepSet Studio在视觉上创建，部署和测试您的haystack管道。在我们的公告文章中了解更多有关它的信息。

报名！

遥测

haystack收集管道组件的匿名用法统计信息。每当这些组件初始化时，我们都会收到一个活动。这样，我们知道哪些组成部分与我们的社区最相关。

阅读有关haystack中遥测的更多信息，或者您如何在haystack文档中选择退出。

?社区

如果您有功能请求或错误报告，请随时在Github中打开问题。我们会定期检查这些，您可以预期快速回复。如果您想讨论一个主题，或获得有关如何使haystack为您的项目工作的更多一般建议，则可以在Github讨论或我们的Discord频道中启动线程。我们还检查?（Twitter）和堆栈溢出。

为haystack做出了贡献

我们对社区的贡献非常开放 – 无论是错字的快速修复还是全新的功能！您无需成为haystack专家即可提供有意义的改进。要了解如何开始，请先查看我们的贡献指南。

您可以通过多种方式为haystack做出贡献：

• 为主要的haystack项目做出贡献
• 贡献在haystack – 核心融合上的集成

提示

查看对贡献开放的问题的完整列表

谁使用haystack

这是使用haystack的项目和公司的列表。想添加你的吗？打开PR，将其添加到列表中，让世界知道您使用haystack ！

• 空客
• 阿尔卡特朗讯
• 苹果
• 更好
• 数据映
• 深点
• etalab
• Infineon
• 英特尔
• Intelijus
• 英特尔实验室
• 乐高
• 元
• Netflix
• NOS葡萄牙
• Nvidia
• POSTHOG
• rakuten
• sooth.ai