Qdrant 云推理

Qdrant Cloud 推理允许您直接在托管的 Qdrant Cloud 集群内生成并存储文本和图像嵌入，无需外部管道，并通过单一 API 支持多模态和混合搜索。

在 Qdrant Cloud 集群网络内部生成嵌入。无需单独的模型服务器或处理管道。

在 AWS、Azure 或 GCP 的区域内生成嵌入并执行搜索（仅限美国区域）。无外部跳转，无额外出站流量。非常适合对延迟或数据传输开销敏感的实时应用程序。

按需构建向量搜索。使用如 all-MiniLM-L6-v2 等稠密模型进行快速语义匹配，使用如 splade-pp-en-v1 或 bm25 等稀疏模型进行关键词召回，或使用 CLIP 风格模型处理图像和文本。需要混合和/或多模态搜索？统统满足。

*按模型计算，每月更新

常见问题

可以，免费 Qdrant Cloud 集群支持使用免费模型和外部模型提供商。付费模型需要使用付费集群。

使用当前可用模型，您可以对文本和图像数据进行嵌入处理。

对于 Qdrant 托管的模型，嵌入是在您的集群网络内部生成的，从而消除了外部 API 的开销。如果您使用外部模型提供商，嵌入将由该提供商生成。

推理按 Token 计费，具体费用取决于所选模型。Qdrant Cloud 付费用户每月可获得最高 500 万免费 Token（视模型而定）。部分模型完全免费，且无 Token 限制。详情请参考集群详情页面中的“推理”部分。

对于新创建的集群，Cloud 推理默认处于启用状态。对于在 Cloud 推理发布前创建的老旧集群，您可以在 Qdrant Cloud 控制台的集群详情页面中手动启用该功能。

我们计划根据客户反馈逐步增加更多模型。