Pienso 与 Qdrant:面向企业级客户,为生成式 AI 奠定未来基础
Qdrant 团队
·2023年2月28日

Pienso 和 Qdrant 的合作将彻底改变交互式深度学习,使其对全球客户而言更实用、高效且可扩展。Pienso 的低代码平台为深度学习任务提供了流程化且用户友好的体验。Qdrant 可扩展且经济高效的高向量计算能力增强了这种非凡的便利性,实现了从高维空间中可靠地检索相似向量。
Pienso 和 Qdrant 将共同助力企业大规模发挥生成式 AI 的全部潜力。通过结合两家公司的技术,组织将能够训练自己的大型语言模型,并将其用于需要数据主权和模型自主性的下游任务。此次合作将帮助客户解锁新的可能性,实现先进的 AI 驱动解决方案。
强化 LLM 性能
共同致力于可扩展性、效率和可靠性
Qdrant 通过提供一种替代方案,而非仅仅依赖训练阶段识别出的模式,来提高大型语言模型(LLM)的准确性。通过与 Qdrant 集成,Pienso 将为客户的 LLM 提供动态的长期存储能力,最终使其能够生成具体且事实性的回应。Qdrant 有效地保留了先进 LLM 管理的扩展上下文窗口,从而能够对当前对话或文档进行更广泛的分析。通过利用这种扩展上下文,LLM 可以实现更全面的理解并生成与上下文相关的输出。
“我们遇到的每一个商业生成式 AI 用例都受益于更快的训练和推理,无论是挖掘客户互动以获取下一步最佳行动,还是筛选临床数据以加速治疗药物的试验和专利申请过程。” - Birago Jones,Pienso 首席执行官
可扩展性:为持续增长的数据量做好准备
Pienso 选择 Qdrant 是因为它卓越的 LLM 互操作性,认识到它在为大型企业最大化发挥大型语言模型和交互式深度学习潜力方面提供的巨大价值。Qdrant 在高效的最近邻搜索方面表现出色,这是一项昂贵且计算需求高的任务。我们以卓越的性能和精度存储和搜索高维向量的能力将为 Pienso 的客户提供显著的安心。通过智能索引和分区技术,Qdrant 将显著提升这些搜索的速度,加速用户的训练和推理过程。
效率:最大化客户价值主张
Qdrant 的分布式部署模式在赋能处理海量数据的大型企业方面发挥着至关重要的作用。它确保数据量的增长不会阻碍性能,反而会丰富模型的能力,使可扩展性成为一个无缝的过程。此外,Qdrant 非常适合 Pienso 的企业客户,因为它在裸金属基础设施上表现最佳,使他们能够完全控制自己的数据主权和自主 LLM 体系。这确保了企业在利用 Qdrant 解决方案的可扩展性和性能优势的同时,能够保持全面的控制范围。
可靠性:安全环境下的快速性能
Qdrant 的存储效率在节约硬件成本的同时,即使处理大量数据集也能确保系统响应迅速。在一项独立的基准压力测试中,Pienso 发现 Qdrant 可以高效存储 1.28 亿份文档,仅消耗 20.4GB 存储空间和 1.25GB 内存。这种存储效率不仅最大限度地降低了 Pienso 客户的硬件费用,还确保了最佳性能,使得 Qdrant 成为轻松高效管理大规模数据的理想解决方案。
Qdrant 利用 Rust 语言,结合其内存映射存储(memmap storage)和预写日志(write-ahead logging),为用户提供了高性能操作、强大的数据保护和增强的数据安全措施的强大组合。我们的内存映射存储功能为 Pienso 提供了可与内存存储媲美的快速性能。在机器学习领域,快速的数据访问和检索对于训练和推理任务至关重要,这项能力被证明是无价的。此外,我们的预写日志(WAL)对于确保在将更改应用于数据库之前进行记录至关重要。这种方法增加了额外的数据安全层,进一步保障了存储信息的完整性。
下一步?
“我们选择 Qdrant 是因为它查询速度快、内存占用小,并且可以即时设置一个新的向量集进行查询。我们评估的其他解决方案启动时间长,集合初始化时间也长 {..} 此次合作恰逢其时,因为它让 Pienso 能够最大限度地利用 Qdrant 的潜力,让我们的客户在探索数据并从中获得有意义的洞察时拥有无缝体验。” - Felipe Balduino Cassar,Pienso 高级软件工程师
Pienso 和 Qdrant 致力于长期共同开发最可靠的客户产品。我们的合作将提供无代码/低代码交互式深度学习与为开源模型和库设计的有效向量计算的结合。