Pienso & Qdrant:为企业级客户提供面向未来的生成式AI
Qdrant 团队
·2023 年 2 月 28 日

Pienso和Qdrant的合作将彻底改变交互式深度学习,使其对全球客户来说实用、高效且可扩展。Pienso的低代码平台为深度学习任务提供了一个简化且用户友好的流程。Qdrant可扩展且经济高效的高向量计算能力进一步增强了这种卓越的便利性,从而能够可靠地从高维空间检索相似向量。
Pienso和Qdrant将共同赋能企业,大规模释放生成式AI的全部潜力。通过结合两家公司的技术,组织将能够训练自己的大型语言模型,并将其用于需要数据主权和模型自主性的下游任务。此次合作将帮助客户开辟新的可能性,实现先进的AI驱动解决方案。增强LLM性能
Qdrant通过提供一种替代方案来增强大型语言模型(LLM)的准确性,而不仅仅依赖于训练阶段识别出的模式。通过与Qdrant集成,Pienso将为客户的LLM提供动态的长期存储,最终使它们能够生成具体和事实的响应。Qdrant有效保留了高级LLM管理的大量上下文窗口,从而可以对当前对话或文档进行更广泛的分析。通过利用这种扩展的上下文,LLM可以实现更全面的理解并生成与上下文相关的输出。
共同致力于可扩展性、效率和可靠性
“我们遇到的每一个商业生成式AI用例都受益于更快的训练和推理,无论是挖掘客户交互以确定下一步最佳行动,还是筛选临床数据以加快治疗通过试验和专利流程。” - Birago Jones,Pienso首席执行官
Pienso选择Qdrant是因为其卓越的LLM互操作性,认识到它在最大限度地发挥大型企业大型语言模型和交互式深度学习的潜力方面所提供的价值。Qdrant在高效的最近邻搜索方面表现出色,这是一项昂贵且计算量大的任务。我们以卓越的性能和精度存储和搜索高维向量的能力将为Pienso的客户提供极大的安心。通过智能索引和分区技术,Qdrant将显著提高这些搜索的速度,从而加速用户的训练和推理过程。
可扩展性:为数据量的持续增长做准备
Qdrant的分布式部署模式在赋能处理海量数据的大型企业方面发挥着至关重要的作用。它确保数据量的增加不会阻碍性能,而是丰富模型的功能,使可扩展性成为一个无缝的过程。此外,Qdrant非常适合Pienso的企业客户,因为它在裸机基础设施上运行效果最佳,使他们能够完全控制其数据主权和自主LLM系统。这确保了企业在利用Qdrant解决方案的可扩展性和性能优势的同时,能够保持其完全的控制范围。
效率:最大限度地提升客户价值主张
Qdrant的存储效率可在硬件上节省成本,同时即使在大量数据集的情况下也能确保响应式系统。在一次独立的基准压力测试中,Pienso发现Qdrant可以高效存储1.28亿个文档,仅消耗20.4GB的存储空间和1.25GB的内存。这种存储效率不仅最大限度地降低了Pienso客户的硬件费用,而且确保了最佳性能,使Qdrant成为轻松高效管理大规模数据的理想解决方案。
可靠性:在安全环境中实现快速性能
Qdrant利用Rust以及其内存映射存储和预写日志,为用户提供了高性能操作、强大的数据保护和增强的数据安全措施的强大组合。我们的内存映射存储功能为Pienso提供了与内存存储相当的快速性能。在机器学习领域,快速数据访问和检索对于训练和推理任务至关重要,此功能被证明是无价的。此外,我们的预写日志(WAL)对于确保在将更改应用到数据库之前进行日志记录至关重要。这种方法增加了额外的数据安全层,进一步保护了存储信息的完整性。
“我们选择Qdrant是因为它查询速度快,内存占用小,并且可以即时设置一个新的向量集合以供查询。我们评估的其他解决方案启动时间长,集合初始化时间也长 {..} 此次合作恰逢其时,因为它允许Pienso最大程度地利用Qdrant,在客户探索数据并获得有意义的洞察时为他们提供无缝体验。” - Felipe Balduino Cassar,Pienso高级软件工程师
下一步是什么?
Pienso和Qdrant致力于长期共同开发最可靠的客户产品。我们的合作将提供无代码/低代码交互式深度学习与为开源模型和库设计的有效向量计算相结合的解决方案。
要了解更多关于我们如何实现这一目标的信息,请于7月20日星期四太平洋标准时间上午09:30在Discord上参加创始人技术炉边谈话。
