0

你是否被供应商锁定?

David Myriel

·

2024年5月5日

Are You Vendor Locked?

我们都是。

“对抗它是没有用的。选择一个供应商,然后全身心投入。其他一切都是海市蜃楼。” 一位经验丰富的 IT 专业人士的遗言

只要我们使用任何产品,我们的解决方案基础设施就会依赖于其供应商。许多人说构建自定义基础设施会降低速度。在 AI 时代,这是否属实?

这取决于你的公司所处阶段。大多数初创公司都活不过五年,因此在基础设施上投入过多精力并非最佳资源利用方式。你首先需要生存下来并证明产品的可行性。

有时候你可能选对了供应商,但仍然会失败。

gpu-costs

我们都开始看到 AI 硬件瓶颈带来的结果。运行 LLM 成本高昂,小型运营可能会因高成本而倒闭。这会如何影响大型企业?

如果你是一家成熟的企业,依赖特定供应商可能会决定一个稳固商业案例的成败。对于大规模 GenAI 解决方案而言,成本对于维护至关重要,并决定了这些项目的长期可行性。短期内,企业可能承担得起高昂的成本,但当价格下降时——就是调整的时机了。

不幸的是,可扩展性和灵活性的长期目标可能会受到供应商锁定的阻碍。将运营从一个主机转移到另一个主机需要专业知识和兼容性调整。如果企业依赖单一云服务提供商,它们就面临着从成本飙升到创新受阻的风险。

找到最好的供应商是关键;但保持灵活性至关重要。

硬件是新的供应商锁定

“我们 GPU 短缺得厉害,使用这个工具 [ChatGPT] 的人越少越好。” OpenAI CEO Sam Altman

当 GPU 托管变得过于昂贵时,大型且令人兴奋的 Gen AI 项目就会失去光彩。如果迁移云服务成本过高或难以实施——你就被供应商锁定了。这在软件领域曾经很普遍。现在,硬件是新的依赖项。

企业有很多理由保持提供商中立——但成本是主要原因。

Andreessen Horowitz 的 Appenzeller、Bornstein 和 Casado 指出 AI 计算成本不断增长。A100 GPU 按小时租赁市场仍然是卖方市场,很大程度上是由于供应限制。此外,AWS、GCP 和 Azure 之间的价格差异足够动态,足以让潜在客户进行广泛的成本效益分析。

gpu-costs-a16z

来源:Andreessen Horowitz

当然,你的竞争对手可以吹嘘他们可以访问的所有功能——但他们是否愿意承认他们的公司因为便利性和不断上涨的成本付出了多少代价?

作为企业客户,在这个市场中不应期望供应商保持一致性。

这对 Qdrant 有何影响?

作为开源向量数据库,Qdrant 完全没有风险。此外,成本节约是许多公司使用它来增强 LLM 的众多原因之一。你无需为训练或推理花费大量 GPU 资金。一个带有 CPU 和 RAM 的基础实例就能轻松管理索引和检索。

然而,我们发现许多客户希望将 Qdrant 与其基础设施的其他部分(例如 LLM 或其他数据工程基础设施)托管在同一位置。这可能是出于实际原因、公司安全政策,甚至是全球政治原因。

有一天,他们可能会发现这个基础设施成本过高。虽然向量搜索仍会很便宜,但他们的训练、推理和嵌入成本将不断增长。那时,他们就会想要更换供应商。

什么会干扰这种切换?兼容性?技术?缺乏专业知识?

在功能方面,由于不同云提供商之间的功能差异,云服务标准化很困难。这导致了定制解决方案和供应商锁定,阻碍了迁移和成本削减工作,正如 Snapchat 和 Twitter 的情况所示

恐惧、不确定性与疑虑

你花了几个月搭建基础设施,但你的竞争对手全力投入更便宜的替代方案,并在一个月内推出竞争产品?如果你在尝试搭建完全中立的平台时公司倒闭了,那么避免锁定还有意义吗?

问题: 如果你没有被供应商锁定,你就会被锁定在管理一支规模大得多的工程师团队上。构建与购买的权衡是真实存在的,它也有自己的一系列风险和成本。

确认: 任何使用 AI 处理大量数据的组织都需要定制基础设施和专用资源,无论是什么行业。不得不使用 A100 GPU 等昂贵服务,这证明了内部 DevOps 团队存在的合理性。任何扩大规模的企业如果想管理好成本,就需要雇佣警惕的操作人员。

没有必要感到恐惧、不确定性与疑虑。供应商锁定并非徒劳无功——所以让我们打消所有供应商都是对手的看法。你只需要与一家愿意提供灵活使用产品的公司合作。

解决方案是 Kubernetes: 将你的基础设施与特定云主机解耦是目前保持无风险的最佳方式。你的解决方案中任何运行在 Kubernetes 上的组件都可以与其他兼容基础设施无缝集成。

这就是你保持动态并随时根据需要更换供应商的方式。

混合云如何?

自由的关键在于构建可以在任何云上运行的应用程序和基础设施。通过利用 Kubernetes 或 Docker 进行容器化和服务抽象,软件供应商可以诚心帮助客户迁移到其他云提供商。

我们设计 Qdrant 混合云的架构,以满足企业对无与伦比的灵活性、控制和隐私不断增长的需求。

这项技术将来自任何环境——云端、本地或边缘——的 Kubernetes 集群整合到一个统一的企业级托管服务中。

看看吧。它完全属于你。我们将帮助你管理它。

Qdrant 混合云 标志着向量数据库领域的重大进步,提供了最灵活的向量搜索实现方式。

今天就可以试用 Qdrant 混合云。注册或登录你的 Qdrant 云账户,然后在 混合云 部分开始使用。

此外,要了解更多关于 Qdrant 混合云的信息,请阅读我们的 官方发布博客 或我们的 Qdrant 混合云网站。如需更多技术见解,请阅读我们的 文档

试试看吧!

hybrid-cloud-cta.png

免费开始使用 Qdrant

开始使用