0

您是否被供应商锁定?

David Myriel

·

2024 年 5 月 5 日

Are You Vendor Locked?

我们都是。

“抗争无济于事。选择一个供应商并全身心投入。其他一切都是海市蜃楼。” 一位经验丰富的 IT 专业人员的临终遗言

只要我们使用任何产品,我们的解决方案基础设施就将依赖于其供应商。许多人说,构建定制基础设施会影响速度。在人工智能时代,这是真的吗?

这取决于您的公司所处的发展阶段。大多数初创公司活不过五年,因此在基础设施上投入过多精力并非最佳资源利用方式。您首先需要生存并证明产品可行性。

有时您可能选择了正确的供应商,但仍然失败。

gpu-costs

我们都已开始看到人工智能硬件瓶颈带来的影响。运行大型语言模型成本高昂,小型企业可能因高成本而倒闭。这将如何影响大型企业?

如果您是一家成熟的公司,依赖特定供应商可能会决定一个稳固的商业案例的成败。对于大型生成式人工智能解决方案,成本对于维护至关重要,并决定了此类项目的长期可行性。短期内,企业可能负担得起高成本,但当价格下降时,就需要调整。

不幸的是,长期的可扩展性和灵活性目标可能会受到供应商锁定的阻碍。将操作从一个主机转移到另一个主机需要专业知识和兼容性调整。如果企业变得依赖单一云服务提供商,它们将面临从成本飙升到创新受阻的各种风险。

找到最佳供应商是关键;但保持移动性也至关重要。

硬件是新的供应商锁定

“我们 GPU 短缺,使用 [ChatGPT] 工具的人越少越好。” OpenAI 首席执行官 Sam Altman

当 GPU 托管变得过于昂贵时,大型且激动人心的生成式人工智能项目就会失去光彩。如果迁移云变得过于昂贵或难以实施,那么您就被供应商锁定了。这在软件领域曾经很常见。现在,硬件是新的依赖。

企业有许多理由保持提供商无关性——但成本是主要原因。

Andreessen Horowitz 的 Appenzeller、Bornstein 和 Casado 指出人工智能计算成本不断增长。由于供应限制,A100 GPU 小时租用仍然是卖方市场。此外,AWS、GCP 和 Azure 之间的价格差异足以让潜在客户进行广泛的成本效益分析。

gpu-costs-a16z

来源:Andreessen Horowitz

当然,您的竞争对手可以吹嘘他们可以访问的所有功能——但他们是否愿意承认他们的公司因为便利和不断增加的成本而损失了多少?

作为企业客户,不应该期望供应商在这个市场上保持一致。

这如何影响 Qdrant?

作为开源向量数据库,Qdrant 完全没有风险。此外,成本节省是许多公司使用它来增强大型语言模型的原因之一。您无需为训练或推理而烧钱购买 GPU。一个带有 CPU 和 RAM 的基本实例可以轻松管理索引和检索。

然而,我们发现许多客户希望将 Qdrant 托管在与其余基础设施相同的位置,例如大型语言模型或其他数据工程基础设施。这可能是出于实际原因、公司安全策略,甚至全球政治原因。

有一天,他们可能会发现这个基础设施成本过高。尽管向量搜索将保持廉价,但他们的训练、推理和嵌入成本将不断增长。届时,他们将希望更换供应商。

什么会干扰转换?兼容性?技术?缺乏专业知识?

在功能方面,由于云提供商之间的功能差异,云服务标准化困难重重。这导致了定制解决方案和供应商锁定,阻碍了迁移和成本降低的努力,正如 Snapchat 和 Twitter 所见

恐惧、不确定和怀疑

您花费数月时间建立基础设施,但您的竞争对手选择更便宜的替代方案并在一个月内推出竞争产品?如果您在尝试建立一个完全与供应商无关的平台时公司倒闭,那么避免锁定还有意义吗?

问题:如果您不被供应商锁定,那么您就被锁定在管理一个更大的工程师团队中。自建与购买的权衡是真实存在的,它伴随着自身的风险和成本。

承认:任何使用人工智能处理大量数据的组织,无论行业如何,都需要定制基础设施和专用资源。必须使用昂贵的服务(如 A100 GPU)证明了内部 DevOps 团队的存在是合理的。任何需要扩展的企业如果想控制成本,就需要雇佣警惕的操作员。

没有必要恐惧、不确定和怀疑。供应商锁定并非徒劳无功——所以让我们消除所有供应商都是敌人的情绪。您只需要与一家愿意适应产品灵活使用的公司合作。

解决方案是 Kubernetes:将您的基础设施与特定云主机解耦是目前保持无风险的最佳方式。您解决方案中运行在 Kubernetes 上的任何组件都可以与其他兼容基础设施无缝集成。

这就是您保持动态并随时根据需要更换供应商的方式。

混合云呢?

自由的关键在于构建您的应用程序和基础设施,使其能够在任何云上运行。通过利用 Kubernetes 或 Docker 进行容器化和服务抽象,软件供应商可以真诚地帮助其客户迁移到其他云提供商。

我们设计 Qdrant 混合云的架构是为了满足企业对无与伦比的灵活性、控制和隐私不断变化的需求。

这项技术将来自任何环境——云、本地或边缘——的 Kubernetes 集群整合到一个统一的企业级托管服务中。

看看吧。它完全属于您。我们将帮助您管理它。

Qdrant 混合云标志着向量数据库的重大进步,提供了最灵活的向量搜索实现方式。

您今天就可以试用 Qdrant 混合云。注册或登录您的 Qdrant 云帐户,然后在 混合云 部分开始使用。

此外,要了解更多关于 Qdrant 混合云的信息,请阅读我们的官方发布博客或我们的Qdrant 混合云网站。有关更多技术见解,请阅读我们的文档

快来试试吧!

hybrid-cloud-cta.png

免费开始使用 Qdrant

开始使用