常见问题:数据库优化
如何减少内存使用?
内存使用的主要来源是向量数据。有几种方法可以解决这个问题
- 配置量化以减少向量的内存使用。
- 配置磁盘向量存储
方法的选择取决于您的要求。阅读更多关于配置Qdrant的最佳使用。
如何选择机器配置?
Qdrant在使用资源方面有两种主要场景
- 性能优化型 – 当您需要尽快(多次)提供向量搜索服务时。在这种情况下,您需要尽可能多地将向量数据存储在RAM中。使用我们的计算器估算所需的RAM。
- 存储优化型 – 当您需要存储大量向量并通过牺牲一些搜索速度来最小化成本时。在这种情况下,请注意磁盘速度。更多信息请参阅关于内存消耗的文章。
我配置了磁盘向量存储,但内存使用仍然很高。为什么?
首先,top或htop报告的内存使用指标可能具有误导性。它们没有显示运行服务所需的最小内存量。如果RSS内存使用量为10 GB,这并不意味着它不能在8 GB RAM的机器上运行。
Qdrant使用许多技术来减少搜索延迟,包括将磁盘数据缓存到RAM中以及将数据从磁盘预加载到RAM中。因此,Qdrant进程可能会使用比运行服务所需的最小内存更多的内存。
未使用的RAM就是浪费的RAM
如果您想限制服务的内存使用,我们建议使用Docker中的限制或Kubernetes。
我的请求非常慢或超时。我该怎么办?
这有几个可能的原因