PrivateGPT

PrivateGPT 是一个生产就绪的 AI 项目,允许您使用支持离线的大型语言模型 (LLM) 查询您的文档。

PrivateGPT 使用 Qdrant 作为默认的矢量存储来摄取和检索文档。

配置

Qdrant 设置可以通过在 settings.yaml 文件中为 qdrant 属性设置值来配置。默认情况下,Qdrant 尝试连接到 https://:3000 的实例。

示例

qdrant:
    url: "https://xyz-example.eu-central.aws.cloud.qdrant.io:6333"
    api_key: "<your-api-key>"

可用的配置选项有:

字段描述
位置如果 :memory: - 使用内存中的 Qdrant 实例。
如果 str - 将其用作 url 参数。
url可以是主机名,也可以是 Optional[scheme], host, Optional[port], Optional[prefix] 的字符串。
例如 https://:6333
portREST API 接口的端口。默认值:6333
grpc_portgRPC 接口的端口。默认值:6334
prefer_grpc如果 true - 在自定义方法中尽可能使用 gRPC 接口。
https如果 true - 使用 HTTPS(SSL) 协议。
api_key用于 Qdrant Cloud 身份验证的 API 密钥。
prefix如果设置,将 prefix 添加到 REST URL 路径中。
示例:service/v1 将导致 REST API 的 URL 为 https://:6333/service/v1/{qdrant-endpoint}
timeoutREST 和 gRPC API 请求的超时时间。
默认值:REST 为 5.0 秒,gRPC 为无限制
hostQdrant 服务的主机名。如果未设置 url 和 host,则默认为“localhost”。
pathQdrantLocal 的持久化路径。例如 local_data/private_gpt/qdrant
force_disable_check_same_thread强制禁用 QdrantLocal sqlite 连接的 check_same_thread。

下一步

在此处查找 PrivateGPT 文档:此处

此页面有用吗?

感谢您的反馈!🙏

很抱歉听到这个消息。😔 您可以在 GitHub 上编辑此页面,或创建一个 GitHub 问题。