PrivateGPT
PrivateGPT 是一个生产就绪的 AI 项目,允许您使用支持离线的大型语言模型 (LLM) 查询您的文档。
PrivateGPT 使用 Qdrant 作为默认的矢量存储来摄取和检索文档。
配置
Qdrant 设置可以通过在 settings.yaml 文件中为 qdrant 属性设置值来配置。默认情况下,Qdrant 尝试连接到 https://:3000 的实例。
示例
qdrant:
url: "https://xyz-example.eu-central.aws.cloud.qdrant.io:6333"
api_key: "<your-api-key>"
可用的配置选项有:
| 字段 | 描述 |
|---|---|
| 位置 | 如果 :memory: - 使用内存中的 Qdrant 实例。如果 str - 将其用作 url 参数。 |
| url | 可以是主机名,也可以是 Optional[scheme], host, Optional[port], Optional[prefix] 的字符串。例如 https://:6333 |
| port | REST API 接口的端口。默认值:6333 |
| grpc_port | gRPC 接口的端口。默认值:6334 |
| prefer_grpc | 如果 true - 在自定义方法中尽可能使用 gRPC 接口。 |
| https | 如果 true - 使用 HTTPS(SSL) 协议。 |
| api_key | 用于 Qdrant Cloud 身份验证的 API 密钥。 |
| prefix | 如果设置,将 prefix 添加到 REST URL 路径中。示例: service/v1 将导致 REST API 的 URL 为 https://:6333/service/v1/{qdrant-endpoint}。 |
| timeout | REST 和 gRPC API 请求的超时时间。 默认值:REST 为 5.0 秒,gRPC 为无限制 |
| host | Qdrant 服务的主机名。如果未设置 url 和 host,则默认为“localhost”。 |
| path | QdrantLocal 的持久化路径。例如 local_data/private_gpt/qdrant |
| force_disable_check_same_thread | 强制禁用 QdrantLocal sqlite 连接的 check_same_thread。 |
下一步
在此处查找 PrivateGPT 文档:此处。