PrivateGPT
PrivateGPT 是一个生产就绪的 AI 项目，允许您使用大型语言模型 (LLM) 在离线支持下查询您的文档。
PrivateGPT 使用 Qdrant 作为默认向量存储来摄取和检索文档。
配置
可以通过在 settings.yaml 文件中为 qdrant 属性设置值来配置 Qdrant 设置。默认情况下，Qdrant 尝试连接到位于 http://localhost:3000 的实例。
示例
qdrant:
url: "https://xyz-example.eu-central.aws.cloud.qdrant.io:6333"
api_key: "<your-api-key>"
可用的 配置选项 包括
| 字段 | 描述 |
|---|---|
| location | 如果 :memory: - 使用内存中的 Qdrant 实例。如果 str - 将其用作 url 参数。 |
| url | 可以是 host 或包含 Optional[scheme], host, Optional[port], Optional[prefix] 的字符串。例如： http://localhost:6333 |
| port | REST API 接口的端口。默认值：6333 |
| grpc_port | gRPC 接口的端口。默认值：6334 |
| prefer_grpc | 如果 true - 在自定义方法中尽可能使用 gRPC 接口。 |
| https | 如果 true - 使用 HTTPS(SSL) 协议。 |
| api_key | 用于 Qdrant Cloud 认证的 API 密钥。 |
| prefix | 如果设置，将 prefix 添加到 REST URL 路径。示例： service/v1 将导致 REST API 的 URL 为 http://localhost:6333/service/v1/{qdrant-endpoint}。 |
| timeout | REST 和 gRPC API 请求的超时时间。 默认值：REST 为 5.0 秒，gRPC 为无限。 |
| host | Qdrant 服务的主机名。如果未设置 url 和 host，默认为 'localhost'。 |
| path | QdrantLocal 的持久化路径。例如：local_data/private_gpt/qdrant |
| force_disable_check_same_thread | 强制禁用 QdrantLocal sqlite 连接的 check_same_thread。 |
后续步骤
在此处查找 PrivateGPT 文档 here。