Cheshire Cat

柴郡猫是一个开源框架，允许您在许多大型语言模型（LLM）之上开发智能代理。您可以开发自定义的人工智能架构，以协助您完成各种任务。

Cheshire cat

柴郡猫和 Qdrant

柴郡猫使用 Qdrant 作为默认的向量记忆，用于摄取和检索文档。

# Decide host and port for your Cat. Default will be localhost:1865
CORE_HOST=localhost
CORE_PORT=1865

# Qdrant server
# QDRANT_HOST=localhost
# QDRANT_PORT=6333

柴郡猫充分利用了 Qdrant 的以下功能：

集合别名，用于管理从一个嵌入器到另一个嵌入器的切换。
量化，以在速度、内存使用和结果质量之间取得良好平衡。
快照，以确保不丢失任何信息。
社区

RAG Pipeline

如何使用柴郡猫

要求

要运行柴郡猫，您需要在系统上安装 Docker 和 docker-compose。

docker run --rm -it -p 1865:80 ghcr.io/cheshire-cat-ai/core:latest

在 localhost:1865/admin 上与柴郡猫聊天。
您也可以通过 REST API 进行交互，并在 localhost:1865/docs 上尝试端点。

请查看 GitHub 上的说明，获取更全面的快速入门指南。

LLM 的首次配置

在浏览器中打开管理门户，地址为 localhost:1865/admin。
在 Settings 选项卡中配置 LLM。
如果您不通过 Settings 选项卡明确选择，嵌入器将跟随 LLM。

下一步

欲了解更多信息，请参阅柴郡猫的文档和博客。

此页面有用吗？

本页内容