OpenLIT

OpenLIT 是一个 OpenTelemetry 原生的 LLM 应用程序可观测性工具，包含 OpenTelemetry 自动检测功能，用于监控 Qdrant 并提供洞察，以改进数据库操作和应用程序性能。

本页面假设您正在使用 qdrant-client 1.7.3 或更高版本。

用法

步骤 1：安装 OpenLIT

打开命令行或终端并运行

pip install openlit

步骤 2：在您的应用程序中初始化 OpenLIT

只需两行代码即可轻松将 OpenLIT 集成到 LLM 应用程序中

import openlit

openlit.init()

OpenLIT 默认将跟踪直接输出到您的控制台。要将遥测数据转发到 HTTP OTLP 端点，请配置 otlp_endpoint 参数或 OTEL_EXPORTER_OTLP_ENDPOINT 环境变量。

对于需要身份验证的 OpenTelemetry 后端，请使用 otlp_headers 参数或 OTEL_EXPORTER_OTLP_HEADERS 环境变量以及所需值。

延伸阅读

现在 OpenLIT 正在收集 LLM 可观测性数据，下一步是可视化和分析这些数据，以获取 Qdrant 性能、行为的洞察，并找出需要改进的领域。

要在 OpenLIT UI 中开始探索您的 LLM 应用程序性能数据，请参阅快速入门指南。

如果您想将生成的指标和跟踪集成并发送到您现有的可观测性工具，如 Promethues+Jaeger、Grafana 等，请参阅OpenLIT 连接官方文档以获取详细说明。