Firebase Genkit
Genkit 是一个用于构建、部署和监控生产就绪的 AI 驱动应用程序的框架。
您可以构建生成自定义内容、使用语义搜索、处理非结构化输入、利用您的业务数据回答问题、自主决策、编排工具调用等应用程序。
您可以通过 Qdrant-Genkit 插件,在您的 Genkit 应用程序中使用 Qdrant 进行数据索引/语义检索。
Genkit 目前支持 JavaScript/TypeScript (Node.js) 的服务器端开发,并正在积极开发 Go 支持。
安装
npm i genkitx-qdrant
配置
要使用此插件,请在调用 configureGenkit() 时指定它
import { qdrant } from 'genkitx-qdrant';
const ai = genkit({
plugins: [
qdrant([
{
embedder: googleAI.embedder('text-embedding-004'),
collectionName: 'collectionName',
clientParams: {
url: 'https://:6333',
}
}
]),
],
});
您需要指定集合名称、要使用的嵌入模型和 Qdrant 客户端参数。此外,还有一些可选参数
embedderOptions:传递给嵌入器的附加选项embedderOptions: { taskType: 'RETRIEVAL_DOCUMENT' },contentPayloadKey:包含文档内容的有效负载字段的名称。默认为“content”。contentPayloadKey: 'content';metadataPayloadKey:包含文档元数据的有效负载字段的名称。默认为“metadata”。metadataPayloadKey: 'metadata';dataTypePayloadKey:包含文档数据类型的有效负载字段的名称。默认为“_content_type”。dataTypePayloadKey: '_datatype';collectionCreateOptions:创建 Qdrant 集合时的附加选项。
用法
像这样导入检索器和索引器引用
import { qdrantIndexerRef, qdrantRetrieverRef } from 'genkitx-qdrant';
然后,将它们的引用传递给 retrieve() 和 index()
// To export an indexer reference:
export const qdrantIndexer = qdrantIndexerRef('collectionName', 'displayName');
// To export a retriever reference:
export const qdrantRetriever = qdrantRetrieverRef('collectionName', 'displayName');
您可以参考检索增强生成,以获取有关索引器和检索器的一般讨论。