Firebase Genkit

Genkit 是一个用于构建、部署和监控生产就绪的 AI 驱动应用程序的框架。

您可以构建生成自定义内容、使用语义搜索、处理非结构化输入、利用您的业务数据回答问题、自主决策、编排工具调用等应用程序。

您可以通过 Qdrant-Genkit 插件,在您的 Genkit 应用程序中使用 Qdrant 进行数据索引/语义检索。

Genkit 目前支持 JavaScript/TypeScript (Node.js) 的服务器端开发,并正在积极开发 Go 支持。

安装

npm i genkitx-qdrant

配置

要使用此插件,请在调用 configureGenkit() 时指定它

import { qdrant } from 'genkitx-qdrant';

const ai = genkit({
    plugins: [
        qdrant([
            {
                embedder: googleAI.embedder('text-embedding-004'),
                collectionName: 'collectionName',
                clientParams: {
                    url: 'https://:6333',
                }
            }
        ]),
    ],
});

您需要指定集合名称、要使用的嵌入模型和 Qdrant 客户端参数。此外,还有一些可选参数

  • embedderOptions:传递给嵌入器的附加选项

    embedderOptions: { taskType: 'RETRIEVAL_DOCUMENT' },
    
  • contentPayloadKey:包含文档内容的有效负载字段的名称。默认为“content”。

    contentPayloadKey: 'content';
    
  • metadataPayloadKey:包含文档元数据的有效负载字段的名称。默认为“metadata”。

    metadataPayloadKey: 'metadata';
    
  • dataTypePayloadKey:包含文档数据类型的有效负载字段的名称。默认为“_content_type”。

    dataTypePayloadKey: '_datatype';
    
  • collectionCreateOptions:创建 Qdrant 集合时的附加选项

用法

像这样导入检索器和索引器引用

import { qdrantIndexerRef, qdrantRetrieverRef } from 'genkitx-qdrant';

然后,将它们的引用传递给 retrieve()index()

// To export an indexer reference:
export const qdrantIndexer = qdrantIndexerRef('collectionName', 'displayName');
// To export a retriever reference:
export const qdrantRetriever = qdrantRetrieverRef('collectionName', 'displayName');

您可以参考检索增强生成,以获取有关索引器和检索器的一般讨论。

延伸阅读

此页面有用吗?

感谢您的反馈!🙏

很抱歉听到这个消息。😔 您可以在 GitHub 上编辑此页面,或创建一个 GitHub 问题。