0

Kern AI 与 Qdrant:金融和保险领域的精准 AI 解决方案

Qdrant

·

2024 年 8 月 28 日

Kern AI & Qdrant: Precision AI Solutions for Finance and Insurance

kern-case-study

关于 Kern AI

Kern AI 专注于以数据为中心的 AI。最初作为一家 AI 咨询公司,联合创始人兼首席执行官 Johannes Hötter 领导的团队很快意识到,开发人员将 80% 的时间用于审查数据,而不是专注于模型开发。这种低效率显著降低了 AI 的开发和采用速度。为了应对这一挑战,Kern AI 开发了一个低代码平台,使开发人员能够快速分析其数据集并使用向量搜索识别异常值。这项创新提高了数据准确性,并简化了 AI 应用程序快速部署的工作流程。

随着 ChatGPT 的兴起,Kern AI 扩展了其平台,通过集成 GPT 等大型语言模型(LLM)来支持快速开发准确且安全的生成式 AI,专门为金融服务行业量身定制解决方案。Kern AI 的解决方案通过以 LLM 能够理解的方式建模和集成公司数据,增强了任何 LLM 的可靠性,提供了一个具有领先数据建模能力的平台。

挑战

Kern AI 已与领先的保险公司合作,有效简化了客户服务团队中复杂客户查询的管理流程,减少了所需的时间和精力。客户咨询通常很复杂,支持团队需要花费大量时间查找和解释保险合同中的相关部分。此过程会导致响应延迟,并可能对客户满意度产生负面影响。

为了解决这个问题,Kern AI 为一级支持团队开发了一个内部 AI 聊天机器人。他们的平台帮助数据科学团队改进数据基础,以加快应用程序的生产。通过使用嵌入来识别相关数据点和异常值,Kern AI 确保了更高效、更准确的数据处理。为了避免局限于单一的嵌入模型,他们尝试了各种模型,包括情感嵌入,这使他们发现了 Qdrant。

kern-user-interface

Kern AI Refinery 是一个开源工具,用于扩展、评估和维护自然语言数据。

他们的解决方案的影响在 Markel Insurance SE 的案例中显而易见,该保险公司将平均响应时间从每个客户查询的五分钟缩短到 30 秒以内。这一变化显著提升了客户体验并减轻了支持团队的工作量。Johannes Hötter 指出:“我们的解决方案彻底改变了保险行业一级支持的运作方式,极大地提高了效率和客户满意度。”

解决方案

Kern AI 发现了 Qdrant,并对其活跃的 Discord 社区印象深刻,这突显了该平台的积极支持和持续改进。Qdrant 是该团队使用的第一个向量数据库,在测试了其他替代方案后,他们选择了 Qdrant,原因如下:

  • 多向量存储:此功能至关重要,因为它允许团队存储和管理不同的搜索索引。鉴于没有一个嵌入能够适用于所有用例,此功能为他们的嵌入带来了必要的多样性,从而实现了更灵活和强大的数据处理。
  • 易于设置:Qdrant 简单的设置过程使 Kern AI 能够快速集成并开始使用数据库,而无需大量的开销,这对于保持开发势头至关重要。
  • 开源:Qdrant 的开源性质与 Kern AI 自己的产品开发理念相符。这允许更大的定制和集成到他们现有的开源项目中。
  • 快速进展:Qdrant 的快速发展和频繁更新确保 Kern AI 能够依靠持续改进和尖端功能来保持其解决方案的竞争力。
  • 多向量搜索:允许 Kern AI 同时对不同嵌入执行复杂查询,从而提高搜索结果的深度和准确性。
  • 混合搜索/过滤器:支持将传统关键字搜索与向量搜索相结合,从而实现更细致和精确的数据检索。

Kern AI 将 Qdrant 的开源、本地解决方案用于其开源项目和其商业端到端框架。该框架专注于金融和保险市场,类似于 LangChain 或 LlamaIndex,但根据行业特定需求进行了定制。

kern-data-retrieval

在 Kern AI 中配置数据检索:微调搜索输入和元数据,以优化信息提取。

成果

Kern AI 的主要用例专注于以极高的精度增强客户服务。利用 Qdrant 先进的向量搜索功能,Kern AI 持续将幻觉率保持在 1% 以下。这种卓越的准确性使他们能够为金融服务构建最精确的 RAG(检索增强生成)聊天机器人。

主要成就

  • 幻觉率 <1%:确保其面向金融和保险行业的聊天机器人解决方案具有最高水平的准确性和可靠性。
  • 缩短客户服务响应时间:通过使用 Kern AI 的解决方案,Markel Insurance SE 将响应时间从五分钟缩短到 30 秒以内,显著改善了客户体验和运营效率。

通过利用 Qdrant,Kern AI 有效支持金融服务中的各种用例,例如:

  • 理赔管理:通过快速识别相关数据点来简化理赔流程。
  • 相似性搜索:通过查找类似案例来增强事件处理,从而提高决策质量。

展望

Kern AI 计划扩大对 Qdrant 的使用,以支持金融和保险行业的棕地和绿地用例。

免费开始使用 Qdrant

开始使用