0

Kern AI & Qdrant:为金融和保险行业提供精密AI解决方案

Qdrant

·

2024年8月28日

Kern AI & Qdrant: Precision AI Solutions for Finance and Insurance

kern-case-study

关于 Kern AI

Kern AI 专注于以数据为中心的 AI。Kern AI 最初是一家 AI 咨询公司,由联合创始人兼首席执行官 Johannes Hötter 领导的团队很快意识到,开发者将 80% 的时间花费在审查数据上,而不是专注于模型开发。这种低效率显著降低了 AI 开发和采用的速度。为了解决这一挑战,Kern AI 开发了一个低代码平台,使开发者能够快速分析他们的数据集,并使用向量搜索识别异常值。这一创新提高了数据准确性,简化了工作流程,从而能够快速部署 AI 应用。

随着 ChatGPT 的兴起,Kern AI 通过集成 GPT 等大型语言模型 (LLMs),扩展了其平台,以支持快速开发准确且安全的生成式 AI,并专门为金融服务行业量身定制解决方案。Kern AI 的解决方案通过以 LLMs 能够理解的方式建模和集成公司数据,提高了任何 LLM 的可靠性,提供了一个具备领先数据建模能力的平台。

面临的挑战

Kern AI 已与领先的保险公司合作,以有效地简化客服团队处理复杂客户咨询的流程,减少所需时间和精力。客户咨询通常很复杂,支持团队需要花费大量时间查找和解释保险合同中的相关部分。这个过程会导致响应延迟,并可能对客户满意度产生负面影响。

为了解决这个问题,Kern AI 为一线支持团队开发了一个内部 AI 聊天机器人。他们的平台帮助数据科学团队改进数据基础,以加快应用程序的生产。通过使用嵌入来识别相关数据点和异常值,Kern AI 确保了更高效、更准确的数据处理。为了避免受限于单一的嵌入模型,他们尝试了各种模型,包括情感嵌入,从而发现了 Qdrant。

kern-user-interface

Kern AI Refinery 是一款开源工具,用于扩展、评估和维护自然语言数据。

他们的解决方案的影响在 Markel Insurance SE 的案例中得到了体现,该公司将每次客户咨询的平均响应时间从五分钟缩短到了 30 秒以内。这一变化显著提升了客户体验,并减轻了支持团队的工作负担。Johannes Hötter 指出:“我们的解决方案彻底改变了保险行业一线支持的运作方式,极大地提高了效率和客户满意度。”

解决方案

Kern AI 发现了 Qdrant,并对其互动式 Discord 社区印象深刻,这凸显了该平台的积极支持和持续改进。Qdrant 是该团队使用的第一个向量数据库,在测试了其他替代方案后,他们因以下几个原因选择了 Qdrant:

  • 多向量存储:这一功能至关重要,因为它允许团队存储和管理不同的搜索索引。考虑到没有单一的嵌入模型适用于所有用例,此功能为他们的嵌入带来了必要的 다양性,从而实现了更灵活、更强大的数据处理。
  • 易于设置:Qdrant 简单明了的设置过程使 Kern AI 能够快速集成和开始使用数据库,而无需大量的额外开销,这对于保持开发势头至关重要。
  • 开源:Qdrant 的开源性质与 Kern AI 自身的产品开发理念一致。这使得可以更好地进行定制,并集成到他们现有的开源项目中。
  • 快速进展:Qdrant 的快速发展和频繁更新确保 Kern AI 可以依赖持续的改进和尖端功能来保持其解决方案的竞争力。
  • 多向量搜索:允许 Kern AI 同时跨不同嵌入执行复杂查询,提高了搜索结果的深度和准确性。
  • 混合搜索/过滤器:支持将传统关键词搜索与向量搜索结合起来,实现更细致、更精确的数据检索。

Kern AI 对其开源项目和商业端到端框架均使用 Qdrant 的开源本地部署解决方案。该框架专注于金融和保险市场,类似于 LangChain 或 LlamaIndex,但针对行业特定需求进行了定制。

kern-data-retrieval

在 Kern AI 中配置数据检索:对搜索输入和元数据进行微调,以优化信息提取。

成果

Kern AI 的主要用例侧重于以极高的精度增强客户服务。利用 Qdrant 先进的向量搜索能力,Kern AI 的幻觉率始终保持在 1% 以下。这种卓越的准确性使他们能够构建最精确的面向金融服务的 RAG(检索增强生成)聊天机器人。

主要成就

  • <1% 幻觉率:确保其面向金融和保险行业的聊天机器人解决方案具有最高水平的准确性和可靠性。
  • 缩短客户服务响应时间:使用 Kern AI 的解决方案,Markel Insurance SE 将响应时间从五分钟缩短至 30 秒以内,显著改善了客户体验并提高了运营效率。

通过利用 Qdrant,Kern AI 有效支持金融服务中的各种用例,例如:

  • 索赔管理:通过快速识别相关数据点来简化索赔流程。
  • 相似性搜索:通过查找相似案例来增强事件处理,从而提高决策质量。

展望

Kern AI 计划扩展 Qdrant 的使用,以支持金融和保险行业的棕地和绿地用例。

免费开始使用 Qdrant

开始使用