女人做春梦网站昭通网站开发

当前位置： 首页 > news >正文

女人做春梦网站,昭通网站开发,wordpress 网站制作,软件开发和程序员哪个工资高LLMs之KG-RAG#xff1a;KG-RAG(基于知识图谱的RAG系统)的简介(可以解决多跳问题/同时支持结构化和非结构化数据查询)、经验技巧、案例应用之详细攻略 背景痛点#xff1a;传统的基于向量相似度检索的RAG模型回答多环(多步)问题的能力有限#xff0c;无法同时处理来自多个文…LLMs之KG-RAGKG-RAG(基于知识图谱的RAG系统)的简介(可以解决多跳问题/同时支持结构化和非结构化数据查询)、经验技巧、案例应用之详细攻略 背景痛点传统的基于向量相似度检索的RAG模型回答多环(多步)问题的能力有限无法同时处理来自多个文档的信息。 解决方案 使用知识图构建结构化的信息存储和表示每个文档分别进行信息提取然后通过节点和关系在知识图中连接相关文档形成一个连通的知识结构。 以知识图为基础在问题响应阶段生成cypher语言查询来高效检索相关信息。 知识图可以同时存储结构化和非结构化数据实现结构化和非结构化数据的连接同时利用向量相似度检索来助力信息检索。 知识图也可以支持链式推理问答模型指导LLM进行多步骤问题响应。 核心特点 知识图利用节点和关系表示数据实现不同文档或信息间的关联连接方便跨文档信息检索。 知识图可以高效融合不同类型结构化和非结构化数据。 知识图支持类比思维链式推理问题响应流程。 优势 解决RAG模型响应多环问题的能力不足问题。 提高问题响应效率减轻在线响应阶段的计算负担。 知识图适用于各种涉及实体关系的应用场景。 协助LLM生成更精准的问题响应。 总之该文章通过利用知识图来统一存储结构化和非结构化数据提升RAG模型解决多环问题响应的能力提高问题响应效率。 目录 KG-RAG的简介 1、RAG的工作原理 向量相似度搜索的实现 多跳问题的挑战 多跳问题的挑战分析 挑战解决策略 2、知识图谱作为高效的信息存储 上下文摘要的执行 利用知识图谱解决组合和总结问题 信息提取管道与知识图谱的结合 使用知识图谱进行多跳问题解决 在查询时利用知识图谱检索信息 3、结合图和文本数据以增强洞察力 结合图和文本数据通过知识图谱识别实体及其关系并使用智能搜索工具检索相关信息如通过Cypher查询或向量相似度搜索可解决需要综合分析的查询需求 4、在思维连中使用知识图谱 Agent将问题分解为多个子问题→根据每个子问题选择合适的工具比如问题01采用知识图谱工具来检索→Agent基于问题01的结果重新编写问题02→Agent继续使用各种工具来回答→但会导致响应高延迟 5、使用知识图谱进行RAG应用的原因 RAG应用通过整合多个信息来源构建知识图谱结合结构化和非结构化数据实现更精准的答案生成和多跳推理适用于各种涉及实体关系的应用场景 KG-RAG的相关工具或框架 T1、采用KG-RAG工具 LLMs之RAGKG-RAG的简介、安装和使用方法、案例应用之详细攻略 T2、自定义实现采用Tasks检索工具图Graph查询检索工具(Neo4j图数据库Cyphe图查询语言) LLMs之KG-RAG-Agent基于LangChain框架利用知识图谱(Neo4j构建知识图数据库Cyphe查询语言)结合RAG技术打造多种工具的Agent进而实现与图知识库对话查询的机器人应用实战案例——导入知识图谱数数据(Neo4j)→基于向量索引和OpenAIEmbeddings构建RetrievalQA并测试相似性搜索→创建一个GraphCypherQAChain的Cyphe图查询式问答系统并并使用知识图谱测试→创建多模态Agent并测试(定义一个工具列表【Tasks/Graph】创建一个多模态Agent测试多模态Agent回答问题) KG-RAG的案例应用 LLMs之KG-RAG-Agent基于LangChain框架利用知识图谱(Neo4j构建知识图数据库Cyphe查询语言)结合RAG技术打造多种工具的Agent进而实现与图知识库对话查询的机器人应用实战案例——导入知识图谱数数据(Neo4j)→基于向量索引和OpenAIEmbeddings构建RetrievalQA并测试相似性搜索→创建一个GraphCypherQAChain的Cyphe图查询式问答系统并并使用知识图谱测试→创建多模态Agent并测试(定义一个工具列表【Tasks/Graph】创建一个多模态Agent测试多模态Agent回答问题) KG-RAG的简介 检索增强生成RAG应用在集成来自外部来源的数据到LLMs中回答简单问题方面表现出色。但是它们在回答涉及将相关信息连接起来的多部分问题时往往遇到困难。这是因为RAG应用需要设计一个数据库以一种使得查找回答这些类型问题所需的所有片段变得容易的方式存储数据。 知识图谱(KG)非常适合处理复杂的、多部分问题因为它们将数据存储为节点网络及其之间的关系。这种连接的数据结构使得RAG应用能够高效地从一条信息导航到另一条信息访问所有相关信息。 使用知识图谱构建RAG应用可提高查询效率特别是当处理连接的数据时您可以将任何类型的数据结构化和非结构化导入图中而无需重新设计架构。 参考地址Knowledge Graphs LLMs: Multi-Hop Question Answering 1、RAG的工作原理 检索增强生成RAG是一种通过从外部数据库检索相关信息并将其合并到生成的输出中来增强LLMs响应的技术。RAG过程很简单。当用户提问时智能搜索工具在提供的数据库中寻找相关信息。 向量相似度搜索的实现 您可能使用过诸如“与您的PDF聊天”之类的工具在提供的文档中搜索信息。这些工具大多使用向量相似度搜索来识别包含与用户问题相似数据的文本块。实现非常简单如下图所示。 PDF或其他文档类型首先被拆分成多个文本块。您可以根据文本块的大小或它们之间是否应有任何重叠来使用不同的策略。然后RAG应用使用文本嵌入模型来生成文本块的向量表示。这是在查询时执行向量相似度搜索所需的所有预处理。最后在查询时RAG将用户输入编码为向量并使用余弦等相似性算法来比较用户输入与嵌入文本块之间的距离。 通常RAG返回三个最相似的文档以为LLMs提供上下文从而增强其生成准确答案的能力。当向量搜索能够识别相关的文本块时这种方法效果相当不错。 多跳问题的挑战 然而当LLM需要从多个文档或甚至多个文本块中获取信息来生成答案时简单的向量相似度搜索可能不足够。例如考虑以下问题 前OpenAI员工中有没有人创办了自己的公司 这个问题是多部分的因为它包含两个问题 谁是前OpenAI的员工 他们中有没有人创办了自己的公司 回答这类问题是一个多跳问题回答任务一个问题可以被分解为多个子问题并且获得准确答案需要检索大量文档。 多跳问题的挑战分析 简单地将文档分块并将其嵌入到数据库中然后使用简单的向量相似度搜索无法满足多跳问题。原因如下 在前N个文档中重复的信息提供的文档不能保证包含回答问题所需的所有信息。例如前三个相似的文档可能都提到Shariq曾在OpenAI工作过可能创办了一家公司而忽略了所有其他曾成为创始人的前员工。 缺少参考信息根据文本块的大小某些文本块可能不包含完整的上下文或对文本中提到的实体的引用。重叠文本块可以部分缓解缺少参考信息的问题。还有一些例子参考信息指向另一篇文档因此您需要一个共指解析或预处理技术。 难以定义理想的检索文档数N某些问题需要更多的文档才能使LLM准确而在其他情况下大量文档只会增加噪音和成本。 在某些情况下相似性搜索将返回重复的信息而其他相关信息则因检索信息的低K值或嵌入距离而被忽略。 挑战解决策略 由于检索信息的低K值或嵌入距离可能会忽略相关信息。因为检索信息的低K值或嵌入距离。显然简单的向量相似度搜索对多跳问题来说不够。但是我们可以采用多种策略来回答需要从各种文档中获取信息的多跳问题。 2、知识图谱作为高效的信息存储 如果您密切关注了LLM领域您可能已经看到了一些将信息压缩以使其在查询时更易于访问的技术。例如您可以使用LLM提供文档摘要然后嵌入和存储摘要而不是实际文档。使用此方法您可以消除许多噪音获得更好的结果并减少对提示标记空间的担忧。 上下文摘要的执行 您还可以在读取过程或查询时执行上下文摘要。查询时的上下文压缩更加有指导性因为它选择与提供的问题相关的上下文。但是查询期间工作负载越重用户延迟可能越糟。我们建议尽可能将工作负载移至摄入时间以提高延迟并避免其他运行时问题。 利用知识图谱解决组合和总结问题 将多个文档组合和总结为单个记录的方法在文献中尚未涉及。这可能是因为存在太多的文档组合需要合并和总结使得在摄入时间处理所有文档组合的成本过高。知识图谱是解决这个问题的有效方法。 同样的方法也可以用于总结对话历史以避免遇到令牌限制问题。 我没有看到任何关于将多个文档组合和总结为单个记录的文章。我们可能有太多的文档组合可以合并和总结使得在摄入时间处理所有文档组合的成本太高。知识图谱解决了这个问题。 信息提取管道与知识图谱的结合 信息提取管道是从非结构化文本中提取结构化信息的过程与知识图谱结合的优势在于可以单独处理每个文档并在构建或丰富知识图谱时将来自不同记录的信息连接起来。 信息提取管道已经存在一段时间了。它是从非结构化文本中提取结构化信息的过程通常以实体和关系的形式。将其与知识图谱结合的美妙之处在于您可以单独处理每个文档。当知识图谱被构建或丰富时来自不同记录的信息被连接起来。 使用知识图谱进行多跳问题解决 许多新的LLM方法解决多跳问题的方法主要集中在在查询时解决任务。然而通过预处理数据并将其连接到知识图谱可以解决许多多跳问题。可以使用LLMs或自定义文本领域模型执行信息提取管道。 知识图谱使用节点和关系来表示数据。在这个例子中第一个文档提供了Dario和Daniela曾在OpenAI工作的信息而第二个文档提供了有关他们的Anthropic创业公司的信息。每个记录都被单独处理但是知识图谱表示连接了数据使得容易回答跨多个文档的问题。 在查询时利用知识图谱检索信息 在查询时要从知识图谱检索信息需要构建适当的Cypher语句。LLMs擅长将自然语言转换为Cypher图查询语言这使得在查询过程中利用知识图谱成为可能。 大多数较新的LLM方法解决多跳问题的方法主要集中在在查询时解决任务。事实上许多多跳问题回答问题可以通过读取数据前的预处理并将其连接到知识图谱来解决。您可以使用LLMs或自定义文本领域模型执行信息提取管道。 在查询时从知识图谱检索信息我们必须构建适当的Cypher语句。幸运的是LLMs非常擅长将自然语言转换为Cypher图查询语言。 智能搜索使用LLM生成适当的Cypher语句从知识图谱检索信息。然后将信息传递给另一个LLM调用该调用使用原始问题和提供的信息生成答案。在实践中您可以使用不同的LLMs来生成Cypher语句和答案或者您可以在单个LLM上使用各种提示。 3、结合图和文本数据以增强洞察力 结合图和文本数据通过知识图谱识别实体及其关系并使用智能搜索工具检索相关信息如通过Cypher查询或向量相似度搜索可解决需要综合分析的查询需求 有时您需要结合图和文本数据来查找相关信息。例如考虑这个问题 关于Prosper Robotics的创始人的最新消息是什么 在这个例子中您希望LLM使用知识图谱结构识别Prosper Robotics的创始人然后检索最近提到他们的文章。 在知识图谱中您可以从Prosper Robotics节点开始遍历到其创始人然后检索最近提到他们的文章。知识图谱表示了关于实体及其关系的结构化信息以及关于节点属性的非结构化文本。您还可以使用命名实体识别等自然语言技术将非结构化信息与知识图谱中相关实体连接起来如MENTIONS关系所示。 当知识图谱包含结构化和非结构化数据时智能搜索工具可以使用Cypher查询或向量相似度搜索来检索相关信息。在某些情况下您还可以结合使用两者。例如您可以从Cypher查询开始以识别相关文档然后在这些文档中查找特定信息。 4、在思维连中使用知识图谱 Agent将问题分解为多个子问题→根据每个子问题选择合适的工具比如问题01采用知识图谱工具来检索→Agent基于问题01的结果重新编写问题02→Agent继续使用各种工具来回答→但会导致响应高延迟 LLMs周围另一个引人注目的发展是链式思维问答特别是带有LLM代理的链式思维问答。 LLM代理可以将问题分解为多个步骤定义计划并从提供的任何工具中提取答案。通常代理工具包括代理可以查询以检索额外信息的API或知识库。 让我们再次考虑相同的问题 关于Prosper Robotics的创始人的最新消息是什么 假设您没有文章与其提及的实体之间的明确连接或者文章和实体位于不同的数据库中。在这种情况下使用链式思维流的LLM代理将非常有帮助。首先代理会将问题分解为子问题 Prosper Robotics的创始人是谁 关于创始人的最新消息是什么 现在代理可以决定使用哪种工具。假设它基于知识图谱这意味着它可以检索结构化信息如Prosper Robotics的创始人的姓名。代理发现Prosper Robotics的创始人是Shariq Hashme。现在代理可以使用来自第一个问题的信息重新编写第二个问题 关于Shariq Hashme的最新消息是什么 代理可以使用一系列工具来生成答案包括知识图谱、向量数据库、API等。对结构化信息的访问使得LLM应用能够执行需要聚合、过滤或排序的分析工作流程。考虑以下问题 哪家公司的独立创始人估值最高 谁创立了最多的公司 简单的向量相似度搜索在回答这些分析性问题时存在困难因为它搜索非结构化文本数据使得难以对数据进行排序或聚合。 虽然链式思维展示了LLMs的推理能力但它并不是最用户友好的技术因为由于多次LLM调用响应延迟可能很高。但是我们仍然对了解更多关于将知识图谱集成到链式思维流中以解决许多用例问题感到非常兴奋。 5、使用知识图谱进行RAG应用的原因 RAG应用通过整合多个信息来源构建知识图谱结合结构化和非结构化数据实现更精准的答案生成和多跳推理适用于各种涉及实体关系的应用场景 RAG应用通常需要从多个来源检索信息以生成准确的答案。虽然文本摘要可能具有挑战性但将信息以图形格式表示具有几个优点。 通过分别处理每个文档并在知识图谱中连接它们我们可以构建信息的结构化表示。这种方法使得通过互相关联的文档进行更轻松的遍历和导航从而实现多跳推理以回答复杂的查询。此外在摄入阶段构建知识图谱可以减少查询时的工作负载从而提高延迟。 RAG应用将越来越多地使用结构化和非结构化数据以生成更准确的答案。知识图谱可以轻松吸收各种类型的数据。这种灵活性使其适用于广泛的用例和LLM应用程序特别是涉及实体之间关系的应用程序考虑欺诈检测、供应链、主数据管理等。 KG-RAG的相关工具或框架 T1、采用KG-RAG工具 LLMs之RAGKG-RAG的简介、安装和使用方法、案例应用之详细攻略 LLMs之RAGKG-RAG的简介、安装和使用方法、案例应用之详细攻略-CSDN博客 T2、自定义实现采用Tasks检索工具图Graph查询检索工具(Neo4j图数据库Cyphe图查询语言) LLMs之KG-RAG-Agent基于LangChain框架利用知识图谱(Neo4j构建知识图数据库Cyphe查询语言)结合RAG技术打造多种工具的Agent进而实现与图知识库对话查询的机器人应用实战案例——导入知识图谱数数据(Neo4j)→基于向量索引和OpenAIEmbeddings构建RetrievalQA并测试相似性搜索→创建一个GraphCypherQAChain的Cyphe图查询式问答系统并并使用知识图谱测试→创建多模态Agent并测试(定义一个工具列表【Tasks/Graph】创建一个多模态Agent测试多模态Agent回答问题) https://yunyaniu.blog.csdn.net/article/details/137618054 KG-RAG的案例应用 持续更新中…… LLMs之KG-RAG-Agent基于LangChain框架利用知识图谱(Neo4j构建知识图数据库Cyphe查询语言)结合RAG技术打造多种工具的Agent进而实现与图知识库对话查询的机器人应用实战案例——导入知识图谱数数据(Neo4j)→基于向量索引和OpenAIEmbeddings构建RetrievalQA并测试相似性搜索→创建一个GraphCypherQAChain的Cyphe图查询式问答系统并并使用知识图谱测试→创建多模态Agent并测试(定义一个工具列表【Tasks/Graph】创建一个多模态Agent测试多模态Agent回答问题) https://yunyaniu.blog.csdn.net/article/details/137618054