网站开发与维护是什么引用评论框代码wordpress

当前位置： 首页 > news >正文

网站开发与维护是什么,引用评论框代码wordpress,全网推广推荐,福州服务类网站建设MPIKGC#xff1a;大语言模型改进知识图谱补全 提出背景MPIKGC框架 论文#xff1a;https://arxiv.org/pdf/2403.01972.pdf 代码#xff1a;https://github.com/quqxui/MPIKGC 提出背景 知识图谱就像一个大数据库#xff0c;里面有很多关于不同事物的信息#xff0c;这… MPIKGC大语言模型改进知识图谱补全 提出背景MPIKGC框架 论文https://arxiv.org/pdf/2403.01972.pdf 代码https://github.com/quqxui/MPIKGC 提出背景 知识图谱就像一个大数据库里面有很多关于不同事物的信息这些信息是以三元组的形式存在的比如人物关系事物如Ian Bryce制片变形金刚月黑之时。 知识图谱补全的任务有两个判断给定的三元组是否正确三元组分类以及预测缺失的部分例如找出缺失的实体或关系链接预测。 为了解决这些问题我们提出了一个新型的技术框架MPIKGC该框架通过利用大型语言模型(LLMs)生成辅助文本来提升KGC模型的性能。 具体解法可以拆解为以下几个子解法 实体信息补全 子解法使用LLMs扩展实体描述。之所以使用此子解法是因为面对实体描述的不完整性问题。我们通过设计链式思考(CoT)提示让LLM逐步生成不同方面的描述以补全和丰富实体的信息。 关系模糊消除 子解法通过三种精心设计的提示策略查询LLMs以改进对关系含义的理解。之所以使用此子解法是因为需要解决关系名称可能带来的歧义问题。这些策略包括全局提示、局部提示和反向提示它们捕捉关系之间的联系并促进更好的反向预测。 图连接稀疏问题 子解法查询LLMs提取额外的结构信息来丰富知识图谱。之所以使用此子解法是因为需要解决图中链接稀疏特别是长尾实体间连接不足的问题。我们通过使用LLMs总结的关键词测量实体间的相似度并创建新的三元组来构建相关实体之间的联系从而在KGC模型中形成新的结构模式。
在研究和改进知识图谱一种存储实体及其相互关系的数据库的过程中存在两个主要方法基于结构的方法和基于描述的方法。 基于描述的知识图谱补全(KGC)方法主要使用文本描述来提高对实体和关系的理解通过如下方式 利用文本描述通过不同的技术如卷积神经网络、BERT模型编码实体和关系特别擅长处理信息不足的实体。这些方法可以通过描述来更好地理解实体间的关系尤其对于那些难以通过简单的结构信息识别的实体。 大型语言模型(LLMs)在知识图谱中的应用 近年来大型语言模型如GPT-4显示出在处理知识图谱相关任务时的巨大潜力它们可以提供丰富的知识和强大的理解能力。这些模型可以帮助识别和生成新的事实通过理解文本描述来增强知识图谱的完整性和准确性。
基于描述的KGC方法通过分析文本描述来理解实体和关系而大型语言模型则为这些方法提供了一个强大的工具可以深入挖掘文本中的知识帮助填补知识图谱中的缺口。 MPIKGC框架 上图描绘了一个名为MPIKGC的框架这是一个旨在通过从实体、关系和结构的角度改进知识图谱的模型。 这个框架通过LLM查询来生成额外的描述和结构使得知识图谱更完整、信息更丰富。 MPIKGC框架包含以下三个主要部分 实体描述扩展MPIKGC-E使用Chain-of-ThoughtCoT提示策略让LLMs逐步生成更丰富的实体描述。关系理解MPIKGC-R通过全局、局部和反向提示策略提高KGC模型对关系含义的理解从而改善链接预测的反向预测性能。结构提取MPIKGC-S利用LLMs的关键词总结和匹配能力提取额外的结构信息丰富知识图谱特别是对于长尾实体。 假设我们有一个简单的医学知识图谱它包含实体如疾病、症状、药物和它们之间的关系。 在这个知识图谱中我们可能有如下三元组 (糖尿病, 关联症状, 高血糖)(阿司匹林, 用于治疗, 发热) 但是知识图谱可能不完整缺少某些关键信息例如糖尿病的其他症状或与阿司匹林相关的副作用。 为了补全这些信息我们可以使用下面的方法 描述扩展我们询问一个大型语言模型比如GPT-4关于糖尿病的更多信息。 模型可能会告诉我们除了高血糖糖尿病还可能导致视力模糊和疲劳。 现在我们可以在知识图谱中添加新的三元组如糖尿病, 关联症状, 视力模糊和糖尿病, 关联症状, 疲劳。 关系理解如果知识图谱只是简单地标记了阿司匹林“用于治疗”发热我们可能会用提示策略让语言模型提供更多上下文比如阿司匹林还能“减少炎症”或“预防血栓”。 这样我们就能在知识图谱中添加更准确的关系描述比如阿司匹林, 用于预防, 血栓。 结构提取对于长尾实体比如一个不太为人知的罕见疾病我们可以让语言模型提取该疾病的特征或相关信息。 如果模型提供了与其他疾病相似的症状我们可以创建新的链接显示这些疾病之间的相似性从而丰富知识图谱的结构。 以一种罕见疾病“多发性硬化症”作为例子来说明结构提取的过程。 在我们的知识图谱中“多发性硬化症”可能与几个症状相关联例如肌肉无力和视觉问题。 但是我们的图谱可能没有完全覆盖这个疾病的所有相关信息。 我们现在使用一个大型语言模型来提取更多信息。 关键词提取语言模型可能会从医学文献或数据库中提取出“多发性硬化症”通常与“认知功能障碍”和“步态不稳”这些症状相关联的信息。 新的链接创建有了这些新提取的关键词我们可以在知识图谱中创建新的三元组如 (多发性硬化症, 关联症状, 认知功能障碍)(多发性硬化症, 关联症状, 步态不稳) 结构丰富进一步地如果语言模型指出“系统性红斑狼疮”也与“认知功能障碍”有关我们可以在这两种疾病之间添加一个“相似症状”类型的链接以显示它们之间的相似性。 新的结构模式形成通过这样的操作我们不仅补充了单个疾病的信息还在不同疾病之间创建了新的联系有助于揭示它们之间可能的共同生物学机制或治疗方法的对比。 这增加了知识图谱的丰富性使得研究者能够看到不同疾病间的联系这些联系以前可能未被注意到。例如 (多发性硬化症, 症状相似, 系统性红斑狼疮)   这个过程有助于研究人员理解不同疾病间的潜在联系为疾病诊断和治疗提供更多线索。 通过这种方式知识图谱变得更加完整能够支持更复杂的查询和分析最终提升医疗保健领域的知识发现和决策支持。