金融行业标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221090970 0.7 (22)申请日 2022.07.29 (71)申请人 苏州思萃人工智能研究所有限公司 地址 215000 江苏省苏州市相城区高铁新 城青龙港路6 0号苏州港口大厦10层 (72)发明人 宋彦 田元贺  (74)专利代理 机构 深圳市智享知识产权代理有 限公司 4 4361 专利代理师 罗芬梅 (51)Int.Cl. G06F 40/295(2020.01) G06F 40/30(2020.01) G06F 40/247(2020.01) G06F 16/35(2019.01) G06N 3/08(2006.01) (54)发明名称 一种专名 识别方法、 计算机设备、 可读存储 介质和程序 产品 (57)摘要 本发明涉及自然语 言处理技术领域, 特别涉 及一种专名识别方法, 用于得到专名实体标签, 方法包括以下步骤: 获取输入文本并对输入文本 进行编码, 得到输入文本中每个实体的隐向量; 将隐向量基于大量相似词组成的预训练词向量 库得到每个实体的语义增强隐向量; 将语义增强 隐向量经过分类转换处理, 得到每个实体对应的 专名实体标签。 本发明还提供一种计算机设备、 可读存储介质和程序产品, 解决传统的专名识别 模型难以正确地抽取训练时未遇到的实体的技 术问题。 权利要求书1页 说明书8页 附图3页 CN 115329764 A 2022.11.11 CN 115329764 A 1.一种专名识别方法, 专名实体标签其特 征在于所述方法包括以下步骤: 获取输入文本并对所述输入文本进行编码, 得到所述输入文本中每 个实体的隐向量; 将所述隐向量基于大量相似词组成的预训练词向量库得到每个实体的语义增强隐向 量; 将所述语义增强隐向量经 过分类转换处 理, 得到每 个实体对应的专名实体标签。 2.如权利要求1所述的方法, 其特征在于: 得到每个实体的语义增强隐向量包括以下步 骤: 根据预设的预训练词向量库找出 所述输入文本中每 个实体的一个或多个近似词; 将所述近似词根据预设的第一 算法计算得到每 个实体的平均向量; 将所述平均向量与所述隐向量串联 得到所述语义增强隐向量。 3.如权利要求2所述的方法, 其特征在于: 将所述近似词根据预设的第 一算法计算得到 每个实体的平均向量包括以下步骤: 将所述近似词根据预设的词向量矩阵映射 为词向量; 将所述词向量 根据预设的第二 算法分别映射 为键向量和值向量; 将所述键向量和值向量 通过预设的第三 算法计算得到所述平均向量。 4.如权利要求3所述的方法, 其特征在于: 将所述词向量根据预设的第 二算法分别映射 为键向量和值向量包括以下步骤: 将预设的键矩阵和所述词向量传入预设的激活函数, 得到 键向量; 将预设的值矩阵与所述词向量传入预设的激活函数, 得到值向量。 5.如权利要求3所述的方法, 其特征在于: 将所述键向量和值向量通过预设的第 三算法 计算得到所述平均向量包括以下步骤: 根据每个实体的所述隐向量和每个实体的相似词对应的所述键向量计算得到所述相 似词的权 重; 根据所述权 重与所述 值向量计算得到每 个实体的所述平均向量。 6.如权利要求1所述的方法, 其特征在于: 将所述语义增强隐向量进行分类转换处理得 到每个实体对应的专名实体标签包 含以下步骤: 将所述语义增强隐向量经过预设的全连接层后, 送入预设的SoftMax分类器, 得到每个 实体的专名实体标签。 7.如权利要求1所述的方法, 其特征在于: 将所述隐向量基于大量相似词组成的预训练 词向量库得到每个实体的语义增强隐向量是通过将所述隐向量输入预设的键值记忆神经 网络的方式得到 。 8.一种计算机设备, 其特征在于: 包括处理器、 存储器以及存储在所述存储器上的计算 机程序, 所述处 理器执行所述计算机程序以实现如权利要求1所述方法的步骤。 9.一种可读存储介质, 其上存储有计算机程序指令, 其特征在于: 所述计算机程序指令 被执行时实现如权利要求1所述方法的步骤。 10.一种程序产品, 包括计算机程序指令, 其特征在于: 所述计算机程序指令被执行时 实现如权利要求1所述方法的步骤。权 利 要 求 书 1/1 页 2 CN 115329764 A 2一种专名识别方 法、 计算机设 备、 可读存储介质和程序产品 技术领域 [0001]本发明涉及自然语言处理技术领域, 其特别涉及一种专名识别方法、 设备、 可读存 储介质和程序 产品。 背景技术 [0002]专名识别任务旨在从给定的句子中抽取名实体。 特别的, 对于特定的领域, 例如社 交媒体领域, 由于语言词汇使用变化较快, 现有的训练数据严重不 足。 传统的专名识别模型 往往会面临数据稀疏的问题, 难以正确地抽取训练时未遇 到的实体。 发明内容 [0003]为了解决传统的专名识别模型难以正确地抽取训练时未遇到的实体的技术问题, 本发明提供一种专名识别方法、 设备、 存 储介质和程序 产品。 [0004]本发明为解决上述技术问题, 提供如下的技术方案: 一种专名识别方法, 所述方法 包括以下步骤: 获取输入文本并对所述输入文本进行编码, 得到所述输入文本中每个实体 的隐向量; 将所述隐向量基于大量相似词组成的预训练词向量库得到每个实体的语义增强 隐向量; 将所述语义增强隐向量经 过分类转换处 理, 得到每 个实体对应的专名实体标签。 [0005]优选地, 得到每个实体的语义增强隐向量包括以下步骤: 根据预设的预训练词向 量库找出所述输入文本中每个实体的一个或多个近似词; 将所述近似词根据预设的第一算 法计算得到每个实体的平均向量; 将所述平均向量与所述隐向量串联得到实施语义增强隐 向量。 [0006]优选地, 将所述近似词根据预设的第一算法计算得到每个实体的平均向量包括以 下步骤: 将所述近似词根据预设的词向量矩阵映射为词向量; 将所述词向量根据预设的第 二算法分别映射为键向量和值向量; 将所述键向量和值向量通过预设的第三算法计算得到 所述平均向量。 [0007]优选地, 将所述词向量根据预设的第二算法分别映射为键向量和值向量包括以下 步骤: 将预设的键矩阵和所述词向量传 入预设的激活函数, 得到键向量; 将预设的值矩阵与 所述词向量传入预设的激活函数, 得到值向量。 [0008]优选地, 将所述键向量和值向量通过预设的第三算法计算得到所述平均向量包括 以下步骤: 根据每个实体的所述隐向量和每个实体的相似词对应的所述键向量计算得到所 述相似词的权 重; 根据所述权 重与所述 值向量计算得到每 个实体的所述平均向量。 [0009]优选地, 将所述语义增强隐向量进行分类转换处理包含以下步骤: 将所述语义增 强隐向量经 过预设的全连接层后, 送入预设的SoftMax分类 器, 得到所述专名实体标签。 [0010]优选地, 将所述隐向量基于大量相似词组成的预训练词向量库得到每个实体的语 义增强隐向量是通过将所述隐向量输入预设的键值记 忆神经网络的方式得到 。 [0011]本发明为解决上述技术问题, 提供又一技术方案如下: 一种计算机设备, 计算机程 序指令被执 行时实现上述方法的步骤。说 明 书 1/8 页 3 CN 115329764 A 3

PDF文档 专利 一种专名识别方法、计算机设备、可读存储介质和程序产品

文档预览
中文文档 13 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共13页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种专名识别方法、计算机设备、可读存储介质和程序产品 第 1 页 专利 一种专名识别方法、计算机设备、可读存储介质和程序产品 第 2 页 专利 一种专名识别方法、计算机设备、可读存储介质和程序产品 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:14:25上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。