(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221081725 0.9 (22)申请日 2022.10.09 (66)本国优先权数据 202210442857.3 202 2.04.25 CN (71)申请人 国网安徽省电力有限公司 地址 230022 安徽省合肥市包河区黄山路9 号 申请人 天津弘源慧能科技有限公司 (72)发明人 于洋　汤伟　王同文　汪伟　谢民　 邵庆祝　俞斌　张骏　李铁柱　 杨宗权　叶远波　王栋　张沛　 饶国政　 (74)专利代理 机构 天津才智专利商标代理有限 公司 12108 专利代理师 黄斌(51)Int.Cl. G06F 40/30(2020.01) G06F 40/289(2020.01) G06F 40/211(2020.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06Q 50/06(2012.01) (54)发明名称 多角度语义增强深度学习的启动送电特征 提取方法及装置 (57)摘要 本发明提供了一种多角度语义增强深度学 习的启动送电特征提取方法， 涉及人工智能的技 术领域， 方法包括： 获取电网运行方式启动送电 一二次送电方案信息并对电网运行方式启动送 电一二次送电方案信息进行预处理以获取预处 理后的电网运行方式启动送电一二次送电方案 信息； 对预处理后的电网运行方式启动送电一二 次送电方案信息采用多角度学习信息方法进行 学习以获取电网运行方式启动送电一二次送电 方案信息的多角度特征表示； 构建CNN—注意力 神经结构网络结构， 并利用经多角度特征表示的 电网运行方式启动送电一二次送电方案信息对 CNN—注意力神经结构网络结构进行训练。 通过 本发明可以缓解现有技术中电网送电学习质量 不高难以满足 实际需要的技 术问题。 权利要求书3页 说明书12页 附图4页 CN 115526182 A 2022.12.27 CN 115526182 A 1.一种多角度语义增强深度学习的启动送电特 征提取方法， 其特 征在于， 包括： 获取电网运行方式启 动送电一二次送电方案信息并对所述电网运行方式启动送电一 二次送电方案信息进行预处理以获取预处理后的电网运行方式启动送电一二次送电方案 信息； 对所述预处理后的电网运行方式启动送电一二次送电方案信息采用多角度学习信息 方法进行学习以获取电网运行方式启动送电一二次送电方案信息的多角度特征表示， 所述 电网运行方式启动送电一二次送电方案信息的多角度特征表示包括位置嵌入、 字符表示、 实体类型以及词嵌入； 构建CNN—注意力神经结构网络结构， 并利用经多角度特征表示的电网运行方式启动 送电一二次送电方案信息对所述CN N—注意力神经 结构网络结构进行训练。 2.根据权利要求1所述的方法， 其特 征在于， 还 包括： 对训练好的CN N—注意力神经 结构网络结构进行测试。 3.根据权利要求1所述的方法， 其特征在于， 所述获取电网运行方式启动送电一二 次送 电方案信息并对所述电网运行方式启动送电一二次送电方案信息进行预处理以获取预处 理后的电网运行 方式启动送电一 二次送电方案信息的步骤 包括： 对所述获取电网运行 方式启动送电一 二次送电方案信息进行句子划分； 对句子划分电网运行 方式启动送电一 二次送电方案信息进行依存句法分析； 获取预测词， 基于预测词在所述电网运行方式启动送电一二次送电方案信息中的位 置， 建立词典并进行去重 。 4.根据权利要求1所述的方法， 其特征在于， 对所述预处理后的电网运行方式启动送电 一二次送电方案信息采用多角度学习信息方法进行学习以获取电网运行方式启动送电一 二次送电方案信息的多角度特 征表示的步骤 包括： 对电网运行方式启动送电一二次送电方案信息采用Chinese ‑BERT‑wwm表征词向量， 并 对所述电网运行 方式启动送电一 二次送电方案信息的词性进行解析。 5.根据权利要求1所述的方法， 其特征在于， 构建对所述预处理后的电网运行方式启动 送电一二次送电方案信息采用多角度学习信息方法进行学习以获取电网运行方式启动送 电一二次送电方案信息的多角度特 征表示的步骤 包括： 构建第一CNN神经网络层以获取电网运行方式启动送电一二次送电方案信息的多角度 特征表示， 所述第一CN N神经网络层包括卷积层以及池化层； 所述第一CN N神经网络层采用如下公式进行 卷积操作： yi＝f(ω*(CharsT)i:i+k+b)； f—ReLU函数， yiòRoc； oc—卷积输出层的通道数， y òRoc*n； b则是偏置值b òRoc； 采用第一CN N神经网络层 如下公式进行池化操作： mòRoc。 6.根据权利要求1所述的方法， 其特征在于， 所述构建CNN—注意力神经结构网络结构权　利　要　求　书 1/3 页 2 CN 115526182 A 2的步骤包括： 所述CNN—注意力神经结构网络结构包括依次相连的第二CNN神经网络层、 双向LSTM 层、 注意力层以及条件随机场层； 所述CNN神经网络层获取经多角度 特征表示的电网运行方式启动送电一二 次送电方案 信息， 以获取多角度特征表示的电网运行方式启动送电一二次送电方案信息的特征分配 图； 所述双向LSTM层用于对经第二CNN神经网络层处理的电网运行方式启动送电一二次送 电方案信息进行编码； 所述注意力层用于对编码后的所述电网运行方式启动送电一二次送电方案信息进行 选择； 所述条件随机场层用于对选择后的所述电网运行方式启动送电一二次送电方案信息 进行预测。 7.根据权利要求2所述的方法， 其特 征在于， 所述CNN神经网络模型一般主 要包括输入层， 卷积层， 池化层以及输出层； 所述输入层由一个全连接层和一个softmax组成 输入层用于将句子转 为矩阵形式表示。 8.根据权利要求7所述的， 其特征在于， 所述第二CNN神经网络层采用如下公式进行卷 积操作： ci＝f(ω*x[i:i+k‑1],[j:j+k‑1]+b)； ci—电网运行 方式启动送电一 二次送电方案信息的m个不同角度的特 征分配图； ciòR(m*k*k)， f—ReLU函数； b—偏置值； 采用如下公式获取电网运行 方式启动送电一 二次送电方案信息的特 征分配图 xc＝Wcc+bc； xc—方案中句子的词向量xcòR(n*nc)， WcòR(m)—全连接的权 重学习矩阵； còR(m*n*nc)—多个角度信息的特 征图； b—偏置值， b òR(n*nc)。 9.根据权利要求1所述的方法， 其特征在于， 在所述注意力层用于对编码后的所述电网 运行方式启动送电一 二次送电方案信息进行选择的步骤中， 采用如下公式： Q， K和V分别为 查询(Query)、 键(K ey)和值(Value)矩阵； 所述条件随机场层用于对选择后的所述电网运行方式启动送电一二次送电方案信息 进行预测的步骤中， 采用如下公式进行 特征预测： 权　利　要　求　书 2/3 页 3 CN 115526182 A 3