(19)中华 人民共和国 国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202111487688.7 (22)申请日 2021.12.08 (65)同一申请的已公布的文献号 申请公布号 CN 113887679 A (43)申请公布日 2022.01.04 (73)专利权人 四川大学 地址 610065 四川省成 都市武侯区一环路 南一段24号 (72)发明人 周刚　江静　琚生根　 (74)专利代理 机构 北京超凡宏宇专利代理事务 所(特殊普通 合伙) 11463 代理人 王新哲 (51)Int.Cl. G06K 9/62(2022.01) G06F 30/27(2020.01) (56)对比文件 CN 110619045 A,2019.12.27CN 109472024 A,2019.0 3.15 CN 113159121 A,2021.07.23 CN 113362814 A,2021.09.07 US 8260052 B1,2012.09.04 CN 112465017 A,2021.0 3.09 Guodong Guo等.A probabi listic fusi on approach to human a ge predicti on. 《2008 IEEE Computer Society Co nference o n Computer Visi on and Pat tern Recogn ition Workshops》 .20 08, 胡思才等.基于深度神经网络和概 率矩阵分 解的混合推荐算法. 《四川大 学学报(自然科 学 版)》 .2019,第5 6卷(第6期), 陈太波等.后验概 率图与补白模型二次融合 的关键词识别. 《浙江大 学学报(工学版)》 .2020, 第54卷(第6期), 审查员 刘利 (54)发明名称 融合后验概率校准的模型训练方法、 装置、 设备及介质 (57)摘要 本发明实施例公开了一种融合后验概率校 准的模型训练方法、 装置、 设备及介质， 方法包 括： 首先将第一预设数量的样 本输入至分类模型 以进行预测， 得到每个样本的预测类别和预测后 验概率； 接着， 根据每个样 本的预测后验概率， 将 第一预设数量的样本划分至概率区间中， 即对样 本进行区间分类； 再统计每个概率区间内， 每种 预测类别的样本的数量和每种预测类别的所有 样本中预测正确的样本的数量， 得到经验后验概 率； 根据每个样本对应的预测后验概率和经验后 验概率， 计算概率损失值， 并根据概率损失值训 练分类模型。 由此， 本发明实施例使得模型输出 的预测后验概率与真实置信 度匹配， 避免了模型 出现“盲目自信 ”的情况。 权利要求书2页 说明书8页 附图4页 CN 113887679 B 2022.03.08 CN 113887679 B 1.一种融合后验概 率校准的模型训练方法， 其特 征在于， 包括： 将训练集中第 一预设数量的样本输入至预设的分类模型， 得到每个样本的预测类别和 预测后验概率， 其中， 所述训练集包括每个样 本的真实类别， 所述预测 后验概率表示所述分 类模型预测样本为预测类别的概 率， 所述样本包括文本样本； 根据每个所述样本的预测后验概率， 将所述第 一预设数量的样本划分至第 二预设数量 的概率区间中； 统计每个概率区间内每种预测类别的样本的数量， 及每个概率 区间内每种预测类别的 所有样本中预测正确的样本的数量， 得到每个概率区间内每种预测类别的样本对应的经验 后验概率， 其中， 所述经验后验概率表示每个概率区间内每种 预测类别的所有样本中预测 正确的样本的占比； 根据每个所述样本对应的预测后验概率和经验后验概率， 利用第 一预设算式计算所述 第一预设数量的样本对应的概 率损失值， 并根据所述 概率损失值训练所述分类模型； 所述将训练集中第 一预设数量的样本输入至预设的分类模型， 得到每个样本的预测类 别和预测后验概 率， 包括： 将训练集 中第一预设数量的样本输入至源于Transformers的双向编码器语言模型， 得 到每个所述样本的字符表示； 将每个所述样本的字符表示输入至预设的分类模型， 得到每个所述样本的预测类别和 预测后验概 率。 2.根据权利要求1所述的方法， 其特 征在于， 所述第一预设算式包括： 式中，Lcal表示概率损失值， n表示第一预设数量， k表示真实类别的数量， 表示预测 后验概率， 表示经验后验概 率。 3.根据权利要求1所述的方法， 其特 征在于， 还 包括： 根据每个样本的真实类别、 预测类别及预测后验概率， 利用第二预设算式计算所述第 一预设数量的样本对应的分类损失值； 所述根据所述 概率损失值训练所述分类模型， 包括： 根据所述分类损失值和所述 概率损失值训练所述分类模型。 4.根据权利要求3所述的方法， 其特 征在于， 所述第二预设算式包括： 式中，Lxent表示分类损失值， n表示第一预设数量， k表示真实类别的数量， 表示预测 后验概率； 当第i个样本的预测类别与第 i个样本的真实类别一 致时， 取1， 否则取0 。 5.根据权利要求3所述的方法， 其特 征在于， 所述方法还 包括： 从所述第一预设数量的样本中选取正样本及与所述 正样本对应的负 样本；权　利　要　求　书 1/2 页 2 CN 113887679 B 2根据所述正样本和所述负样本， 利用第 三预设算式计算所述第 一预设数量的样本对应 的负例损失值； 所述根据所述分类损失值和所述 概率损失值训练所述分类模型， 包括： 根据所述分类损失值、 所述 概率损失值及所述负例 损失值训练所述分类模型。 6.根据权利要求5所述的方法， 其特 征在于， 所述第三预设算式包括： 式中，Lneg表示负例损失值， m表示负样本的数量， x表示正样本， 表示对应 x的第i个负 样本， 表示 的余弦相似度。 7.根据权利要求1所述的方法， 其特 征在于， 每 个所述概率区间的长度相同。 8.一种融合后验概 率校准的模型训练装置， 其特 征在于， 包括： 预测模块， 用于将训练集中第一预设数量的样本输入至预设的分类模型， 得到每个样 本的预测类别和预测后验概率， 其中， 所述训练集包括每个样本的真实类别， 所述预测 后验 概率表示所述分类模型 预测样本为预测类别的概 率， 所述样本包括文本样本； 划分模块， 用于根据每个所述样本的预测后验概率， 将所述第一预设数量的样本划分 至第二预设数量的概 率区间中； 统计模块， 用于统计每个概率区间内每种预测类别的样本的数量， 及每个概率区间内 每种预测类别的所有样本中预测正确的样本的数量， 得到每个概率区间内每种预测类别的 样本对应的经验后验概率， 其中， 所述经验后验概率表示每个概率区间内每种预测类别的 所有样本中预测正确的样本的占比； 训练模块， 用于根据每个所述样本对应的预测后验概率和经验后验概率， 利用第一预 设算式计算所述第一预设数量的样本对应的概率损失值， 并根据所述概率损失值训练所述 分类模型； 所述将训练集中第 一预设数量的样本输入至预设的分类模型， 得到每个样本的预测类 别和预测后验概 率， 包括： 将训练集 中第一预设数量的样本输入至源于Transformers的双向编码器语言模型， 得 到每个所述样本的字符表示； 将每个所述样本的字符表示输入至预设的分类模型， 得到每个所述样本的预测类别和 预测后验概 率。 9.一种计算机设备， 其特征在于， 包括存储器以及处理器， 所述存储器存储有计算机程 序， 所述计算机程序在所述处理器上运行时执行如权利要求1 ‑7任一项所述的融合后验概 率校准的模型训练方法。 10.一种计算机可读存储介质， 其特征在于， 所述计算机可读存储介质上存储有计算机 程序， 所述计算机程序在处理器上运行时执行如权利要求1 ‑7任一项所述的融合后验概率 校准的模型训练方法。权　利　要　求　书 2/2 页 3 CN 113887679 B 3