买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉江西财经大学申请的专利基于双元自注意力驱动的角色与词语表示学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120067306B 。

龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510562662.6，技术领域涉及：G06F16/334；该发明授权基于双元自注意力驱动的角色与词语表示学习方法是由帅宇鑫;万齐智;胡蓉;万常选;陈宇欣设计研发完成，并于2025-04-30向国家知识产权局提交的专利申请。

本基于双元自注意力驱动的角色与词语表示学习方法在说明书摘要公布了：本发明提出一种基于双元自注意力驱动的角色与词语表示学习方法，该方法包括：输入文本并给定篇章，对篇章进行句法与语义分析，结合预训练语言模型提取多层级特征；利用特征融合模块对不同的语义嵌入捕获角色的模式语义和词语的上下文语义的跨度关联；利用双向自注意力机制计算角色‑词语和词语‑角色的注意力权重，并对角色的初始嵌入表示和词语的初始嵌入进行更新；对更新的角色嵌入表示和更新的词语嵌入表示进行交互迭代；将最终的角色嵌入表示输入至多层感知机中进行融合更新，并利用跨度预测器进行预测，得到预测结果。本发明设计了融合嵌入学习框架和嵌入学习方法的模型及系统，训练学习有效的角色与词语表示。

本发明授权基于双元自注意力驱动的角色与词语表示学习方法在权利要求书中公布了：1.一种基于双元自注意力驱动的角色与词语表示学习方法，其特征在于，所述方法包括如下步骤： 步骤1、基于线性变换机制与门控神经网络构建特征融合模块，基于双向自注意力机制分别构建角色-词语自注意力模块和词语-角色自注意力模块，特征融合模块、角色-词语自注意力模块、词语-角色自注意力模块、多层感知机和跨度预测器构成预测模型； 步骤2、输入文本并给定篇章，对篇章进行句法与语义分析，结合预训练语言模型提取多层级特征，得到不同的语义嵌入； 步骤3、利用特征融合模块对不同的语义嵌入捕获角色的模式语义和词语的上下文语义的跨度关联，得到角色的初始嵌入表示和词语的初始嵌入表示； 步骤4、基于角色-词语自注意力模块，利用双元自注意力机制计算角色-词语的注意力权重，并对角色的初始嵌入表示进行更新，得到更新的角色嵌入表示； 基于词语-角色自注意力模块，利用双元自注意力机制计算词语-角色的注意力权重，并对词语的初始嵌入表示进行更新，得到更新的词语嵌入表示； 步骤5、对更新的角色嵌入表示和更新的词语嵌入表示进行交互迭代，分别得到当前交互迭代后的角色嵌入表示和当前交互迭代后的词语嵌入表示； 步骤6、以迭代的方式重复步骤5，得到最终的角色嵌入表示和最终的词语嵌入表示； 步骤7、将最终的角色嵌入表示输入至多层感知机中进行融合更新，并利用跨度预测器进行预测，得到预测结果； 基于预测结果构建交叉熵损失，利用交叉损失对预测模型进行优化，得到优化后的预测模型，利用优化后的预测模型得到最终的预测结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人江西财经大学，其通讯地址为：330000 江西省南昌市经济技术开发区双港东大街169号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。