根据国家网信办相关规定和要求,《计算机应用研究》编辑部网站域名更换为arocmag.cn,原域名 arocmag.com 自2025年1月1日起自动跳转到新域名。

基于信息互补与交叉注意力的跨模态检索方法

Information complementarity and cross-attention for cross-modal retrieval
王丹
张峰
张辉
朱杰
河北大学 数学与信息科学学院, 河北 保定 071002

摘要

随着互联网中多模态数据的快速增长,跨模态检索技术受到了广泛关注。然而,现实中一些多模态数据存在语义信息缺失,导致模型难以准确提取出其中蕴含的语义特征。此外,一些多模态数据还包含了与语义无关的冗余信息,干扰了模型对关键信息的提取。为此,提出了一种基于信息互补与交叉注意力(Information Complementarity and Cross-Attention,ICCA)的跨模态检索方法,该方法利用图卷积网络(Graph Convolutional Network,GCN)建模多标签和数据之间的关系,以补充多模态数据中缺失的语义信息与多标签中缺失的样本细节信息。此外,交叉注意力子模块利用多标签信息,过滤掉数据中语义无关的冗余信息。为了使语义相似的图像和文本在公共表示空间中实现更好地匹配,还提出了一种语义匹配损失,此损失将多标签嵌入融入到图像和文本的匹配过程中,用于进一步增强公共表示的语义性。通过在NUS-WIDE、MIRFlickr-25K和MS-COCO这三个广泛使用的数据集上进行实验,实验结果表明,ICCA在这些数据集上的平均精度均值(mean Average Precision,mAP)分别为0.808,0.859和0.837,显著优于现有方法。

基金项目

国家自然科学基金项目(61802269)
河北省自然科学基金项目(F2022511001)
河北省高等学校科学技术研究项目(ZC2022070)
河北大学高层次人才科研启动项目(521100223212)
河北省创新能力提升计划—科技平台项目(22567623H)

出版信息

DOI: 10.19734/j.issn.1001-3695.2025.01.0003
出版期卷: 《计算机应用研究》 优先出版, 2025年第42卷 第7期

发布历史

[2025-03-14] 优先出版

引用本文

王丹, 张峰, 张辉, 等. 基于信息互补与交叉注意力的跨模态检索方法 [J]. 计算机应用研究, 2025, 42 (7). (2025-03-14). https://doi.org/10.19734/j.issn.1001-3695.2025.01.0003. (Wang Dan, Zhang Feng, Zhang Hui, et al. Information complementarity and cross-attention for cross-modal retrieval [J]. Application Research of Computers, 2025, 42 (7). (2025-03-14). https://doi.org/10.19734/j.issn.1001-3695.2025.01.0003. )

关于期刊

  • 计算机应用研究 月刊
  • Application Research of Computers
  • 刊号 ISSN 1001-3695
    CN  51-1196/TP

《计算机应用研究》创刊于1984年,是由四川省科技厅所属四川省计算机研究院主办的计算技术类学术刊物。

《计算机应用研究》瞄准本学科领域迫切需要的前沿技术,及时反映国内外计算机应用研究的主流技术、热点技术及最新发展趋势。主要刊载内容包括本学科领域高水平的学术论文、本学科最新科研成果和重大应用成果。栏目内容涉及计算机学科新理论、计算机基础理论、算法理论研究、算法设计与分析、区块链技术、系统软件与软件工程技术、模式识别与人工智能、体系结构、先进计算、并行处理、数据库技术、计算机网络与通信技术、信息安全技术、计算机图像图形学及其最新热点应用技术。

《计算机应用研究》拥有众多高层次读者、作者,读者对象主要为从事计算机学科领域高、中级研究人员及工程技术人员,各高等院校计算机专业及相关专业的师生。多年来《计算机应用研究》的总被引频次及Web下载率一直名列本学科同类学术刊物前茅,所刊发的学术论文以其新颖性、学术性、前瞻性、导向性、实用性而备受广大读者的喜爱。


收录和评价

  • 第二届国家期刊奖百种重点期刊
  • 中国期刊方阵双效期刊
  • 全国中文核心期刊(北大2023年版)
  • 中国科技核心期刊
  • 中国科学引文数据库(CSCD)来源期刊
  • RCCSE中国核心学术期刊
  • 中国计算机学会会刊
  • 2020—2022年科技期刊世界影响力指数(WJCI)报告收录期刊
  • 中国科技期刊精品数据库全文来源期刊
  • 中国学术期刊综合评价数据库来源期刊
  • 《中国期刊网》《中国学术期刊(光盘版)》来源期刊
  • 2017—2019年中国国际影响力优秀学术期刊(自然科学与工程技术)
  • 中国精品科技期刊顶尖学术论文(F5000)项目来源期刊
  • 《中国工程技术电子信息网》《电子科技文献数据库》来源期刊
  • 英国《科学文摘》(INSPEC)来源期刊
  • 《日本科学技术振兴机构数据库》(JST)来源期刊
  • 俄罗斯《文摘杂志》(AJ, VINITI)来源期刊
  • 美国《艾博思科学术数据库》(EBSCO)全文来源期刊
  • 美国《剑桥科学文摘(自然科学)》(CSA(NS))核心期刊
  • 波兰《哥白尼索引》(IC)来源期刊
  • 美国《乌利希期刊指南(网络版)》(Ulrichsweb)收录期刊