深度学习跨模态图文检索研究综述

被引:22
作者
刘颖 [1 ,2 ,3 ]
郭莹莹 [1 ]
房杰 [1 ,2 ,3 ]
范九伦 [1 ,3 ]
郝羽 [1 ,3 ]
刘继明 [4 ]
机构
[1] 西安邮电大学图像与信息处理研究所
[2] 陕西省无线通信与信息处理技术国际合作研究中心
[3] 西安邮电大学电子信息现场勘验应用技术公安部重点实验室
[4] 西安邮电大学通信与信息工程学院
关键词
跨模态检索; 深度学习; 特征学习; 图文匹配; 实值表示; 二进制表示;
D O I
暂无
中图分类号
TP391.41 []; TP18 [人工智能理论]; TP391.3 [检索机];
学科分类号
080203 ; 081104 ; 0812 ; 0835 ; 1405 ; 081203 ;
摘要
随着深度神经网络的兴起,多模态学习受到广泛关注。跨模态检索是多模态学习的重要分支,其目的在于挖掘不同模态样本之间的关系,即通过一种模态样本来检索具有近似语义的另一种模态样本。近年来,跨模态检索逐渐成为国内外学术界研究的前沿和热点,是信息检索领域未来发展的重要方向。首先,聚焦于深度学习跨模态图文检索研究的最新进展,对基于实值表示学习和基于二进制表示学习方法的发展动态进行了详细介绍,其中,基于实值表示的方法用于提升跨模态语义相关性,进而提高跨模态检索准确度,基于二进制表示学习的方法用于提升跨模态图文检索效率,减小存储空间;其次,总结了跨模态检索领域常用的公开数据集,对比了不同算法在不同数据集上的性能表现;此外,总结并分析了跨模态图文检索技术在公安、传媒及医学等领域的具体应用情况;最后,结合现有技术探讨了该领域的发展趋势及未来研究方向。
引用
收藏
页码:489 / 511
页数:23
相关论文
共 49 条
[1]   多特征融合的图文微博情感分析 [J].
凌海彬 ;
缪裕青 ;
张万桢 ;
周明 ;
武继刚 .
计算机应用研究, 2020, 37 (07) :1935-1939+1951
[2]   基于大数据的图像检索技术在侦查中的应用 [J].
曾倩倩 ;
张婷婷 .
电子技术与软件工程, 2018, (21) :175-176
[3]   跨模态多标签生物医学图像分类建模识别 [J].
于玉海 ;
林鸿飞 ;
孟佳娜 ;
郭海 ;
赵哲焕 .
中国图象图形学报, 2018, (06) :917-927
[4]   基于表示学习的跨模态检索模型与特征抽取研究综述 [J].
李志义 ;
黄子风 ;
许晓绵 .
情报学报, 2018, (04) :422-435
[5]   跨模态检索研究综述 [J].
欧卫华 ;
刘彬 ;
周永辉 ;
宣瑞晟 .
贵州师范大学学报(自然科学版), 2018, 36 (02) :114-120
[6]  
基于深度学习的跨模态检索[D]. 邵杰.北京邮电大学 2017
[7]  
基于深度学习的跨模态检索研究[D]. 冯方向.北京邮电大学 2015
[8]  
基于深度学习的跨模态图文检索方法研究[D]. 赵天.桂林电子科技大学 2019
[9]  
基于文本和图像的舆情分析方法研究[D]. 申自强.江苏大学 2018
[10]  
社交网络跨媒体国民安全事件语义学习与行为分析研究[D]. 何奕江.北京邮电大学 2018