论文中文题目:面向少样本学习的深度神经网络设计及应用
论文英文题目:DESIGN AND APPLICATION OF DEEP NEURAL NETWORKS FOR FEW SHOT LEARNING
作 者:郭楠
指导教师:乔俊飞 教授
培养单位:信息学部
学 科:控制科学与工程
论文主要贡献及创新点
1.针对当前常用的卷积神经网络在处理少样本学习问题时容易因为提取的特征中含有大量冗余,从而导致网络过拟合问题,设计了一种可嵌入深度卷积神经网络的混合注意力机制。该注意力机制结合了通道注意力和空间注意力的优点,且为模块化结构,可以嵌入到常见的卷积神经网络中,提高网络的精度,同时不会明显增加网络的训练参数。
2.针对直接采用深度网络模型建立样本和标签之间的非线性映射的方法在少样本学习上的精度不高的问题,设计了一种基于元学习和度量学习的深度神经网络模型。该模型在一个训练周期内可以生成多个参数模型,然后可以用原型网络方法构造了一个样本类别特征的度量空间,减少了神经网模型的不确定性和不可解释性,同时提高了在少样本问题上的精度。
3.针对传统深度卷积神经网络在特征提取过程中预设特征分布规律(高斯分布),从而导致在少样本问题上难以准确的提取关键特征的问题,提出了一种基于主动视觉机制的新型池化框架用来优化深度神经网络在少样本问题上的特征提取机制。该框架可以涵盖当前主流的池化方法并且可以生成新的池化方法,从而丰富神经网络训练过程中的特征筛选机制,并且可以利用主动视觉的思想,智能的选择合适的池化方法,提高网络的精度,加快网络的收敛。
4.针对放空火炬废气燃烧状态检测这个大气环境感知的重要场景,本课题首先针对类似相关场景烟雾/火焰检测进行了小样本条件下的神经网络模型的设计和训练。然后,我们将模型训练好的特征参数迁移到放空火炬燃烧状态监控模型中去,构建了一个高效、准确的燃烧状态监控系统,实现了对放空火炬燃烧状态的远程非接触式的实时监控,对石化工厂的安全生成和大气环境保护具有重要的价值。