基于深度学习的图像识别算法研究

作者：丰晓霞
学校：太原理工大学
时间：2015
类型：硕士学位论文

思想
通过深度学习与支持向量机的融合–>搭建图像识别系统的模型框架
借助卷积限制性玻尔兹曼机–>分别搭建深度网络结构并优化其训练过程

摘要
本文的主要研究工作包含以下内容：
（1）对图像识别技术进行了深入分析，并系统性地探讨了现有算法的优缺点及适用场景；通过对比研究了深度学习的发展历程及其相较于浅层学习的优势所在，并归纳总结了深度学习的主要方法；详细阐述了限制性玻尔兹曼机（RBM）和卷积限制性玻尔兹曼机（C RBM）的工作原理及训练机制。
（2）提出了一种深度学习与支持向量机（SVM）相结合的新方法，并构建了一个多层分类模型；通过深度学习技术提取样本特征并将其与支持向量机结合用于图像识别任务；实验表明，在样本数量有限的情况下该方法较传统支持向量机及深度信念网络表现出更好的性能；进一步研究发现不同样本数量、网络层数及节点数目对分类精度的影响规律，并揭示了隐含层节点数目与支持向量数目之间的关系及其对结果的影响机制。
（3）针对由卷积限制性玻尔兹曼机构成的卷积深度信念网络（CDBN），提出了一种改进型训练算法；通过交替实施无监督预训练和有监督微调策略优化了网络训练流程；实验结果表明该改进型模型在图像识别任务中具有较高的可行性和有效性；此外还探讨了卷积核尺寸对模型性能的影响规律。

该领域涵盖多种核心技术要素。其中主要研究方向包括深度学习技术、图像识别系统、受限玻尔茨曼机模型、卷积受限玻尔茨曼机架构以及支持向量机方法。这些核心技术要素共同构成了现代机器学习算法体系的重要组成部分。

创新点
（1）结合应用深度学习算法与支持向量机方法开发了一种新的图像分类模型，在实际应用中进行了详细阐述其构建过程。针对样本数量有限的情况，在实验结果基础上与传统的支持向量机方法及深度信念网络进行了对比分析显示该方法在性能上优于其他两种方法；进一步分析表明不同隐含层节点数量及支撑向量数量之间的关系及其对分类性能的影响程度。
（2）基于卷积限制性玻尔兹曼机设计了一种改进型的深度学习架构，并采用了一种混合监督学习策略来优化其训练过程。实验结果表明该方法在图像识别任务中表现出色

问题
（1）深度学习的理论研究尚不完善，在有效性方面仍需建立严格的理论支撑。对比散度算法尚未得到充分研究，在收敛性和稳定性等关键问题尚不明确。
（2）当处理数据量较大的情况时，深度学习方法虽在准确率上具有优势但计算效率较低。提高算法效率的需求需要编程人员具备较高的技术能力同时模型性能受限于开发者的实践经验。
（3）降低相关参数调整难度的同时降低算法复杂度也是当前亟需解决的关键问题。

改进思路
（1）基于深度学习与其他技术融合的方法构建网络结构以提升模型性能为目标。
（2）对相关参数、训练方式及适用范围展开系统性优化工作。
（3）在处理过程中利用更为先进的特征提取手段获取高质量特征数据，并结合多种特征信息通过深度学习模型进行分类识别。