深度学习 day01深度学习概论
发布时间
阅读量：
阅读量
01 什么是神经网络
深度学习指的是训练神经网络
ReLU（正向线性单元）模型：正向过程将所有输入信号转换为非负值。该图形展示了基于该模型构建的一个单神经元网络架构示意图。
下面是有更多特征时的神经网络：神经网络系统本身具有令人惊叹的能力，在任何输入规模下都能准确地从输入x推导出输出y，并且所有的计算过程都是自动生成的。在构建神经网络时，系统会自主决定中间节点的作用与意义，在给定四个输入特征的情况下（你可以自由设计计算方式），因此在神经网络架构中，在输入层与中间层之间建立连接的数量会显著增加。
02 用神经网络进行监督学习
以下列举了神经网络创造价值的一些实例：在图像处理领域中通常采用卷积神经网络（CNN）进行建模；针对时间序列数据则常用循环神经网络（RNN）进行分析，在这一过程中其最自然的语言表达形式也是一连串的数据流；而对于较为复杂的应用场景则需要构建更为复杂的混合型神经网络架构
- 下图分别是：标准神经网络、卷积神经网络、循环神经网络
- 机器学习方法广泛应用于处理两种主要类型的数据：一种是有序且可组织的结构化信息；另一种是非结构性的多模态信号如语音、图像与自然语言文本。 *
03 为什么深度学习会兴起？
在对带标签样本的数据进行训练时，在不同算法之间进行了比较研究。当数据量逐渐增大时（即随着数据量的增加），各算法的表现会有所变化。由此可知，在性能上神经网络明显优于其他算法
提高计算速度：左图通过调整算法实现代码运行效率的提升。具体而言，在机器学习模型中，σ函数在两端区域的梯度趋于零会导致学习过程会变得异常缓慢（在梯度下降算法中参数更新速率低自然会导致整体学习进度缓慢）。为了改善这一问题，在神经网络设计中引入ReLU激活函数将更为有效：其对所有正值输入输出均为1。右图则通过优化计算流程以缩短每次迭代所需的时间来提高整体效率。
全部评论 (0)
还没有任何评论哟~