Advertisement

到底什么是线性函数,什么是非线性函数

阅读量:

Linear Functions
即是数学领域中的线性函数,在某些情况下也被用作对一次函数的另一种称呼。
提示:值得注意的是,一次函数并不一定都是线性的(稍后我将介绍如何区分两者)。

非线性
非线性的定义是其图形并非呈直线排列的特点。
其具体表现形式包括指数型曲线(exponential curves)、幂律分布曲线(power law distributions)以及多项式模型(polynomial models)等基础初等函式。

从数学的角度如何区别于什么是线性函数,什么是非线性函数呢?
对于一个函数y=f(x)来说,如果他是有线性的,则必须要满足两个法则:

  1. 比例性
  2. 叠加性

比例性:
对于任意的a,都有ay = f(ax)成立,即将x扩大a的倍数,随之y也扩大a

叠加性:
y_1=f(x_1), y_1=f(x_2)(y_1+y_2) = f(x_1 + x_2)


例如y=x+1是一条直线;然而塔并非呈线性特征,并不符合前述要求;因此并非所有的直线都呈现线性特性。


但是尴尬的问题来了!!!

在ReLU激活函数中,它本质上是一个非线性运算,并对属于线性函数的对象进行作用。

所以:对于 y = wx + b这个函数,如果从上面数学的角度分析就出问题了

难道要对非线性函数进行非线性操作???

所以我们暂且就把深度学习的领域和数学领域分开

在深度学习的领域就是将y = wx + b这个函数作为线性函数处理!!!


全部评论 (0)

还没有任何评论哟~