到底什么是线性函数,什么是非线性函数
发布时间
阅读量:
阅读量
Linear Functions
即是数学领域中的线性函数,在某些情况下也被用作对一次函数的另一种称呼。
提示:值得注意的是,一次函数并不一定都是线性的(稍后我将介绍如何区分两者)。
非线性
非线性的定义是其图形并非呈直线排列的特点。
其具体表现形式包括指数型曲线(exponential curves)、幂律分布曲线(power law distributions)以及多项式模型(polynomial models)等基础初等函式。
从数学的角度如何区别于什么是线性函数,什么是非线性函数呢?
对于一个函数y=f(x)来说,如果他是有线性的,则必须要满足两个法则:
- 比例性
- 叠加性
比例性:
对于任意的a,都有ay = f(ax)成立,即将x扩大a的倍数,随之y也扩大a
叠加性:
若y_1=f(x_1), y_1=f(x_2)则(y_1+y_2) = f(x_1 + x_2)
例如y=x+1是一条直线;然而塔并非呈线性特征,并不符合前述要求;因此并非所有的直线都呈现线性特性。
但是尴尬的问题来了!!!
在ReLU激活函数中,它本质上是一个非线性运算,并对属于线性函数的对象进行作用。
所以:对于 y = wx + b这个函数,如果从上面数学的角度分析就出问题了
难道要对非线性函数进行非线性操作???
所以我们暂且就把深度学习的领域和数学领域分开
在深度学习的领域就是将y = wx + b这个函数作为线性函数处理!!!
全部评论 (0)
还没有任何评论哟~
