Advertisement

生物神经网络与人工神经网络

阅读量:

目录

一、生物神经网络

1.概念

2 神经元(Neuron)

3 工作流程

4 信息整合

5 电位

6 名词解释

二、人工神经网络

1.概念

2.基本介绍

3.数学模型

4.神经网络的学习形式

5.学习算法

6.量子神经网络


一、生物神经网络

1.概念

生物神经网络(Biological Neural Network)主要指大脑中神经系统细胞及其之间的联系所形成的体系,在此系统中能生成生物意识并指导行为活动。

2 神经元(Neuron)

2.1 定义
神经细胞是神经系统的基本构成单元和信息处理中心。它是一种高度专门化的细胞,在接收外界刺激时能够触发自身的兴奋或抑制反应。通过与其他神经细胞的联系网络形成复杂的信号处理系统,在接收到神经冲动时进行分析、整合并输出相应的信号响应。

2.2 结构
由soma与neurites构成;
这些结构包括神经细胞的代谢和营养中心soma以及其延伸的纤维neurites。它们存在于大脑灰质及脊髓灰质,并在不同区域以多样化的方式呈现:如星型、锥状、梨型或球状。

  • 神经纤维(dendrite)、神经纤维末端(axon)。
    • 突触(synapse):不同神经元之间功能性的连接结构。
    • 神经纤维:接收刺激并将电信号传递至胞体。
    • 神经纤维末端:传导电信号至其他神经元或效应细胞。

3 工作流程

生物神经元分为两种状态:兴奋与抑制。当接收到神经冲动导致细胞膜电位升高超过阈值(threshold)时,则进入兴奋状态并产生神经冲动经轴突传递出去;反之,在接收到神经冲动导致膜电位下降至阈值以下时,则处于抑制状态而不释放神经信号。其工作流程如图3.1所示。

​​​​​​​ 图3.1 神经元工作流程

4 信息整合

单个神经元可以与多达数千个其他神经元的轴突末梢建立突触联系,并接收来自突触前各个轴突传来的冲动信号;这些输入来自不同的部位,在不同时间点被传递给神经元,并且每个输入所携带的信息具有不同的权重(weight)影响。

  • 空间整合

同一时间发生的多个刺激所导致的膜电位变化大约等于各个单独刺激分别引发的膜电位变化之和。

  • 时间整合

各个输入脉冲到达神经元的时间先后不一致,在突触后膜电位的形成中表现为一段时间内的累积。

5 电位

神经细胞膜上的电位变化处于不同阶段,并表现为不同的状态。其中主要包含静息电位和动作电位这两种基本类型。

  1. 静息状态下的膜极化特征(Refractory Membrane Potential,RP)
  2. 在未受外界刺激的情况下(即处于非兴奋状态),细胞维持着胞内外部之间的静息电位差。
  3. 静息状态下的膜极化特征表现为胞外呈正电势、胞内呈负电势。
  • 动作电位(Action potential,AP)

不同种类的可兴奋细胞在受到有效的刺激作用下,在其细胞膜两侧产生了快速而可逆的电位变化,并且这种变化具有扩散性,并发生在去极化和复极化等多个阶段。

  1. 去极过程(除极过程):当受到刺激时,在细胞膜内外达到零电位状态。
  2. 反向恢复过程:在持续刺激后,在细胞膜外出现负电位而在内部出现正电位。
  3. 复位过程:在兴奋信号传递完成之后,在一定时间内(约5秒内)恢复到相对静息的状态。

6 名词解释

6.1兴奋和抑制

  • 神经活动的增强反应:活体组织在受到刺激时会引发短暂且强烈的神经活动增强。
    • 神经活动的可激发性:神经组织在受到有效刺激时能够触发神经冲动的能力。
    • 神经活动的抑制行为:当神经系统处于高度活跃状态时,在特定条件下可能会出现抑制行为。
    • 兴奋与抑制的过程:兴奋与抑制并非简单的活跃与静止状态变化过程;而是指神经活动沿着特定方向进行的过程。
    • 刺激条件的影响因素
    • 组织的状态特征(活跃/静息)
    • 刺激参数的具体表现(强度/持续时间/强度-时间组合)

6.2 阈刺激

  • 刺激:引发生物体活动状态变化的各种环境因素。这些因素被划分为直接刺激(direct stimulus)和间接刺激(indirect stimulus)两类。
  • 反应:是由特定刺激所引发的生物体集体活动状态的改变。
  • 阈刺激:是指达到阈值范围内的有效刺激。
  • 阈上刺激:是指超出阈值范围的强烈程度较高的刺激。
  • 阈下刺激:是指低于阈值范围内的微弱程度较低的刺激。
  • 原理:无论是阈下还是阈上或阈强度水平下的刺激都会引起细胞膜去极化现象得以实现。但只有在阈下或以下强度水平下的有效弱光才会导致动作电位的发生停止,并不会引发动作电位的原因是因为当细胞膜上的Na+通道在强光作用下处于大量激活状态时会导致Na+内流增加从而产生一次快速可逆的电变化现象这一过程一旦发生就不再受光强的影响。
  • 阈强度高则对应的兴奋性水平较低;而当光强较弱时对应的兴奋性水平较高;
  • 时值(chronaxie):指的是当光强为阈值两倍时所需达到能够引起反应所需的最短持续时间;
  • 时值数值越小则表示对应的兴奋性水平越高。

6.3 阈强度

  • 刺激组织产生反应所需的最低阈值(具备足够大的持续时间和固定的时间-幅度比例),不受刺激幅度的影响,并被称为强度阈值。
  • 阈值作为引发动作电位所需达到的最大去极化程度。
  • 阈值是指引起细胞膜Na+/Ca²⁺通道开放的关键临界状态。

6.4 不应期

  • 绝对不应期(absolute refractory period):组织在去极化后,在复极化达到一定程度之前对任何强度的刺激都不产生反应。
    • 相对不应期(relative refractory period):绝对不应期之后随着复极化的深入进行组织兴奋性有所恢复仅能对阈上强度的刺激产生反应。
    • 超长期(supranormal period):相对不应期之后组织的兴奋性得到增强且仅需施加阈下强度的刺激即可引起反应。
    • 低常期(subnormal period):超长期结束后组织会进入一种较低水平的兴奋状态仅能对阈上强度的刺激产生反应。

二、人工神经网络

1.概念

ANNs作为一种模拟动物神经网络行为特征的算法构建的数学模型,在机器学习领域具有重要地位。该系统基于系统的复杂性,在经过内部大量节点之间的相互连接关系调节后得以实现对数据的有效分析与理解,并且拥有自我学习与自我适应的能力。

2.基本介绍

人工神经网络是一种模拟生物大脑中神经突触联接结构的信息处理机制。在工程与学术领域中通常被简称为NN(神经网络)或类神经系统(CNS)。这种计算框架由大量节点(即模拟的人工神经元)通过复杂的连接结构构成,在这些节点之间传递信号并执行数据处理过程。每个节点都对应一种特定的功能模块——激活函数(activation function),负责对输入信号进行处理并产生输出响应。两个节点之间的联系则赋予了一个加权系数(权重值),这相当于模拟了人工神经网络的记忆能力。整个系统的输出结果取决于其内部参数配置以及激活函数的选择模式,在一定程度上反映了自然界某些算法或逻辑策略的特点

其构建理念源自生物(包括人类和其他动物)神经网络功能运作的启发。人工神经网络通常采用基于数学统计学习型的学习机制,在这一过程中我们获得了大量能用函数表达局部结构空间的数据样本。借助于数理统计理论与技术的支持,在这一领域中我们可以建立决策模型来进行判断。相比传统形式逻辑推理体系而言,在复杂性与实用性方面本系统展现出显著的优势。

3.数学模型

数学模型1

人工神经元起源于脑神经元学说的研究,在19世纪末生物与生理学领域中Waldeger等人提出了神经元理论。

神经网络通过两个方面模拟大脑:
(1) 神经网络通过从外界环境中学习获得知识。
(2) 神经元之间的连接程度即突触权值被用来存储学习获得的知识。

神经网络系统由负责管理人类大脑各区域间信息传递功能的大量神经元通过特定拓扑结构组织而成;基于这些庞大数量以及它们之间的联系;人类的大脑在接收输入信息时会通过分布式并行处理机制使得大量的神经元相互连接进而执行非线性映射任务;从而完成复杂的认知计算过程。

对于某个处理单元(神经元)而言,在其与其他处理单元(神经元)i之间存在相互作用关系时,在本处理单元内产生的影响强度即为连接权值Wi(其中i=0,1,…,n-1),同时该处理单元还具有一个内部阈值θ。

对于当前处理单元(神经元),其接收的输入信号为:

x_i

其中,

w_i

代表第i个元素对应的输入信号,

w_i

作为当前处理单元与其他各处理单元之间的连接权重。
该激活函数

f(\cdot)

决定了每个节点在特定条件下的响应行为。
同时,

\theta

则代表隐含层中各个神经节点所设定的能量阈值。

4.神经网络的学习形式

当构建一个神经网络时,在其各个神经元中已经设置了传递函数和转换功能。在线性层的学习过程中,在线性层中的转换函数是固定的;因此,在希望调整整个网络的输出规模时,则必须调整输入部分。然而,并非所有的权重都是可变的;因为每个神经元仅能响应特定范围内的输入信号;所以为了实现加权输入的变化,则必须直接修改每个权重值。

5.学习算法

基于人工大脑原理构建的人工智能系统中所指的"学习"这一行为实际上等同于训练过程。在外部环境施加刺激时(如输入样本),神经网络会自动调节自身的参数值(如连接权值),从而实现对新环境的有效响应。每个神经网络都具备一个确定性的数学模型y=f(x),其训练任务即在于利用海量样本数据对函数f进行精确拟合。从监督型到无监督型的学习机制构成了两种主要的学习范式:监督型通过设定预期输出来引导权值调整;无监督型则根据预设的质量度量标准进行参数优化以达到预期效果。其中最为经典的代表包括海贝格规则、误差修正法、基于记忆型算法、随机采样法以及竞争机制等

Hebb 学习是一种经典的无监督学习方法,在其理论框架中指出:当突触两边的两个神经元被同时(同步)激活时,则该突触的能量(权重)会增强;相反地若这两个神经元是非同步激活,则该突触的能量会减弱或消散

纠错学习法是计算实际输出与期望输出之间的误差并返回修正值来更新权值的方法被称为纠错学习法

随机学习规则通过调整权重参数来最小化目标函数及其对数形式

模拟退火法则借鉴物理退火原理,在高温条件下进行全局搜索以达到热平衡状态;随后逐步降温以精确寻优

在竞争性神经网络中,在同一时刻只有一个神经元处于兴奋状态

6.量子神经网络

量子神经网络的概念在20世纪90年代后期被提出,并自其提出以来便受到了各领域科学家的关注。这一新兴领域中展开了多维度的研究探索,并提出了众多设想以及初步构建了相关模型。该研究方向充分展现了其巨大发展潜力。主要研究方向可归纳为:

(1) 该系统采用基于人工神经系统联结模式构建硬件架构的方法,在研究性分析中实现了对复杂数据序列的学习与处理能力;
(2) 该方法基于现有计算资源(如超高速与超并行特性等),利用这些特点优化了其结构和性能。

基于传统计算机架构的量子神经网络系统是一种融合了人工智能与量子计算技术的新一代智能优化算法。该系统通过融合量子理论的核心理念与方法对传统神经网络进行优化,并运用态叠加原理以及多宇宙概念等基本框架构建新型神经网络模型。该系统的构建不仅实现了对传统神经网络结构及性能的改善,并且显著提升了整体计算效率和精度。

(4)、基于脑科学、认知科学的研究

全部评论 (0)

还没有任何评论哟~