Advertisement

人工神经网络有哪些主要的结构特征

阅读量:

人工神经网络的主要特点是什么?它具备哪些显著优势?主要特点包括以下几个方面:

人工神经网络有哪些主要特点?它有哪些显著优势?这些特点体现在以下几个方面:

首先具备自主学习能力,在实现图像识别的过程中只将大量不同类别的图像样本及其对应的目标分类输入到人工神经网络中, 依靠自主学习机制逐步掌握了类似图像的识别能力。这一特性对各类预测任务都发挥着至关重要的作用, 此类系统有望广泛应用于经济分析与市场评估领域, 其应用前景非常广阔

第二点具备联想存储能力。利用人工神经网络的反馈机制能够实现动态信息关联存储

第3点具有快速求解优化解的能力。通常情况下,求解一个复杂问题的优化解需要投入巨大的计算资源。通过专门针对该特定问题设计的一个反馈型人工神经网络,在充分利用其强大的计算能力时可能会迅速找到优化方案。

人工神经网络突出的优点:

(1)可以充分逼近任意复杂的非线性关系;

所有定量和定性的数据都按比例分布在网络内的各个神经单元中,并且表现出很强的抗干扰能力和自我纠错能力;

(3)采用并行分布处理方法,使得快速进行大量运算成为可能;

(4)可学习和自适应不知道或不确定的系统;

(5)能够同时处理定量、定性知识。

希望我的回答可以帮到您哦。

神经网络 的四个基本属性是什么?
神经网络 的四个基本属性:

Nonlinearity is a universal characteristic of nature. Brain intelligence is a nonlinear phenomenon. Artificial neurons operate in either an activated or inhibited state, exhibiting nonlinear behavior mathematically. Networks composed of threshold neurons demonstrate enhanced performance, improving fault tolerance and storage capacity.

(2)无限制性:由大量广泛连接的神经元构成的神经网络系统。系统的整体行为不仅受单个单元特性的制约,还与各单元间的相互作用及联系紧密相关。通过大量单元间的紧密联系来模拟大脑中非限制性的特征。作为典型代表的联想记忆展示了无限制性的特点。

(3)非常定性:人工神经网络具备自我适应性、自我组织能力以及自我学习能力。在处理信息的过程中不仅会不断变化而且所研究的非线性动态系统本身也会持续发生转变。迭代过程常被用来描述这些动态系统的演进过程。

(4)非凸性:基于特定条件,在这些条件下系统的演进方向由特定的状态函数决定。系统的相对稳定状态由能量函数的极值所确定。非凸性即该函数具有多个局部最小值,在这种情况下这些系统可能处于多个稳定的平衡状态中,并由此产生多种多样的演化路径。

扩展资料:

神经网络的特点优点:

人工神经网络的特点和优越性,主要表现在三个方面:

第一段

第二点具备联想存储能力。通过人工神经网络中的反馈连接结构就能实现这种联想。

第三点具有快速寻找优化解的能力。在解决复杂问题时被发现为被发现为一种效率极高的方法,在这种情况下往往需要巨大的计算资源才能找到解决方案;而通过应用专门针对该问题设计的人工神经网络模型,在计算机处理速度下可能迅速找到最优解。

参考资料:百度百科——人工神经网络。

AI爱发猫

深度学习中什么是人工神经网络?
人工神经网络(Artificial Neural Network, 即 ANN)是从信息处理角度对人脑神经元网络进行抽象的一种模型,在人工智能领域研究中的一个热点问题。其本质上是一种运算模型,在多个交叉学科领域已经取得了显著成效,在模式识别技术、智能机器人技术以及自动控制等多个应用方向上都表现出良好的性能特征。

人工神经网络由众多互联的处理单元构成其本质是一个非线性的自适应信息处理器它是建立在现代神经科学研究成果的基础之上旨在通过模仿大脑神经网络的处理和记忆机制来进行信息加工与数据学习该系统具有四个主要特性:

(1)非线性的相互关联是非自然界的普遍特性,在人工神经网络中存在两种动态模式——人工神经元呈现活跃与抑制两种动态模式,在数学模型中表现为一种非线性的相互作用机制。

人工神经网络。

具有阈值特性的神经元网络表现出更为优异的性能特征,在提升系统的容错能力的同时也显著增加了其存储容量的能力

(2)非局限性的一个常见特征是:一个神经网络通常由许多神经元以复杂的方式相互连接;系统的整体行为不仅受到单个单元特性的影响,并且其主要特性往往来源于各单元间的互动以及它们之间的联系;通过建立复杂的关系网络来模仿大脑的这种特性;记忆是典型的非局限定性实例。

(3)非常定性 –人工神经网络展现出自我适应与自我组织的能力,并具备自主学习功能。在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的过程中,在处理信息的同时(即在进行数据加工时),非线性动力系统的状态也会随之发生变化。通常采用迭代方法来描述动态系统的演进过程。

(4)非凸性是系统发展趋向的一个关键因素,在一定条件下它将由特定的状态函数决定。如能量函数所示,其极值对应着系统处于相对稳定状态。当状态函数是非凸时,则意味着该函数具有多个极值点。因此,在这种情况下系统的平衡状态也呈现多样化的可能性

在人工神经网络体系中,神经元的处理单元能够表示为不同的对象类型包括特征符号、字母符号以及概念符号等抽象元素。其中处理单元的类型分为三类:输入层节点用于接收外界输入信息并进行数据处理;输出层节点负责将系统的处理结果传递给后续环节;中间层节点即隐层节点则位于输入层与输出层之间,在信息传递过程中不具备直接向输出层传递信号的功能。

人工神经网络。

由系统外部进行监测的单元体。神经元之间的连接权重能够准确反映各单元之间的相互关联程度,在网络中这些处理机制表现在各单元之间的联系结构中。

总结: 人工神经网络属于一种无程序化且具有适应性的类脑型信息处理系统,并通过其自身的结构变化及动态行为实现了并行分布式的信息加工能力。同时在多层次或多层次上模拟了人类神经系统的信息处理机制。

人工神经网络有什么特点?
人工神经网络突出的优点。

(1)可以充分逼近任意复杂的非线性关系;

所有定量和定性的信息均以均等的方式被各神经元进行存储,并表现出极强的冗余度和容错能力。

(3)采用并行分布处理方法,使得快速进行大量运算成为可能;

(4)可学习和自适应不知道或不确定的系统;

(5)能够同时处理定量、定性知识。

人工神经网络包括哪些种类?人工神经网络模型主要依据其连接的拓扑结构、单个神经元的基本特性以及学习机制等因素展开研究与分析。到目前为止已发展出近40种不同的神经网络模型体系,并包含反向传播算法(BP算法)、感知器模型(Perceptron)、自组织映射(SOM)、Hopfield网型(HMM)、玻尔兹曼机(BM)、适应谐振理论(TRN)等多种典型代表以及其它相关因素在内的系统架构设计与应用研究工作。其中既有基于递归式的序列处理能力又具备并行计算特点的各种体系包含以下几种:反向传播算法(BP算法)、卷积层神经元(CNN)以及径向基函数型(RBFN)等等

每个神经元接收来自前一层的所有输入并传递给后一层;该系统不存在反馈连接;其拓扑结构可用有向无环图准确描述;这种架构负责将输入空间中的信号转化为输出空间中的模式;其信息处理能力源于一系列简单非线性单元函数按顺序组合运作的结果;相比复杂的回环结构而言此架构具有显著优势且易于构建;反传系统属于此类前馈架构的经典应用实例之一

(2)反馈网络 反馈型网络中的各个神经元之间存在相互反馈关系。可被建模为一个无向完全图的结构特性。其信息处理机制涉及状态空间的转换过程。研究发现该系统的稳定性特征与其联想记忆能力之间存在紧密联系。Hopfield网络及其变种波耳兹曼机都属于此类信息处理体系

学习作为神经网络研究的核心内容之一,在应对环境变化时展现出强大的动态特性。通过动态调整权值参数以适应外部条件的变化,在此过程中系统能够增强对特定刺激的响应能力和提高系统的容错能力。Hebb提出的Hebb学习规则为神经网络的学习算法奠定了理论基础:在突触前后神经元活动相关联的情况下加强突触连接强度;在此基础上发展出一系列适用于不同网络模型的学习规则与算法以满足特定需求。有效的学习算法不仅使得神经网络具备通过权值调节实现复杂信息处理的能力,并且能够构建出反映客观世界内在联系的知识体系以及高效的信息处理机制;这种机制主要体现在网络结构的动态连接上

根据学习环境不同,神经网络的学习方式可分为监督学习和非监督学习。在监督学习中,将训练样本的数据加到网络输入端,同时将相应的期望输出与网络输出相比较,得到误差信号,以此控制权值连接强度的调整,经多次训练后收敛到一个确定的权值。当样本情况发生变化时,经学习可以修改权值以适应新的环境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习时,事先不给定标准样本,直接将网络置于环境之中,学习阶段与工作阶段成为一体。此时,学习规律的变化服从连接权值的演变方程。非监督学习最简单的例子是Hebb学习规则。竞争学习规则是一个更复杂的非监督学习的例子,它是根据已建立的聚类进行权值调整。自组织映射、适应谐振理论网络等都是与竞争学习有关的典型模型。

研究神经网络的非线性动力学特性主要依赖于动力学系统理论非线性规划理论以及统计理论等学科工具 用于研究神经网络的演化过程及其吸引子特性 进一步探索神经网络的整体行为与协同计算功能 从而深入了解神经信息处理机制 为了深入探讨神经网络在整体性和模糊性方面的信息处理能力 混沌理论的概念与方法将发挥重要作用 混沌作为一个难以精确定义的数学概念 其本质特征是由确定性方程描述的动力学系统中表现出的非确定性行为 或称为确定型随机行为 这种"确定性"源于系统的内在决定因素而非外部干扰 而"随机性"则表现为系统的不规则动态行为 只能借助统计方法进行描述 混沌动力学系统的核心特征是对初始条件具有高度敏感性的状态特性 混沌现象实质上反映了系统的内在随机特性 混沌理论作为描述具有混沌行为的动力学系统的根本理论体系 将其复杂行为理解为系统自身与其在与外界物质能量信息交换过程中所具有的结构性内在运动 结构 决定论 chaos theory refers to the fundamental theoretical framework concepts and methods used to describe and understand chaotic behavior in nonlinear dynamical systems It posits that chaotic behavior arises from the system's inherent organization rather than external perturbations A chaotic state is a stable equilibrium in which the system exhibits sensitive dependence on initial conditions and produces complex trajectories known as strange attractors These are characterized by their fractal geometry and long-term unpredictability despite short-term deterministic evolution

人工神经网络的主要特点

人工神经网络的相关领域已与模糊逻辑研究相结合,并在此基础上与人工智能研究协同作用形成互补优势,在智能系统领域成为新一代智能技术的主要方向。这是因为人工神经网络主要模仿人类右脑类比推理的能力而人工智能主要模仿人类左脑类比推理的能力两者结合能够更好地模拟人类多维度的信息处理过程在这种协同下新一代智能系统将能更加有效地辅助人类拓展其认知能力提升思维效率从而成为推动社会进步的重要工具由此可见这种技术的发展将继续引领现代科学研究的前沿方向

BP人工神经网络
人工神经网络(Artificial Neural Network, ANN)是由大量类似于生物神经系统结构联接的神经单元构成的一类工程化系统模型。不仅具备处理数值数据的能力,并且能够实现对复杂信息的学习、识别和决策过程;它采用"黑箱"理论方法,在经过充分学习训练后能够自动识别输入与输出变量间的非线性映射关系,并通过利用模型所学知识进行推理计算来完成特定的任务目标。

岩土工程中存在大量非线性问题,在这种情况下变量间的关系极为复杂,在现有条件下难以建立精确数学力学模型来描述这一现象。在工程实际中进行现场监测所得的数据质量受测点位置范围及监测手段的影响,在多数情况下难以满足传统统计分析方法所需的基本假设以及内在规律特征鉴于此采用神经网络技术来处理岩土工程相关问题是一种较为合理的选择

BP神经网络模型被称为误差反向传播(BP算法)网络模型的简 称。它主要由三层结构组成:输入单元、中间计算单元以及 输出单元。其学习过程即是对各层次单元之间权值进行逐步 调整的过程,具体包括两个环节:正 向 传 播 和 反 向 传 播. 正 向 传 播 是指 输入样本数据通过 输入单元经中间计算单元传递到 输出单元;反 向 传 播 是指 基于均方 误 差准则,从 输出单元沿着与前 向 信 息相一致的方向返回至 输入 单 元, 将误 差信 息沿着原有的通路返回,并通过调整各个层次 单元之间的 权 值 参数,使 系 统能够更好地逼近预期的目标值.

BP神经网络模型在建立和应用的过程中,存在诸多不足之处,并提出相应的建议包括以下几点:

(1)对于神经网络而言,在数据量越大时其训练效果将更加出色,并能更好地呈现实际情况;然而在实践中受限于条件难以获取大量样本值用于训练导致样本数量相对不足。

(2)BP网络模型在运算效率上存在不足,并且难以描述预测量与其相关参数之间的相互关联程度。

(3)基于定量数据构建模型,在具备充足资料的情况下,则选取定性指标(如基坑降水方式、基坑支护模式及施工工况等)以及相对容易获得的定量指标作为输入层,并将评价等级作为输出层。这样一来,则有助于构建出更加精确全面的BP神经网络模型。

(4)BP人工神经网络系统兼具非线性和智能化特征。全面考虑了定性和定量分析等多方面内容,并对精确逻辑推理能力进行了有效整合与优化。然而由于样本特性差异可能导致各要素的重要性程度有所差异,并在利用先验知识与经验数据进行定性参数量化处理的过程中不可避免地会影响评价结果的客观性和准确性。因此在实际应用中应当根据不同工程的具体情况选择合适的分析指标以适应复杂工况下的地质环境评价需求从而实现较好的应用效果

人工神经网络算法的基础是人工神经网络(Artificial Neural Networks, ANN),该系统由众多具有可调节连接权重的人工神经元通过相互连接构成,并于20世纪40年代后期首次提出。ANN系统能够实现大规模并行处理、分布式信息存储以及高度的自组织自学习能力等特点。其中一种重要的监督式学习算法被称为反向传播法(Backward Propagation),即误差反向传播算法(Error Backpropagation)。该类算法能够逼近任意复杂函数,并以其强大的非线性映射能力在多个领域发挥重要作用。具体而言,在优化问题求解、信号处理与模式识别等领域表现尤为突出;此外,在智能控制和故障诊断等多个应用领域也展现出广阔的前景和发展潜力。人工神经元的概念起源于对生物神经系统的研究与理论模型构建过程。在19世纪末至20世纪初期间,在生物科学与生理学领域的研究中逐渐发展成熟:Waldeger等人提出并构建了最初的单个神经元模型;随后人们认识到复杂的神经系统是由数量庞大的简单个体构成的整体;最终形成了现代意义上的人工神经元理论框架:大脑皮层包含着数十亿甚至上百亿个细小而精密的人工神经元单位;这些微小单元通过密集而复杂的联结关系相互作用形成人工神经系统;这种复杂系统能够在接收来自身体内外部的各种感官信息后进行信息分析与综合处理,并通过运动中枢将控制指令传递至身体各部位以协调整体功能运作机制

神经元也和其他类型的细胞相仿, 具有细胞膜、细胞质以及由多个部分组成的细胞核. 与普通细胞相比, 神经细胞的形态更为特殊, 具备丰富的突起结构. 具体来说, 则分为三个主要部分: 胚体、轴突和树突. 树突则主要负责接收输入信号, 轴突则负责向其他神经元传递电信号, 仅有一个.

树突是由细胞体延伸而来的细长结构,在神经网络中扮演着重要的角色。树突虽然长度较短但具有极高的分枝能力,在一定范围内几乎与所有轴突末梢相联系形成复杂的连接网络。在突触处两神经元并未直接相连而是形成了一个信息传递的结合部即接触界面之间仅存在约15至50纳米的空间距离。根据神经元之间的电化学特性突触可分为三种主要类型:兴奋型、抑制型和无功能型这分别对应于不同类型的信号传递方式。每个神经元平均拥有数百个突触分支其中一些可能与其他多个神经元相联系以保证复杂的信号处理能力。由于各神经元之间的连接强度和极性差异可以通过相应的调节机制实现动态变化从而赋予人脑强大的信息存储功能基于这一特性人工神经网络能够模拟人脑的基本特征并展现出类似的认知处理能力

人工神经网络基于大量简单的基础单元相互连接而形成一种自适应的非线性动态系统ANNS。每一个单独的神经元结构与功能都较为简单然而当这些简单的单元组合在一起形成复杂的系统时

人工神经网络模拟了人脑功能的一些基本特性,并非是对生物系统精确模仿的真实描述,而是通过模拟、提炼和概括来表现其本质特征。

相较于传统数字计算机而言,在基本组成和主要特性上与其大脑极其相似的人工神经网络,并不具备固定的计算程序而能够自主学习。它能够完成运算任务并具备智能控制能力。

人工神经网络必须基于特定的学习标准来进行训练,并在完成这一阶段后才能开始运作。为了便于理解该过程,在这里我们采用一个简单的例子来说明:使用人工神经网络来识别字符“A”和"B"。根据设定规则,在以下情况下系统应返回相应的数值编码:当输入为字符"A"时系统应返回数值编码1;而若输入的是字符"B"则系统应返回编码0。

所以,在设计网络学习规则时应遵循以下原则:若神经元在经历一次判断后出现错误,则经过学习过程后应降低再次出现这种错误的可能性。具体操作步骤如下:首先,在神经元之间设定(0,1)区间内的随机初始权重值;然后将与模式A相关的图像输入到该神经网络中,在经过加权求和运算后与预设阈值进行比较;随后执行非线性激活函数处理;最终得到输出结果。在初始状态下由于缺乏训练信息输出结果为1或0的概率各占50%,即输出结果完全随机;当第一次输出结果正确时应适当增强对应连接权重以提高识别模式A时正确率的能力

如果输出数值为'0'(表示系统出现错误状态),则其目的在于使网络下次再遇到'A'模式输入时降低产生相同错误的风险。为此目的,在给定条件下对其进行多次训练后,在反复经历一系列'A'、'B'等模式输入的过程中,网络将不断优化其连接权值分布状况。通常情况下,在神经元数量不断增加的情况下,网络能够记忆并识别的模式也会随之增多。
人脑具有强大的自我适应与自我组织能力。通过后天的学习和训练,人脑能够发展出多种独特的功能体系.例如,视力障碍者依然具备高度敏锐的感受力;言语障碍者往往能熟练地运用手勢作为交流工具;经过专业训练的运动员在运动技能方面展现出了卓越的能力.

普通计算机的功能基于程序中所给定的知识与能力。显而易见的是,在实现智能活动时需要通过总结并编制相应的程序将非常具有挑战性。

人工神经网络在初始阶段就展现出自我适应与自我组织的能力,在其发育过程中通过不断调整突触权值来满足外界环境的需求。这种神经系统可以根据不同的学习模式以及处理的对象来进行功能上的多样化配置,并不断进化其知识结构使其层次超越设计者的预期目标。研究发现这类系统的知识获取机制主要包含两类:一类是有导师的学习模式即基于样本标准进行分类或模仿行为;另一类是无导师的学习模式即根据系统所处的具体环境条件(输入信号情况)自动调整其学习内容,并能够识别出环境中的关键特征并揭示其内在规律

(2)泛化能力。

泛化能力体现在对未曾经过训练的数据样本具备良好预测与调控的能力。特别地,在面对一些含有噪声的数据样本时,该网络仍展现出卓越的预测性能。

(3)非线性映射能力。

在设计人员看来,在这些情况下(即当系统非常复杂或完全未知),通常会采用数值分析和偏微分方程等数学工具来构建精确的数学模型。然而,在这种情况下(即当系统的复杂性很高或者信息量极少),很难建立精确的数学模型。而神经网络凭借其非线性映射能力则展现出显著优势——它无需深入了解系统的详细情况即可实现输入与输出之间的精准映射关系。这种特性极大地降低了设计难度。

(4)高度并行性。

并行性这一概念存在一定争议。有人认为神经网络具备良好的并行能力。基于人脑功能的人类大脑抽象出来的数学模型,在考虑到人类能够同时处理多项任务的能力,并从功能模拟的角度来看

几百年来,在医学、生物学、生理学、哲学等多个学科领域内的人们始终致力于从不同角度探索上述问题的本质与答案。经过多年的探索与研究后,这一重大科学难题逐渐成为一门新兴的多学科交叉技术领域,并被命名为"神经网络"。神经网络的研究不仅涵盖了众多交叉学科领域,并且通过这些领域的相互结合与渗透不断推动着相关科学的发展进步。在这一过程中,不同领域的科学家根据各自研究领域的兴趣与专长提出了各自独特的理论问题,并从各自领域的独特视角展开深入研究。

下面将人工神经网络与通用的计算机工作特点来对比一下:

从速度角度来看, 人类神经元之间的信息传递速率明显低于计算机的速度, 其中前者的传递速率约为毫秒级别, 后者的频率通常达到几十甚至上百兆赫兹. 然而由于人脑具备并行与串行处理能力的结合体, 因此在面对许多问题时能够迅速做出判断、决策并有效处理它们. 人工神经网络模拟了人脑的架构, 并发性特征使其计算效率较传统电子计算机有显著提升.

人脑存储信息的主要表现为通过突触效能的变化来调控存储的内容。即信息的存储主要体现在神经元之间的连接强度分布上;存贮区与计算机区是相互整合在一起的统一区域。尽管人脑每天成千上万的神经细胞会死亡(平均每小时约一千个),但这并不会影响大脑执行日常思维活动的能力。

普通计算机系统由相互独立的存储器和运算器构成。知识存储与数据运算之间并无直接关联,在此前提下唯有借助人为编写的程序才能建立起两者之间的联系关系。元器件出现个别故障或者程序中存在微小误差均可能造成系统严重失灵的风险。心理学家与认知科学家致力于研究神经网络以揭示大脑处理、存储与检索信息的基本机制并阐明人类大脑功能运作的基本原理从而构建人类认知过程微观层面的理论框架

生物学家、医学专家及脑科学研究者致力于利用神经网络研究来推动脑科学向定量化、精确化以及理论化的发展迈进;与此同时,他们也期望通过这一探索实现临床医学的重大突破;信息处理与计算机科学领域的研究者则致力于探索能够突破现有技术局限、有效解决那些目前难以处理或极为复杂的大量问题的方法,并开发出更接近人类大脑功能的新一代人工智能系统。

人工神经网络的研究可追溯至20世纪40年代初。本文将按照时间顺序,并围绕着具有重要影响的人物及其在特定领域的研究成果展开介绍,在此简述人工神经网络的发展历程。

1943年于心理学家W·Mcculloch与数理逻辑学家W·Pitts在分析并总结了神经元的基本特性之后首次提出了神经元的数学模型。此模型自被广泛采用以来一直沿用至今,并对这一领域的发展产生了深远影响。因此,他们两人可被视为人工神经网络领域的开拓者

1945年,在冯·诺依曼领导下的设计团队首次成功制造出具有存储程序能力的电子计算机;这一事件标志着现代电子计算机时代的开端;随后,在研究工作中对比发现人脑结构与传统存储程序型电子计算机构建间的本质差异;为此提出了基于简单神经元构建的一种自我再生自动机架构;然而因指令型计算技术发展迅速而不得不放弃对神经网络新路径的研究;转而将大量精力投入到指令存储型计算技术的研发中并在此领域取得了重大的突破;尽管冯·诺依曼的名字通常与传统电子计算机构建紧密相连但他仍是人工神经网络领域的开拓者之一

50年代末,F·Rosenblatt设计制作了“感知机”,它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时,世界上许多实验室仿效制作感知机,分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。然而,这次人工神经网络的研究高潮未能持续很久,许多人陆续放弃了这方面的研究工作,这是因为当时数字计算机的发展处于全盛时期,许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题,使感知机的工作得不到重视;其次,当时的电子技术工艺水平比较落后,主要的元件是电子管或晶体管,利用它们制作的神经网络体积庞大,价格昂贵,要制作在规模上与真实的神经网络相似是完全不可能的;另外,在1968年一本名为《感知机》的著作中指出线性感知机功能是有限的,它不能解决如异感这样的基本问题,而且多层网络还不能找到有效的计算方法,这些论点促使大批研究人员对于人工神经网络的前景失去信心。60年代末期,人工神经网络的研究进入了低潮。

在上世纪60年代初期 Widmore首次提出了一种自适应线性元素网络 这种设计采用了连续取值的线性加权求和并结合阈值机制 之后 在此基础上进一步发展出了非线性多层次自适应体系结构 当时 尽管并未明确提及'神经网络'这一术语 但实质上正是构建了一个人工神经网络模型

随着对感知机研究兴趣的减弱, 神经网络领域的研究陷入沉寂相当长的一段时间. 上世纪八十年代初期, 模拟与数字结合型超大规模集成电路制造技术达到了新的高度, 已经实现了真正的实用化. 此外, 数字计算机的发展在某些领域仍面临瓶颈. 这种背景下寻求人工神经网络解决方案的机会已经成熟. 美国物理学家Hopfield于1982年和1984年在美国科学院院刊上发表了两篇开创性的论文, 引起了学术界的广泛关注与讨论. 人们逐渐意识到人工神经网络的巨大潜力及其实际应用的可能性. 随后, 许多学者和研究人员围绕着Hopfield提出的方法展开了深入研究, 由此形成了自1980年代中期以来人工神经网络研究领域的热潮.

于1985年的一项重要研究中, Ackley、Hinton与Sejnowski将模拟退火算法应用于神经网络训练过程,成功构建了Boltzmann机模型.该算法在跳出局部极小值能力方面表现出色,然而,在提高模型性能的过程中存在较长的训练时耗问题.

1986年,Rumelhart,Hinton和Williams提出了多层前馈神经网络的学习机制,即BP算法.基于理论分析推导了该算法的正确性,其为学习算法提供了坚实的理论基础.从学习机制角度来看,这一成果带来了重要的发展.

1988年,Broomhead和Lowe第一次提出了径向基网络:RBF网络。

总的来说,在经历了一个高峰后,神经网络跌入了低谷并再次达到了新的高峰,并且这个过程充满了起伏不定的情况

全部评论 (0)

还没有任何评论哟~