人工神经网络概述
人工神经网络及人工智能
智能（Intelligence)
个体为实现特定目标的行为，并非单纯依赖于合理的思维和有效适应复杂环境的能力。此外，智能是指个体理解外部世界并利用专业知识处理问题的能力。
通常认为智能包含以下方面的能力：
- 认知客观事物及客观世界与自我的能效：人类基础生存技能之一
- 凭借学习获取知识及经验积累的基本能效
- 掌握知识并善用之处理问题的高阶能效
- 运用逻辑推理等技巧预判未来及应对未知的高阶能效
- 语言表达进行抽象概括等基础性能效
- 创新力及实践力等高阶能效
- 实时快速理性和适应复杂环境的本源能效
- 基于历史经验和观察力预判未来发展的综合分析能效
人工智能（Artificial Intelligence，AI)
于1956年首次提出的人工智能领域旨在模拟人类认知功能，并通过解决复杂的数学模型或数据处理问题来实现目标。简而言之，人工智能研究的核心在于探索如何使电脑模拟人类认知模式。该学科不仅推动技术进步还为多个行业提供了创新解决方案
- 符号主义学派：
Newell和Simon于1967年提出了相关假说，并认为人工智能起源于数学逻辑体系，在这一基础上构建了以启发式算法为基础的知识工程理论体系。 - 连接主义学派：
该学派由McCulloch和Pitts等人奠定基础，在生物进化的视角下研究人工智能问题，并由此衍生出了人工神经网络等重要理论。 - 行为主义学派：
该理论强调模仿人类智能行为的本质特征，并在此基础上形成了自组织系统理论框架。
人工神经网络（Artificial Neural Network，ANN)
该系统旨在通过模拟人类大脑结构及其功能来实现智能信息处理。人们通常利用数学与物理方法以及从信息处理角度对人脑神经网络进行抽象，并构建某种简化的模型作为研究人工智能的一种方法。
萌芽期（？-1949）：
-
1943年，在研究神经元活动的基础上, 心理学家McCulloch与数学家Pitts构建了M-P模型, 并奠定了人工神经网络理论的基础。
-
1949年, 心理学家Hebb建立了人工神经网络的学习规则, 并被视为模型训练算法的关键起点。
-
1943年，在研究神经元活动的基础上, 心理学家McCulloch与数学家Pitts构建了M-P模型, 并奠定了人工神经网络理论的基础。
-
1949年, 心理学家Hebb建立了人工神经网络的学习规则, 并被视为模型训练算法的关键起点。
第一高潮期（1950-1968）：
单层感知器：研究者开发了基于电子线路或计算机的单层感知器，并包含像Minsky和Rosenblatt这样的先驱人物。这些模型被用来解决各种问题，并在某段时间内被认为可能是智能产生的基础。
反思期（1969-1981）：
1969年,Minsky与Papert发布论文《Perceptron》，基于理论推导得出单层感知器无法解决异或问题这一结论,并进一步推断出该技术体系在处理线性不可分问题时存在局限性,鉴于绝大多数实际问题都属于此类性质,因而单层感知器的应用范围受到限制,推动了人工神经网络研究进入反思阶段。
也取得了一些重要成果,包括Arbib的竞争性网络模型,Kohonen提出的自组织映射理论,Grossberg所创设的自适应共振框架ART,Rumelhart及其团队开发的并行分布式处理理论PDP等
第二高潮期（1982-90年代）：
1982年时,Hopfield创立了循环神经网络,随后于1984年开发出了Hopfield网络模型,成功解决了旅行商问题(TSP)。
1985年,Hinton及其团队从美国加州大学圣地亚哥分校研发出了Boltzmann机。
1986年,Rumelhart等人开发出了被用于多层前馈网络训练的BP算法,该算法对人工神经网络的发展产生了重大影响。
1987年,首届神经网络国际学术会议在美国加州举行,吸引了超过1600名学者与专家参与;随后于1990年12月,我国首次人工神经网络学术研讨会在北京成功召开。
新时期（90年代至今）：
神经网络已经涵盖了神经生理学领域以及认知科学等多个学科领域的交叉研究，并成为现代数理科学的重要组成部分。
神经网络技术已广泛应用于模式识别与分类分析方面，并在图像处理与视觉计算领域取得了显著进展。
各类学术会议与论坛的数量持续攀升。
除了神经科学研究本身取得的理论突破外，在相关技术领域也实现了快速的发展。
大潮涌动的时代即将彻底改变人类现有的认知模式。
这一变革推动了原有简单神经网络难以满足需求的发展。
深度学习正在逐步发展出理论体系，并在实践中发挥作用。
其最显著的应用领域集中在三个方向：语音识别、图像识别以及信息处理。
结构特点：
- 信息处理的并行特性：每个处理单元的操作比较简单，并且能够高效地进行大规模并行处理。
- 信息存储的分布特性：信息并非仅限于网络中某个局部区域，并非仅限于网络中某个局部区域。
- 各信息处理单元之间通过特定方式互联，在此基础上实现多种功能。
- 系统的结构具有高度的可变性和适应性。
性能特点：
- 复杂度高：多个单元间的连接关系展现出系统的复杂性和多样性。
- 容错性能强：基于分布式存储架构的设计使得系统具备较强的容错能力。
- 模糊特性明显：当输入呈现模糊信息时，在连续模拟信号的基础上进行逐步逼近求解而非直接追求精确结果。
能力特征：
- 自学习、自组织与自适应性：基于外界环境的变化通过训练或感知机制（自学习），能够调节参数以适应变化，并可依据输入刺激进行神经网络的构建（自组织）。
ANN的基本功能
ANN的应用领域
