第3章 神经网络基础

人工神经网络(Artificial Neural Network,ANN)是由大量简单计算单元按照一定规则相互连接组成的非线性网络,对生物神经网络进行了高度抽象的符号性概括。ANN也可简称为“神经网络”,作为复杂的网络计算系统,其基本组成主要是众多高度互联的处理单元——神经元。神经网络有众多优点,如具有大规模并行、分布式存储和处理、自组织、自适应和自学习能力。这些特点使其在实际应用中具有很大的优越性,尤其是当我们需要处理的信息因众多因素的影响而变得模糊时。近年来,神经网络不断取得突破性的进展,成为一门涉及生物、数理、计算机、人工智能等不同领域的新兴的边缘交叉学科。

根据神经元之间的连接拓扑结构不同,神经网络可分为前馈网络和反馈网络。前馈网络指网络中的神经元分层排列,每一层的神经元只接收前一层神经元的输入,输入向量经过各层顺序变换后,由输出层得到输出向量。反馈网络指输入层会接收到输出层的反馈,每层的神经元除了接收前一层神经元的输出以外,还要接收本层神经元的反馈。

本章主要介绍前馈神经网络相关的基础知识,以感知器为例介绍单层及多层感知器的相关理论,并结合实例在Keras中实现单层及多层感知器。