1. 人工神经网络简介

1.1 基本介绍

人工神经网络（Artificial Neural Networks，简写为ANNs）是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的，并具有自学习和自适应的能力。

人工神经网络是一种运算模型，由大量的节点以及它们之间的连接构成。每个节点代表一个函数，而连接则代表权重。它可以描述为有向图，其中每个节点  都执行以下形式的传递函数  ：

 是由节点  输出的，  是第  个输入的节点， 是节点  和  之间的连接权重。 是节点的阈值（或偏差）。通常  是非线性的，例如 heaviside 、 sigmoid 或者 Gaussian 函数。

可以根据人工神经网络的连通性，将其分为前馈类和递归类。如果存在一种对网络中所有节点编号的方法，则人工神经网络是前馈的，这样就不会存在从数量较大的节点到数量较小的节点的连接，所有连接都是从数量较小的节点到数量较大的节点。如果不存在这种编号方法，人工神经网络则会重复出现。

在上述中，求和中的每个项仅包含一个输入节点  。高阶人工神经网络是那些包含高阶节点的神经网络，即在一些求和项中涉及多个输入的节点。例如，一个二阶节点可以描述为：

人工神经网络的体系结构由其拓扑结构决定，即网络中每个节点的整体连通性和传递函数。