人工神经网络的典型模型
人工神经网络的典型模型迄今为止,有30多种人工神经网络模型被开发和应用。下面是它们之中有代表性的一些模型。
(1)自适应谐振理论(ART) 由Grossberg提出的,是一个根据可选参数对输入数据进行粗略分类的网络。ART-1用于二值输入,而ART-2用于连续值输入。ART的不足之处在于过份敏感,输入有小的变化时,输出变化很大。
(2)双向联想存储器(BAM) 由Kosko开发的,是一种单状态互连网络,具有学习能力。BAM的缺点为存储密度较低,且易于振荡。
(3)Boltzmann机(BM) 由Hinton等提出的,是建立在Hopfield网基础上的,具有学习能力,能够通过一个模拟退火过程寻求解答。不过,其训练时间比BP网络要长。
(4)反向传播(BP)网络 最初由Werbos开发的反向传播训练算法是一种迭代梯度算法,用于求解前馈网络的实际输出与期望输出间的最小均方差值。BP网是一种反向传递并能修正误差的多层映射网络。当参数适当时,此网络能够收敛到较小的均方差,是目前应用最广的网络之一。BP网的短处是训练时间较长,且易陷于局部极小。
(5)对流传播网络(CPN) 由Hecht-Nielson提出的,是一个通常由五层组成的连接网。CPN可用于联想存储,其缺点是要求较多的处理单元。
(6)Hopfield网 由Hopfield提出的,是一类不具有学习能力的单层自联想网络。Hopfield网模型由一组可使某个能量函数最小的微分方程组成。其短处为计算代价较高,而且需要对称连接。
(7)Madaline算法 是Adaline算法的一种发展,是一组具有最小均方差线性网络的组合,能够调整权值使得期望信号与输出间的误差最小。此算法是自适应信号处理和自适应控制的得力工具,具有较强的学习能力,但是输入输出之间必须满足线性关系。
(8)认知机(Neocogntion) 由Fukushima提出的,是至今为止结构上最为复杂的多层网络。通过无师学习,认知机具有选择能力,对样品的平移和旋转不敏感。不过,认知机所用节点及其互连较多,参数也多且较难选取。
(9)感知器(Perceptron) 由Rosenblatt开发的,是一组可训练的分类器,为最古老的ANN之一,现已很少使用。
(10)自组织映射网(SOM) 由Kohonen提出的,是以神经元自行组织以校正各种具体模式的概念为基础的。SOM能够形成簇与簇之间的连续映射,起到矢量量化器的作用。
根据W.T.Illingworth提供的综合资料,最典型的ANN模型(算法)及其学习规则和应用领域如表5.1所列。 表5.1 人工神经网络的典型模型 模型名称 有师或无师 学习规则 正向或反向传播 应用领域
AG 无 Hebb律 反向 数据分类
SG 无 Hebb律 反向 信息处理
ART-I无 竞争律 反向 模式分类
DH 无 Hebb律 反向 语音处理
CH 无 Hebb/竞争律 反向 组合优化
BAM 无 Hebb/竞争律 反向 图象处理
AM 无 Hebb律 反向 模式存储
ABAM 无 Hebb律 反向 信号处理
CABAM 无 Hebb律 反向 组合优化
FCM 无 Hebb律 反向 组合优化
LM 有 Hebb律 正向 过程监控
DR 有 Hebb律 正向 过程预测,控制
LAM 有 Hebb律 正向 系统控制
OLAM 有 Hebb律 正向 信号处理
FAM 有 Hebb律 正向 知识处理
BSB 有 误差修正 正向 实时分类
Perceptron 有 误差修正 正向 线性分类,预测
Adaline/Madaline 有 误差修正 反向 分类,噪声抑制
BP 有 误差修正 反向 分类
AVQ 有 误差修正 反向 数据自组织
CPN 有 Hebb律 反向 自组织映射
BM 有 Hebb/模拟退火 反向 组合优化
CM 有 Hebb/模拟退火 反向 组合优化
AHC 有 误差修正 反向 控制
ARP 有 随机增大 反向 模式匹配,控制
SNMF 有 Hebb律 反向 语音/图象处理
页:
[1]