与前馈神经网络相比,反馈神经网络内部神经元之间有反馈,可以用一个无向完全图表示。1985年霍普菲尔德(Hopfield)等人用模拟电子线路实现了Hopfield网络,巴特·柯斯可(Bart Kosko)于1988年提出双向联想记忆(Bidirectional Associative Memory,BAM)网络,埃尔曼(J.L.Elman)于1990年提出Elman网络。

Hopfield网络类似人类大脑的记忆原理,即通过关联的方式,将某一件事物与周围场景中的其他事物建立关联,当人们忘记了一部分信息后,可以通过场景信息回忆起来,将缺失的信息找回。通过在反馈神经网络中引入能量函数的概念,使其运行稳定性的判断有了可靠依据,由权重值派生出能量函数是从能量高的位置向能量低的位置转化,稳定点的势能比较低。

基于动力学系统理论处理状态的变换,系统的稳定态可用于描述记忆。Hopfield网络分为离散型(Discrete Hopfield Neural Network,DHNN)和连续型(Continous Hopfield Neural Network,CHNN)两种网络,在本节中主要介绍离散型Hopfield网络,对CHNN感兴趣的读者可查阅相关文献深入研究。

在Hopfield网络中,学习算法是基于Hebb学习规则,权值调整规则为若相邻两个神经元同时处于兴奋状态,那么它们之间的连接应增强,权值增大;反之,则权值减少。

举报/反馈

林枫说科技

753获赞 482粉丝
欢迎大家多多关注我们
关注
0
0
收藏
分享