hebb学习是以Donald O. Hebb名字命名的神经元学习方法

http://s7/middle/569d6df84b5ff85ae9806&690
Donald O. Hebb

1、神经网络。

    大脑中由血多神经元（neuron）组成，神经元之间通过突触（亦称神经键）（synapse）来连接。所有的神经元与神经键形成一个网络，从而让神经信号畅通传递，称为神经网络（neural network）。
2、刺激与反应。

    我们外在的行为是神经网络接受刺激之后产生的反应。神经元与神经元之间的连接有强有弱，而这种强弱是可以通过学习（训练）来不断改变的。如果两个神经元总是相关连的受到刺激或者反应，他们的连接就会一次一次的被加强。这也就是Hebb学习法了。

3、Hebb学习法的通俗描述。

    我们想想生物课上学到的的条件反射的培养案例，即先摇铃铛，之后给一只狗喂食，久而久之，狗听到铃铛就会口水连连。这也就是狗的“听到”铃铛的神经元与“控制”流口水的神经元之间的连接被加强了。
4、Hebb学习法的专业描述。

    专业地描述一下。如果两个神经元常常同时产生动作电位(spike)，或者说同时激动(fire)，这两个神经元之间的连接就会变强，反之则变弱。英文原文[1]为：

Let us assume that the persistence or repetition of a reverberatory activity(or "trace") tends to induce lasting cellular changes that ass to its stability... When an axon of cell A is near enough to excite a cell B and repeatedly or persistently takes part in firing it, some growth process or metabolic change takes place in one or both cells such that A’s efficiency, as one of the cells firing B, is increased.

    神经元之间的神经键，依靠神经元本身的活动（firing activities）自行调整连接强弱，又返过来影响之后的神经元接收刺激产生的反应。这样，不断循环不断学习。

5、延伸：STDP学习法。

Henry Markram提出STDP，Spike Timing Dependent Plasticity学习方法。它根据神经元学习的先后顺序，调整神经元之间连接的强弱。

http://s6/middle/569d6df84b5ff89c745e5&690

Henry Markram

对于一个神经元i而言：

如果在其他神经元j传递信息之后，它才产生反应，那么类似于因果关系，它和传递信息的神经元之间连接G(j→i)会加强；

如果它产生反应之后，其他神经元j才传递信息来，那么这个信息就有可能被忽略，即该神经元与传递信息的神经元间的连接G(j→i)会减弱。
用类似（3）中的例子。

如果每次你跳完一段新疆舞后，就给狗食物吃，次数多了，狗在看你跳舞时，变会认为离吃食物时间不远了，而流口水；但是如果每次你在给狗吃东西之后才跳一段新疆舞，那么狗会认为你有病，大倒胃口，“控制”流口水的神经元与传递你跳新疆舞的神经元之间的连接就被减弱了。[2]

6、学习的同步性和顺序同步性

   之后被提出的几种学习特性。

   顺序同步性，即某个活动中，多个神经元总是按某种节奏与顺序活动。这已经是2008年的文章了。

Reference

[1]Hebb, D.O. (1949). Organization of Behavior: A Neuropsychological Theory (New York: John Wiley and Sons).
[2]Markram, H., Lubke, J., Frotscher, M., and Sakmann, B. (1997). Regulation of synaptic efficacy by coincidence of postsynaptic APs and EPSPs. Science 275, 213–215.
[3]D.A. Gutnisky and V. Dragoi. Adaptive coding of visual information in neural populations. nature, Vol.452, March,2008