撰稿:张卓豪,审核:于佳宁


2026年7月3日,受北京大学IDG麦戈文脑科学研究所邀请,来自杜克大学的Henry Yin教授在北京大学金光生命科学楼邓祐才报告厅作了题为“The Meaning of Dopamine”的学术报告,于佳宁研究员主持报告。

图片0(1).png


 01 多巴胺的RPE假说及其局限性

多巴胺(Dopamine)是神经科学领域“最受欢迎”的神经递质之一,被认为在诸如奖赏、动机、运动等多种功能中起作用。一方面,多巴胺的缺失可能导致帕金森氏症患者产生运动障碍;另一方面,多巴胺神经元的发放往往与奖赏的出现相联系,因此多巴胺又被广泛认知为大脑中的“愉悦递质”。

 

在关于多巴胺功能的理论框架中,经典的奖励预测误差(reward prediction error, RPE)假说占据着主导地位。Schultz等人(1997)发现,中脑多巴胺神经元的阶段性放电(phasic activity)可以编码实际获得的奖励与预期奖励之间的差异,这种阶段性放电会随着训练逐渐从奖励(非条件刺激, unconditioned stimulus, US)出现的时刻前移至预测信号(条件刺激, conditioned stimulus, CS)出现的时刻;而当预期的奖励没有按时出现,多巴胺神经元的活动会出现降低(dip)(图1)。多巴胺神经元的这种放电模式可以很好地被强化学习理论中的时序差分(temporal-difference, TD)算法所解释,这进一步巩固了RPE假说的地位。

图片11.png

图 1 多巴胺神经元对奖赏预测误差的编码(Schultz et al., 1997)

然而,Yin教授指出,不能简单地将行为表现的变化等同于学习。有证据表明多巴胺神经元不仅对奖励相关的刺激反应,其对任何显著的刺激都会反应;多巴胺神经元反应的低延迟也不足以对刺激做出分辨,这些现象都是RPE 假说所无法解释的。Yin教授进一步指出,传统的研究范式在行为测量上具有很大的局限性,即利用离散的时间戳对动物的行为进行分类,而忽略了对行为的连续测量,这使得过往的研究难以真正知晓动物究竟在做什么。

02 SNc多巴胺神经元表征运动学特征

为了探究多巴胺动态变化与动物连续的运动之间的关系,在早先的一项研究中,Yin教授团队训练自由运动的小鼠进行刺激-奖赏任务,同时持续监测小鼠头部的运动学特征,并通过无线的方式记录黑质致密部(substantia nigra pars compacta,SNc)多巴胺神经元的活动(Barter et al., 2015)。结果表明,无论小鼠是否学会了任务,SNc多巴胺神经元的放电频率均与特定方向的运动速度或加速度相关(而非位置)(图2)。当刺激类型改变为吹气一类的厌恶性刺激,会使动物产生不同的运动,但多巴胺神经元的活动与运动学特征之间的关系仍保持不变。更进一步,在任务情景中对这些多巴胺神经元进行光遗传学激活,会引发小鼠产生相应的运动。

图片22.png

图 2 SNc多巴胺神经元活动与头部特定方向的运动速度相关(Barter et al., 2015) 

基底神经节(basal ganglia)的输入核团纹状体(striatum)是SNc多巴胺神经元投射的主要目标区域。Yin教授团队进一步记录了纹状体神经元在行为任务中的活动(Kim et al., 2014),发现纹状体神经元同样表现出与特定方向运动速度的高度相关(图3),并且在不同刺激类型引发的不同运动模式中保持一致。

 

图片33.png

图 3 纹状体神经元活动与头部特定方向的运动速度相关(Kim et al., 2014)

基于以上研究,Yin教授指出,感觉运动基底神经节在运动控制的层级组织中的功能属于位置环路(position loop)之上的速度环路(velocity loop);而多巴胺神经元在其中起到对速度环路的增益控制(gain control),帮助调节状态的转换(图4)(Yin, 2017)。因此,多巴胺的缺失导致会导致帕金森氏症患者的运动要么无法起始,要么无法停止,而难以达到中间状态。

图片44.png

图 4 运动控制的层级模型(Yin, 2017)

03 VTA多巴胺神经元表征运动学特征

上述有关SNc多巴胺神经元的研究指出,多巴胺的作用在于对运动的实时调节,而非强化学习的教学信号。然而,对于其他脑区如腹侧被盖区(ventral tegmental area, VTA)中的多巴胺神经元,或者对于经典研究中头部固定的任务范式,情况是否同样如此?在随后介绍的研究中,Yin教授将视角拓展到VTA多巴胺神经元,并在头部固定的刺激-奖励任务范式下进行研究,同时通过力度传感器持续监测小鼠的运动学特征。

Yin教授团队的研究发现,VTA中不同类群的多巴胺神经元分别与朝不同方向施加的力相关(图5);而光遗传学刺激多巴胺神经元可以引发相应方向的力,光遗传学抑制则导致力的暂停或产生相反方向的力(Hughes et al., 2020)。

 

图片55.png

图 5 头部固定范式以及VTA多巴胺神经元活动与不同方向力的关系(Hughes et al., 2020)

Yin教授团队进一步发现,随着对刺激-奖赏任务的学习,动物逐渐发展出一种预期性的接近行为,这种条件反应(conditioned response, CR)随着学习逐渐前移至CS出现的时刻。这种在学习过程中条件反应的前移,与多巴胺神经元放电活动的前移相一致(图6);此外,CR与CS之间的延迟可以很好地被多巴胺神经元的活动强度所预测;而当动物没有产生CR时,多巴胺神经元也不会产生相应的阶段性活动(Bakhurin et al., 2025)。

图片66.png

图 6 多巴胺神经元活动与CR随学习的变化(Bakhurin et al., 2025)

通过轻微调整奖励水管的位置,可以明显改变动物CR的方向(从向前变成向后)。随着动物CR的改变,不同类型的多巴胺神经元的活动模式也会发生相应的改变(图7)。Yin教授进一步指出,这种差异只有将神经元活动对齐到CR(而非CS)时才能够被观察到,这体现了行为测量在研究中的重要性。

图片77.png

图 7 不同类型多巴胺神经元的活动模式随动物的运动而改变(Bakhurin et al., 2025)

Schultz等人(1997)的经典研究指出,当预期的奖励没有在预期的时刻按时出现时,多巴胺神经元的活动会出现下降(图1)。Yin教授团队的研究也发现了相同的现象,而更进一步分析力度的变化则会发现,奖励没有按时出现时,动物的力度也会表现出相应的下降(图8)。这些结果指出,VTA多巴胺神经元的活动并非表征所谓的RPE,相反,它们可以很好地通过动物的运动学特征所解释。

 

图片88.png


图 8 奖励缺失后多巴胺神经元的活动变化可以被力度变化解释(Bakhurin et al., 2025)

Yin教授进一步指出,多巴胺并非单纯地编码力度。在饮水奖励(US)出现之后,多巴胺神经元的调制会发生改变,此时,多巴胺神经元的活动可以预测舔舐行为持续的时间,而不再编码力度(图9)——当先前的行为结束,另一种行为开始,多巴胺神经元所执行的功能也随之发生相应的变化。在VTA的下游脑区伏隔核(nucleus accumbens core, NAc)中的多巴胺浓度同样可以预测US出现后舔舐行为的持续时间。

 

图片99.png

图 9 US出现后,多巴胺神经元的活动可以预测舔舐时长(Bakhurin et al., 2025)

04 多巴胺的适应性增益假说

Henry Yin教授在最后提出了多巴胺的适应性增益假说(adaptive gain hypothesis)。在运动控制的层级结构中,皮层对纹状体的激活是自发行为的源头,基底神经节输出的高维运动信号自上而下地传递到脑干中的位置控制器,进而实现对运动的控制(图4)。这一层级结构中,多巴胺神经元接收基底神经节的输出指令副本用于实时估计,并向皮质纹状体环路发送信号。这种架构使得大脑能够根据当前需求和所处情景实时调整增益。 

该假说能够解释传统RPE假说无法轻易解释的现象,例如,当环境中出现显著刺激(如突然鼓掌)时,VTA和SNc的多巴胺神经元都会出现高度同步且强烈的发放,这种活动作为一种准备性增益(preparatory gain)促使自发行为系统进入待命状态,从而加快行为的起始。在行为开始后,多巴胺神经元的放电活动由运动指令副本、感觉输入以及情景信息等所驱动,这使得多巴胺神经元可以根据行为目标适应性地调整增益(adaptive gain),而并不专门针对某种特定的行为。

最后,Henry Yin教授提到,尽管上述研究否定了经典的RPE假说,但并不意味着多巴胺完全不参与学习。举例来说,多巴胺在皮质纹状体环路的突触可塑性中起作用,可能与正在进行的行为相结合,共同构成一种长时程增强(long term potentiation, LTP)的诱导方案。因此,多巴胺的意义及其在学习中的作用仍有待更为深入的研究。

参考文献

Bakhurin, K., Hughes, R. N., Jiang, Q., Hossain, M., Gutkin, B., Fallon, I. P., & Yin, H. H. (2025). Dopamine dynamics during stimulus-reward learning in mice can be explained by performance rather than learning. Nature Communications, 16(1), 9081.

Barter, J. W., Li, S., Lu, D., Bartholomew, R. A., Rossi, M. A., Shoemaker, C. T., ... & Yin, H. H. (2015). Beyond reward prediction errors: the role of dopamine in movement kinematics. Frontiers in integrative neuroscience, 9, 39.

Hughes, R. N., Bakhurin, K. I., Petter, E. A., Watson, G. D., Kim, N., Friedman, A. D., & Yin, H. H. (2020). Ventral tegmental dopamine neurons control the impulse vector during motivated behavior. Current Biology, 30(14), 2681-2694.

Kim, N., Barter, J. W., Sukharnikova, T., & Yin, H. H. (2014). Striatal firing rate reflects head movement velocity. European Journal of Neuroscience, 40(10), 3481-3490.

Schultz, W., Dayan, P., & Montague, P. R. (1997). A neural substrate of prediction and reward. Science, 275(5306), 1593-1599.

Yin, H. H. (2017). The basal ganglia in action. The Neuroscientist, 23(3), 299-313.