-
行为学研究表明, 长时间保持觉醒会对人的学习和记忆产生负面影响, 睡眠则有助于学习和记忆的恢复[1–5]. 基于一些脑区的突触强度变化的实验结果[1,6,7], Tononi和Cirelli[5,7]提出了一种可能的“突触稳态假说”来解释这种现象. 这种假说指出, 学习导致了觉醒时突触强度的净增加, 增加大脑能量消耗的同时降低了学习和记忆的效率; 睡眠会将突触强度净减弱到维持能量的基本水平, 使学习和记忆能力恢复. 实验发现, 这种突触强度变化通常伴随着神经动力学的转变[8–11]. 觉醒期间突触强度净增强伴随着神经电活动从强直性(tonic: 有节奏的单次峰值)发放到阵发性(burst: 多次峰值的重复序列)发放的转变, 睡眠期间突触强度净减弱伴随着从阵发性发放到强直性发放的转变. 另外, 神经元群在觉醒状态下主要表现为不同步的强直性发放, 在睡眠时则主要表现为具有阵发同步的阵发性发放, 并进而产生慢波活动(slow-wave activity, SWA)[9,11,12]. 神经元群的这两种发放状态并不是觉醒和睡眠的显著区别. 在觉醒状态的后期, 也就是疲惫或困倦时, 神经元群也可以表现为同步的阵发性发放[10,12,13]; 在睡眠状态的后期, 也就是觉醒之前的浅睡阶段或是快速眼动睡眠期, 一些脑电信号和功能核磁共振表明神经元群也可能表现为不同步的强直性发放[14,15]. 因此, 神经元群在觉醒状态下是一个趋向同步化的过程, 由初始不同步的强直性发放向同步的阵发性发放逐渐过渡; 睡眠则是一个去同步的过程, 在将突触强度降低到基准水平的同时, 使具有阵发性同步的阵发性发放恢复到不同步的强直性发放. 最新的理论研究表明, 突触强度的变化可以导致上述神经动力学的强直性和阵发性发放的转变, 这种动力学的转变源于突触电流的振荡特性[12,16].
上述实验和理论上的发现为行为学“突触稳态假说”提供了动力学机制上的基础, 相应的理论研究需要建立具体的突触可塑性机制. 然而, 当前的这些理论研究仅使用简单的线性时变函数来模拟突触强度的变化[12,16], 没有考虑产生这种变化的具体的突触可塑性机制. 本文旨在建立一种突触可塑性模型, 以实现觉醒-睡眠周期中自发调节突触强度的变化, 进而引起相应神经动力学的转变.
在神经系统中, 突触可塑性分为长时程可塑性和短时程可塑性, 每种可塑性都有多种不同的类型[17–19]. 一些研究者认为, 一种属于长时程可塑性的发放时序相关可塑性(spike-timing-dependent plasticity, STDP)负责大脑的学习和记忆功能[19–22], 这种可塑性可以引起突触强度的长时程增强(long-term potentiation, LTP)和长时程减弱(long-term depression, LTD). 一些改进的STDP模型也被提出, 并用于模拟不同脑区或不同动物物种的实验观察结果[19,21,23,24]. 近年来, 这些STDP模型受到了广泛的理论关注, 特别是模型引起的神经网络自组织的突触权值(即突触强度)分布, 例如双峰分布[21]、前向型网络分布[22,25]、幂律分布[20,26]等. 目前, 这些模型及其研究的理论结果在实验中得到了广泛的验证. 相关实验表明, 一些参与突触可塑性的神经递质和神经调质在觉醒和睡眠期间发生改变, 包括乙酰胆碱、去甲肾上腺素、皮质醇等[2,27]. 因此, STDP在觉醒和睡眠状态下可能具有不同的特定属性. 综合考虑“突触稳态假说”及其相关实验可以很自然地提出假设: 在觉醒状态下, 突触可塑性的LTP起主导作用并进而导致突触强度净增强; 在睡眠状态下, 突触可塑性的LTD起主导作用并进而导致突触强度净减弱. 本文基于一种突触权值依赖的改进STDP, 提出一种觉醒和睡眠周期中的突触可塑性模型, 在觉醒-睡眠周期中交替改变模型的参数, 以实现觉醒-睡眠周期中突触强度的变化并进而引起相应神经动力学的转变. 研究发现在长时间的觉醒或睡眠后, 网络的平均突触权值将达到稳定值, 并且稳定后的突触权值呈现出稳定的真实神经系统中观察到的对数正态分布. 特别地, 通过数值模拟和理论分析, 本文深入地研究了这种改进的STDP的特定参数对稳定的平均突触权值及突触权值分布的影响.
-
考虑N个Hindmarsh-Rose (HR)神经元[28], 这些神经元之间以概率p通过兴奋性化学突触随机相互连接, 形成一个Erdős-Rényi (ER)随机网络[29]. 网络中, 第i个神经元的动力学方程可以表示为
方程中,
$ x_i $ 代表神经元膜电位,$ y_i $ 和$ z_i $ 分别表示与快电流和慢电流相关的量,$ I_{\text{ext}} $ 是外部输入电流. 在方程(1)中, g是网络的全局耦合强度; 反转电位$ V_{\text{s}} $ 被设置为2, 这意味着对于所有神经元i, 在任意时刻t都满足$ V_{{{\mathrm{s}}}} \gt x_i $ , 即所有突触都是兴奋性化学突触[12].$ A_{ij}(i\neq j) $ 是网络连接矩阵的一个元素: 如果神经元j到神经元i之间有突触连接, 则$ A_{ij} = 1 $ , 否则$ A_{ij} = 0 $ ;$ W_{ij}(i\neq j) $ 代表相应的突触权值(在$ A_{ij} = 1 $ 时), 其取值被限定在$ [0, 1] $ 之间. 每个初始突触权值都随机且独立地在0—1的范围内选择, 并且受到2.2节中改进的STDP影响;$ G_{j} $ 是来源于神经元j的化学突触耦合函数, 每当神经元j发放时,$ G_{j} $ 增加一个常量$ \Delta G $ , 其余时间,$ G_{j} $ 以时间常数τ 指数衰减, 即$ {\rm{d}}G_j/{\rm{d}}t = -G_j/\tau $ [12,30,31]. 上述神经元动力学方程(包括$ G_{j} $ 的变化方程)的参数选择如下:$ a = 1 $ ,$ b = 3 $ ,$ g = 0.035 $ ,$ c = 1 $ ,$ d = 5 $ ,$ e = 0.002 $ ,$ q = 4 $ ,$ x_{0} = -1.6 $ ,$ \Delta G = 1 $ ,$ \tau = 1 $ . 这些参数取值是很多经典文献中常用的, 是依据实验并能够很好地模拟出实验结果的参数值[12,13]. ER网络的参量取为$ N = 100 $ 和$ p = 0.2 $ . 需要指出的是, 下面的结果并不依赖于N和p的具体取值, 本文选择的N值不太大, 是为了减少数值计算量. 在动力学方程中, 调节参数$ I_{\text{ext}} $ 可以使单个HR神经元表现出强直性或阵发性发放(详见文献[12]中的图1): 当$ I_{\text{ext}} \gt 3.3 $ 时, 出现强直性发放; 当$ 1.27 \lt I_{\text{ext}} \lt 3.3 $ 时, 出现阵发性发放. 本文取$ I_{\text{ext}} = 3.6 $ , 在该值时单个(或无耦合)神经元表现出强直性发放. -
原始的STDP模型中, 突触强度的变化由突触前和突触后神经元发放的先后顺序及其相应的时间间隔值决定. 当突触前神经元早于突触后神经元发放时, 突触强度增强, 反之则突触强度减弱[32]. 突触强度
$ W_{ij} $ 的变化量$ \Delta W_{ij} $ 由以下关系式给出:其中,
$ \Delta t_{ij} $ 表示突触后和突触前神经元发放的时间间隔, 即突触后神经元发放的时刻值减去突触前神经元发放的时刻值[21]. (4)式中,$ \Delta t_{ij}\geqslant 0 $ 表示突触前神经元发放早于突触后神经元发放,$ A_+{\text{e}}^{-\Delta t_{ij}/{\tau _+}} $ 表示突触强度增强(LTP);$ \Delta t_{ij} \lt 0 $ 表示突触前神经元发放落后于突触后神经元发放,$ -A_-{\text{e}}^{\Delta t_{ij}/{\tau _-}} $ 表示突触强度减弱(LTD). 因为神经网络中的连接具有随机性, 使突触前和突触后神经元的发放序列变得复杂. 在进行数值模拟时, 配对并计算所有突触前和突触后神经元的发放时间间隔比较困难. 为了解决这个问题, 本文引入变量$ P_i(t) $ 和$ M_i(t) $ 来综合考虑所有突触前和突触后神经元之间的影响[21,20].$ P_i(t) $ 和$ M_i(t) $ 分别是以时间常数$ \tau_+ $ 和$ \tau_- $ 指数衰减的函数, 满足$ {\rm{d}}P_i(t)/{\rm{d}}t = -P_i(t)/\tau_+ $ ,$ {\rm{d}}M_i(t)/{\rm{d}}t = -M_i(t)/\tau_- $ . 每当神经元i发放时,$ P_i(t) $ 增加$ A_+ $ ,$ M_i(t) $ 减少$ A_- $ , 所有与神经元i相连的突触权值$ W_{ij} $ 和$ W_{ji} $ 根据如下关系进行更新:根据表达式(5), 如果权值更新使得
$ W_{ij} \gt 1 $ (或$ W_{ji} \lt 0 $ ), 则$ W_{ij} $ (或$ W_{ji} $ )被取为最大权值1(或最小权值0). 有研究发现, 原始的STDP模型导致突触权值呈现双峰分布, 即突触权值会集中在最大权值1和最小权值0的附近[21]. 还有一些不同的实验结果表明, 在部分脑区突触权值呈现单峰分布. 这种单峰分布常被认为是更稳定、更接近大脑真实情况的[33]. 因此, 本文借鉴了一种突触权值依赖的改进STDP模型[33]. 避免了原始的STDP模型中突触权值总是被增强到最大值或减少到最小值附近的问题, 并且可以模拟实验观察结果, 即在强突触权值时的增强作用较弱. 加入这种改进的STDP机制后, 突触权值的更新关系式从原来的表达式(5)变为式中,
$ P_j(t)(c_{\text{p}}+\nu W_{ij}) $ 表示突触强度的增加量, 参量$ A_+ $ ,$ \tau_+ $ 和$ c_{\text{p}} $ 反映突触强度增强的LTP特性;$ M_j(t)(c_{\text{d}}W_{ji}+\nu W_{ji}) $ 表示突触强度的减小量, 参量$ A_- $ ,$ \tau_- $ 和$ c_{\text{d}} $ 反映突触强度减弱的LTD特性. ν是均值为零、标准差为$ \sigma_{\nu} $ 的高斯噪声. 该更新关系式意味着, 突触权值每次更新量不仅与突触前和突触后神经元发放的顺序和时间间隔有关, 还受到当前突触强度和噪声的约束.基于上述突触权值依赖的改进STDP, 本文提出一种觉醒和睡眠周期中的突触可塑性模型, 在觉醒-睡眠周期中交替改变模型的参数(包括
$ A_+ $ ,$ A_- $ ,$ \tau_+ $ ,$ \tau_- $ ,$ c_{\text{p}} $ 和$ c_{\text{d}} $ ), 使觉醒状态下, 突触可塑性的LTP起主导作用; 睡眠状态下, 突触可塑性的LTD起主导作用. 本文使用步长为$ 0.01 $ 的四阶龙格-库塔法对神经网络的动力学方程组进行数值计算. 每个神经元i的初始状态值在其动力学稳定后的数值范围内独立且随机选取, 其中$ x_i $ 取值范围为$ (-0.5, 1.5) $ ,$ y_i $ 为$ (-6, 0.9) $ ,$ z_i $ 为$ (3.1, 4.2) $ . -
在STDP或改进的STDP的理论研究中, 参数
$ A_+ $ 和$ A_- $ 常用于调节LTP和LTD的变化量[19]. 有实验结果表明, 参与突触可塑性的一些神经递质和神经调质的数量和活性在觉醒和睡眠期间存在明显的变化, 并且在觉醒时突触强度变化的幅度很可能大于睡眠时的变化幅度[34,35]. 因此在觉醒和睡眠周期中, 突触可塑性模型中的参量值有很大可能也是有规律地变化, 这种参量变化很难用明确的函数和数值进行描述, 模型中的参量$ A_+ $ 在觉醒时很可能大于$ A_- $ , 睡眠时则相反. 在数值模拟中, 为了减少参量的数量, 简单地用$ A_+ $ 和$ A_- $ 在觉醒-睡眠周期中以较短的时间相互交换数值来满足上述条件(见图1(a)). 值得一提的是, 以下的结果不仅限于$ A_+ $ 和$ A_- $ 数值交换这种方法, 只要满足上述$ A_+ $ 和$ A_- $ 在觉醒和睡眠周期中的大小关系(即觉醒时$ A_+ \gt A_- $ , 睡眠时$ A_+ \lt A_- $ )就可以得到相同的定性结果. 由图1(b)和图1(c)可以看出, 突触可塑性可以诱导觉醒-睡眠周期中的突触强度变化和神经动力学转变: 在觉醒期间, 突触强度净增强, 平均突触权值$ \overline{W} $ 增加, 导致神经电活动从强直性发放转变为阵发性发放; 相反, 在睡眠期间, 突触强度净减弱,$ \overline{W} $ 减小, 导致神经元由阵发性发放恢复为强直性发放.神经活动的转变经常伴随着网络同步性能的变化[12,16]. 为了探究上述过程中同步的演化, 引入一种关于神经元发放同步的度量方法[36]. 首先构建如下的神经元发放序列: 在当前时刻向前取一个长度为T的时间窗口, 并把它分成m个长度为
$ \Delta T $ 的小时间段[37]; 神经元i的发放序列用$ B_i(n) $ 表示,$ n = 1, 2,\cdots, m $ ($ m = T/\Delta T $ ), 如果神经元i在第n个时间段内有发放, 则令$ B_i(n) = 1 $ , 否则$ B_i(n) = 0 $ ; 在时间演化过程中, 让所取的时间窗口以时间步长$ \Delta T $ 向后移动. 然后用同步指数$ Syn(i, j) $ 表示神经元i和j之间的发放同步度,$ Syn(i, j) $ 定义如下:整个网络的同步指数
$ Syn $ 定义为所有神经元对$ (i, j) $ 的同步指数$ Syn(i, j) $ 的平均值. 本文选择参数$ T = 400 $ 和$ \Delta T = 10 $ .如图1(d)所示, 当网络的平均突触权值
$ \overline{W} $ 较小时, 网络中神经元的平均膜电位$ \overline{x} = \dfrac1N \displaystyle \sum\nolimits^N_{i = 1}x_i $ 表现出低幅高频的振荡. 当$ \overline{W} $ 较大时,$ \overline{x} $ 则表现出相对的高幅低频的慢波活动.$\overline{x} $ 的这种变化可以用网络中神经元发放的同步变化来解释. 如图1(e)所示,$ \overline{W} $ 较小时, 网络的同步指数$ Syn $ 小, 神经元电活动表现为不同步的强直性发放, 导致平均膜电位$ \overline{x} $ 呈现出低幅、高频振荡;$ \overline{W} $ 较大时, 网络的同步指数$ Syn $ 变大, 神经元由不同步的强直性发放开始转变为同步的阵发性发放, 从而导致平均膜电位$ \overline{x} $ 呈现出高幅低频的慢波活动. 这些结果与觉醒-睡眠周期中的实验观察相似[38].接下来对觉醒-睡眠周期中的突触强度变化进行研究, 并比较使用原始STDP ((5)式)和改进STDP ((6)式)的模型之间的差异. 结果如图2(a)所示, 在没有使用权值依赖的情况下, 突触强度很容易达到
$ W_{{\rm{max}}} = 1 $ 或$ W_{{\rm{min}}} = 0 $ 的饱和值. 并且随着觉醒或睡眠时间的延长, 观察到更多的突触权值集中到饱和值附近(见图2(b)). 加入权值依赖后, 突触强度的变化受到限制, 即使在长时间的觉醒或睡眠后, 突触权值也可能远离饱和值(见图2(c)和图2(d)). 并且在长时间觉醒或睡眠后, 权值依赖的改进STDP会使网络的平均突触权值$ \overline{W} $ 和突触权值的分布都达到一个稳定的状态(见图2(d)). 虽然每个突触的权值仍然随着神经元的发放进行更新, 但是整个网络中突触权值的平均值$ \overline{W} $ 几乎保持不变. 我们将网络达到稳态时的平均突触权值定义为稳定的平均权值$ \overline{W}_{{{\mathrm{s}}}} $ . 下面详细研究含有权值依赖的STDP对稳定的平均权值$ \overline{W}_{{{\mathrm{s}}}} $ (见3.2节)以及突触权值分布(见3.3节)的影响. -
稳定的平均突触权值
$ \overline{W_{{{\mathrm{s}}}}} $ 的产生是由于突触可塑性的长时程增强(LTP)和长时程抑制(LTD)之间的竞争达到相对平衡导致的. 为了深入研究该问题, 我们广泛研究了$ \overline{W}_{{{\mathrm{s}}}} $ 与LTP和LTD中相应的3对参数比值之间的关系. 例如$ A_+/A_- $ ,$ \tau_+/\tau_- $ 和$ c_{\text{p}}/c_{\text{d}} $ . 具体结果如图3—图5所示, 当$ \overline{W}_{\text{s}} $ 在没有达到或没有接近饱和值$ W_{{\rm{max}}} = 1 $ 时,$ \overline{W}_{{{\mathrm{s}}}} $ 与比值$ A_+/A_- $ ,$ \tau_+/\tau_- $ 和$ c_{\text{p}}/c_{\text{d}} $ 之间都存在线性关系. 特别地, 当任意一个参数比值设置为1时,$ \overline{W}_{\text{s}} $ 与另一个参数比值之间的线性关系的斜率等于第3个参数比值. 由此可得下面对(8)式进行理论分析.
当网络的平均突触权值达到稳定时, 意味着网络中突触强度的平均增加量与平均减小量相等. 也就是说, 表达式(6)中LTP和LTD部分在网络中的平均值相等, 即:
如图1所示, 当突触权值较小时, 神经元表现出不同步的强直性发放. 相反, 当存在较大的突触权值时, 神经元虽然表现出同步的阵发性发放, 但是阵发性发放内的峰值仍然不同步. 因此, 网络在整个演化过程中任意的神经元i和j的发放时间间隔
$ \Delta t_{ij} $ 和$ \Delta t_{ji} $ 都可以近似地被看作从$ -\infty $ 到$ +\infty $ 的均匀分布. 根据(4)式可以得到又因为ν是一个均值为零的高斯随机噪声, 可近似地认为
$ \overline{\nu W_{ij}}\approx 0 $ . 所以(9)式可进一步简化为(10)式是对稳定的平均突触权值进行理论分析的结果. 当
$ A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}} \lt W_{\text{max}} = 1 $ 时,$ \overline{W_{\text{s}}} $ 的理论值与数值模拟得到的结果((8)式)一致. 而当$ A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}}\geqslant W_{\text{max}} = 1 $ 时,$ \overline{W_{\text{s}}} $ 的模拟结果总是接近1, 小于理论值. 这是因为突触强度$ W_{ij} $ 存在最大边界, 而在理论分析中未考虑边界的影响. 因此, 本文的理论分析结果与数值模拟结果是一致的.为了进一步验证(8)式(或(10)式)是否具有普遍性, 令参数
$ A_+ , \;A_- ,\; \tau_+ , \;\tau_-, \;c_{\text{p}} $ 和$ c_{\text{d}} $ 分别在一定范围内随机取值, 并进行大量的数值模拟, 这些随机组合的比值$ A_+\tau_+c_{\text{p}} / A_-\tau_-c_{\text{d}} $ 与相应$ \overline{W}_{\text{s}} $ 的函数关系如图6所示. 结果表明, 数值模拟结果与(8)式(或(10)式)一致.特别地, (8)式(或(10)式)表明,
$ \overline{W}_{{{\mathrm{s}}}} $ 仅取决于比值$ A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}} $ 的大小, 与某个(或某些)参数的特别取值无关. 这表明3.1节的结果并不依赖于突触可塑性中$ A_+ $ 和$ A_- $ 的特殊交换关系. 根据结论$ \overline{W}_{{{\mathrm{s}}}} = A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}} $ , 觉醒和睡眠期间可以采用不同的参数$ A_+ $ ,$ A_- $ ,$ \tau_+ $ ,$ \tau_- $ ,$ c_{\text{p}} $ 和$ c_{\text{d}} $ . 只要满足在觉醒时$ A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}} $ 的值比睡眠时该值大, 就可以实现觉醒时平均突触强度增强和睡眠时平均突触强度减弱, 从而调节觉醒-睡眠周期中相应神经动力学的转变. -
一些实验结果表明, 大脑中某些脑区的突触权值表现为单峰分布[33]. 特别地, 有些脑区还表现出对数正态分布[39,40]. 本文对平均突触权值达到稳定值后的突触权值分布情况进行了研究, 结果如图7(a)所示. 当平均突触权值
$ \overline{W} $ 达到稳定的$ \overline{W}_{\text{s}} $ 时, 突触权值的概率密度$ P(W) $ 呈现出单峰分布. 并且对横坐标W取对数后,$ P(W) $ 服从一种类似的正态分布(见图7(b)), 这种分布就是所谓的对数正态分布. 在这种分布中, 概率密度函数$ P(W) $ 存在一个最大值(即峰值)$ P_{\text{p}} $ , 相应的突触权值$ W_{\text{p}} $ 可称为最概然权值. 从图7可以看出, 这种对数正态分布受到突触可塑性模型中噪声ν的影响. 很显然, 随着噪声波动(即标准差$ \sigma_{\nu} $ )的增加, 权值分布的范围变宽. 下面详细地研究噪声波动对分布的影响.如图8(a)和图8(b)所示, 随着噪声波动(即标准差
$ \sigma_{\nu} $ )的增加, 权值分布的最概然权值$ W_{\text{p}} $ 及相应的最大概率密度$ P_{\text{p}} $ 都减小.$ \sigma_{\nu} $ 的值较小时, 稳定的平均权值$ \overline{W}_{\text{s}} $ 与(10)式给出的理论值(见图8(a)中的水平虚线)非常一致. 当$ \sigma_{\nu} $ 增加到一临界值时,$ \overline{W}_{\text{s}} $ 逐渐小于理论值, 此时$ P_{\text{p}} $ 刚好减小到一个饱和值. 图8(c)显示了权值分布的标准差$ \sigma_W $ 及其变分系数$ CV $ (标准差除以平均值)的变化. 结果发现,$ \sigma_W $ 和$ CV $ 都随着$ \sigma_{\nu} $ 的增加而增加, 表明噪声波动的增加导致了突触权值波动的增加(即分布范围变宽). 但是, 当$ \sigma_{\nu} $ 增加到上述的临界值时,$ \sigma_W $ 将增加到一个饱和值. 很显然,$ \sigma_{\nu} $ 存在一个相同的临界值(见图8中$ \sigma_{\nu} = 6 $ 处的垂直虚线), 当$ \sigma_{\nu} $ 超过该临界值时,$ \overline{W}_{\text{s}} $ 小于理论值,$ P_{\text{p}} $ 或$ \sigma_W $ 也都减小或增加到一个饱和值. 这是由于当$ \sigma_{\nu} $ 达到该临界值时, 部分突触权值增加到$ W_{\text{max}} $ 而被设置为最大值1导致的(见图7中$ \sigma_{\nu} = 6 $ 时的曲线). 也就是说, 这种现象是由权值的最大边界引起的. -
综上所述, 基于权值依赖的改进STDP, 本文提出了一种觉醒和睡眠周期中的突触可塑性模型, 通过调节觉醒和睡眠周期中该模型参数
$ A_+ ,\; A_- $ ,$ \tau_+ ,\; \tau_- ,\; c_{\text{p}} $ 和$ c_{\text{d}} $ 的数值, 只要使觉醒时$ A_+\tau_+c_{\text{p}}/ A_-\tau_-c_{\text{d}} $ 的值比睡眠时大, 就可以实现: 觉醒时突触强度净增强及其导致的神经动力学从强直性发放到阵发性发放的转变, 睡眠时突触强度净减弱及其导致的神经动力学从阵发性发放到强直性发放的转变. 无论是在长时间的觉醒还是睡眠后, 本文提出的突触可塑性所产生的平均突触权值都能达到一个稳定的$ \overline{W}_{\text{s}} $ . 通过数值模拟和理论分析发现, 当$ \overline{W}_{\text{s}} $ 没有达到最大的饱和值$ W_{\text{max}} = 1 $ 时,$ \overline{W}_{\text{s}} = A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}} $ , 即该值取决于模型中代表LTP和LTD的各参数乘积的比值. 特别地, 当平均突触权值达到稳定的$ \overline{W}_{\text{s}} $ 时, 突触权值的分布呈现出稳定的真实神经系统中观察到的对数正态分布. 并且, 这种分布受到突触可塑性模型中噪声波动的影响: 随着噪声波动的增加, 权值分布的范围变宽, 分布的最概然权值以及相应的最大概率密度均减小. 值得一提的是, 本文在ER网络上得到的上述结果不依赖于网络的类型, 例如, 在无标度网络或小世界网络上也有相同的结果. 本文的研究结果可为觉醒-睡眠周期中突触可塑性及其神经元发放的生理机制研究提供理论参考, 并在睡眠障碍治疗或干预措施的开发中具有潜在的应用价值.
一种突触可塑性导致的觉醒-睡眠周期中突触强度变化和神经动力学转变
A synaptic plasticity induced change in synaptic intensity variation and neurodynamic transition during awakening-sleep cycle
-
摘要: 实验发现, 在觉醒时学习导致了突触强度的净增强, 并伴随着神经元从强直性发放向阵发性发放的转变; 在睡眠时突触强度净减弱到基准值, 并且神经元的阵发性发放重新转变为强直性发放. 本文提出了一种突触可塑性模型, 并在由Hindmarsh-Rose神经元组成的神经网络中, 实现了觉醒-睡眠周期中这种突触强度的变化和神经元发放动力学的转变. 通过数值模拟和理论分析进一步发现, 神经网络的平均突触权值在长时间的觉醒或睡眠后可以达到一个稳定值, 该稳定值取决于模型中一些特定参数的比值. 特别地, 当平均突触权值达到稳定值时, 突触权值的分布呈现出稳定的真实神经系统中观察到的对数正态分布, 并且这种分布的波动性与突触可塑性模型中噪声的波动性呈正相关. 本文提出的突触可塑性模型及其动力学的研究结果可为觉醒-睡眠周期中突触可塑性及其神经元发放的生理机制研究提供理论参考, 并在睡眠障碍治疗或干预措施的开发中具有潜在的应用价值.Abstract: It has been found experimentally that learning during wakefulness leads to a net enhancement of synaptic strength, accompanied by the neural dynamical transition from tonic to bursting firing, while the net synaptic strength decreases to a baseline level during sleep, accompanied by the transition from bursting to tonic firing. In this paper, we establish a model of synaptic plasticity, which can realize synaptic strength changes and neural dynamical transitions in wakefulness-sleep cycle by using the coupled Hindmarsh-Rose neurons. Through numerical simulation and theoretical analysis, it is further found that the average synaptic weight of the neural network can reach a stable value during either prolonged wakefulness or prolonged sleep, which depends on the ratio of some specific parameters in the model. Particularly, the synaptic weight exhibits a stable log-normal distribution observed in a real neural system, when the average synaptic weight reaches a stable value. Moreover, the fluctuation of this weight distribution is positively correlated with the fluctuation of noise in the synaptic plasticity model. The provided model of the synaptic plasticity and its dynamics results can provide a theoretical reference for studying the physiological mechanism of synaptic plasticity and neuronal firings during the wakefulness-sleep cycle, and they are expected to have potential applications in the development of therapeutic interventions for sleep disorders.
-
Key words:
- neural networks /
- synaptic plasticity /
- neural dynamics /
- synchronization .
-
-
图 1 突触可塑性引起觉醒-睡眠周期中突触强度的变化和神经动力学的转变 (a)
$A_{+}$ (实线)和$A_{-}$ (虚线)的变化, 觉醒:$A_{+} = 0.006 $ $ +\;0.003 \dfrac{1}{1+{\text{e}}^{-0.005(t'-900)}}$ ,$A_{-}=0.006+0.003 \left[1-\dfrac{1}{1+{\text{e}}^{-0.005(t'-900)}}\right]$ , 睡眠:$A_{-}=0.006+0.003 \dfrac{1}{1+{\text{e}}^{-0.005(t''-900)}}$ ,$A_{+} = 0.006+0.003 \left[1-\dfrac{1}{1+{\text{e}}^{-0.005(t''-900)}}\right]$ , 其中$t'$ 表示t除以$10000$ 的余数,$t''$ 表示t除以$5000$ 的余数; (b)平均突触权值$\overline{W}$ ; (c)随机选定的神经元$i$ 的膜电位$x_i$ ; (d) 平均膜电位$\overline{x}$ ; (e)网络的同步指数$Syn$ . 垂直虚线表示觉醒和睡眠之间的交替时刻. 参数$A_+$ 和$A_-$ 的取值为$0.009$ 和$0.006$ , 并且它们的值在觉醒和睡眠交替时也迅速交替. 参数$\tau_+=\tau_-=25$ ,$c_{{{\mathrm{p}}}}=1$ 和$c_{{{\mathrm{d}}}}=2$ Figure 1. Synaptic changes and neural dynamical transitions induced by the synaptic plasticity for wakefulness-sleep cycle. (a) Changes of
$A_{+}$ (solid line) and$A_{-}$ (dashed line). Wakefulness:$A_{+}=0.006+0.003\dfrac{1}{1+{{{\mathrm{e}}}}^{-0.005(t'-900)}}$ ,$A_{-}=0.006+ 0.003\Big[1- $ $ \dfrac{1}{1+{{{\mathrm{e}}}}^{-0.005(t'-900)}}\Big]$ , sleep:$A_{-}=0.006+0.003\dfrac{1}{1+{{{\mathrm{e}}}}^{-0.005(t''-900)}}$ ,$A_{+}=0.006+0.003\left[1-\dfrac{1}{1+{{{\mathrm{e}}}}^{-0.005(t''-900)}}\right]$ , where$t'$ represents the remainder of t divided by$10000$ and$t''$ represents the remainder of t divided by$5000$ . (b) Average synaptic weight$\overline{W}$ . (c) Potential$x_i$ of a randomly chosen neuron$i$ . (d) Average potential$\overline{x}= \dfrac1 N \displaystyle\sum\nolimits^N_{i=1}x_i$ . (e) Synchrony index$Syn$ of the network. The vertical dashed lines indicate moments of exchange between wakefulness and sleep. Parameters$A_+$ and$A_-$ rapidly exchange between$0.009$ and$0.006$ in very short periods during wakefulness and sleep. Here, parameters$\tau_+=\tau_-=25$ ,$c_{{{\mathrm{p}}}}=1$ and$c_{{{\mathrm{d}}}}=2$ are given during both wakefulness and sleep.图 2 在一个觉醒-睡眠周期内, 突触权值分布概率密度
$P(W, t)$ 的灰度图及网络平均突触权值$\overline{W}$ 的变化曲线(实线) (a), (b)不含有权值依赖的原始STDP情况; (c), (d)含有权值依赖的改进STDP情况; 觉醒睡眠周期设置为10000 (a), (c) 和40000 (b), (d); 垂直虚线表示觉醒和睡眠的交替时刻Figure 2. Gray-scale plots of probability density
$P(W, t)$ for weight distribution and the average synaptic weight$\overline{W}$ (solid line) in the absence of weight dependence (a), (b) and in the presence of weight dependence (c), (d), for the different periods of wakefulness-sleep cycle, 10000 (a), (c) and 40000 (b), (d). The vertical dashed lines indicate the moments of exchange between wakefulness and sleep.图 3 稳定的平均突触权值
$\overline{W}_{\text{s}}$ 与比值$A_+/A_-$ 的函数关系 (a)$c_{\text{p}}=c_{\text{d}}=1$ 固定不变,$\tau_+/\tau_-$ 取不同的比值; (b)$\tau_+=\tau_-= $ $ 25$ 固定不变,$c_{\text{p}}/c_{\text{d}}$ 取不同的比值. 参数选择如下:$A_-$ 在$[0.002, 0.01]$ 的范围内随机取值,$A_+$ 的值通过$A_-$ 乘以相应的比值得到; (a)中$\tau_-=25$ ,$\tau_+$ 分别根据相应的比值计算给出; (b) 中$c_{\text{p}}=1$ ,$c_{{{\mathrm{d}}}}$ 分别根据相应的比值计算给出. 每个数据都是5次独立数值计算的平均数; 为了对比, 在图(a), (b)中分别用实线表示$\overline{W}_{\text{s}}=0.5 A_+/A_-$ ,$\overline{W}_{\text{s}}=A_+/A_-$ 和$\overline{W}_{{s}}=2 A_+/A_-$ 的线性关系Figure 3. Stable average weight
$\overline{W}_{\text{s}}$ as a function of$A_+/A_-$ : (a) At different ratio$\tau_+/\tau_-$ and$c_{\text{p}}=c_{\text{d}}=1$ ; (b) at different ratio$c_{\text{p}}/c_{\text{d}}$ and$\tau_+=\tau_-=25$ . Here,$A_-$ is given randomly in the range of$0.002$ to$0.01$ ,$A_+$ is calculated and given by using the ratio of the corresponding parameter.$\tau_-=25$ , and$\tau_+$ is calculated and given by using the ratios of the corresponding parameter in panel (a).$c_{\text{p}}=1$ , and$c_{\text{d}}$ is calculated and given by using the ratio of the corresponding parameter in panel (b). Data are averaged over 5 independent realizations. For comparison, the solid lines indicating the linear relations$\overline{W}_{\text{s}}=0.5 A_+/A_-$ ,$\overline{W}_{\text{s}}=A_+/A_-$ and$\overline{W}_{\text{s}}=2 A_+/A_-$ are shown in panels (a) and (b)图 5 稳定的平均突触权值
$\overline{W}_{\text{s}}$ 与比值$c_{\text{p}}/c_{\text{d}}$ 的函数关系 (a)$\tau_+=\tau_-=25$ 固定不变,$A_+/A_-$ 取不同的比值; (b)$A_+=A_-= $ $ 0.006$ 固定不变,$\tau_+/\tau_-$ 取不同的比值. 参数选择如下:$c_{\text{d}}$ 在$[0.5, 2.5]$ 的范围内随机取值,$c_{\text{p}}$ 的值通过$c_{\text{d}}$ 乘以相应的比值得到; (a)中$A_-=0.004$ ,$A_+$ 分别根据相应的比值计算给出; (b) 中$\tau_-=25$ ,$\tau_+$ 分别根据相应的比值计算给出. 每个数据都是5次独立数值计算的平均数; 为了对比, 在图(a), (b)中分别用实线表示$\overline{W}_{\text{s}}=0.5 c_{\text{p}}/c_{\text{d}}$ ,$\overline{W}_{\text{s}}= c_{\text{p}}/c_{\text{d}}$ 和$\overline{W}_{\text{s}}=2 c_{\text{p}}/c_{\text{d}}$ 的线性关系Figure 5. Stable average weight
$\overline{W}_{\text{s}}$ as a function of$c_{\text{p}}/c_{\text{d}}$ : (a) At different ratio$A_+/A_-$ with$\tau_+=\tau_-=25$ ; (b) at different rations$\tau_+/\tau_-$ with$A_+=A_-=0.006$ .$c_{{\rm d}}$ is given randomly in the range of$0.5$ to$2.5$ , and$c_{\text{p}}$ is calculated and given by using the ratio of the corresponding parameter.$A_-=0.004$ , and$A_+$ is calculated and given by using the ratio of the corresponding parameter in panel (a).$\tau_-=25$ , and$\tau_+$ is calculated and given by using the ratio of the corresponding parameter in panel (b). Data are averaged over 5 independent realizations. For comparison, the solid lines indicating the linear relations$\overline{W}_{\text{s}}=0.5 c_{\text{p}}/c_{\text{d}}$ ,$\overline{W}_{\text{s}}= c_{\text{p}}/c_{\text{d}}$ and$\overline{W}_{\text{s}}=2 c_{\text{p}}/c_{\text{d}}$ are shown in panels (a) and (b)图 4 稳定的平均突触权值
$\overline{W}_{\text{s}}$ 与比值$\tau_+/\tau_-$ 的函数关系 (a)$c_{\text{p}}=c_{\text{d}}=1$ 固定不变,$A_+/A_-$ 取不同的比值; (b)$A_+=A_-= $ $ 0.006$ 固定不变,$c_{\text{p}}/c_{\text{d}}$ 取不同的比值. 参数选择如下:$\tau_-$ 在$[10, 75]$ 的范围内随机取值,$\tau_+$ 的值通过$\tau_-$ 乘以相应的比值得到; (a)中$A_-=0.004$ ,$A_+$ 分别根据相应的比值计算给出; (b)中$c_{\text{p}}=1$ ,$c_{\text{d}}$ 分别根据相应的比值计算给出. 每个数据都是5次独立数值计算的平均数; 为了对比, 在图(a), (b)中分别用实线表示$\overline{W}_{\text{s}}=0.5\tau_+/\tau_-$ ,$\overline{W}_{\text{s}}=\tau_+/\tau_-$ 和$\overline{W}_{\text{s}}=2\tau_+/\tau_-$ 的线性关系Figure 4. Stable average weight
$\overline{W}_{\text{s}}$ as a function of$\tau_+/\tau_-$ : (a) At different ratio$A_+/A_-$ with with$c_{\text{p}}=c_{\text{d}}=1$ ; (b) at different ratio$c_{\text{p}}/c_{\text{d}}$ with$A_+=A_-=0.006$ .$\tau_-$ is given randomly in the range of 10 to 75,$\tau_+$ is calculated and given by using the ratio of the corresponding parameter.$A_-=0.004$ , and$A_+$ is calculated and given by using the ratio of the corresponding parameter in panel (a).$c_{\text{p}}=1$ , and$c_{\text{d}}$ is calculated and given by using the ratio of the corresponding parameter in panel (b). Data are averaged over 5 independent realizations. For comparison, the solid lines indicating the linear relations$\overline{W}_{\text{s}}=0.5\tau_+/\tau_-$ ,$\overline{W}_{\text{s}}=\tau_+/\tau_-$ and$\overline{W}_{\text{s}}=2\tau_+/\tau_-$ are shown in panels (a) and (b)图 6 稳定的平均突触权值
$\overline{W}_{{{\mathrm{s}}}}$ 与比值$A_+\tau_+c_{\text{p}} / A_-\tau_-c_{\text{d}}$ 的函数关系. 其中$A_+$ 和$A_-$ 在$[0.002, 0.01]$ 范围内随机选取,$\tau_+$ 和$\tau_-$ 在$[10, 75]$ 范围内随机选取,$c_{\text{p}}$ 和$c_{\text{d}}$ 在$[0.5, 2.5]$ 范围内随机选取Figure 6. Stable average weight
$\overline{W}_{{{\mathrm{s}}}}$ as a function of$A_+\tau_+c_{\text{p}}/A_-\tau_-c_{\text{d}}$ . Here,$A_+$ and$A_-$ are both chosen randomly in the range of$0.002$ to$0.01$ ,$\tau_+$ and$\tau_-$ are both chosen randomly in the range of 10 to 75, and$c_{\text{p}}$ and$c_{\text{d}}$ are both chosen randomly in the range of$0.5$ to$2.5$ .图 7 不同
$\sigma_{\nu}$ 条件下突触权值分布的概率密度$P(W)$ (a) 在线性-线性坐标中; (b) 在对数-线性坐标中. 纵向虚线表示不同$\sigma_{\nu}$ 的相应最概然权值$W_{\text{p}}$ . 参数选择如下:$A_+=A_-= $ $ 0.004$ ,$\tau_+=\tau_-=25$ ,$c_{\text{p}}=1$ 和$c_{\text{d}}=2$ . 结果是20次数值计算的平均Figure 7. Probability density
$P(W)$ for different$\sigma_{\nu}$ in linear-linear space (a), and in log-linear space (b). The vertical dashed lines indicate the corresponding most probable weights$W_{{{\mathrm{p}}}}$ for different$\sigma_{\nu}$ . Here, parameters$A_+ = A_- = $ $ 0.004$ ,$\tau_+=\tau_-=25$ ,$c_{{{\mathrm{p}}}}=1$ and$c_{{{\mathrm{d}}}}=2$ are given. Results are averaged over 20 realizations.图 8 稳定的突触权值分布的各特征量与
$\sigma_{\nu}$ 的函数关系 (a) 平均突触权值$\overline{W}_{\text{s}}$ 和最概然权值$W_{\text{p}}$ ; (b) 概率密度峰值$P_{\text{p}}$ ; (c) 突触权值的标准差$\sigma_{W}$ 和变差系数$CV$ . 为了比较, 图(a) 中水平虚线表示用(10)式计算的$\overline{W}_{\text{s}}$ 的理论值; 垂直虚线表示$\sigma_{\nu}$ 的临界值. 参数选择如下:$A_+=A_-= $ $ 0.004$ ,$\tau_+=\tau_-=25$ ,$c_{\text{p}}=1$ 和$c_{\text{d}}=2$ . 结果是20次数值计算的平均Figure 8. Characteristic quantities of the stable synaptic weight distribution as a function of
$\sigma_{\nu}$ : (a) The average synaptic weight$\overline{W}_{\text{s}}$ and the most probable weight$W_{\text{p}}$ ; (b) the most probability density$P_{\text{p}}$ ; (c) the standard deviation of weight$\sigma_{W}$ and the coefficient of variation$CV$ . For comparison, the theoretical value of$\overline{W}_{\text{s}}$ in Eq. (10) is shown by using the horizontal dashed line in panel (a). The vertical dashed line denotes the critical$\sigma_{\nu}$ . Here, parameters$A_+=A_-=0.004$ ,$\tau_+=\tau_-=25$ ,$c_{\text{p}}=1$ and$c_{\text{d}}=2$ are given. Results are averaged over 20 realizations. -
[1] Siegel J M 2001 Science 294 1058 doi: 10.1126/science.1063049 [2] Diekelmann S, Born J 2010 Nat. Rev. Neurosci. 11 114 doi: 10.1038/nrn2762 [3] Inostroza M, Born J 2013 Annu. Rev. Neurosci. 36 79 doi: 10.1146/annurev-neuro-062012-170429 [4] De Lavilléon G, Lacroix M M, Rondi-Reig L, Benchenane K 2015 Nat. Neurosci. 18 493 doi: 10.1038/nn.3970 [5] Tononi G, Cirelli C 2006 Sleep Med. Rev. 10 49 doi: 10.1016/j.smrv.2005.05.002 [6] Stickgold R, Hobson J A, Fosse R, Fosse M 2001 Science 294 1052 doi: 10.1126/science.1063530 [7] Tononi G, Cirelli C 2003 Brain Res. Bull. 62 143 doi: 10.1016/j.brainresbull.2003.09.004 [8] McCormick D A, Feeser H R 1990 Neurosci. 39 103 doi: 10.1016/0306-4522(90)90225-S [9] Steriade M, Nuñez A, Amzica F 1993 J. Neurosci. 13 3252 doi: 10.1523/JNEUROSCI.13-08-03252.1993 [10] Steriade M, McCormick D A, Sejnowski T J 1993 Science 262 679 doi: 10.1126/science.8235588 [11] Postnova S, Voigt K, Braun H A 2007 J. Biol. Phys. 33 129 doi: 10.1007/s10867-007-9048-x [12] Zhou J F, Jiang E H, Xu B L, Xu K, Zhou C, Yuan W J 2021 Phys. Rev. E 104 054407 doi: 10.1103/PHYSREVE.104.054407 [13] Dhamala M, Jirsa V K, Ding M 2004 Phys. Rev. Lett. 92 028101 doi: 10.1103/PhysRevLett.92.028101 [14] Nguyen T, Babawale O, Kim T, Jo H J, Liu H, Kim J G 2018 Sci. Rep. 8 16144 doi: 10.1038/s41598-018-33439-2 [15] Curtis B J, Williams P G, Jones C R, Anderson J S 2016 Brain Behav. 6 e00576 doi: 10.1002/brb3.576 [16] Xu B L, Zhou J F, Li R, Jiang E H, Yuan W J 2023 Physica A 617 128663 doi: 10.1016/j.physa.2023.128663 [17] Abbott L F, Regehr W G 2004 Nature 431 796 doi: 10.1038/nature03010 [18] Destexhe A, Marder E 2004 Nature 431 789 doi: 10.1038/nature03011 [19] Caporale N, Dan Y 2008 Annu. Rev. Neurosci. 31 25 doi: 10.1146/annurev.neuro.31.060407.125639 [20] Zhou J F, Yuan W J, Chen D, Wang B H, Zhou Z, Boccaletti S, Wang Z 2019 Phys. Rev. E 99 032419 doi: 10.1103/PhysRevE.99.032419 [21] Song S, Miller K D, Abbott L F 2000 Nat. Neurosci. 3 919 doi: 10.1038/78829 [22] Yuan W J, Zhou J F, Zhou C 2013 PLoS One 8 e84644 doi: 10.1371/journal.pone.0084644 [23] Babadi B, Abbott L F 2010 PLoS Comput. Biol. 6 e1000961 doi: 10.1371/journal.pcbi.1000961 [24] 王美丽, 王峻松 2015 物理学报 64 108701 doi: 10.7498/aps.64.108701 Wang M L, Wang J S 2015 Acta Phys. Sin. 64 108701 doi: 10.7498/aps.64.108701 [25] Takahashi Y K, Kori H, Masuda N 2009 Phys. Rev. E 79 051904 doi: 10.1103/PhysRevE.79.051904 [26] Meisel C, Gross T 2009 Phys. Rev. E 80 061917 doi: 10.1103/PhysRevE.80.061917 [27] Andrade K C, Spoormaker V I, Dresler M, Wehrle R, Holsboer F, Sämann P G, Czisch M 2011 J. Neurosci. 31 10331 doi: 10.1523/JNEUROSCI.5660-10.2011 [28] Hindmarsh J L, Rose R M 1984 Proc. R. Soc. Lond. B Biol. Sci. 221 87 doi: 10.1098/rspb.1984.0024 [29] Erdős P, Rényi A 1960 Publ. Math. Inst. Hung. Acad. Sci. 5 17 [30] Vanvreeswijk C, Sompolinsky H 1996 Science 274 1724 doi: 10.1126/science.274.5293.1724 [31] Vogels T P, Abbott L F 2005 J. Neurosci. 25 10786 doi: 10.1523/JNEUROSCI.3508-05.2005 [32] Bi G Q, Poo M 1998 J. Neurosci. 18 10464 doi: 10.1523/JNEUROSCI.18-24-10464.1998 [33] Van Rossum M C W, Bi G Q, Turrigiano G G 2000 J. Neurosci. 20 8812 doi: 10.1523/JNEUROSCI.20-23-08812.2000 [34] McCormick D A 1992 J. Clin. Neurophysiol. 9 212 doi: 10.1097/00004691-199204010-00004 [35] Steriade M 2003 Front. Biosci. 8 878 doi: 10.2741/1043 [36] Li K T, Liang J, Zhou C 2021 Neural Plast. 2021 6668175 doi: 10.1155/2021/6668175 [37] Wang S, Zhou C 2009 Phys. Rev. E 79 061910 doi: 10.1103/PhysRevE.79.061910 [38] Vyazovskiy V V, Olcese U, Hanlon E C, Nir Y, Cirelli C, Tononi G 2011 Nature 472 443 doi: 10.1038/nature10009 [39] Buzsáki G, Mizuseki K 2014 Nat. Rev. Neurosci. 15 264 doi: 10.1038/nrn3687 [40] Song S, Sjöström P J, Reigl M, Nelson S, Chklovskii D B 2005 PLoS Biol. 3 e68 doi: 10.1371/journal.pbio.0030068 -
首页
登录
注册


下载: