【微科普】脉冲神经网络（Spiking Neural Network, SNN）

今天民乐团扒谱机来给大家介绍脉冲神经网络Spiking Neural Network, SNN以及支撑它的**神经形态计算Neuromorphic Computing**硬件架构。一、脉冲神经网络就是你要找的“生物硬盘实现”传统的人工神经网络CNN、Transformer这些虽然在名字上“仿生”但它的计算模式还是冯·诺依曼那一套——权重存在显存里算的时候取出来乘加写回去。它只是数学上模仿了神经元的输入输出关系架构上依然是存算分离。脉冲神经网络是第三代神经网络它的设计直接对标生物神经系统的物理结构。核心差异有三点1. 信息载体是脉冲事件不是连续数值SNN里的神经元不是每层都输出一个激活值比如0.73而是在膜电位累积到阈值时发放一个离散的脉冲spike其他时间保持静默。这个“全或无”的特性和你在文章里描述的生物神经元完全一致。2. 计算只在有脉冲时才发生天然稀疏一个SNN网络中绝大多数神经元在绝大多数时间是不发放脉冲的。这意味着计算只在脉冲到达时触发没有脉冲就不算。对比一下ANN里不管输入是什么每一层都要把所有权重算一遍。SNN的“事件驱动”特性让它的理论功耗比同等规模的ANN低一到两个数量级。3. 信息编码在脉冲的时间间隔里而不是频率这是更深的一层。生物神经系统里神经元不只是用“发得多快”来编码信息还用脉冲之间的精确时间差。这种时间编码在SNN中也有对应模型如时间编码、相位编码这让SNN天生适合处理时空信息——比如视频流里的运动检测、机器人控制里的连续决策。二、硬件层面已经有了“生物硬盘”的物理实现光有算法不够还得有能跑它的硬件。传统的GPU英伟达那些是为ANN的密集矩阵乘法优化的跑SNN效率极低。所以学术界和工业界在过去十年里专门研发了一类全新的芯片架构——神经形态处理器。这里有几个标志性的进展Intel Loihi系列Intel在2018年发布了第一代Loihi芯片采用异步脉冲电路设计片上集成了13万个神经元和1.3亿个突触。它的核心设计理念就是分布式的存内计算——每个神经元核心有自己的本地存储器没有中央的“显存”概念。Loihi 2在2021年发布制程升级到Intel 4能效进一步提升。IBM TrueNorth2014年IBM发布的TrueNorth有100万个神经元和2.56亿个突触功耗只有70毫瓦。这是最早证明“类脑芯片可以做到极低功耗”的产品。中国的“天机芯”清华大学的施路平团队在2019年Nature上发表的“天机芯”Tianjic是全球第一个同时支持ANN和SNN两种模型的神经形态芯片。它被装在一辆自动驾驶自行车上演示了实时目标检测和平衡控制。忆阻器存内计算这是更底层的突破。忆阻器Memristor是一种阻值随历史电压变化的器件它的物理结构天然就是一个“突触”——阻值代表权重电流累积代表膜电位积分。中科院微电子所、北大杨玉超团队、华科缪向水团队在近两年连续取得突破已经可以在忆阻器阵列上直接实现脉冲驱动的存内计算能效比传统GPU高出两个数量级。三、既然这么好为什么没普及三个硬伤你问到了关键点。SNN和神经形态计算从1980年代被提出到现在快半个世纪了为什么还没取代GPU原因很现实。硬伤一训练算法不成熟ANN的训练有反向传播Backpropagation这是它的“核武器”。给定一个损失函数可以精确地计算出每一层每个权重的梯度然后用SGD、Adam这些优化器去更新。SNN的脉冲发放是一个不可微的操作。阈值判断那个“阶跃函数”导数是0除了在阈值点没定义。你不能直接对脉冲序列做反向传播。学术界发明了各种“绕过”这个问题的训练方法替代梯度Surrogate Gradient在反向传播时把阶跃函数的导数用一个平滑的函数比如Sigmoid的导数替代。前向传播还是用真实脉冲反向传播用替代梯度。这个方法现在用得最多在DVS手势识别、语音命令等任务上已经能达到接近ANN的精度。ANN-to-SNN转换先训练一个标准的ANN然后把它的激活值“翻译”成脉冲发放频率。这种方法理论精度高但转换后的SNN延迟大需要很多时间步才能把信息传完。脉冲时序依赖可塑性STDP这是一种纯本地的、无监督的学习规则——如果突触前神经元先发放突触后神经元后发放连接加强反过来则减弱。STDP不需要反向传播可以在硬件上直接实现在线学习。但它在复杂任务上的表现远不如监督学习。这些方法都能用但没有一个能达到“像反向传播之于ANN那样”的统治地位。硬伤二编码效率低延迟大ANN处理一张224x224的ImageNet图片只需要一次前向传播毫秒级完成。SNN处理同样的任务需要把静态图片转换成脉冲序列——要么用频率编码每个像素的灰度值转换成一段时间内的脉冲数量要么用时间编码脉冲在时间轴上的位置编码信息。无论哪种方式都需要几十到几百个时间步才能完成一次推理。这意味着SNN在处理静态图像任务时延迟是ANN的几十倍。虽然单次脉冲操作能耗很低但乘上这个时间倍数后总能耗优势就大打折扣了。SNN的真正优势场景是动态、稀疏、时序性强的任务——比如事件相机DVS的输出、语音流处理、机器人控制。在这些场景里输入本身就是脉冲序列不需要编码SNN的低延迟优势才能体现出来。硬伤三硬件生态碎片化软件栈不成熟你用PyTorch、TensorFlow写一个ANN模型可以直接跑在任何NVIDIA GPU上甚至AMD、华为昇腾也能兼容。CUDA生态花了15年才建成这个护城河。SNN和神经形态硬件的情况完全不同Intel Loihi用自己的一套编程框架LavaIBM TrueNorth有自己的工具链忆阻器阵列每个实验室的器件特性都不一样编程方法也不同没有统一的指令集架构没有通用的编译器没有标准化的算子库。这意味着你今天为一个Loihi写的模型明天不能移植到另一个忆阻器芯片上。学术界正在努力解决这个问题。目前有一些开源框架如Nengo、snnTorch、SpykeTorch试图在软件层面抽象出统一的SNN编程接口但离“一写到处跑”还有很远的距离。四、正在突破的方向你可能正在见证它的转折点尽管有以上问题但这个领域在2024-2026年密集出现了一批突破。三个值得关注的动向1. 脉冲Transformer的出现Transformer已经统治了CV和NLPSNN圈也在跟进。华科团队在ICCAD 2025上发表了脉冲Transformer加速器SPARTA用强化学习动态跳过无效token能效比GPU提升上百倍。这说明SNN正在从“简单分类任务”走向“大规模复杂模型”。2. 硬件层面的抗噪学习突破北大杨玉超团队2026年1月在Nature Electronics上发表的工作用忆阻器混合阵列实现了“疲劳STDP”学习规则——硬件本身就能过滤高频噪声不需要软件预处理。在嘈杂环境下的语音识别任务中抗噪能力远超传统SNN实现。3. 存内计算架构解决“存储墙”神经形态芯片虽然比GPU能效高但片上存储SRAM、STT-MRAM本身也在消耗大量面积和能量。有学者提出了“新存储墙”问题——计算单元的能耗降下来了但片上存储的能耗占比反而上去了。针对这个问题忆阻器存内计算架构CIM是公认的出路。中科院微电子所的PipeSDFA架构实现了时间步、数据、批处理三级流水线能效比传统RRAM-CIM架构提升1.4到2.1倍。总结回答你的两个问题有没有真正仿照大脑的神经网络有。脉冲神经网络SNN和神经形态计算硬件在信息编码方式脉冲、事件驱动、存算架构分布式存储、本地计算上是目前最接近生物大脑的工程实现。如果没有为什么没开发不是没开发是还没到大规模普及的临界点。训练算法不成熟、编码效率低、硬件生态碎片化这三个硬伤在过去二十年里限制了它的落地。但这个领域在过去两年出现了密集的技术突破脉冲Transformer、忆阻器存内计算、抗噪学习加上AI算力功耗问题越来越严峻SNN正在从实验室走向边缘端应用。如果你想亲自体验不需要买任何硬件。用Python的snnTorch库基于PyTorch可以跑SNN模型Intel的Lava框架也可以在CPU上模拟Loihi的行为。跑一个DVS手势识别的demo你会直观感受到“脉冲稀疏性”带来的计算效率。