Nature Communications | 混合神经网络的通用设计与计算框架

Nature Communications | 混合神经网络的通用设计与计算框架

混合神经网络(Hybrid Neural Networks, HNNs)的趋势日益增长,这通过结合尖峰神经网络(Spiking Neural Networks, SNNs)和人工神经网络(Artificial Neural Networks, ANNs)来利用双方的优势。清华大学团队提出了一个HNNs的通用设计和计算框架,通过引入混合单元(Hybrid Units, HUs)作为连接接口。

该框架不仅整合了这些计算范式的关键特征,还将其解耦以提高灵活性和效率。HUs是可以设计的和可学习的,以促进HNNs中混合信息流的传输和调节。通过三个案例,我们展示了该框架可以促进混合模型设计。

混合感知网络实现了多路径感知,实现了高跟踪精度和能源效率。混合调制网络实现了层次化信息抽象,使得多任务的元持续学习成为可能。混合推理网络以可解释的、稳健的和并行的方式执行多模态推理。这项研究推进了跨范式建模,用于广泛的智能任务。

成果发表于2022年6月14日《Nature Communications》。