小模型媲美大网络
用具有内部复杂性的HH神经元构建的小型网络,在动力学特性和性能上可等价于更大规模的LIF网络,从另一条路径提升了AI模型的效率。
He, Weihua · 林一瀚 · 田阳 · 王文会 · Zhang, Ziyang · 韩军伟 · 田永鸿 · 徐波 · 李国齐
Nature Computational Science 2024
HH网络能在更小的外部规模下复现更大LIF网络的动态特性与性能,从而减少所需的神经元数量。
通过赋予神经元丰富的内部复杂性,可构建更高效的大规模AI模型,而不必仅依赖增加网络深度和宽度。
为了激发相同的动力学特性,具有简单内部复杂性的LIF网络必须大幅增加外部规模,而HH网络则无需如此。