精度显著提升
通过并行混合激活卷积和输入注意力解决TCN冗余卷积和等权输入问题,实现比最先进RNN和TCN基线更高的预测精度。
许铮铧 · Yu, Zhoutao · Zhang, Hexiang · 陈俊扬 · Junhua, Gu · Lukasiewicz, Thomas · Victor C. M., Leung
IEEE Transactions on Network Science and Engineering 2023
输入注意力突出重要特征、抑制无关特征,混合激活卷积缩短学习路径,共同提升精度。
混合激活卷积弥补了输入注意力带来的额外时间开销,使模型在精度提升的同时保持与TCN相近甚至更好的学习效率。
输入注意力和混合激活卷积可嵌入现有TCN,消融实验证实二者对精度提升均有效且必要。