基于Transformer-GRU的数据回归预测

模型结合Transformer的全局注意力机制和GRU的短期记忆及序列处理能力

首先，采用Transformer自注意力机制捕捉数据的全局依赖性，并输出一个经过全局上下文编码的表示；然后，采用GRU内部的记忆单元和门控机制捕捉数据中的短期依赖关系，进一步处理这个表示，捕捉其中的短期依赖关系，并输出最终的预测结果

ID:89100