星空体育TimeMixer++是一个立异的时候序列判辨模子,通过多标准和多分辩率的手法正在多个职司上超越了现有模子,出现了时候序列判辨的新视角,正在预测和分类等职司带来了更高真实切性和敏捷性。
正在数据驱动的时间超越,时候序列判辨成为了很多范畴中不成或缺的一个别,比方情景预测、医学症状分类、航天器的很是检测、以及传感器数据中缺失数据的填充等等,这些应器整体涉及到时候序列预测、分类、很是检测、缺失值填充等职司。
近些年来,搜罗Transformer架构正在内的一系列使命,固然正在细分职司上暴呈现色的机能,但因为缺乏敏捷和通用的时序特性的提取才智,无法成为通用的模子架构。
为领会决这些题目超越,来自MIT、港科大、浙大以合格里菲斯大学的华人团队连合推出了一种全新的深度模子架构TimeMixer++,正在长程时序预测、短程时序预测、时序分类、很是检测等8项时序职司上的功用所有超越了Transformer等模子,完毕了通用的时候序列筑模和使用。
TimeMixer++的通用才智得益于其可以提取通用的时序特性,针对差别职司,模子自符合地练习了差另表隐空间表征,暴呈现强盛的敏捷度和有用性。
论文提出了「时序特性机械」(Time Series Pattern Machine, TSPM)的观点,举动一个能正在普通时序职司中浮现卓绝的模子,务必能提取各类各样的时序特性,以符合职司的央浼星空体育。
时候序列是从连气儿的实际寰宇中以差别标准举行采样取得的(如秒、分钟、幼时),而差别标准下暴露的周期性是差另表。该多标准、多周期性的特征,诱导了模子架构的策画。
TimeMixer++基于时域(多标准)和频域(多频率/周期)的消息,将每一条时候序列转化为多分辩率时序图(Multi-Resolution Time Images),并对每一个时序图正在深度空间中举行解耦和羼杂,最终提取多标准超越、多周期的特性。
2. Time Image Decomposition (TID):TID通过横轴和纵轴两个轴向的幼心力机造超越,从每一个时序图中解耦时令-趋向,取得时令图和趋向图。
3. Multi-Scale Mixing (MCM):MCM掌握将差别标准上的时令图和趋向图分辨举行羼杂,鉴于图的局势,论文采用了卷积和反卷积的操作。
MCM以时令和趋向羼杂为动力,将时令图由细粒度到粗粒度渐渐荟萃,并行使较粗标准的先验常识深化发掘宏观趋向消息,最终完毕过去消息提取中的多标准羼杂。对趋向图超越,则采用由粗粒度到细粒度的渐渐荟萃。
为了验证TimeMixer++的机能,作家正在包蕴长程预测,短程预测,时序分类,很是检测,填充,少样本/零样本预测等8个时序主流职司进步行测试。实践结果解说,TimeMixer++正在多个目标上所有超越了现在最先辈的Transformer模子,整体浮现如下:
正在长程时序预测中,TimeMixer++正在9/12的目标上超越了近几年的预测模子。
正在单变量和多变量的短程预测职司中,TimeMixer++全方位超越了近几年的其他模子。
正在缺失值填充职司中,TimeMixer++同样维持了当先上风,正在险些通盘目标和数据上超越了其他模子。
正在繁难的分类职司和很是检测职司中,TimeMixer++已经正在通盘模子中得到了最好的后果,击败了诸多专为该职司策画的时序模子。
正在零样本预测的设立下,TimeMixer++浮现得到了第一,评释提取到通用的时序特性,而并非得益于过拟合。
通过可视化判辨超越,解说TimeMixer++将时候序列理会为多组时令图和趋向图,可能从时域和频域两个角度,全方位提取时序的特性。差别标准和频率条目下,时令性和趋向性有明显差别。
TimeMixer++正在内存占用和陶冶时候上浮现出高效性,同时维持了有逐鹿力的MSE分数。正在气候数据增加和ETTm1长远预测职司中,相较于其他模子,具备更低的内存占用和较疾的陶冶时候,且能有用捕获长程依赖闭联。
作家举行了溶解实践验证TimeMixer++架构的合理性。结果解说已有的多组模块策画正在绝大个别数据集上都得到了最优后果。
本文先容了一种全新的深度模子架构TimeMixer++,正在8个时候序列判辨职司中所有超越了Transformer等模子,得胜完毕了通用的时候序列筑模与使用。TimeMixer++的立异之处正在于将时候序列转化为图像,并正在时域与频域、多标准、多分辩率下举行特性提取,从而提拔了模子的浮现超越。
TimeMixer++的得胜不单为时序判辨范畴带来了新的思绪,也出现了一种全新的时序明了视角。来日,跟着更多优化技艺和使用场景的引入,信任TimeMixer++将进一步胀舞时序预测技艺的兴盛,为各行业带来更大的价格。星空体育超越凌驾Transformer周全跳级MIT等华人团队宣告通用时序TimeMixer++架构8项工作周全当先