今日頭條
官方微信
官方抖音
資訊頻道
面向非平穩(wěn)時間序列預測任務的持續(xù)學習框架
持續(xù)學習任務示意圖
工業(yè)時間序列是反映生產過程的結構化數(shù)據(jù)，其分析和預測對于優(yōu)化工業(yè)流程、提升效率具有重要意義。然而，工業(yè)生產過程中的動態(tài)變化會導致時間序列數(shù)據(jù)分布漂移，使得傳統(tǒng)靜態(tài)預測模型無法長期保持高效性。傳統(tǒng)的模型更新方法，如重新訓練的計算和存儲成本高昂；而增量微調的方式容易導致已學模式的災難性遺忘，這些問題限制了現(xiàn)有模型在非平穩(wěn)工業(yè)環(huán)境中的應用效果。
為應對上述挑戰(zhàn)，中國科學院沈陽自動化研究所數(shù)字工廠研究室科研團隊提出了一種面向非平穩(wěn)工業(yè)時間序列預測的自適應持續(xù)學習（Adaptive Continual Learning,ACL）方法，顯著提升了預測模型的適應性和泛化能力。該研究成果以An Adaptive Continual Learning Method for Nonstationary Industrial Time Series Prediction為題，發(fā)表在中國科學院1區(qū)TOP期刊IEEE Transactions on Industrial Informatics。
該研究從網(wǎng)絡訓練和網(wǎng)絡結構兩個方面改進了持續(xù)學習方法。團隊通過基于提示的網(wǎng)絡參數(shù)學習保留了先前任務的“暗知識”，有效緩解災難性遺忘，同時，引入軟記憶緩沖區(qū)使模型能夠更好地學習當前任務，從而在穩(wěn)定性與可塑性之間實現(xiàn)平衡。此外，團隊在網(wǎng)絡結構層面提出了一種時間敏感的激活函數(shù)TimeRelu，使網(wǎng)絡激活閾值隨時間變化，從而提高了模型的泛化能力。該方法在開源的太陽能發(fā)電數(shù)據(jù)集和實際的磨礦分級過程數(shù)據(jù)集上驗證了其有效性。
研究成果有望應用于智能礦山、鋼鐵冶金等復雜工業(yè)場景中的預測性維護和生產過程優(yōu)化等場景。下一步，將針對任務劃分的自動化和概念漂移檢測等問題開展深入研究，同時探索元學習等前沿技術在增強模型動態(tài)適應能力方面的潛力。
該研究得到了國家自然科學基金和遼寧省重點研發(fā)計劃的支持。（數(shù)字工廠研究室）
來源：中國科學院沈陽自動化研究所
北京市公安局海淀分局備案號：11010802023656號