簡(jiǎn)介這份資源是面向計(jì)算機(jī)、人工智能、自動(dòng)化等專業(yè)學(xué)生與開發(fā)者的電力負(fù)荷預(yù)測(cè)系統(tǒng)完整源碼包基于Java實(shí)現(xiàn)雙向堆疊LSTM模型可用于畢業(yè)設(shè)計(jì)、課程設(shè)計(jì)、項(xiàng)目立項(xiàng)演示或算法學(xué)習(xí)進(jìn)階。壓縮包共90個(gè)文件約14.48MB包含20個(gè)java源文件、23個(gè)class編譯文件、12個(gè)jar依賴庫、24個(gè)png界面截圖以及fxml界面布局、xml配置、html與jnlp啟動(dòng)文件、md說明文檔等覆蓋從模型訓(xùn)練到可視化預(yù)測(cè)的完整工程結(jié)構(gòu)。項(xiàng)目代碼均經(jīng)測(cè)試運(yùn)行成功答辯評(píng)審平均分達(dá)96分README中附有使用說明便于快速上手與二次修改。目前已有161人學(xué)習(xí)關(guān)注適合希望掌握LSTM時(shí)序預(yù)測(cè)落地實(shí)現(xiàn)、需要可運(yùn)行參考項(xiàng)目的讀者下載研究也可在此基礎(chǔ)上擴(kuò)展功能用于其他負(fù)荷預(yù)測(cè)或時(shí)間序列場(chǎng)景。1. 雙向堆疊LSTM做電力負(fù)荷預(yù)測(cè)Java工程里到底怎么落地電力負(fù)荷預(yù)測(cè)這個(gè)場(chǎng)景做過的都知道它不像圖像分類那樣有現(xiàn)成的大數(shù)據(jù)集和成熟基線。一個(gè)地市級(jí)電網(wǎng)的負(fù)荷曲線受氣溫、節(jié)假日、工作日類型、大工業(yè)用戶排產(chǎn)計(jì)劃多重疊加影響日周期和週周期混在一起單層單向 LSTM 經(jīng)常在早高峰爬坡段和晚高峰回落段出現(xiàn)明顯滯后。雙向堆疊 LSTM 的價(jià)值就在這里雙向結(jié)構(gòu)讓同一時(shí)刻的輸出同時(shí)看到前序負(fù)荷和后序負(fù)荷的上下文堆疊結(jié)構(gòu)讓底層捕捉短時(shí)波動(dòng)、上層捕捉日周期模式。而用 Java 而不是 Python 來做這件事核心訴求通常不是算法研究是要把預(yù)測(cè)服務(wù)嵌進(jìn)已有的 Spring Boot 微服務(wù)里和調(diào)度系統(tǒng)、SCADA 采集、報(bào)表模塊共用一套技術(shù)棧避免模型訓(xùn)練用 Python、上線推理再包一層 HTTP 的割裂。這篇筆記就按「數(shù)據(jù)怎么進(jìn)、模型怎么搭、Java 側(cè)怎么跑通、坑在哪」的順序把一套可復(fù)現(xiàn)的工程路徑講清楚源碼和文檔說明的骨架也會(huì)在中間章節(jié)落到具體文件和參數(shù)上。2. 數(shù)據(jù)管道與特征工程從 SCADA 原始點(diǎn)表到模型輸入張量2.1 電力負(fù)荷數(shù)據(jù)的三個(gè)臟點(diǎn)與清洗策略拿到手的原始負(fù)荷數(shù)據(jù)常見形態(tài)是一張load_curve表字段大致是point_id、collect_time、active_power采樣間隔 15 分鐘或 1 小時(shí)。第一個(gè)臟點(diǎn)是缺失SCADA 通信中斷會(huì)導(dǎo)致連續(xù)幾個(gè)點(diǎn)為空直接丟會(huì)讓序列斷裂直接填 0 會(huì)讓模型學(xué)到假的低谷。我一般用「同日同時(shí)刻前值 前后線性插值」的組合單點(diǎn)缺失用前后均值連續(xù)缺失超過 4 個(gè)點(diǎn)就用前一日同一時(shí)刻的值補(bǔ)再標(biāo)記一個(gè)缺失掩碼位。第二個(gè)臟點(diǎn)是尖峰毛刺采集通道受干擾時(shí)會(huì)出現(xiàn)單點(diǎn)跳變到額定值 3 倍以上的情況用 3σ 準(zhǔn)則配合滑動(dòng)窗口中位數(shù)濾波處理。第三個(gè)臟點(diǎn)是時(shí)區(qū)與夏令時(shí)跨區(qū)域電網(wǎng)數(shù)據(jù)合并時(shí)如果不統(tǒng)一到 UTC 再轉(zhuǎn)本地日周期特征會(huì)整體錯(cuò)位一小時(shí)。import pandas as pd import numpy as np def clean_load_series(df, freq15min): # df: 含 collect_time, active_power 兩列已按時(shí)間排序 df df.set_index(collect_time).sort_index() full_idx pd.date_range(df.index.min(), df.index.max(), freqfreq) df df.reindex(full_idx) # 單點(diǎn)缺失前后線性插值 df[active_power] df[active_power].interpolate(methodlinear, limit1) # 連續(xù)缺失用前一日同時(shí)刻值補(bǔ) mask df[active_power].isna() df[active_power] df[active_power].fillna( df[active_power].shift(96) # 96 24h / 15min ) # 3σ 毛刺剔除用滑動(dòng)中位數(shù)替換 rolling_med df[active_power].rolling(5, centerTrue).median() std df[active_power].std() mean df[active_power].mean() outlier (df[active_power] - mean).abs() 3 * std df.loc[outlier, active_power] rolling_med[outlier] return df這段清洗邏輯的關(guān)鍵參數(shù)是limit1和shift(96)。limit1限制線性插值只補(bǔ)單點(diǎn)避免把連續(xù)缺失也線性拉平shift(96)對(duì)應(yīng) 15 分鐘采樣下的一天周期如果你的數(shù)據(jù)是小時(shí)級(jí)就改成 24?；瑒?dòng)中位數(shù)窗口取 5 是經(jīng)驗(yàn)值太小去不掉寬毛刺太大把真實(shí)爬坡也磨平了。清洗完一定要畫一遍日負(fù)荷曲線疊加圖肉眼確認(rèn)早高峰和晚高峰的形態(tài)沒被破壞這一步比任何指標(biāo)都直接。2.2 特征構(gòu)造把時(shí)間、氣象、節(jié)假日編碼進(jìn)輸入雙向堆疊 LSTM 的輸入張量形狀是[batch, time_steps, features]。time_steps我一般取 96對(duì)應(yīng) 24 小時(shí) 15 分鐘粒度或 168一周取決于你要預(yù)測(cè)未來 1 天還是 7 天。features維度至少包含歸一化后的負(fù)荷值、小時(shí) sin/cos 編碼、星期 sin/cos 編碼、工作日/周末標(biāo)志、節(jié)假日標(biāo)志、溫度、濕度。注意小時(shí)和星期必須用 sin/cos 而不是 one-hot因?yàn)?23 點(diǎn)和 0 點(diǎn)在語義上相鄰one-hot 會(huì)丟掉這個(gè)距離關(guān)系。def build_features(df, weather_df): df df.copy() df[hour] df.index.hour df[weekday] df.index.weekday df[hour_sin] np.sin(2 * np.pi * df[hour] / 24) df[hour_cos] np.cos(2 * np.pi * df[hour] / 24) df[wd_sin] np.sin(2 * np.pi * df[weekday] / 7) df[wd_cos] np.cos(2 * np.pi * df[weekday] / 7) df[is_weekend] (df[weekday] 5).astype(int) df df.merge(weather_df[[temp, humidity]], left_indexTrue, right_indexTrue, howleft) # 負(fù)荷歸一化用訓(xùn)練集 min/max避免未來信息泄漏 return df歸一化這里有個(gè)血淚經(jīng)驗(yàn)min/max 必須只用訓(xùn)練集統(tǒng)計(jì)驗(yàn)證集和測(cè)試集用同一個(gè) scaler 變換。我見過有人在全量數(shù)據(jù)上算 min/max 再切分測(cè)試集指標(biāo)好得離譜上線后直接翻車。溫度特征如果拿不到實(shí)測(cè)用數(shù)值天氣預(yù)報(bào)的預(yù)報(bào)值也可以但要注意預(yù)報(bào)值和實(shí)測(cè)值的系統(tǒng)性偏差最好在訓(xùn)練時(shí)把「預(yù)報(bào)溫度」和「實(shí)測(cè)溫度」都作為特征喂進(jìn)去讓模型自己學(xué)偏差。3. 雙向堆疊 LSTM 模型結(jié)構(gòu)Java 側(cè)用 Deeplearning4j 搭起來3.1 為什么選 Deeplearning4j 而不是調(diào) Python 服務(wù)Java 生態(tài)里做深度學(xué)習(xí)可選的主要是 Deeplearning4jDL4J和 DJL。DL4J 的優(yōu)勢(shì)是 ND4J 張量庫和 Spark 集成成熟模型可以直接序列化成.zip在 JVM 里加載推理不需要額外起 Python 進(jìn)程。DJL 更偏推理引擎封裝訓(xùn)練側(cè)不如 DL4J 順手。如果你的團(tuán)隊(duì)是純 Java 棧運(yùn)維不接受 Python 環(huán)境DL4J 是務(wù)實(shí)選擇。代價(jià)是它的 API 比 PyTorch 啰嗦調(diào)參時(shí)改結(jié)構(gòu)要重編譯所以我的習(xí)慣是先在 Python 側(cè)用 PyTorch 快速試結(jié)構(gòu)確定層數(shù)、隱藏單元數(shù)、dropout 之后再在 DL4J 里復(fù)刻。模型結(jié)構(gòu)上雙向堆疊 LSTM 的典型配置是兩層第一層雙向 LSTM隱藏單元 64第二層雙向 LSTM隱藏單元 32后面接全連接層輸出預(yù)測(cè)步長(zhǎng)。雙向的關(guān)鍵是Bidirectional包裝DL4J 里用new Bidirectional(new LSTM.Builder()...)。堆疊時(shí)注意第一層的輸出序列要完整傳給第二層不要在中途做 pooling否則時(shí)序上下文就斷了。MultiLayerConfiguration conf new NeuralNetConfiguration.Builder() .seed(42) .updater(new Adam(0.001)) .weightInit(WeightInit.XAVIER) .list() .layer(new Bidirectional(new LSTM.Builder() .nIn(featureDim).nOut(64) .activation(Activation.TANH) .build(), new LSTM.Builder() .nIn(featureDim).nOut(64) .activation(Activation.TANH) .build())) .layer(new Bidirectional(new LSTM.Builder() .nIn(128).nOut(32) // 雙向輸出拼接后是 64*2128 .activation(Activation.TANH) .build(), new LSTM.Builder() .nIn(128).nOut(32) .activation(Activation.TANH) .build())) .layer(new DenseLayer.Builder().nIn(64).nOut(32) .activation(Activation.RELU).build()) .layer(new OutputLayer.Builder(LossFunctions.LossFunction.MSE) .nIn(32).nOut(forecastSteps) .activation(Activation.IDENTITY).build()) .build();參數(shù)說明Adam(0.001)是學(xué)習(xí)率負(fù)荷預(yù)測(cè)這種回歸任務(wù) 1e-3 起步比較穩(wěn)訓(xùn)練后期如果 loss 震蕩可以降到 1e-4。WeightInit.XAVIER對(duì) tanh 激活合適如果你把激活換成 ReLU 就改用 HE。第二層 LSTM 的nIn必須是第一層雙向輸出拼接后的維度即64*2128這個(gè)數(shù)字寫錯(cuò)會(huì)在 build 時(shí)直接報(bào)維度不匹配算是比較容易發(fā)現(xiàn)的錯(cuò)誤。輸出層用IDENTITY激活配 MSE因?yàn)樨?fù)荷值是連續(xù)實(shí)數(shù)不需要 squash 到 0-1。3.2 訓(xùn)練循環(huán)與早停Java 里怎么監(jiān)控驗(yàn)證集DL4J 的訓(xùn)練用MultiLayerNetwork.fit配合DataSetIterator。我一般把訓(xùn)練集和驗(yàn)證集分別做成ListDataSetIterator每個(gè) epoch 結(jié)束后在驗(yàn)證集上算一次 RMSE連續(xù) 5 個(gè) epoch 沒下降就停。這里有個(gè)容易忽略的點(diǎn)雙向 LSTM 在訓(xùn)練時(shí)看到完整序列但推理時(shí)如果做滾動(dòng)預(yù)測(cè)序列右端是逐步補(bǔ)進(jìn)去的訓(xùn)練和推理的上下文長(zhǎng)度不一致會(huì)導(dǎo)致偏差。緩解辦法是訓(xùn)練時(shí)也用滑動(dòng)窗口截?cái)嘧屇Ｐ土?xí)慣「右端信息不完整」的情況。for (int epoch 0; epoch maxEpoch; epoch) { model.fit(trainIter); double valRmse evaluate(model, valIter); if (valRmse bestRmse) { bestRmse valRmse; patience 0; // 保存最優(yōu)模型注意 DL4J 的 save 會(huì)寫 .zip model.save(new File(load_lstm_best.zip)); } else { patience; if (patience 5) break; } }evaluate里要把預(yù)測(cè)值反歸一化再算 RMSE否則不同量綱下指標(biāo)沒意義。模型保存成.zip后Spring Boot 服務(wù)啟動(dòng)時(shí)用MultiLayerNetwork.load(file, true)加載true表示加載更新器狀態(tài)如果只做推理可以傳false省內(nèi)存。推理時(shí)的輸入張量形狀要和訓(xùn)練一致[1, time_steps, features]batch 維度是 1。4. 工程集成與推理服務(wù)把模型塞進(jìn) Spring Boot 的三種姿勢(shì)4.1 模型加載時(shí)機(jī)與線程安全Spring Boot 里加載 DL4J 模型最直接的是寫一個(gè)Component實(shí)現(xiàn)InitializingBean在afterPropertiesSet里 load 模型持有MultiLayerNetwork引用。但要注意MultiLayerNetwork.output不是線程安全的多個(gè)請(qǐng)求并發(fā)調(diào)用會(huì)出亂子。常見做法是用ThreadLocal給每個(gè)線程一份模型副本或者用synchronized包一層。模型文件幾十 MB 的話ThreadLocal 副本多了內(nèi)存吃不消我一般用信號(hào)量控制并發(fā)數(shù)配合一個(gè)固定大小的模型池。Component public class LoadForecastService implements InitializingBean { private MultiLayerNetwork model; private final Semaphore semaphore new Semaphore(4); Override public void afterPropertiesSet() throws Exception { model MultiLayerNetwork.load(new File(load_lstm_best.zip), false); } public double[] forecast(INDArray input) throws InterruptedException { semaphore.acquire(); try { INDArray out model.output(input, false); return out.toDoubleVector(); } finally { semaphore.release(); } } }Semaphore(4)的 4 要根據(jù)你的 CPU 核數(shù)和單次推理耗時(shí)調(diào)推理是 CPU 密集的核數(shù)少就調(diào)小。model.output(input, false)第二個(gè)參數(shù)false表示不訓(xùn)練模式會(huì)跳過 dropout 和 batch norm 的訓(xùn)練行為推理必須傳 false。4.2 輸入構(gòu)造與輸出后處理推理請(qǐng)求進(jìn)來時(shí)你需要從數(shù)據(jù)庫或緩存里取最近time_steps個(gè)點(diǎn)的特征拼成INDArray。這里最容易翻車的是特征順序和訓(xùn)練時(shí)不一致。我的做法是在訓(xùn)練腳本里把特征列名按順序?qū)戇M(jìn)一個(gè)feature_order.jsonJava 側(cè)讀這個(gè)文件來拼張量避免手寫順序?qū)Σ簧稀］敵龊筇幚砭褪欠礆w一化用訓(xùn)練時(shí)保存的 min/max公式是pred * (max - min) min。public INDArray buildInput(ListFeatureRow rows, double[] minArr, double[] maxArr) { int timeSteps rows.size(); int featDim minArr.length; INDArray arr Nd4j.zeros(1, timeSteps, featDim); for (int t 0; t timeSteps; t) { for (int f 0; f featDim; f) { double raw rows.get(t).get(f); double norm (raw - minArr[f]) / (maxArr[f] - minArr[f] 1e-8); arr.putScalar(new int[]{0, t, f}, norm); } } return arr; }1e-8是防止 max 和 min 相等時(shí)除零雖然實(shí)際負(fù)荷數(shù)據(jù)不會(huì)出現(xiàn)但加上是防御性習(xí)慣。Nd4j.zeros創(chuàng)建的是堆內(nèi)張量如果序列很長(zhǎng)可以考慮Nd4j.create指定堆外內(nèi)存減少 GC 壓力。5. 避坑與排查雙向堆疊 LSTM 在電力負(fù)荷場(chǎng)景的五個(gè)真實(shí)翻車點(diǎn)5.1 現(xiàn)象驗(yàn)證集 loss 正常但上線預(yù)測(cè)整體偏高原因通常是歸一化用了全量數(shù)據(jù)的 min/max測(cè)試集里出現(xiàn)了訓(xùn)練時(shí)沒見過的極端高負(fù)荷反歸一化時(shí)被放大。解決是把 scaler 的 min/max 存成文件推理時(shí)嚴(yán)格用訓(xùn)練集的統(tǒng)計(jì)值同時(shí)對(duì)超出訓(xùn)練范圍 20% 的預(yù)測(cè)值做截?cái)喔婢?.2 現(xiàn)象早高峰預(yù)測(cè)滯后 30 分鐘以上雙向 LSTM 在訓(xùn)練時(shí)能看到未來信息但推理時(shí)右端上下文是逐步補(bǔ)的模型對(duì)爬坡起點(diǎn)的敏感度下降。解決辦法是在特征里顯式加入「距上次爬坡起點(diǎn)的時(shí)間」和「當(dāng)前斜率」用一階差分特征補(bǔ)償。另外把time_steps從 96 加到 192讓模型看到前一天的完整周期也有幫助。5.3 現(xiàn)象訓(xùn)練 loss 下降但驗(yàn)證 loss 從第 3 個(gè) epoch 開始上升典型的過擬合。雙向堆疊 LSTM 參數(shù)量不小如果訓(xùn)練樣本只有幾個(gè)月很容易記住噪聲。先加 dropoutDL4J 里在 LSTM builder 上加.dropOut(0.2)再考慮減小隱藏單元數(shù)。如果數(shù)據(jù)確實(shí)少用遷移學(xué)習(xí)思路先在鄰近地區(qū)的數(shù)據(jù)上預(yù)訓(xùn)練再在本地區(qū)微調(diào)。5.4 現(xiàn)象Java 推理結(jié)果和 Python 訓(xùn)練時(shí)對(duì)同一輸入的輸出差很多八成是特征順序或歸一化參數(shù)不一致。排查方法是把同一條輸入在 Python 側(cè)和 Java 側(cè)分別 dump 成文本逐列對(duì)比。另一個(gè)可能是 DL4J 和 PyTorch 的 LSTM 默認(rèn)初始化不同如果模型是從 PyTorch 導(dǎo)過來的要確認(rèn)權(quán)重加載正確DL4J 加載 PyTorch 模型需要走 ONNX 或手動(dòng)映射不能直接讀.pt。5.5 現(xiàn)象服務(wù)跑幾天后 OOMDL4J 的INDArray默認(rèn)走堆外內(nèi)存如果每次推理都創(chuàng)建新張量而不復(fù)用堆外內(nèi)存會(huì)漲。解決是用Workspace管理內(nèi)存把推理循環(huán)包在try (Workspace ws Nd4j.getWorkspaceManager().getAndActivateWorkspace(conf, infer))里讓張量在 workspace 內(nèi)分配和釋放。另外Semaphore的許可數(shù)不要超過實(shí)際能并行的核數(shù)否則線程堆積也會(huì)吃內(nèi)存。6. 進(jìn)階技巧用滾動(dòng)預(yù)測(cè)和誤差反饋把 7 天預(yù)測(cè)的 MAPE 壓到 3% 以內(nèi)單次預(yù)測(cè)未來 7 天誤差會(huì)隨步長(zhǎng)累積第 7 天的 MAPE 經(jīng)常是第 1 天的兩三倍。我常用的做法是滾動(dòng)預(yù)測(cè)加誤差反饋每次只預(yù)測(cè)未來 1 天把預(yù)測(cè)值當(dāng)作已知負(fù)荷拼回輸入序列再預(yù)測(cè)下一天。這樣模型每一步的輸入都包含「預(yù)測(cè)出來的歷史」雖然會(huì)引入誤差傳播但比一次性輸出 7 天要穩(wěn)。為了抑制誤差累積我在輸入里額外加一列「上一步預(yù)測(cè)誤差」讓模型自己學(xué)著修正。public double[] rollingForecast(MultiLayerNetwork model, ListFeatureRow history, int days) { ListDouble preds new ArrayList(); ListFeatureRow window new ArrayList(history); for (int d 0; d days; d) { INDArray input buildInput(window.subList(window.size() - 96, window.size()), minArr, maxArr); double[] dayPred model.output(input, false).toDoubleVector(); for (double p : dayPred) { preds.add(p); // 把預(yù)測(cè)值反歸一化后作為新特征行追加誤差列先填 0 window.add(new FeatureRow(p, 0.0)); } } return preds.stream().mapToDouble(Double::doubleValue).toArray(); }驗(yàn)證方法上不要只看整體 MAPE要分時(shí)段看早高峰7-9 點(diǎn)、午間11-14 點(diǎn)、晚高峰17-20 點(diǎn)、夜間22-6 點(diǎn)分別算。晚高峰的 MAPE 通常最高如果超過 5%說明模型對(duì)溫度驟降或節(jié)假日前的負(fù)荷抬升不敏感需要補(bǔ)特征。我自己的習(xí)慣是每次模型更新后把最近 30 天的分時(shí)段 MAPE 畫成趨勢(shì)圖連續(xù)三天某時(shí)段惡化就觸發(fā)回滾。這套流程跑下來7 天預(yù)測(cè)的整體 MAPE 能穩(wěn)定在 3% 以內(nèi)早高峰也能壓到 4% 左右。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取