亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

LSTM時間序列預測源碼解析:從Excel數(shù)據(jù)處理到多步預測避坑指南

LSTM時間序列預測源碼解析:從Excel數(shù)據(jù)處理到多步預測避坑指南 簡介這是一套基于PyTorch的LSTM時間序列預測完整源碼定位是讓小白也能快速跑通整個預測流程解決單變量/多變量輸入、單步/多步預測等常見時序建模需求。程序從Excel或CSV讀取數(shù)據(jù)更換數(shù)據(jù)集無需改動核心代碼內(nèi)置MAE、MSE、R2、MAPE等評估指標并按標準框架劃分訓練集、驗證集與測試集便于觀察模型在不同階段的表現(xiàn)。資源共27個文件約9.22MB以py源碼、pyc編譯文件、xlsx示例數(shù)據(jù)、png效果圖及pdf/docx使用說明手冊為主另附帶訓練好的模型權重可快速對照示例結果驗證。配套注釋和使用手冊覆蓋數(shù)據(jù)替換、模型訓練、預測與評估全流程做課程設計、畢業(yè)設計或復現(xiàn)實驗對比都很順手。已有266人學習下載適合剛接觸時序預測并希望直接套用模板的初學者。1. LSTM時間序列預測的“無腦”源碼這個包到底幫你省了哪些事當你手里只有一份 Excel——銷量、傳感器溫度、設備振動幅度、水庫水位——卻要在幾天內(nèi)交付一個能跑的基于 LSTM 的時間序列預測程序時真正讓人頭大的往往不是模型數(shù)學而是數(shù)據(jù)怎么喂進去、訓練完怎么保存權重、預測完怎么算誤差。這份基于 PyTorch 的 LSTM 預測源碼包刻意走“少折騰、直接出結果”的路線單變量/多變量輸入自由切換單步/多步預測自動適配數(shù)據(jù)直接從 Excel/CSV 讀取訓練集、驗證集、測試集標準三切分訓練結束一口氣給你 MAE、MSE、R2、MAPE 四個指標。我拆過它全部代碼結論是它配得上“無腦”兩個字但里面還是藏了四個隱蔽坑。這篇文章從文件結構到模型參數(shù)、從數(shù)據(jù)替換到指標計算把這包源碼一次講透。2. 數(shù)據(jù)從 Excel 讀到 LSTM 輸入格式要求、歸一化與三集劃分2.1 數(shù)據(jù)讀取Excel/CSV 的打開方式與格式紅線這個源碼包的數(shù)據(jù)入口是 Excel 或 CSV不是網(wǎng)上現(xiàn)成的數(shù)據(jù)集。你需要把數(shù)據(jù)整理成至少兩列一列是時間或順序索引一列是目標值跑多變量就再加若干特征列目標列放最后一列。先看最小讀取代碼import pandas as pd import numpy as np # data.xlsx 是默認數(shù)據(jù)文件sheet_name0 表示第一個工作表 df pd.read_excel(data.xlsx, sheet_name0) print(df.columns.tolist()) # 確認列名 print(df.head()) # 確認前幾行 print(df.dtypes) # 確認每列數(shù)據(jù)類型這段代碼里有兩個容易被忽略的點。第一列名不要用中文和空格雖然源碼里很多位置靠列索引取值但換數(shù)據(jù)時列名干凈能大幅減少排錯成本。第二dtypes 輸出很關鍵Excel 里看著是數(shù)字的列經(jīng)?;烊肷倭课谋咀兂?object 類型后續(xù) sklearn 的 MinMaxScaler 會直接報錯。正常的 dtype 應該是 float64 或 int64看到 object 就說明數(shù)據(jù)表里藏了非數(shù)字內(nèi)容。CSV 的讀取稍微不同df pd.read_csv(data.csv, encodingutf-8-sig)編碼參數(shù)我建議固定寫 utf-8-sig。Windows 上用 Excel 另存的 CSV 默認是 ANSI/GBK 編碼不帶這個參數(shù)中文列名或者文字型特征讀進來直接亂碼。utf-8-sig 的好處是同時兼容帶 BOM 和不帶 BOM 的 UTF-8 文件Linux 和 Windows 之間來回拷文件都不出問題。讀取之后第一件事是清理數(shù)據(jù)。時間序列數(shù)據(jù)的清理按順序做先 dropna() 或者 fillna(methodffill)把缺值處理掉再用肉眼掃一遍有沒有明顯超出量級的異常值。時間序列里如果混入一個 1000 倍的峰值歸一化時整個數(shù)據(jù)的尺度都會被拉歪模型的預測基本作廢。源碼包里數(shù)據(jù)是干凈的但換成你自己的 Excel 時這一關必須自己過。2.2 歸一化為什么選 MinMaxScaler 而不是 StandardScalerLSTM 內(nèi)部激活函數(shù)默認是 tanh輸出被壓在 [-1,1]原始數(shù)據(jù)如果是幾萬、幾十萬的量級梯度在反向傳播時很容易爆炸。源碼包默認用 MinMaxScaler 把數(shù)據(jù)壓到 [0,1]。from sklearn.preprocessing import MinMaxScaler scaler MinMaxScaler(feature_range(0, 1)) data scaler.fit_transform(df.iloc[:, 1:].values.astype(np.float32))這里有兩個細節(jié)。第一個是 .values.astype(np.float32)PyTorch 默認的 FloatTensor 是 32 位浮點如果喂 float64 的 numpy 數(shù)組在構造 Dataset 時大概率報 dtype 不匹配。第二個是 df.iloc[:, 1:]如果 DataFrame 里有時間列或 id 列必須先切掉時間戳在數(shù)學上沒有時序預測意義混進去反而干擾特征計算。注意fit_transform 用在整份數(shù)據(jù)上還是先 fit 訓練集再 transform 測試集最嚴格的寫法是先對訓練集 fit驗證集和測試集用同一個 scaler 做 transform避免測試集信息提前泄漏到歸一化參數(shù)里。數(shù)據(jù)量夠大且分布平穩(wěn)時直接對全量 fit 工程上也常見但嚴格項目建議按前者來。這里解釋一下為什么不用 StandardScaler。StandardScaler 把數(shù)據(jù)變成均值 0 方差 1適合線性模型和部分深度網(wǎng)絡但 LSTM 場景里 MinMaxScaler 更常見原因是它嚴格限制輸出范圍讓 tanh 激活始終處于有效工作區(qū)間。還有一個實際考慮MinMaxScaler 反歸一化時直接乘回去就還原真實數(shù)值不來回折騰對新手更友好。2.3 滑動窗口構造與三集劃分的邏輯這個源碼包比很多開源項目講究的地方在于分了三份而不是兩份。默認比例 70% 訓練、20% 驗證、10% 測試。代碼邏輯等價于train_size int(len(data) * 0.7) val_size int(len(data) * 0.2) train_data data[:train_size] val_data data[train_size:train_size val_size] test_data data[train_size val_size:]時間序列切分有兩個必須強調(diào)的點。第一不能隨機 shuffle。數(shù)據(jù)一批接一批打亂之后模型就看到未來信息訓練指標再好看也是假象。第二三份數(shù)據(jù)之間允許有滑動窗口的重疊這不叫數(shù)據(jù)泄漏而是時間序列樣本構造的正常形態(tài)因為窗口之間本來就共享了部分歷史。滑動窗口的構造是時間序列預測的核心步驟源碼里對應這段邏輯seq_len 7 # 用過去7個時間步預測下一個 x_samples, y_samples [], [] for i in range(len(data) - seq_len): x_samples.append(data[i:i seq_len, :]) y_samples.append(data[i seq_len, -1])x_samples 的每個元素形狀是 (seq_len, feature_num)y_samples 是單個標量。這一個標量就是“單輸出”的含義。seq_len 參數(shù)決定模型看多長的歷史取值建議參考數(shù)據(jù)周期按天記錄的銷量數(shù)據(jù)一個周期是 7 天seq_len 取 7 或 14 起步分鐘級交易數(shù)據(jù)先畫自相關圖找周期再定沒有固定公式。2.4 單變量/多變量切換feature 數(shù)量怎么影響 input_size源碼支持單變量和多變量自由切換落到代碼層面就是 input_size 一個參數(shù)。單變量時 input_size1多變量時 input_size特征列總數(shù)。在讀取階段的表現(xiàn)差異是# 單變量只保留目標列 df pd.read_excel(data.xlsx, sheet_name0) single df[[value]].values # 多變量保留所有特征列 multi df.iloc[:, 1:].values單變量適合數(shù)據(jù)維度有限、只關心目標本身趨勢的場景多變量適合有外部驅(qū)動的場景比如預測銷量時把天氣、促銷、節(jié)假日一起喂進去。但多變量不是免費的特征列越多模型需要的數(shù)據(jù)越多特征之間如果存在強相關性LSTM 可能學出冗余表示。建議先從單變量跑通再用多變量對比漲幅不要一上來就堆特征。這一段也順帶解釋了為什么數(shù)據(jù)讀取后要立刻檢查列的順序和目標列位置——源碼默認目標列在最后一列如果自己的數(shù)據(jù)把目標列放在中間記得用 pandas 的 reindex 或按列名切片挪到末尾。所有數(shù)據(jù)處理做完之后數(shù)據(jù)端的三件事——讀取、歸一化、切分——就算齊了下一章進源碼包內(nèi)部。3. 源碼包內(nèi)部結構main.py、models.py、utils.py 各管哪一段3.1 文件地圖誰是入口、誰是框架、誰是工具人解壓 zip 后真正要動的文件一共五個。先看職責表文件角色使用場景main.py程序入口訓練和預測流程編排每次調(diào)參都改它models.pyLSTM 網(wǎng)絡結構定義改模型架構時才動utils.py數(shù)據(jù)讀取、歸一化、指標計算工具換數(shù)據(jù)格式時動data.xlsx原始數(shù)據(jù)文件換成你自己的數(shù)據(jù)model_LSTMMain_weights預訓練權重跳過訓練直接預測時用main.py 只是調(diào)度者不是模型定義的地方。第一次看源碼的人容易到處找網(wǎng)絡結構翻幾圈才發(fā)現(xiàn) LSTM 定義在 models.py 里。utils.py 把數(shù)據(jù)讀取、窗口構造、歸一化、指標計算全部拆出來這個分層思路是對的改數(shù)據(jù)處理邏輯時不用碰模型代碼。3.2 模型定義LSTM 層加全連接層的單輸出結構models.py 的結構是時間序列預測最標準的形態(tài)LSTM 層提取時序特征再接全連接層輸出預測值。核心代碼import torch import torch.nn as nn class LSTMModel(nn.Module): def __init__(self, input_size, hidden_size, num_layers, output_size): super(LSTMModel, self).__init__() self.lstm nn.LSTM( input_sizeinput_size, hidden_sizehidden_size, num_layersnum_layers, batch_firstTrue ) self.fc nn.Linear(hidden_size, output_size) def forward(self, x): out, (h_n, c_n) self.lstm(x) # 取最后一個時間步的隱層輸出做全連接 out self.fc(out[:, -1, :]) return out參數(shù)逐個說。input_size 是特征數(shù)量單變量是 1多變量是特征列總數(shù)。hidden_size 是 LSTM 隱藏單元數(shù)決定模型記憶容量小數(shù)據(jù) 64 起步數(shù)據(jù)量大的可以設 128 或 256過大了反而容易過擬合。num_layers 是堆疊層數(shù)2 表示兩層 LSTM 堆疊能學到更復雜的時序依賴但訓練更慢。batch_firstTrue 省了一個 permute 步驟默認 PyTorch LSTM 期望輸入形狀是 (seq_len, batch, feature)batch_firstTrue 后輸入變成 (batch, seq_len, feature)和我們直覺構造的樣本形狀完全一致。如果你在別處看到 LSTM 代碼 forward 里寫 x.permute(1,0,2)那就是沒用 batch_first 的寫法兩件事是等價的。forward 里 out[:, -1, :] 是“單輸出”的核心操作。不管輸入是 7 個時間步還是 14 個時間步模型只看最后一個時間步的隱層狀態(tài)然后由全連接層壓成 1 個預測值。要改成多步預測一條路是把 fc 輸出維度從 1 改成 n_steps一口氣輸出未來 n 步另一條路是保留單輸出但迭代預測每次預測一個值再拼回去喂給模型。前者多一個超參后者會累積誤差后面進階章細講。3.3 權重文件與跳過訓練直接預測包內(nèi)放了訓練好的權重主要用于省掉訓練時間。加載權重的標準寫法model LSTMModel(input_sizefeature_num, hidden_size128, num_layers2, output_size1) checkpoint torch.load(model_LSTMMain_weights.pth, map_locationcpu) model.load_state_dict(checkpoint) model.eval()這里有幾個向坑很多的細節(jié)。第一map_locationcpu 必須寫否則在沒有 GPU 的機器上加載別人 GPU 訓練的權重會直接報錯 Attempting to deserialize object on a CUDA device。第二load_state_dict 之前必須保證模型的 hidden_size、num_layers 與訓練時一致否則鍵名對不上運行報 Missing key 或 Unexpected key。第三加載完成后 model.eval() 是必選項模型里如果帶 Dropout 或 BatchNorm訓練模式和推理模式的執(zhí)行路徑完全不同忘記切模式會讓預測結果帶隨機性。3.4 main.py 的整體流程從數(shù)據(jù)到指標的編排main.py 的流程可以歸納為六個順序步驟讀數(shù)據(jù)、構建窗口、切三集、定義模型、開始訓練、評估輸出。骨架如下def main(): data load_data(data.xlsx) # 從 utils 讀取 x, y build_sequences(data, seq_len) # 構造窗口 train_loader, val_loader, test_loader split_dataset(x, y) # 三集 model LSTMModel(input_size, hidden_size, num_layers, 1) train(model, train_loader, val_loader, epochs) metrics evaluate(model, test_loader) print(metrics)每一行都對應一個實際函數(shù)。這種編排方式的好處是把研究流程和工程細節(jié)剝離開模型定義不動調(diào)節(jié)點時只需要改 main.py 頂部的幾個參數(shù)。這也解釋了為什么權重文件名叫 model_LSTMMain_weights——它是對應 main.py 里創(chuàng)建的那個模型實例保存的。參數(shù)集中在 main.py 頂部是這份源碼特別方便改的地方。打開 main.py 大概率看到一堆賦值語句比如 epochs、batch_size、learning_rate、seq_len、hidden_size。batch_size 在時間序列場景里常用 32 或 64epochs 在 50 到 200 之間學習率 0.001 是 Adam 的推薦值。這些參數(shù)改完整個流程重跑一遍就行不用動其它文件。這也是“無腦”二字的來源。4. 訓練與評估損失函數(shù)、優(yōu)化器和 MAE/MSE/R2/MAPE 的實現(xiàn)4.1 訓練循環(huán)Adam、MSE 損失與權重保存main.py 里的訓練部分是標準的 PyTorch 循環(huán)沒有多余封裝。關鍵代碼import torch.optim as optim model LSTMModel(input_sizefeature_num, hidden_sizehidden_size, num_layersnum_layers, output_size1) criterion nn.MSELoss() optimizer optim.Adam(model.parameters(), lr0.001) epochs 100 for epoch in range(epochs): model.train() for x_batch, y_batch in train_loader: optimizer.zero_grad() y_pred model(x_batch) loss criterion(y_pred, y_batch.view(-1, 1)) loss.backward() optimizer.step()損失函數(shù)選 MSE 而不是 MAE 的原因很實際MSE 對預測值和真實值的偏差做平方梯度大小正比于誤差訓練收斂更快MAE 梯度恒定誤差很小時更新步長不縮小不容易收斂。代價是 MSE 對離群點敏感數(shù)據(jù)里有一個極端值loss 就大得離譜。時間序列數(shù)據(jù)異常值多我會先對數(shù)據(jù)做截斷或平滑再訓練。optimizer.zero_grad() 必須寫在每個 batch 最前面。PyTorch 默認行為是梯度累積不清空上一輪梯度的話 loss 不會收斂模型參數(shù)在錯誤方向上亂跑。y_batch.view(-1, 1) 是為了把形狀統(tǒng)一成 (batch, 1)和模型輸出的 (batch, 1) 對齊MSE 計算才不會有維度錯誤或隱式廣播。訓練完成之后權重保存在流程末尾torch.save(model.state_dict(), model_LSTMMain_weights.pth)只存 state_dict不存整個模型對象。這樣做的優(yōu)點是文件體積小、不綁定模型類的定義路徑換電腦加載也不受影響缺點是你必須保證加載時的模型定義和保存時的完全一致鍵名、參數(shù)一個都不能差。自己訓練完立刻加載問題不大拿別人給的權重就必須知道當時的 hidden_size 和 num_layers。4.2 四個評估指標公式、代碼和業(yè)務含義評估部分封裝在 utils.py 里最終在 main.py 的輸出段打印。核心計算展開如下import numpy as np mae np.mean(np.abs(y_pred - y_test)) # 平均絕對誤差 mse np.mean((y_pred - y_test) ** 2) # 均方誤差 rmse np.sqrt(mse) # 均方根誤差 mape np.mean(np.abs((y_test - y_pred) / y_test)) * 100 # 百分比誤差 ss_res np.sum((y_test - y_pred) ** 2) ss_tot np.sum((y_test - np.mean(y_test)) ** 2) r2 1 - ss_res / ss_tot # R2 決定系數(shù)這四個指標各有各的“脾氣”。MAE 最直觀單位跟原始數(shù)據(jù)一致“平均錯多少個單位”適合業(yè)務匯報。MSE 把誤差平方放大對極大誤差極其敏感數(shù)據(jù)里有幾個異常點MSE 會大得離譜——這不是模型壞了是平方運算的數(shù)學特性。RMSE 把 MSE 拉回原單位但它放大極端誤差的特性還在。MAPE 是百分比誤差適合做跨數(shù)據(jù)集橫向?qū)Ρ?。它有一個前提條件真實值不能接近 0否則除法分母趨近 0MAPE 直接沖天。如果自己的數(shù)據(jù)里存在 0 值這個指標打印出來會是 inf不代表模型失敗只是指標本身不適合這份數(shù)據(jù)改用 MAE 做評價即可。R2 的含義和另外三個完全不同。它衡量的是模型解釋了目標波動的比例正常范圍 0 到 1越接近 1 擬合越好。R2 為負說明你的模型比“直接用真實值均值當預測值”還差這種情況在時間序列里多半意味著數(shù)據(jù)切分泄漏、特征和目標方向弄反、或者模型結構有問題??吹截?R2 時不要調(diào)參先回去檢查數(shù)據(jù)。4.3 反歸一化預測結束最容易漏的一步訓練時數(shù)據(jù)被壓到 [0,1]模型輸出的預測值也在 [0,1]。要把預測值還原成原始量級就必須做反歸一化y_pred_original scaler.inverse_transform(y_pred) y_test_original scaler.inverse_transform(y_test)inverse_transform 的輸入形狀必須和 fit 時的特征數(shù)量一致。如果 fit 時傳的是整個 data多列現(xiàn)在只傳一列預測值會報 shape mismatch。源碼里對這個問題的處理方式是單獨定義目標列的 scalerscaler_y MinMaxScaler() y_scaled scaler_y.fit_transform(df[[target_col]].values)這樣反歸一化只用一列沒有任何維度問題。如果直接調(diào)用整個 data 的 scaler就必須構造一個和訓練時相同列數(shù)的空矩陣把預測值塞進目標列位置再 inverse_transform處理起來麻煩得多。4.4 指標怎么結合業(yè)務場景選四個指標不是用來湊數(shù)的。業(yè)務上我一般這么選給老板匯報用 MAE因為帶原始單位說“平均偏差 120 件”比“R20.87”更容易聽懂。調(diào)參對比模型時看 RMSE它對大誤差更敏感能幫你在多個候選模型里挑出極端情況都擬合得好的那個。跨區(qū)域、跨品類對比時用 MAPE因為百分比消除了不同數(shù)據(jù)量級的影響。R2 則用來判斷模型是否整體失效。四個指標一起看才有完整畫面MAE 低但 R2 也低說明模型對大趨勢擬合不好MSE 高但 MAE 低暗示數(shù)據(jù)里有少數(shù)極端點。5. 實戰(zhàn)復現(xiàn)與避坑環(huán)境準備、命令順序和五個高頻坑5.1 環(huán)境準備依賴安裝和 PyTorch 選擇上手這個源碼包依賴很少核心就五個包pip install torch numpy pandas scikit-learn openpyxlopenpyxl 是 pandas 讀 .xlsx 的底層依賴不裝的話 pd.read_excel 會直接 ImportError。如果數(shù)據(jù)只有 CSV可以去掉 openpyxl但保留也不礙事體積很小。PyTorch 的安裝要分情況純 CPU 機器直接 pip install torch 就能裝有 NVIDIA 顯卡想用 GPU去 PyTorch 官網(wǎng)按 CUDA 版本選安裝命令不要自己猜 wheel 名。這份源碼的規(guī)模用 CPU 完全跑得動差的只是訓練時間不用為它大動干戈配 GPU 環(huán)境。裝好后第一件事是驗證 PyTorch 是不是真的能導入python -c import torch; print(torch.__version__)這一行能輸出版本號環(huán)境基本就緒。經(jīng)常有人跳過這一步直接跑 main.py在 import torch 那行翻車然后花半天排查是哪個包缺了其實環(huán)境從頭就沒裝好。5.2 跑通主流程六步操作整體操作順序如下。第一步把 data.xlsx 換成你自己的 Excel。列名換成英文目標列放最后一列清理掉空值和明顯異常點。第二步打開 main.py把數(shù)據(jù)路徑、sheet 名改成實際值同時確認 seq_len、hidden_size 這些參數(shù)。第三步?jīng)Q定單變量還是多變量單變量在讀取段只保留目標列多變量保留全部特征列。第四步運行 python main.py。第五步觀察訓練日志loss 應該持續(xù)下降如果看到 loss 變成 NaN 就停住回到避坑清單。第六步訓練結束后看測試集上的 MAE、MSE、R2、MAPE 輸出同時確認反歸一化后的預測曲線有沒有明顯錯位。這六步做完按說已經(jīng)能用上這份源碼了。但時間序列預測的坑密集在數(shù)據(jù)環(huán)節(jié)而不是模型環(huán)節(jié)下面五條是最常見的報錯和翻車記錄。5.3 避坑5 個高頻踩坑記錄坑一訓練 loss 輸出 NaN現(xiàn)象訓練頭幾輪 loss 正常幾十輪后突然變成 NaN后續(xù)全部 NaN。 原因最常見的是數(shù)據(jù)里存在 NaN 或者 infMinMaxScaler 會把 NaN 原樣保留LSTM 前向傳播算出的梯度直接無效。次常見的是學習率太大Adam 一次更新就跨過最優(yōu)點數(shù)值發(fā)散。 解決讀取 DataFrame 后立刻執(zhí)行 df df.dropna() 或者 df df.fillna(methodffill)同時把學習率從 0.001 降到 0.0005。絕大多數(shù)情況這兩步做完 NaN 就沒了。如果要兜底在訓練循環(huán)里加一個 loss 檢查if torch.isnan(loss): print(NaN at epoch, epoch); break方便快速定位??佣虞d權重時報 Missing key(s) in state_dict現(xiàn)象torch.load 成功load_state_dict 卻報缺失鍵或者鍵名對不上。 原因模型定義參數(shù)和保存權重時的參數(shù)不一致。別人用 hidden_size128 訓練保存你用默認 hidden_size64 定義模型鍵名自然對不上。 解決權重文件名是 model_LSTMMain_weights對應 main.py 里的默認模型。加載前按原結構重新定義模型如果你改過 models.py舊權重大概率失效老老實實重新訓練。實在不知道原結構把 hidden_size、num_layers 兩個參數(shù)跑一遍組合加載成功為止??尤A測階段維度報錯 RuntimeError: mat1 and mat2 shapes cannot be multiplied現(xiàn)象eval 階段輸入模型的數(shù)據(jù)形狀不對全連接層矩陣乘直接串臺。 原因模型的 LSTM 期望三維輸入 (batch, seq_len, feature)實際輸入變成了二維或者 batch_size 和 seq_len 交叉錯位。最常見的是構造序列樣本時把 [seq_len, feature] 當成整體傳入少了 batch 維。 解決在進模型前加一行 print(x.shape) 確認維度。少一維用 x x.unsqueeze(0)多一維用 x.squeeze(0)。建議在 main.py 關鍵位置加 assert x.dim() 3訓練和預測都套上報錯時一秒定位。坑四預測曲線是平移了一個周期的“滯后曲線”現(xiàn)象預測值和真實值曲線形狀幾乎一樣但整體右移了一個周期R2 不低畫圖一看就露餡。 原因時間序列模型最經(jīng)典的偷懶結果。在沒有強趨勢的序列上模型找到的最優(yōu)策略是“用最近的一個值預測當前值”因此輸出天然滯后一個周期。這不是代碼故障是數(shù)據(jù)信息和建模方式的局限。 解決增大 seq_len 讓模型看到更長的歷史或者對原始數(shù)據(jù)做一階差分把預測目標從“絕對值”改成“增量”訓練結束后再反差分還原。差分是消除滯后性的常用手段但如果業(yè)務指標周期性很強、滯后可以接受也不一定非要改??游錯val() 沒調(diào)用預測結果忽好忽壞現(xiàn)象加載權重后預測多次結果每次都不一樣。 原因模型里有 Dropout 或 BatchNorm 層時訓練模式和推理模式的執(zhí)行邏輯不同。Dropout 在 train 模式下隨機丟棄神經(jīng)元BatchNorm 在 train 模式下更新運行統(tǒng)計量兩者都會讓預測帶隨機性。 解決預測前強制調(diào)用 model.eval()。這份源碼標準結構 LSTMLinear 沒有 Dropout 影響不大但后續(xù)加了 Dropout 或 BatchNorm這個坑必定踩到。同樣地要重新訓練就切回 model.train()兩種模式要成對使用。五個坑排完之后這份源碼的復現(xiàn)就穩(wěn)了。6. 進階改造從單步改成多步預測的驗證方法單輸出和單步預測是這份源碼的默認行為但很多實際場景需要的是一次給出未來若干步的預測——比如未來 7 天的銷量、未來 24 小時的電價。要把這份源碼從單步改成多步有三個環(huán)節(jié)必須處理。第一模型輸出維度。單輸出模型的最后一層全連接輸出是 1多步預測最簡單的改法是把 output_size 從 1 改成 n_steps讓模型一口氣輸出未來 n 步。相應的損失函數(shù)還是 MSE但 y_batch 的形狀得跟著變成 (batch, n_steps)不能再 view 成 (batch, 1)。第二數(shù)據(jù)集構造邏輯。原來窗口取 data[i:iseq_len] 作為輸入y 取 data[iseq_len] 單值改成多步后 y 要取 data[iseq_len:iseq_lenn_steps] 連續(xù) n 個目標值。這一步直接導致訓練樣本數(shù)減少數(shù)據(jù)量不夠時多步預測的效果會很慘。第三評估方式。多步預測的指標一般按步分別計算MAE 按第 1 步、第 2 步、第 n 步單獨打印這樣你能看清誤差在哪一步開始明顯變大。我的習慣是改造前先加載官方權重跑一遍單步預測記錄指標作為 baseline然后從 n_steps2 開始逐步加大步數(shù)觀察誤差隨步數(shù)的衰減曲線。多步預測最常見的現(xiàn)象是“第一步指標好、遠期指標崩”這不是模型壞了而是預測誤差在迭代過程中被一步步傳導放大越遠的步數(shù)據(jù)含量越低。那年我把多步改成 5 步發(fā)現(xiàn)第 7 步的 MAPE 比第 1 步漲了三倍排查了半天模型代碼沒有任何問題最后意識到是輸入序列的周期長度和預測步數(shù)不匹配——用 7 天周期去預測 5 天后的值本身就不太穩(wěn)。從那以后我每次改動步數(shù)都會強制先記錄 single-step baseline再逐級加大 n_steps對比每步的指標衰減曲線再決定用哪個步數(shù)配置上線。希望這一套拆解思路幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
全球成人中文在线| 又粗又长又爽在线观看| 96精品在线| 日本操逼视频不卡直接放| 日本一久是| 91neishe| 九九热AV| 国产精品亚洲美女久久久久| 国产AV激情无码久久无码| av天堂手机版追回 | 日韩欧美~中文字| 精品少妇一区二区三区免费观看| 能直接看AV的网站| 国产不卡免费在线视频| 精品国产三级av韩国在线| 亚洲男人的天堂网| 日本精品国产视频| 一个人在线看的黄色电影网站| 久久精品国产亚洲AV片多多 | 久久一二三四五六七八九区区区| 丝袜熟女一区二区三区| 免费一级精品啪啪视频| 日韩成人无码| 青娱乐91| 欧美亚洲特P| 青青草乱入乱欲视频在线观看| 色欧美天天| 99re国产中文字幕| 精品久久久久久中文| 乱操乱伦AV| 日韩兔费看黄片| 国产一线二线三线av| 亚洲欧美日韩国产丝袜自拍中文| 99re8免费高清在线| 久久久久久久 九九九九九九九| 9999免费精彩视频| 国产后入精品| 神马午夜久久久| 蜜桃久久久久久久| 99re6久热只有精品6在线直播 | 中文字幕 一区二区 亚洲无码| 亚洲成人一区二区精品| 日本五十路熟女一区二区| 亚洲精品国产熟女| 免费黄色视频网址| 色婷婷色99国产综合精品| 欧美日韩精品一区二区三区高清| 亚洲国产精品成人无码久久久 | 国产熟妇一区二区| 69丨亚洲丨精品丨入口免费播放| 香蕉色网| …亚洲黄色厕厕女女在线播…| aV中文麻| 中文?日韩?免费?精品| 激情综合网亚洲| 国产在线综合福利网站| 台湾一区国产高清在线| 精品丝袜无码一区二区三APP| 丁香五六月啪啪| 欧美福利视频啊啊啊啊| 伊人久久大香线蕉无码| 天堂九九九九九九九九九| 亚洲精品久久久久久久久豆丁网| 中出789在线视频| A男人的天堂| 97超碰色中文字幕| 欧美天天综合| 国产三级在线现体验区| 99ri在线视频| 欧美大香蕉在线观看| 插老姨肥穴| 久久视频少妇美女| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 亚洲午夜未满十八勿入网站日本又色又爽又黄| 精品亚洲一区在线观看| 国产麻豆一级精品视频| 亚洲天堂性爱| 97精品一区| 亚洲天堂色图| 蜜臀在线看片| 日韩中文字幕视频| 性爱av在线免费观看| 麻豆国产av网| 国产人妻久久精品一区二区三区| 欧美日韩黄片精品在线| 黄污污污污| 亚洲揄拍网| 一区二区三区一亚洲中文字幕、综合区灬 | 啊啊啊不要嗯嗯在线观看| 青青操视频在线| 超碰地址久久| 中国乱伦一区二区 | 伦理第一页| 国产日韩区| 免费看毛片操穴| 在线黄色污污网站| 女人与公拘交酡2020视频| 亚欧高清在线| 91麻豆一二三区| 色九久| 自怕偷自怕亚洲精品| 国产免费久久久久| 破处bbq| 亚洲欧洲自拍图片专区满春格| 欧美在线观看综合国产| 人人超碰在线观看黄| 久久久久熟女| 日韩大香蕉AV影片| 青青久久手机线视频| 男人下部插入女人下部| 欧美一区二区三区互相| 蜜臀AV成人精品蜜臀AV久久| 亚洲欧美不卡线| 激情四射五月天| 超碰97亚洲区| 色伊人91| 久久精品无码熟妇一区二区三区视频导航| 特级特黄一级毛片免费| 亚洲成人一二三区| A片大香蕉在线| 在线观看AV不卡| 色婷婷日韩精品一区二区三区| 国产AV色黄看到爽| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 老外又粗又长一晚做五次| 亚洲操操操| 骚货 中文字幕 av| 热久久这里只有精品| 四虎884| 国产a级午夜毛片| 亚洲一区制服诱惑| 国产一区二区av综合| 玖玖草久草99蜜月一区二区三区| 久久久精品成人国产| 玖玖大干人妻| 97蜜桃综合| 中英熟女操女| 欧美日韩黄色片一区二区三区四区人与兽做爱| 无遮挡又黄又刺激的视频| 日产国产精品中文久久婷婷| 亚洲成人激情小说视频| 亚洲宗合电影| 中国一区二区亚洲人妻| 欧美日韩系列| 最近2019中文字幕国语免费版| 91无码人妻| 久久成人午夜精品影院| 亚洲黄色电影| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 精品免费国产二区三区| 天天操天天舔| 夜夜欧美 | 欧美欧美啪啪视频| 色眯眯av| 国产超碰国产97| 免费a级毛片av无码久久精品中文字幕| 国产福利夜| 久久高清欧美国产| 中文字幕在线免费观看2| 亚洲中文字幕乱码无码一区二区 | 国产一区二区三区不卡手机在线| 青娱乐欧美激情一区二区| 欧美日动态视频| 97碰在线视频| 免费av在线播放二区| 人妻免费观看| m欧洲一级午老| 天天看,天天做| 乱伦熟女论坛| JuliaAnnXXX888| 国产有码一区| 日本特黄f c2| 日韩一级欧美一级在线观看| 国产久久久久久| 啊啊啊啊啊啊啊啊啊啊在线观看| 久久久久9999| 强奸乱伦资源| 亚洲色图日韩精品| 国产乱伦性爱区| 好吊色综合| 豆1无夜无码| 人人爽夜夜操| 五月婷婷色| 青娱乐国产精品| 色吧5亚洲| 欧美三级偷拍| 97天天操| 国产精品在线免费| 97网站在线观看 | 免费一级性爱久久| 亚洲人体视频在线观看| 欧美亚洲综合高清在线| 久久精品无码一区二区三区| 亚洲色交| 成人一二三区| 亚洲人妻久久| 91精品国产91综合久久蜜臀| 日韩91网站| 少妇蹲下买菜露大唇0| 欧美日本久久精品一区| 色哟哟-国产专区| 久久99国产综合精品女同| 91GD.COM| 超踫中文字幕| 男人下部插入女人下部| 和协无码影院| 亚洲少妇在线影音| 国产白领连续中出在线播放| 啊啊啊啊在线观看网址| 91欧美另类| 91黑丝美女| 91殴美大片| 亚洲精品一二三四区| 男人天堂一区二区| 另类综合另类| 五月天色图| 大香蕉 222| 精产国品一区二三产品| 欧美少妇高潮久久91| 精品人妻一区二区三区夜夜| 97视频900| 亚洲黄a三级三级三级看三级| 91网站视频在线观看| 日本一天色道久久久精品视频| 好吊色一区| 超碰久久草| 九九九九九九九九九九九蜜桃| 老女人老91妇女老热女| 激情婷婷丁香网| 精品人妻久久久久一区二区三区| 色欧美综合| 国产在线播放成人免费| 中国乱伦一区二区| 99无码| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 97视频播放| 久久丝袜| 一二三四视频中文字幕在线看| 人人贴人人摸| 激情久久久| 翘臀vidoes| 97色色,97综合| 日本2020一区二区| 人人么人人操| 国产精品岛国片在线观看| 一起草精品人妻| 丁香五月影院| 欧洲亚洲天堂精品| 男人天堂新在线| 豆花视频操逼网址| 久久99综合| 啊啊啊啊啊啊啊好爽不要| 日本熟妇精品九九| 1000部熟女视频在线观看| 黄色网址在线免费观看| 影音综合网| 狠狠躁久久躁| 日本十八禁免费看污网站| 日韩视频啪啪| 嗯嗯啊啊视频一区二区三区| 亚洲一区二区AV| 亚洲啪啪视频一区二区| 精品视频123区小说区| 九色 蝌蚪 熟女自| 91东京热男人的天堂| 久久伊人大香蕉| 玖玖爱一区在线| 色香综合| www五月| 国产精品第一页国产大屁股视频免费区i| 久久久久国产精品久久久| 亚洲无码一二三区| 五十路熟女工口 | 色玖玖| 欧美综合 站| 手机看片91人妻| 色婷婷亚洲婷婷| 久污| 性色av网站| 欧日韩在线观看| 牛牛操视频逼| 欧美视频激情久久久久久| 欧美色999| 女人的久久久| 青草精品视频日本久久久久网站在线| 欧美日韩中文亚洲v在线综合| 天天干天天日天天射黄色大片| 99超碰网| 97舔舔| 国产精品天堂| 在线观看AV不卡| 超碰美国| 久久亚洲不卡| 国产一区二区成人av在线播放| 红杏大香蕉| 99999亚洲| 人妻av在线| 日本一卡二区在线| 国产激情视频在线观看| 亚洲天天自拍| 91久久99久久91熟女精品| 后入式福利| 秋霞一级视频在线观看免费| 色综合91好| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 综合色一区三区二区| 亚洲另类在线观看| 国产精品久久久久久久久久久久| 国产一区二区三区中文字幕| 2017天天拍大香蕉| 第四色色综合91| 日韩福利综合一区| 伊人网在线点播| 三级三级三级日本99| 日本一二区不卡| 一区二区首页| 小视频玖玖| 大香蕉日韩欧美| 天天做天天爱天天高潮| 一起草三级AV电影在线观看 | SS久久| 人人操人人摸人人看人人干| 国产日韩怡红院| 欧美综合骚| 国产黄色在线播放观看| 97超级久久| 伊人国产av| 亚洲精品一区二区三区在线播放 | 狠狠色婷婷7777久| 亚洲无码超碰免费| 成人资源中文字幕在线观看| 日本一二区免费| 中文字幕乱在线伦视频中文字幕乱码在线 | 亚洲一二三四区机械| 免费观看国产小粉嫩喷水精品午| 久久99干一本高清| 久久av网| 激情五月激情综合网| 欧美A片中文字幕| 啊啊啊水好多| 精品无码久久久久| av中文字幕在线熟女| 最新三级网址| 五月丁香黄色网| 亚洲欧美天| 91久久伊人婷婷青青草| 亚洲av夫妻操穴网| 亚洲成A∨人影院在线欢看| a级免费在线观看| 久久 久久国内精品亚洲| 91爽啪| 综合欧美日韩在线观看| 日韩免费三级黄片电影| 国产精品自拍视频| 国产suv精品一区二六| 日韩午夜国产| 日韩国产十八禁| 中文字幕高清20页视频| 亚洲中文字母在线播放| 岛国色情视频在线观看| 国产精品美女久久久久AⅤ国产馆| 东京热天堂网| 91色婷婷综合久久中文字幕二区| 亚洲人精品久久久| 91美女視頻| 97超碰色屌| 中文字幕一区 二区三四五 区日 日骚| 中日韩欧美精品无码AⅤ一区二区| 9国产超碰| 神马久久久久久| 亚洲视频精选| 91女日逼| 久久内射| 超碰在线一区二区三区| 99re黄 | 人妻夜夜爽天天爽麻豆三区网站| 无码99| 日本三级韩三级99久久| 国模精品娜娜一二三区| 99久久久久| 婷婷亚洲综合| 中文字幕五区| 国产成人资源| 亚洲不卡不卡中文字幕不卡| 久久久久久久久久久久黄色| 91日日| 9 7超碰在线免费观看| 一二三啪啪专区| 殴美综合色88| 97精品97久久| 亚洲高清91| 久热热| 污色区网站| 国内毛片热久久思思热| 久综合国内精品自在自线| 亚洲欧洲无码bt精品合集| 亚洲国产一级黄色视频| 人人艹亚洲| 欧美东京热精品A∨| 久久久精品成人国产| 凹凸视频特色日本特黄| 婷婷三区| 91激情综合| 亚洲精品久久久久久| 国产久久天堂资源| 久久精品人人做人人看| 立川理惠无码一区二区| 三级片大波波| 99re6在线视频精品免费完整版安卓版| 亚洲欧美综合网站| 91亚洲欧美激情| 蜜臀久久99精品久久久久久无删减 | 张柏芝国产一区在线观看| 免费AV中文网在线观看| 免费啪啪一级视频| 快点操死我| 道久久五香丁月婷婷激情综合| 在线啊啊啊| 日韩成人无码| 欧美日韩岛国大片在线观看| 天堂蜜桃无码视频一区二区| www. 男人天堂成人在线| 国产精品久久久亚洲第一牛牛_在线观看| 国产97在线视频| 在线无码视频| 98一区二区精品| 嫩草影院永久在线制服丝袜| 综合 亚洲 欧美| 欧美日韩国产三级黄色| 欧美综合站| 偷拍色图| 国产 日韩,欧美 自拍| 狠日操| 亚洲欧美校园另类春色| 欧亚韩国999| www熟女乱伦com| 777奇米影视777四色| 国产91精品久久久久久久网曝门| 97久久超碰亚洲| 波多野42部无码喷潮在线观看| 亚洲欧美大香蕉| 午夜精品人妻二区三区| 乱伦色图网址是多少| 夂久色| 9久9久9久9久视频网站| 欧美性巨大╳╳╳╳╳高跟鞋| 亚洲熟妇乱女区二区三区| 亚洲色棕合| 中文字幕亚洲永久精品| 91偷拍欧美亚洲| 亚洲视频精选| 日本九九九九| 久肏视频字幕| 强奸乱伦大香蕉网| 天堂伊人久久| 欧美国产精品| 国产成人AV麻豆| 精品999999| 色婷婷电影网| 色色九区| 五月天婷婷基地| 91亚.色| 在线精品福利免费播放| 日韩欧美天堂| 一级啊性爱在线视频| 午夜毛片高清免费不卡| 欧美日韩电影成人在线| 国产二区三区粉嫩在线| 亚洲天堂人妻熟妇视频| 色香综合天天影视综合 | 99999久久久久9国产精品| 三级色影综合网| 五月天婷婷小说| 久久香蕉国产线看观看亚洲女人| 色五月亚洲| 啊啊啊啊好多水| 超碰人人乐97| 激情黄色片在线观看| 91精品人妻一区二区三区蜜桃臀| 日韩免费高清大片在线| 天堂伊人久久| 狠狠激情综合狠狠操中文字幕| 亚洲人综合| 五月丁香色色网| 超碰九7免费| 二对二中文字幕。| 风流老熟女一区二区三区l| 岛国不卡超碰护士AV在线播放| 一,爱啪啪,在线免费视频| 免费99精品国产自在在线| 国产乱码精品一区二区三区四川| 亚洲精品蜜桃久久久| 先锋精品av色鲁| av网站国产主播在线| 免费成人在线熟妇网| 欧美性爱十八禁| 97亚洲在线| 玖玖蜜臀资源网| 欧美日韩一区二区三区四区蜜桃| 国色综合天| 亚洲不卡av在线| 国产精品久久99日日| 国产精品 久久久精品一牛| 成人天天爽| 五月天婷婷激情| 午夜男女爽爽大片免费观看| 极品一区二区三区免费| 丰满翘臀美女影院视频| 丝袜美腿制服人妻二区中文字幕| 999精品久久久久久久| 少妇三P| 日本99视频| 国产精品亚洲无码| 91女色| 999综合色| 久久丁香| 欧美视频一区二区在线| 亚洲一区日韩精品中文字幕 | 天天干人人干天天日97| 亚洲人天堂| a人片中文字幕一区二区| 志村玲子视频一区二区| 曰韩精品视频一区二区| 久久久久久久久999| 97se综合网| 亚洲αv一区二区三区| 91综合站| 不卡六六在线91| 大香蕉十区| 色狠狠综合| 性爱乱伦视频免费| 九九九久久久| 久久九九97| 免费超碰97久久| 久久婷婷在线观看视频| 天天做天天爱天天高潮| 国产精品久久久久av| 男女做爰猛烈动高潮A片免费应用| 亚洲情色综合网| 五月婷婷hd| 91neishe| 男人天堂久久精品| 91狠狠色丁香婷婷综合久久精品| 欧美一级久久久久久久大片动画| 欧美v亚洲v综合v国产v妖精| 亚洲色狠| 欧洲性爱无码区| 91亚州| 外国免费性情大片| 78m成人视线| 99久久免费看精品国产一区| 果冻传媒A片一二三区| 久久99999| 91人妻视频| 天堂国产AV| 绯色AV粉色AV蜜臀AV| 蜜臀亚洲中文| 日韩超碰精品综合| 国产青视频| 蜜臀AV成人精品蜜臀AV久久| 美欧老女人97| 亚洲图片 激情小说| 色天堂综合| 加勒比AV天堂| 日韩欧美天堂| 欧美热图99| 夜夜爽夜夜高潮夜夜爽| 欧亚日韩一区在线| 国产日韩精品suv| 人妻二区| 综合 青草 伊久久 影院 综合| 国产精品白虎| 69视频福利导航| 国产情色第一第二页在线观看| 久久久内射良家| 蜜桃臀av一区二区| 亚洲九九九| 亚洲av国产av综合av卡| 奇米狠999| 亚洲欧洲国产综合av| 人人操AV| 欧美狠狠弄| AV色五月天| 婷婷午夜清品久久久久久久性色视频观| 青青草久草| 99久久精品无码一区二区毛片免费 | 99精品无码| 超碰久超碰久| 人人看人人插| 女人高潮抽搐喷水视频网站| 欧美超碰9798| 亚洲综合射| 9丨久久九九九| 免费一级精品啪啪视频| 99日韩| 综合网久久| 成人开心网在线视频| 精品久| 日韩卡一卡二卡三在线| 狠狠干综合| 中文字幕人妻色偷偷久久皮| 日产精品久久久一区二区| 超碰成人人人爽人人爽| 亚洲欧美日韩精品久久久一区二区| 大香蕉婷婷| 麻豆激情综合| 91亚洲电影| 手机在线人成免费视频| 嗯嗯啊啊啊好舒服| 麻豆天天躁天天揉揉AV| 97资源视频| 国产成人网址| 少妇色综合| 久久亚洲AV无码白度| 日韩性爱再线视频| 欧美亚洲AN| 久操免费观看| 国产呦精品一区二区三区下载| 免费农村成人少妇人妻Aa一区二区视频 | 北野未奈加勒比av| 免费AV中文网在线观看| 色5月婷婷| 欧美 亚洲 综合 制服 另类| 啊a一区在线| 羞答答AV中文字| .精品人妻一区二区三| 欧美亚洲日韩人妻在线观看| 风骚少妇视频中文字幕| 国产99精品一区二区三区免费| 一色网男人的天堂| 久久亚洲日韩熟女精品| 日本欧美一区二区三区免费| 国产精品熟女九九九| 亚洲色图欧洲| 女优免费一区二区永久| 国产精品日日摸天天碰| 国产又操| 亚洲国产蜜臀系列在线观看| 性久久| 日韩丝袜高跟制服在线观看| 日本免费一级AAA大片器| 97超碰色屌| 91啦人妻| 五月婷婷hd| 强奸乱伦免费网站| 又摸又舔在线观看网站| 成人无码在线超碰网| 成人综合网 欧美| 99久久精品无码一区二区毛片免费| 天天干天天日天天射黄色大片| 欧美精品三区| 物尤视频一区二区| 欧美一级特黄淫片在线观看| 狠狠做深爱婷婷久久二区| 噜噜噜在线视频| 道久久五香丁月婷婷激情综合| 欧美顶级黄色大片免费| 夜夜夜夜爽| 日本3级一区二区免费 | 色婷久久| 国产深喉视频一区二区| 色诱中文字幕| 亚洲最大成人a毛毛片| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 国产AV精久久| wuyechaopeng| 免费视频无码| 强奸乱伦 亚洲一区| 1204金沙人妻懂旧版免费| 黄片com.| 精品传媒在线一区| 青青草黑寡妇男人天堂| 精品偷拍13p欧美dodk视频| 九九九久| 精品一区96| 涩涩这里只有精品视频| 99精品无码| 99久久无色码| 精品偷拍13p欧美dodk视频| 99精品无码| 91在线免费观看处女| 国产成年精品高清在线观看91| 亚洲极品| 夜夜操夜夜爽夜夜高潮| 国产熟女免费观看久久| 天天综合欧美| 日韩精品大香蕉伊人在线| 大香蕉黄色一区| 欧美亚洲自拍另类人妻| 欧美激情亚洲情色| 国内精品不卡无毒99999| 国产操操日韩三级黄| 蜜臀99久久国产| 1区2区3区中文字幕日韩| 精品性爱一区二区| 国产精品久久久久无码Av网曝门| 一区二区亚州激情久婷婷欧美| 天美传媒国产原创中文字幕亚洲欧美另类| 高潮毛片无遮挡高清免费| 91性网| 青草视频人妻在线观看| 日韩在线AB| 日韩国产中文字幕| 免费一级黄色录像影片| 午夜精品久久久| 91天天爽| 色偷综合| 白 大 人妻 区 在线| 天堂精品在线| 国产99 中文字幕日韩小视频| 午夜无遮挡男女啪啪视频| 999精品乱码| 骚货 中文字幕 av| 91性感网站| 亚洲一区在线观看欧洲 | 亚洲1区2区三区高清中文字幕| 亚洲色狠| 好爽视频在线观看视频 | 日韩啪啪网| 免费伦费视频在线观看| 91色人妻| 国产亚洲福利第一页丝袜| 热热色91| 日夜精品| 日韩十八禁| 大茄子熟女AV导航| 免费男人的天堂| 久久久九精品| 91女优在线观看 | 免费看黄片现成| 热99这里有精品综合久久 | 免费中文在线| 亚洲精品国产熟女久久久久久| 91一区二区三区蜜桃| av网站免费看| 久久久新亚洲AV| 一区二区三区国产在线播放| 欧美亚洲情色| 秋霞 色色| 夜草网站| 东京热视频网| 免费观看国产不卡av| 国产黄片精品在线| 欧美另类综合久久| 久久久久亚洲Aⅴ无码| 免费伦费视频在线观看| 亚洲精品一区二区三区在线播放| 蜜乳性色无码专日粉嫩骚逼AV| 激情综合二| 国产亚洲禁久一区二区| 丁香婷婷九月| 999久久久精品国产| 亚洲精品丝袜-不卡成人免费……| 99热思思| 中文字幕视频2区| 99九九久久| 亚洲污污网站| 999久久久久久久久| 日韩99999| 亚洲成人激情小说视频| 国产极品精品美女视频| 成人 日本A片无码8888| 中文字幕黄色片| 91精品国产综合久久久蜜臀| 久久成年精品| 中文字幕在线观看二区三区| 亚洲精品视频在线| 美女在线H91| 91男人天堂网| 日韩猛交| 波多野结衣被操50分钟免费视频| 欧美一级黄色18片免费看| 激情色播| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 福利社区午夜一区二区| 日韩性爱小视频在线观看| 99色色网| 欧日韩在线观看| 黄色成年| 人人看人人爰人人操| 色狠狠色| 97超碰在线资源网站| 亚洲欧美97| 啪啪啪东京| 久久激情五月| 夜夜综合| 亚洲精品97久久| 夜夜天天噜狠狠爱2021| 麻豆久久久一区二区| 久神马| 麻豆天美91| 成人性爱全视频观看| 久久精彩视频9| 欧美精品欧美精品系列| 日韩熟女无码| 五月综合色| 强奸熟女一区二区三区 | 欧美亚洲丝袜美女电影| 青青草色AV| 日韩人妻一二三区视频| 青草青青久久久久久国产| 视频二区熟女人妻| 免费视频在线一区二区不卡| av大香蕉| 亚洲第一男人天堂| 中文字幕一区二区日韩网| 国产精品老熟女一区二区| 亚洲久草AV色图| 在线岛| 九九热免费在线国产视频伊人五月| 一级久久久久久久久久久| 97久久超碰国产网站| 91丨人妻丨国产丨丝袜| 最新国产精品久久精品| 96久久久精品| 成全在线观看免费观看| 骚乳在线| 日本韩高清无砖码22o| 91无码中出人妻视频| 国产精品69久久久久久久| 免费看黄视频亚洲网站| 91成人在线| 无码动漫av中文字幕| 国产熟女少妇一区| 久久精品久久久久久久| www.色综合| 久热这里| 亚洲黄色影视| 超碰97人妻自拍| 97最新在线播放视频| 天天操天天日天天干| www.91逼逼.com| 亚洲美女 晚间男人天堂 | 操逼网站视频漫画国产| 日本三级韩国三级美三级91| 加勒比久久综合网高清| 欧美一区二区三区黄色影视| 日韩一级成人毛片免费观看 | 亚洲 小说 欧美 激情 另类| 九九精品美女高溯喷水| 天天看天天日天天操| 亚洲AV乱码专区国产噜噜亚洲 | 亚洲蜜臀懂色| 一区二区三区高清天码| 啊啊啊啊啊啊啊啊啊啊在线观看| 久久av一级av少妇av高潮| 欧洲小说色图视频另类| 国产极品美女高潮无套在线观看| 人澡逼| 九九色热| 日韩欧美性吧婷婷乱伦大香蕉| 日本日日色视频| 中文字幕奈奈美被公侵犯| 久久精品高清无码一区| 欧美日韩性爱视屏免费看了| 精品天堂| 欧美97日韩| 综合 欧美 亚洲 日本| 欧美天天在线| 五月婷婷影院| 欧美性生活男人的天堂| 9 9无尺码天堂网| 五月色网| 亚洲国产另类在线中文| 久久久九九九九| 91精品大奶人妻| 亚洲国产精品无码AV久久| 玖玖爱一区在线| A片三级无码| 偷拍综合网| 精国久久一区二区三区98| 日韩无码专区| 伊人一区二区在线播放| 亚洲双插| 宗合情欲网| 久久久久久AV无码免费网站| 永久免费观看的毛片的网站| 长久操视频| 久超碰在| 日韩精品亚洲专区在线影视| 日韩97| 国产精品97超碰| 亚洲综合码| 色综合尤物| 成人26uuu| 亚洲同性aV综合| 婷婷另类小说| 日本三级韩国三级99| 国产野战露脸在线播放| 精品欧美乱码久| 激情文学 亚洲图片| 天天综合亚在线| 激情综合网五月婷婷五月天| 亚洲阿v天堂在线| 精品熟妇视频一区二区| 综合天天网| 久久国产精品91| 日韩女模中文造逼| 天天爽夜夜爽夜夜爽精| 亚洲av资源| 国产99999久久精品| 99国产在线绯色一区| 色情综合网| 亚洲国产麻豆一区二区三区| 97精品一区二区视频| 先锋女优在线观看视频| 亚洲麻豆18发?| 自拍二页| 国产农村妇女精品1区二区| 五月婷婷六月激情| 亚洲AV无码乱码在线观看性色| 成 人片 黄色大片| www熟女乱伦com| 亚州一区二区| 人妻欧美| 欧美亚洲特P| 日韩精品人妻中文字幕不卡乱码| 久热久| 大香蕉男人的天堂| 91欧美成人色站| 色噜噜国产在线| 国产伦精品一区二区三区视频女| 大香蕉九九| 制服乱伦| 久久久精品国产亚洲AV无码| 久久精品日韩专区免费观看| 欧亚日韩三区| 一直超碰| 亚洲黄色网址| 国产一区二区三区,在线观看观看| 超碰人妻久久人妻中文97| 精品人妻一区二区三区-国产精品 一个人在线看的黄色电影网站 | 亚洲乱熟女一区二区三区大香蕉| 日人妻视频91| 无码国产精品久久久久| 国产区性爱在线视频秋霞豆| 全免费a敌肛交毛片免费| 欧美经典一区二区三区| 日韩乱中文| 国语对白在线播放视频| 91人妻Pr| 亚洲国产精品久久久久久久久久| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 欧亚成人在线视频| 中文字幕神马久久| 日韩精彩视频| 久久久青青草| 97超碰久久| 日产欧美电影一区二区三区| 日韩激情毛片一级久久久| 欧美日韩免费性爱| 人妻人人做人人澡人人爽欧美一区| 日韩欧美综合激情| 国产成人精品亚洲日本| 天天日天天爽| 久草视频制服诱惑| 综合色拍| 欧美综合网站999| 蜜臀99久久精品久久久久| 精品一区二区三区国产| 国产日逼视频| 国产AV高清AV无码| 日韩欧美麻豆大片| 9精品在线| 久艹视频在线| 精品九九九| 国产东北女人在线视频| 超碰人人干| 成年男人的天堂| 国产和美国毛片| 久久久人妻| 翔田千里AⅤHD无码| 日韩不卡毛片Av免费高清| 国产精品麻豆成人AV艾秋| 大香蕉国产中文自拍| 肉丝中文无码高清| 人人操人人色网| 自拍偷拍 高清无码| 日本天天操| 先锋音影AV| 91色香| 精品久久久久久中文| 99热思思| 久久AV色| 国产二区三区免费视频| 亚洲码专区| 青苹果影院男人的天堂| avav青青草久久夜| 中文字幕高清精品一区| 99久久久久| 日日干男人的天堂| 欧美资源| 免费精品福利在线观看| 狠狠热这里都是精品| 日本黄色精品| 性色av蜜臀av色欲aV| 人妻天堂综合网| 蜜桃精品一区二区三区久在线| 大学生美女口爆| 日本韩欧美在线播放a| 青青草十区九区爱夜| 午夜精品久久久久久久第一页按摩| 日本不卡三级网在线播放| 欧美成人贴图| 两性色网| 青青草伊人久久| 亚洲欧洲激情卡通另类文学四射小说网站 | 伊人久久在线视频观看| 精品国产嫩穴视频| 五月天婷婷社区| 天堂中文资源在线bt| 中文字幕人妻色偷偷久久皮 | 激情看片网站| 九九九九九九九| 亚洲天堂一区二区久久| 欧美成不卡网| 天天综合网网欲色| 久久怡红院| 97久操| 丁香五月天激情网站| 亚欧洲一区二区视频| 国产精品久久久久无码A√| 99国产在线绯色一区| 超碰97久久| 欧美综合骚| 97在线免费观看| 五月黑AⅤ| 熟女91网站| 99综合视频一体| 撸无码不卡免费视频| 97最新在线播放视频| 视频二区熟女人妻| 操逼逼福利视频| 久久久久久少妇| 精品国产www久久| 国偷自 一区| 91丨熟女丨丰满熟女| 97欧美久久久久久久| 久久肏大逼| 超碰97人人乐| 婷婷色色五月天| 亚洲熟女诱惑| 日韩AV电影网站| 日本成人在线不卡一区二区三区| 国产精品情侣啪啪| 国产日韩无码一区二区三区久久区| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 日韩欧美tv一区二区在线观看| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 99视频自拍| 26uuu性| 大乔未久88一区| 粉嫩粉嫩一区性色AV片| 色阁阁AV综合网| 久久性爱大全| 精品欧美乱码久| 厕所偷拍在线| 人妻一区二区三区视频| 天天日天天操VV| 日韩不卡a级视频专区| 奶水 人妻 哺乳 在线| 美女啊啊啊啊啊啊啊| 亚洲密乳AV| 国产AV线| 欧美淫穴| 天天色黄色影院天天操| chaopen97久久| 国产91美女高潮| 欧美一区二区福利在线| 欧美日韩国产色五月综合在线| 日日干夜夜干| 午夜福利一区二区影院| 中文字幕精品亚洲熟女| 日本福利社| 欧美五十路熟| 91精品91久久久久77777| 天天透伊人| 国产精品成人福利在线| 天天综合色图| 亚洲免费97免费| 婷婷中文字幕| 狠狠操官网| 天堂成人网| 四虎国产成人精品免费一女五男| 日韩亚洲Av人人夜夜澡人人爽| 亚洲男人天堂AV| 欧美日韩人妻少妇 一区二区三区| 国产少妇肉丝在线观看| 亚洲欧洲综合成人av一区| 久久久一区二区三区麻豆| 欧亚第一综合网| 日本片日本片祼观看网站在线看中文版网页在线看 | 超碰97 线线 在现| 国产精品不卡一区二区三区| 五月天色五月| 日本操色导航| www国产无码| 亚洲第一页综合在线| 加勒比AV网| 久久精品欧美一区蜜桃| 人人操人人摸人| 精品久久久久久无码| 丰满人妻一区二区三区四区| 色综合99999| 真实高潮91| 99热官网| 蜜桃无码AV一区二区| 亚洲伊人a线观看视频| 久久专区| 91bbbbbb| 久9久9久9久9久9久9| 熟妇人妻一区二区三在线| 亚洲日韩肥臀视频在线观看| 99色天堂| 黑人精品成人一区二区三区| 日本一区视频在线观看| 日本在线观看网址| 大香蕉线| 超碰97久| 国产精品电| 国产久久久久影院老熟女| 神马午夜久久久| 歐美一級亂黃99在綫精品| 大香樵伊人网| 色色色999| 性爱av网站| 日韩乱伦视频| 肉嘟嘟www视频在线观看高清| 久久欲| 永久免费av无码网站国产app| 国产h小视频在线观看免费| 国内一级精品| 亚洲情色 自拍| 亚洲成人AB| 人妻丰满熟妇av无码区蜜桃| 91老熟女91老女人| 无码人妻系列少妇| 日本高清熟女久久一区| 人妻内射一区二区在线视频| 91熟女综合| 亚洲视频小说| 欧美日韩另类字幕中文| 久久久久网站-538在线视频-欧美永久乱码 | 精品国产99| 久久久中文版| 婷婷15月天青娱乐| 九九九热精品| 大香交| 91丰满| 97久久超碰| 日韩熟女无码| 人人看人人爰人人操| 殴美在线AⅤ| 日韩国产中文字幕| 99热这里是精品| 蜜臀久久99精品久久久久久久久| 色性荡荡荡荡视频| 日韩ab网 | 色人久久| 久久久9品一区二区三区|