在圈子里混久了你會發(fā)現(xiàn)跑通一個模型只是起點真正讓人頭疼的是把它塞進真實的生產(chǎn)環(huán)境推理延遲壓不下來顯存一上來就爆功耗卡著預(yù)算上限。我接手過的不少項目模型指標刷得漂亮一到落地就被性能和資源卡脖子。Model-Optimizer這個詞兒就是干這個的它不是某個單一工具的名字而是覆蓋模型壓縮、加速、部署調(diào)優(yōu)的一整套思路。這篇文章我會結(jié)合自己多次模型優(yōu)化落地的實際經(jīng)歷從設(shè)計取舍講到具體操作流程把剪枝、量化、知識蒸餾、算子融合這些核心手段拆開揉碎再補上實戰(zhàn)里踩過的坑和排查技巧。不管你是剛接觸部署的新手還是正在為線上服務(wù)壓測撓頭的工程師這套方法論應(yīng)該都能直接用上。1. 模型優(yōu)化到底在解決什么問題1.1 先說清楚優(yōu)化指的是什么很多人一想到模型優(yōu)化第一反應(yīng)是調(diào)參、改損失函數(shù)、提升準確率。但Model-Optimizer代表的場景恰恰相反它面對的是一個已經(jīng)訓(xùn)練好的、效果達標的模型目標是把它變輕、變快、變得更適合部署。這個過程不改變模型的語義功能但會顯著改變它的體積、計算量和內(nèi)存占用。舉個例子。我用ResNet-50做過一次圖像分類服務(wù)的優(yōu)化。原始模型文件約98MB單張顯卡上推理一張224x224的圖片大約需要12ms?？雌饋磉€行但放到CPU服務(wù)器上、還要同時服務(wù)多個并發(fā)請求時延遲直接飆到80ms以上顯存占用也接近2GB。經(jīng)過一輪完整優(yōu)化后模型體積縮到26MBCPU推理延遲降到22ms顯存占用控制在400MB以內(nèi)精度損失不到一個百分點。這才是優(yōu)化真正該干的事。1.2 為什么要在訓(xùn)練之后再做一輪額外工作可能有人會問訓(xùn)練的時候就考慮部署不行嗎當然可以神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索NAS、輕量化網(wǎng)絡(luò)設(shè)計MobileNet、ShuffleNet就是這條路。但現(xiàn)實情況是業(yè)務(wù)團隊通常沒有精力從零設(shè)計一個高效網(wǎng)絡(luò)更多時候是在已有模型基礎(chǔ)上迭代或者直接使用開源預(yù)訓(xùn)練模型。這就意味著模型的原始形態(tài)往往不是為部署場景準備的。從工程角度看訓(xùn)練階段的目標函數(shù)是精度越高越好而部署階段的目標函數(shù)是在可接受的精度損失內(nèi)延遲和資源占用越低越好。兩個目標天然存在張力。如果不在訓(xùn)練后專門做一輪優(yōu)化直接拿原始模型上線通常會遇到三類問題顯存不夠?qū)е路?wù)線程被OOM殺掉響應(yīng)時間超過業(yè)務(wù)SLA導(dǎo)致用戶側(cè)超時單機吞吐量太低需要堆更多機器成本直線上升。Model-Optimizer的核心價值就是在精度和性能之間幫你找到一個可接受的平衡點。1.3 優(yōu)化帶來的收益如何量化做優(yōu)化前我習(xí)慣先建立一個基線指標表。這樣后續(xù)每一步改動都能用數(shù)據(jù)說話。需要關(guān)注的核心指標包括指標項說明優(yōu)化前基線示例模型體積序列化后的文件大小直接影響存儲和加載時間98MB推理延遲單次請求從輸入到輸出的耗時分P50/P95等分位數(shù)CPU 80ms吞吐量單位時間處理的請求數(shù)通常用QPS衡量單機120內(nèi)存/顯存占用模型運行時的峰值占用顯存1.9GB能耗單位請求的功耗嵌入式場景尤其關(guān)鍵8.5W優(yōu)化完成后我通常會生成一張同樣的表做對比。在很多實際項目中經(jīng)過量化加剪枝的組合拳模型體積可以壓縮到原來的1/4以下延遲降低50%以上誤差控制在1%以內(nèi)。這筆賬算清楚之后無論是說服團隊投入時間還是選擇優(yōu)化方案心里都更有底氣。2. 核心優(yōu)化手段的取舍邏輯2.1 剪枝砍掉不重要的部分剪枝是最直觀的優(yōu)化手段神經(jīng)網(wǎng)絡(luò)的很多權(quán)重其實接近于零對最終輸出貢獻很小。把這些權(quán)重去掉模型自然就變小變快。剪枝分為結(jié)構(gòu)化剪枝和非結(jié)構(gòu)化剪枝。非結(jié)構(gòu)化剪枝會把權(quán)重矩陣中的稀疏值置零精度損失小但實際加速需要專門的稀疏計算庫支持否則內(nèi)存訪問還是按稠密矩陣走的效果有限。結(jié)構(gòu)化剪枝直接刪除整個卷積核或神經(jīng)元通道對硬件更友好但需要重新微調(diào)來恢復(fù)精度。我比較推薦的做法是訓(xùn)練時感知剪枝在模型訓(xùn)練過程中逐漸增加稀疏性約束訓(xùn)練結(jié)束后再一次性移除冗余結(jié)構(gòu)最后做一小段微調(diào)。這種方式比直接對訓(xùn)練好的模型做后訓(xùn)練剪枝穩(wěn)定很多。舉個例子對YOLOv5的檢測頭做結(jié)構(gòu)化剪枝時我按通道貢獻度排序保留前70%的通道微調(diào)5個epoch后mAP只掉了0.8%但推理速度提升了接近40%?？车迷胶莼謴?fù)精度需要的微調(diào)數(shù)據(jù)和時間就越多所以剪枝比例一定要結(jié)合微調(diào)成本來定。2.2 量化用更少的位數(shù)表示權(quán)重和激活量化是另一個核心手段核心思路是用低精度數(shù)值替代高精度數(shù)值最典型的是把FP32變成INT8。FP32的模型權(quán)重有32位INT8只有8位理論上模型體積直接縮小4倍。同時INT8的矩陣運算在CPU和GPU上都有高度優(yōu)化的指令集所以計算速度也會明顯提升。量化的難點在于精度損失。FP32到INT8數(shù)值表示范圍大幅縮小原來的小數(shù)值可能被直接截斷成0。這時候有兩個關(guān)鍵選擇對稱量化和非對稱量化。對稱量化把浮點數(shù)值范圍映射到[-127,127]適用于權(quán)重分布相對對稱的場景非對稱量化則單獨計算正負方向的縮放因子對激活值的處理更友好。此外還有量化感知訓(xùn)練QAT和后訓(xùn)練量化PTQ兩條路線。QAT在訓(xùn)練時模擬量化的舍入誤差精度更好但需要重新訓(xùn)練PTQ只用少量校準數(shù)據(jù)統(tǒng)計數(shù)值分布速度快適合大多數(shù)場景。我在實際項目里對BERT類文本模型做INT8 PTQ時校準數(shù)據(jù)集用了500條樣本精度下降控制在0.5%左右。但如果校準數(shù)據(jù)分布和線上數(shù)據(jù)差異大精度會掉得很難看。這個是必須提前預(yù)防的坑后面故障排查部分我會細說。2.3 知識蒸餾讓大模型教小模型蒸餾的思路和大模型壓縮不太一樣。它不是直接壓縮原來的模型而是訓(xùn)練一個新的、結(jié)構(gòu)更小的小模型讓小模型學(xué)習(xí)大模型的輸出行為。通常做法是把大模型的softmax輸出包含類別間的相對概率信息作為軟標簽和小模型的真實標簽損失一起訓(xùn)練。相比直接用真實標簽訓(xùn)練軟標簽攜帶的信息量更大小模型能學(xué)到更多暗知識。蒸餾適合的場景主要是你有資源訓(xùn)練一個精度很高的大模型但部署環(huán)境承受不了大模型的體積或者你希望換一個完全不同的網(wǎng)絡(luò)結(jié)構(gòu)比如從Transformer換到CNN這種情況下剪枝和量化都很難操作蒸餾幾乎是唯一選擇。我做過一個OCR場景用蒸餾把12層Transformer壓縮成4層字符識別準確率只損失了2%推理速度提升了3倍多。要注意的是蒸餾訓(xùn)練本身有額外成本如果目標模型只是想做INT8量化優(yōu)先考慮PTQ就夠了不必大動干戈做蒸餾。2.4 算子融合與計算圖優(yōu)化算子融合和應(yīng)用層的關(guān)系更近是推理引擎做的事情。神經(jīng)網(wǎng)絡(luò)在計算圖上會有很多連續(xù)的細粒度算子比如Conv后面跟著BatchNorm和ReLU。傳統(tǒng)的執(zhí)行方式是每個算子單獨啟動內(nèi)核讀寫一次內(nèi)存。算子融合把多個算子合并成一個內(nèi)核中間結(jié)果留在寄存器或緩存里省去多次內(nèi)存讀寫延遲自然下降。在TensorRT這類推理引擎里圖優(yōu)化是自動做的但在自研推理管線里需要手動標記融合點。一個典型的融合序列是ConvBatchNormReLU。BN在推理時其實可以化簡成Conv的偏置項ReLU可以合并到激活函數(shù)中三者合成一個算子。優(yōu)化前一次前向需要三次內(nèi)核啟動優(yōu)化后只需一次。層數(shù)越深的模型融合累積的收益越明顯。我實際測過一個80層的視覺模型僅靠算子融合就把推理時間縮短了18%。2.5 如何組合這些手段這幾個手段不是互相排斥的但它們有優(yōu)先級。我的經(jīng)驗是多模態(tài)、大模型一類結(jié)構(gòu)復(fù)雜的模型先做通道剪枝和蒸餾再做量化最后交給推理引擎做圖優(yōu)化。因為量化對異常值敏感先剪枝掉冗余權(quán)重可以減少分布中的離群點讓量化誤差更小。蒸餾則適合在大模型上先把結(jié)構(gòu)變小后續(xù)量化壓力會小很多。如果項目時間緊只做量化和算子融合也能拿到大部分收益。具體組合方式可以用一個簡單表格做決策參考場景推薦組合原因CPU部署時間倉促PTQ量化算子融合成本低提速明顯GPU部署精度敏感QAT量化通道剪枝精度可控資源釋放多嵌入式邊緣設(shè)備結(jié)構(gòu)化剪枝INT8量化體積和能耗雙優(yōu)化模型結(jié)構(gòu)大型化蒸餾量化結(jié)構(gòu)徹底變小3. Model-Optimizer 工具選型與配置3.1 訓(xùn)練框架自帶能力 vs 獨立推理引擎優(yōu)化工具的選擇取決于你的部署鏈路。PyTorch和TensorFlow各自都有一些優(yōu)化能力比如PyTorch自帶torch.quantizationTensorFlow有TensorFlow Model Optimization Toolkit。這些和訓(xùn)練代碼集成度高適合快速實驗。但當你要真正上線尤其是在GPU上需要極致性能時獨立的推理引擎通常更值得考慮。TensorRT、ONNX Runtime、OpenVINO都是這個領(lǐng)域的常用選擇。Model-Optimizer這個命名在幾個推理引擎里都出現(xiàn)過。比如OpenVINO就內(nèi)置了Model Optimizer組件負責把訓(xùn)練好的模型轉(zhuǎn)換成中間表示并做圖優(yōu)化。Intel的這套工具鏈在CPU部署上非常成熟支持TensorFlow、PyTorch、ONNX等格式的導(dǎo)入。如果你的部署目標是Intel CPU直接用它的Model Optimizer做轉(zhuǎn)換和優(yōu)化比手動改模型省事得多。3.2 工具鏈選擇的基本原則我選工具鏈有四個原則。第一輸入格式是否兼容。最好統(tǒng)一用ONNX作為中間格式幾乎所有框架都能導(dǎo)出。第二是否支持目標硬件。TensorRT主要服務(wù)NVIDIA GPUOpenVINO主打Intel CPU不能選錯。第三是否支持混合精度。不同硬件對不同精度的支持差異很大不是所有工具都支持INT8或FP16。第四是否有持續(xù)維護和社區(qū)活躍度。這個看著虛實際能決定踩坑后能不能快速找到解決方案。還有個經(jīng)驗不要在一開始就引入太多組件。很多平臺喜歡把各種優(yōu)化能力揉在一起配置復(fù)雜出了問題還很難定位。我現(xiàn)在的習(xí)慣是先用ONNX Runtime做一遍基礎(chǔ)優(yōu)化和基準測試如果性能不達標再引入TensorRT或OpenVINO針對硬件做二次優(yōu)化。這樣分層處理每一層的效果都能單獨量化排障時思路也清晰。3.3 完整配置流程示例以O(shè)penVINO的Model Optimizer為例典型的配置流程大概是準備環(huán)境安裝openvino-dev工具包。將訓(xùn)練好的PyTorch模型導(dǎo)出為ONNX格式。使用mo命令進行轉(zhuǎn)換指定輸入形狀和精度。比如執(zhí)行mo --input_model model.onnx --input_shape [1,3,224,224] --data_type FP32 --output_dir optimized。用benchmark_app工具跑一輪性能基準對比轉(zhuǎn)換前后的延遲和吞吐。配置時要注意的一個點是靜態(tài)輸入形狀。推理引擎優(yōu)化圖結(jié)構(gòu)時往往依賴輸入形狀固定。如果你的服務(wù)支持動態(tài)batch建議先嘗試設(shè)置動態(tài)維度但要知道動態(tài)shape會降低優(yōu)化力度。我的做法是能固定盡量固定業(yè)務(wù)方不接受的話再退而求其次用范圍限定的動態(tài)shape。3.4 校準數(shù)據(jù)的準備方法做量化時校準數(shù)據(jù)是繞不開的環(huán)節(jié)。校準calibration就是統(tǒng)計激活值的數(shù)值范圍來確定量化的縮放因子。校準數(shù)據(jù)集不需要帶標簽只需要覆蓋真實場景的輸入分布。數(shù)量上我一般控制在300到1000條之間太多會拖慢校準流程太少則統(tǒng)計不到極端值。具體做法可以是直接從驗證集里隨機抽樣也可以從線上日志里撈一段真實請求輸入。如果是圖像模型記得做和訓(xùn)練時一致的預(yù)處理縮放、歸一化、通道順序否則輸入分布不匹配量化后精度會偏離。文本模型要特別注意輸入長度分布我之前遇到過用短文本校準、長文本測試的情況激活值范圍估計偏差很大精度直接掉了5個百分點。提示校準數(shù)據(jù)里一定要包含邊界情況。比如圖像里的純黑純白圖片、文本里的超長序列這些極端輸入產(chǎn)生的激活值范圍才是決定量化邊界的關(guān)鍵。4. 實操從PyTorch模型到線上服務(wù)的完整流程4.1 基線準備與模型導(dǎo)出我習(xí)慣把優(yōu)化流程拆成五個階段每個階段都有明確的交付物。第一階段是基線準備。加載一個訓(xùn)練好的模型用驗證集測出它的原始精度和性能指標記錄下來作為對照。接著把模型的權(quán)重文件轉(zhuǎn)成中間格式我用得最多的是ONNX。PyTorch導(dǎo)出ONNX時有一個值得注意的點動態(tài)軸。如果你在導(dǎo)出時設(shè)置了動態(tài)batch導(dǎo)出的ONNX文件會包含動態(tài)shape信息靈活性好但優(yōu)化空間小。反過來使用固定shape導(dǎo)出很多推理引擎可以直接做常量折疊、算子融合性能更好。我的做法是按業(yè)務(wù)場景的實際batch大小固定shape比如線上單次推理固定batch1導(dǎo)出時就寫死。4.2 圖優(yōu)化與靜態(tài)分析拿到ONNX文件后先做一輪圖優(yōu)化和靜態(tài)分析。用ONNX Runtime自帶的graph optimization就能完成大部分工作包括算子融合、常量折疊、冗余節(jié)點消除。這一步不需要重新訓(xùn)練也不需要額外數(shù)據(jù)純粹是計算圖級別的優(yōu)化安全無副作用。圖優(yōu)化完成后我會用一個工具腳本統(tǒng)計計算圖中的算子類型和數(shù)量。比如看到大量Conv、BatchNorm、Relu節(jié)點就知道量化時這幾類算子會占大頭。如果發(fā)現(xiàn)某些自定義算子推理引擎不支持就得提前處理要么用官方算子重寫要么在引擎中注冊自定義實現(xiàn)。這一步不處理好后面轉(zhuǎn)換時會出現(xiàn)大量fallback導(dǎo)致整個模型退回到CPU執(zhí)行加速效果全無。4.3 量化與剪枝的具體操作算力充足時我會優(yōu)先做QAT量化。具體做法是在PyTorch中給模型插入fake quant節(jié)點用訓(xùn)練數(shù)據(jù)繼續(xù)訓(xùn)練幾個epoch讓模型適應(yīng)量化的舍入誤差。epoch數(shù)不用多3到5個即可重點是讓BN統(tǒng)計量重新收斂。這里有個小技巧QAT前先把模型設(shè)為eval模式跑一遍校準數(shù)據(jù)更新BN的running_mean和running_var效果比直接訓(xùn)練更好而且穩(wěn)定。如果時間不允許直接走PTQ。操作步驟是準備校準數(shù)據(jù)遍歷模型各層記錄激活值分布計算縮放因子。PyTorch中可以用torch.quantization.prepare和convert快速完成。我試過一種改進方式校準完后在量化模型上把最后一層分類器保留為FP16其余層轉(zhuǎn)INT8。這樣做精度損失稍微小一點實現(xiàn)成本不高是個劃算的折中。剪枝方面最簡單的切入點是卷積層的通道維度。使用torch.prune中的結(jié)構(gòu)化剪枝方法指定剪枝比例后重新導(dǎo)出ONNX。剪枝后模型結(jié)構(gòu)會變化下游層的輸入通道數(shù)也要跟著調(diào)整PyTorch會自動處理但ONNX導(dǎo)出后最好檢查一下網(wǎng)絡(luò)圖確認沒有無效的維度變化。我見過自動剪枝后ONNX圖里出現(xiàn)Reshape節(jié)點和Transpose節(jié)點冗余的情況手動清理后推理速度又提升了5%。4.4 部署環(huán)境的適配與實測優(yōu)化完成后到部署還有一步適配推理引擎。TensorRT以O(shè)NNX為輸入支持FP32、FP16、INT8精度。構(gòu)建Engine時有一個選項要留意workspace size。它決定TensorRT能用多少顯存來做layer選擇。設(shè)置太小會讓部分算子選不到最優(yōu)實現(xiàn)設(shè)置太大則會占滿顯存影響其他服務(wù)的部署。我一般設(shè)為1GB起步按模型大小調(diào)整。部署后的驗證要分兩層。第一層是單請求延遲測試用固定輸入跑幾百次統(tǒng)計P50和P95延遲。第二層是并發(fā)壓測用模擬流量逐步加壓觀察QPS和顯存占用曲線。Found a critical problem here:在壓測時經(jīng)常會遇到CPU和GPU使用率不均衡的情況。例如數(shù)據(jù)預(yù)處理用CPU導(dǎo)致CPU成為瓶頸GPU反而在等待數(shù)據(jù)。這種情況下優(yōu)化模型本身已經(jīng)沒有意義要解決的是數(shù)據(jù)管線和預(yù)處理并行度的問題。這個觀察點很值得記錄下來。4.5 優(yōu)化完成的驗收標準驗收要看三個維度缺一不可精度、性能、穩(wěn)定性。精度維度要對比優(yōu)化前后的top1/top5準確率、mAP或具體業(yè)務(wù)指標性能維度看延遲和吞吐提升幅度穩(wěn)定性維度則要跑長時間壓測觀察是否有緩慢的內(nèi)存增長、延遲抖動、偶發(fā)超時。我經(jīng)常在驗收表里多留一項回滾成本。優(yōu)化方案如果不可回滾比如直接改動了原模型權(quán)重一旦有問題會很被動。所以我通常保留一份優(yōu)化前的模型文件并設(shè)置一個開關(guān)能快速在原模型和優(yōu)化后模型之間切換。線上流量小的時候灰度切過去觀察幾小時確認無誤再全量。這個流程看著繁瑣但能避免很多上線事故。5. 常見問題與排查技巧實錄5.1 量化后精度明顯掉得離譜這是我被問到最多的問題。INT8量化后精度掉超過3%通常不是量化本身的問題而是校準數(shù)據(jù)出了問題。我遇到過的典型情況包括用了帶標簽的訓(xùn)練數(shù)據(jù)做校準而訓(xùn)練數(shù)據(jù)的預(yù)處理流程和線上不一致校準數(shù)據(jù)太單一激活值范圍集中在很小區(qū)域模型中有對數(shù)值范圍極其敏感的層比如檢測模型的回歸頭。排查思路是逐層對比激活值分布。我寫過一個小工具輸入ONNX模型在量化前后各跑一遍相同數(shù)據(jù)輸出每層的輸出分布直方圖。找到差異最大的層針對那一層做特殊處理要么保留FP16要么單獨調(diào)整量化范圍。用這個方法幫一個目標檢測項目把量化后mAP損失從6%降到了1.2%。5.2 轉(zhuǎn)換后模型運行速度反而更慢優(yōu)化后變慢這事兒不罕見。有一次我把一個模型轉(zhuǎn)成TensorRT INT8后單次延遲反而比FP32慢。后來定位發(fā)現(xiàn)模型里有一些小算子如shape操作、gather沒有被TensorRT高效支持運行時會從GPU回退到CPU執(zhí)行。回退操作的開銷遠大于普通GPU內(nèi)核所以整體延遲反而上升。解決方法是使用TensorRT的profiling工具查看每個節(jié)點的執(zhí)行時間和執(zhí)行設(shè)備。找到標著CPU執(zhí)行的節(jié)點手動改計算圖把不支持的操作改寫成支持的形式或者用插件實現(xiàn)。還有一件事需要檢查模型是否存在動態(tài)shape如果不固定shape引擎無法做完整的層融合性能也會打折。5.3 顯存占用居高不下顯存優(yōu)化和模型體積、延遲是兩個維度。即使模型權(quán)重文件很小推理時顯存占用也可能很高因為激活值圖占用了大量空間。典型的解決策略包括減小batch size、使用激活值檢查點、調(diào)整workspace size、或者減少同時并發(fā)的推理流。BN層在推理時合并進卷積后激活值內(nèi)存也會下降不少。有一個技巧很實用在TensorRT里將推理流數(shù)量從默認值調(diào)低。默認情況下TensorRT會為一個模型創(chuàng)建多個CUDA stream來最大化并行度但這會導(dǎo)致顯存占用成倍增加。如果顯存緊張把stream數(shù)降到1吞吐會有輕微下降但顯存占用可能直接減半。這是很多部署文檔里沒有細講的經(jīng)驗。5.4 推理引擎報錯無法解析模型ONNX模型在推理引擎轉(zhuǎn)換時報錯常見原因有三類使用了引擎不支持的算子版本模型中存在動態(tài)shape導(dǎo)致的維度推理失敗某些自定義算子沒有被注冊。針對第一類解決方法是使用opset版本兼容性腳本在導(dǎo)出ONNX時選擇引擎支持的較低版本。第二類盡量固定輸入shape或者為動態(tài)維度設(shè)定合理的范圍。第三類只能重寫自定義算子沒有更好的辦法。注意不同推理引擎對ONNX算子集的支持程度不一樣。一個模型能在ONNX Runtime正常跑不代表在TensorRT里一定也能成。轉(zhuǎn)換前先看官方支持的算子列表能省很多調(diào)試時間。5.5 常見問題速查表問題表現(xiàn)可能原因處理建議量化后精度大跌校準數(shù)據(jù)與線上分布不匹配更新校準集納入邊界樣本轉(zhuǎn)換后變慢算子回退到CPU執(zhí)行查看profiling重寫不支持算子顯存占用過高并發(fā)流過多或shape動態(tài)減少stream數(shù)固定shape模型加載緩慢未做圖優(yōu)化節(jié)點冗余先跑基礎(chǔ)圖優(yōu)化精度有損但無法復(fù)現(xiàn)量化存在隨機性固定隨機種子對比多次實驗業(yè)務(wù)請求偶發(fā)超時預(yù)處理/后處理耗時不穩(wěn)定預(yù)熱模型優(yōu)化數(shù)據(jù)管線6. 一些經(jīng)驗層面的建議回頭看我做過的大大小小十幾個優(yōu)化項目最深的體會是模型優(yōu)化是在預(yù)算、時間、精度三者之間找平衡不存在一個萬能方案。每次動手前先明確一個數(shù)字目標——延遲要降到多少、顯存要控制在多少、精度損失不能超過多少三個數(shù)字寫清楚后續(xù)所有決策都有據(jù)可依。沒有目標做優(yōu)化很容易在手段之間反復(fù)橫跳最后什么都優(yōu)化了又什么都沒優(yōu)化透。另外一個經(jīng)驗是想清楚給誰優(yōu)化。同一個模型跑在不同硬件上最優(yōu)方案完全不同。CPU上可能OpenVINO加INT8才是最優(yōu)解GPU上TensorRT加FP16往往更香邊緣設(shè)備則要把模型體積和功耗放在第一位。優(yōu)化流程沒有標準答案但方法論是通用的先量化基線再選手段組合然后快速驗證、逐步調(diào)優(yōu)最后灰度上線。這套流程跑順之后新模型再進來最多一兩天就能出一版可用的優(yōu)化結(jié)果。最后再送一個建議優(yōu)化之后別忘了補充文檔把校準數(shù)據(jù)來源、量化參數(shù)、剪枝比例、壓測結(jié)果全部記錄下來。這和寫代碼要留注釋一個道理。很多時候模型幾天后就要迭代如果沒有一份完整的優(yōu)化記錄又得從頭開始摸索參數(shù)。我自己的經(jīng)驗是優(yōu)化記錄文檔寫得好下一次迭代能省至少30%的溝通和調(diào)試時間。