你有沒有過這樣的經(jīng)歷新項(xiàng)目到手?jǐn)?shù)據(jù)集千瘡百孔超參數(shù)試了一整周模型精度就是上不去。于是你開始幻想如果有一個(gè)智能體能替你把數(shù)據(jù)清洗、特征工程、調(diào)參、模型選型全做了甚至能自己生成訓(xùn)練數(shù)據(jù)、自己摸索網(wǎng)絡(luò)結(jié)構(gòu)那該多好。這就是“模型訓(xùn)練模型”這個(gè)詞給人的第一印象——一個(gè)AI教練批量生產(chǎn)AI學(xué)徒。這個(gè)想法聽起來有點(diǎn)科幻但仔細(xì)拆開看它并不是一個(gè)單一算法而是一整套自動(dòng)化、元學(xué)習(xí)、數(shù)據(jù)合成、知識遷移的技術(shù)集合。過去幾年這個(gè)領(lǐng)域已經(jīng)走了很長一段路AutoML可以幫你自動(dòng)調(diào)參NAS能設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)大語言模型能批量生成指令數(shù)據(jù)知識蒸餾能把大模型的“畢生所學(xué)”壓縮進(jìn)小模型。可是真正意義上的“神模型”——一個(gè)能獨(dú)立設(shè)計(jì)、訓(xùn)練、評估并改進(jìn)另一個(gè)模型的完整智能體至今還沒有上崗。這篇文章我想順著“模型訓(xùn)練模型”的進(jìn)化路徑聊聊哪些技術(shù)已經(jīng)實(shí)打?qū)嵉卦谛袠I(yè)里跑起來了哪些還停留在論文里以及那最后一截幾乎沒人走通的路到底難在哪里。1. 「模型訓(xùn)練模型」不是什么科幻概念而是一堆瑣碎工程的總和1.1 先回想一下你最痛苦的訓(xùn)練環(huán)節(jié)我接觸過不少圖像、OCR、NLP相關(guān)的項(xiàng)目發(fā)現(xiàn)一個(gè)共同規(guī)律絕大多數(shù)人嘴上說“訓(xùn)練模型”實(shí)際花的時(shí)間卻大量浪費(fèi)在模型訓(xùn)練之外。拿到一批新數(shù)據(jù)先得做清洗去掉重復(fù)樣本、修正錯(cuò)誤標(biāo)注、處理類別不均衡然后開始試網(wǎng)絡(luò)結(jié)構(gòu)用ResNet還是用YOLOv5的哪個(gè)變體再來就是調(diào)超參數(shù)學(xué)習(xí)率、batch size、優(yōu)化器權(quán)重衰減每一項(xiàng)都像開盲盒。以前做EasyOCR微調(diào)的時(shí)候我為了一個(gè)字符識別準(zhǔn)確率卡了很久。一開始以為模型結(jié)構(gòu)不行換成更大的預(yù)訓(xùn)練權(quán)重結(jié)果只是把過擬合的時(shí)間提前了后來發(fā)現(xiàn)是訓(xùn)練數(shù)據(jù)里某些字體樣本太少模型壓根沒見過。你瞧真正決定模型質(zhì)量的往往是數(shù)據(jù)本身和那些瑣碎的調(diào)度決策而不是玄乎的算法創(chuàng)新。于是我開始思考如果這些重復(fù)勞動(dòng)能交給另一個(gè)模型來做會(huì)不會(huì)整體效率高很多1.2 “模型訓(xùn)練模型”這個(gè)詞其實(shí)是個(gè)范圍而不是一個(gè)算法“模型訓(xùn)練模型”可以出現(xiàn)在很多層級上。參數(shù)層一個(gè)模型輸出另一個(gè)模型的權(quán)重初值比如元學(xué)習(xí)中常見的MAML它不是一個(gè)具體任務(wù)的模型而是能生成“好初始化”的模型。結(jié)構(gòu)層一個(gè)模型負(fù)責(zé)搜索另一個(gè)模型的網(wǎng)絡(luò)結(jié)構(gòu)典型的就是NASNeural Architecture Search。數(shù)據(jù)層一個(gè)模型為另一個(gè)模型生成或增強(qiáng)訓(xùn)練數(shù)據(jù)比如用大語言模型生成指令微調(diào)數(shù)據(jù)。策略層一個(gè)模型作為強(qiáng)化學(xué)習(xí)中的策略或獎(jiǎng)勵(lì)模型指導(dǎo)另一個(gè)模型產(chǎn)生更符合人類偏好的輸出。流程層一個(gè)智能體自動(dòng)完成數(shù)據(jù)清洗、訓(xùn)練、評估、再訓(xùn)練的閉環(huán)這是最接近“神模型”的形態(tài)。所以當(dāng)我們說“模型訓(xùn)練模型”時(shí)需要先明確說的是哪一層。否則很容易把AutoML和元學(xué)習(xí)混為一談或是以為“用大模型生成數(shù)據(jù)”就等同于“大模型在訓(xùn)練小模型”。1.3 為什么“神模型”還沒有上崗現(xiàn)在確實(shí)沒有任何一個(gè)系統(tǒng)能獨(dú)立接管一個(gè)完整的機(jī)器學(xué)習(xí)項(xiàng)目。原因也很實(shí)在第一數(shù)據(jù)和業(yè)務(wù)知識的壁壘沒有被攻破。模型可以幫你調(diào)超參數(shù)但很難幫你理解“為什么這張發(fā)票里的金額字段標(biāo)注錯(cuò)了”更難替你決定“這個(gè)業(yè)務(wù)場景里漏檢和誤檢哪個(gè)代價(jià)更高”。第二自動(dòng)化不等于智能。AutoML自動(dòng)搜索出一組參數(shù)但背后的目標(biāo)函數(shù)、搜索空間、驗(yàn)證指標(biāo)仍然要人來設(shè)計(jì)。人一旦把目標(biāo)設(shè)錯(cuò)模型越“努力”系統(tǒng)越偏。第三遞歸改進(jìn)存在根本性的評估難題。如果讓模型A去訓(xùn)練模型BA怎么知道B是否真的變強(qiáng)了如果只用同一個(gè)測試集驗(yàn)證A很容易過擬合到這個(gè)測試集上如果讓A自己設(shè)計(jì)測試集那評估基準(zhǔn)本身都可能被“污染”。所以“神模型”這個(gè)概念目前更多是一種方向而不是一個(gè)已經(jīng)存在的工具。但方向可以拆解拆解之后你會(huì)發(fā)現(xiàn)里面有好幾段路已經(jīng)被走通了而且我們每天都在用。2. 已走通的路一AutoML與NAS自動(dòng)把調(diào)參和結(jié)構(gòu)設(shè)計(jì)交給機(jī)器2.1 AutoML把“煉丹”變成“調(diào)參自動(dòng)機(jī)”AutoML是“自動(dòng)機(jī)器學(xué)習(xí)”的簡稱最早火起來是因?yàn)榇蠹沂軌蛄耸止ふ{(diào)參。它做的事情很簡單在一個(gè)設(shè)定的搜索空間里自動(dòng)嘗試不同的超參數(shù)組合找到目標(biāo)指標(biāo)最好的那套配置。常見方法包括網(wǎng)格搜索、隨機(jī)搜索、貝葉斯優(yōu)化、進(jìn)化算法等。網(wǎng)格搜索本質(zhì)上是窮舉組合一多就爆所以現(xiàn)實(shí)中用得越來越少。貝葉斯優(yōu)化是目前比較靠譜的思路它會(huì)把歷史試過的參數(shù)組合和對應(yīng)結(jié)果擬合一個(gè)代理模型然后用這個(gè)代理模型預(yù)測哪里最有希望出現(xiàn)更好的參數(shù)再重點(diǎn)嘗試那些區(qū)域。簡單說就是“帶著記憶地試”比盲試高效得多。我自己的經(jīng)驗(yàn)是對于中小規(guī)模的結(jié)構(gòu)化數(shù)據(jù)或圖像分類任務(wù)用現(xiàn)成的AutoML框架跑一個(gè)基線往往能在一兩個(gè)小時(shí)內(nèi)達(dá)到手工調(diào)參兩三天才能拿到的效果。這等于把訓(xùn)練模型的第一個(gè)重復(fù)環(huán)節(jié)——超參數(shù)搜索——交給了模型。2.2 NAS讓模型自己長出自己的網(wǎng)絡(luò)結(jié)構(gòu)NAS更進(jìn)一步它要自動(dòng)搜索網(wǎng)絡(luò)結(jié)構(gòu)而不是只搜索學(xué)習(xí)率之類的超參數(shù)。2017年那篇經(jīng)典論文用強(qiáng)化學(xué)習(xí)搜索子網(wǎng)絡(luò)結(jié)構(gòu)在CIFAR-10上拿到了當(dāng)時(shí)不錯(cuò)的結(jié)果但代價(jià)是幾百塊GPU跑了好多天搜索成本高到離譜。后來出了可微分的DARTS方法把結(jié)構(gòu)搜索變成一個(gè)連續(xù)優(yōu)化問題訓(xùn)練速度才快了一些。但這里有一個(gè)現(xiàn)實(shí)問題NAS搜索出的結(jié)構(gòu)往往很“畸形”雖然精度不錯(cuò)但參數(shù)量和推理延遲不一定符合落地要求。而且無論NAS多智能你仍然需要預(yù)先定義搜索空間比如允許使用卷積、池化、殘差連接等操作類型。搜索空間設(shè)置得好不好直接決定結(jié)果上限。所以NAS是“模型設(shè)計(jì)模型”的雛形但它離“神模型”還差得遠(yuǎn)。它只能在一個(gè)狹窄的、人類預(yù)先劃定的結(jié)構(gòu)空間里找最優(yōu)解并不能真正理解任務(wù)本身。2.3 為什么這條路“看著很美”卻又“不過癮”AutoML和NAS解決的是“優(yōu)化”問題不是“學(xué)習(xí)”問題。它們拿到的都是一個(gè)固定的數(shù)據(jù)集、一個(gè)固定的任務(wù)目標(biāo)然后在這個(gè)封閉框架下搜索。它們不會(huì)問“這些數(shù)據(jù)夠不夠需不需要去采集更多樣本這個(gè)目標(biāo)函數(shù)本身合理嗎”——這些更接近“判斷力”的環(huán)節(jié)仍然需要人類介入。而且AutoML的實(shí)際落地還有不少坑。比如搜索過程很容易過擬合到驗(yàn)證集尤其是搜索空間很大、驗(yàn)證集很小時(shí)最后挑出來的配置在真正測試集上往往沒那么驚艷。再比如某些超參數(shù)之間交互作用強(qiáng)烈貝葉斯優(yōu)化如果初始采樣太少也可能一直陷入局部最優(yōu)區(qū)。不過作為“模型訓(xùn)練模型”的第一段路AutoML和NAS的意義在于它們證明了模型可以在特定環(huán)節(jié)替代人類的“經(jīng)驗(yàn)直覺”并且效果不差。既然這一段能走通后面更復(fù)雜的環(huán)節(jié)就有理由被相信。3. 已走通的路二元學(xué)習(xí)、教師-學(xué)生與基于大模型的數(shù)據(jù)合成3.1 元學(xué)習(xí)讓模型學(xué)會(huì)“快速學(xué)習(xí)”元學(xué)習(xí)的英文是Meta-learning中文也翻譯成“學(xué)會(huì)學(xué)習(xí)”。它區(qū)別于普通訓(xùn)練的地方在于普通訓(xùn)練是讓模型在一個(gè)任務(wù)上表現(xiàn)好元學(xué)習(xí)是讓模型在一批任務(wù)上學(xué)會(huì)“怎么學(xué)得更快更好”。最經(jīng)典的例子是MAMLModel-Agnostic Meta-Learning。MAML訓(xùn)練的目標(biāo)是尋找一組初始化參數(shù)這組參數(shù)在遇到新任務(wù)時(shí)只需要幾步梯度更新就能快速適配。它的本質(zhì)是“讓模型的初始狀態(tài)更聰明”而不是讓模型直接記住某個(gè)任務(wù)的答案。這種思路用到少樣本學(xué)習(xí)里效果尤其明顯你給模型看過幾個(gè)新類別的樣本它就能很快學(xué)會(huì)區(qū)分。你可能覺得元學(xué)習(xí)離實(shí)際項(xiàng)目很遠(yuǎn)但其實(shí)沒那么遠(yuǎn)。一個(gè)常見的變體是“l(fā)earn to optimize”也就是用一個(gè)神經(jīng)網(wǎng)絡(luò)去生成另一個(gè)網(wǎng)絡(luò)的梯度更新量替代傳統(tǒng)的梯度下降。雖然還沒有大規(guī)模普及但在小模型少樣本場景里已經(jīng)有一定可行性。3.2 知識蒸餾把大模型的能力“搬”到小模型知識蒸餾是我在實(shí)際項(xiàng)目里用得最多的“模型訓(xùn)練模型”技術(shù)。它做的事非常直觀先訓(xùn)練一個(gè)大的Teacher模型再用Teacher模型的輸出不僅是硬標(biāo)簽還包括軟概率分布、中間層特征去監(jiān)督一個(gè)小的Student模型訓(xùn)練。為什么用軟標(biāo)簽會(huì)更好因?yàn)檐洏?biāo)簽里藏著類間相似度信息。比如區(qū)分貓和狗的模型對一張貓的圖片輸出的概率可能是“貓0.88、狗0.12”那個(gè)0.12并不是單純的錯(cuò)誤它隱含著“這張圖有些像狗”的信息。Student模型從這些軟標(biāo)簽里能學(xué)到比硬標(biāo)簽更豐富的知識。去年我做樹莓派上的目標(biāo)檢測部署時(shí)先在服務(wù)器上用YOLOv8訓(xùn)練了一個(gè)大模型精度不錯(cuò)但跑起來很卡。后來用蒸餾的方式把大模型的檢測結(jié)果作為輔助監(jiān)督信號去訓(xùn)練一個(gè)更小的模型骨架換成輕量化的版本精度只掉了兩三個(gè)點(diǎn)但推理速度明顯提升樹莓派上終于能跑實(shí)時(shí)了。這就是典型的“用一個(gè)模型訓(xùn)練另一個(gè)模型”。3.3 大模型當(dāng)“數(shù)據(jù)工坊”指令數(shù)據(jù)合成路線2023年之后大語言模型帶火了一個(gè)新玩法用大模型生成訓(xùn)練數(shù)據(jù)再用這些數(shù)據(jù)去微調(diào)小模型。最經(jīng)典的模式是Alpaca——用OpenAI的API生成幾萬條指令數(shù)據(jù)然后拿去微調(diào)LLaMA效果讓人驚訝。這套邏輯放到垂直領(lǐng)域就成了“模型訓(xùn)練模型”的日常實(shí)踐。比如你手上只有幾百條中醫(yī)問答數(shù)據(jù)想訓(xùn)練一個(gè)醫(yī)療方向的問答模型直接微調(diào)很容易過擬合。常見的做法是先用一個(gè)更大的通用大模型基于你現(xiàn)有的幾百條種子數(shù)據(jù)生成更多風(fēng)格類似、內(nèi)容合理的問答對然后做一遍人工或規(guī)則過濾再拿擴(kuò)增后的數(shù)據(jù)集去微調(diào)你的模型。我在中文文本分類項(xiàng)目里這么干過效果是準(zhǔn)確率提升了近十個(gè)點(diǎn)代價(jià)只是調(diào)API和做清洗的時(shí)間。但這里必須提醒一句大模型生成的數(shù)據(jù)必須經(jīng)過嚴(yán)格審查。模型會(huì)一本正經(jīng)地編造不存在的事實(shí)也會(huì)放大訓(xùn)練數(shù)據(jù)里的偏見。如果你用生成數(shù)據(jù)去訓(xùn)練一個(gè)生產(chǎn)模型數(shù)據(jù)質(zhì)量問題會(huì)在后期成倍放大。所以“用模型生成數(shù)據(jù)”只是前半段后半段——數(shù)據(jù)篩選和驗(yàn)證——依然離不開人。3.4 數(shù)據(jù)飛輪訓(xùn)練一次不是結(jié)束迭代才是常態(tài)“模型訓(xùn)練模型”在工業(yè)界最落地的一種形態(tài)其實(shí)是數(shù)據(jù)飛輪。以O(shè)CR場景為例第一版模型訓(xùn)練完成后部署到客戶現(xiàn)場會(huì)產(chǎn)生大量模型預(yù)測置信度不高的樣本。把這些樣本收集起來人工確認(rèn)或修正再補(bǔ)回訓(xùn)練集然后重新訓(xùn)練模型。每一次循環(huán)模型都會(huì)更適應(yīng)新出現(xiàn)的場景。這個(gè)過程表面上看是人機(jī)協(xié)作但如果你把“錯(cuò)誤樣本收集難例挖掘”也做成一個(gè)模型比如訓(xùn)練一個(gè)專門判斷“該不該人工復(fù)審”的難例檢測器那么整個(gè)循環(huán)就有一半以上是由模型驅(qū)動(dòng)的。我用EasyOCR訓(xùn)練自己的模型時(shí)也是這么操作的。一開始用開源預(yù)訓(xùn)練模型跑了一批真實(shí)單據(jù)挑出識別錯(cuò)的字符用程序自動(dòng)切割成小圖片人工快速標(biāo)注后合并進(jìn)訓(xùn)練集再微調(diào)一輪。循環(huán)了兩三次后那些特殊字體、特殊版式的準(zhǔn)確率就明顯上來了。這就是一個(gè)微縮版的數(shù)據(jù)飛輪也是普通人最值得復(fù)制的“模型訓(xùn)練模型”路徑。4. 還剩下的一截自訓(xùn)練、自我博弈與遞歸自我改進(jìn)4.1 自訓(xùn)練會(huì)讓模型“自我欺騙”嗎自訓(xùn)練Self-training的基本思路是先用有標(biāo)注數(shù)據(jù)訓(xùn)練一個(gè)初始模型然后用這個(gè)模型給無標(biāo)注數(shù)據(jù)打偽標(biāo)簽再把這些偽標(biāo)簽數(shù)據(jù)加入訓(xùn)練集重新訓(xùn)練。半監(jiān)督學(xué)習(xí)中常見的一致性正則化、偽標(biāo)簽方法基本都是這條路線。自訓(xùn)練的優(yōu)點(diǎn)很明顯能用極少的標(biāo)注數(shù)據(jù)撬動(dòng)大量無標(biāo)注數(shù)據(jù)。但問題也出在“偽標(biāo)簽”上。模型一旦對某些錯(cuò)誤模式有系統(tǒng)性偏好它生成的偽標(biāo)簽會(huì)強(qiáng)化這種偏好導(dǎo)致“自我欺騙”。典型情況就是類別不均衡的數(shù)據(jù)集模型把多數(shù)類預(yù)測得很自信少數(shù)類樣本的偽標(biāo)簽基本都是錯(cuò)的加進(jìn)去之后反而讓少數(shù)類更差。所以在做自訓(xùn)練時(shí)我一般會(huì)加兩道保險(xiǎn)一是只選擇置信度超過閾值的偽標(biāo)簽樣本二是控制偽標(biāo)簽樣本在總體訓(xùn)練集中的比例別讓模型用自己的錯(cuò)誤淹沒真實(shí)標(biāo)簽。這算是“模型訓(xùn)練模型”的一個(gè)典型風(fēng)險(xiǎn)案例——讓模型教自己教著教著容易走偏。4.2 自我博弈從AlphaGo到LLM的對齊訓(xùn)練如果說自訓(xùn)練是“自己教自己”那自我博弈Self-play就是“自己和自己對抗著變強(qiáng)”。AlphaGo和AlphaZero展示了這條路在圍棋上的威力一個(gè)智能體不斷和當(dāng)前版本的自己對弈產(chǎn)生海量對局?jǐn)?shù)據(jù)再從中學(xué)習(xí)就這樣從零開始到達(dá)超越人類的水平。這種思路后來也被用到了語言模型上。比如某些強(qiáng)化學(xué)習(xí)對齊方案中模型自己生成候選回復(fù)再有另一個(gè)模型或規(guī)則來判斷哪個(gè)回復(fù)更好然后讓生成模型去優(yōu)化能被判為“更好”的那類輸出。這個(gè)過程也有博弈的味道生成器和評判器互相提升。但自我博弈有一個(gè)明顯缺陷它只能在規(guī)則明確、反饋可計(jì)算的環(huán)境中自我進(jìn)化。圍棋的勝負(fù)是確定的棋局是完整的不存在“昨天說對、明天說錯(cuò)”的模糊性。到了真實(shí)語言場景什么是“好回答”本身就沒有唯一標(biāo)準(zhǔn)所以自我博弈產(chǎn)生的提升可能只在某一個(gè)獎(jiǎng)勵(lì)函數(shù)維度上有效換一個(gè)用戶群體就崩了。4.3 “最后一段沒人走的路”模型真的去改進(jìn)模型現(xiàn)在該聊聊標(biāo)題里那個(gè)“最后一段沒人走的路”了。我理解的“最后一段路”不是指AutoML、NAS、數(shù)據(jù)合成這些我們能看到的工程化路徑而是真正的遞歸自我改進(jìn)Recursive Self-Improvement模型A深入研究后改進(jìn)了模型B的訓(xùn)練算法用改進(jìn)后的算法訓(xùn)練出模型C模型C比A更聰明又去改進(jìn)模型D的訓(xùn)練算法……如此循環(huán)智能水平指數(shù)級上升。這條路為什么沒人走通我分析下來有幾個(gè)硬障礙。第一評估閉環(huán)缺失。模型B要改進(jìn)模型C它必須能判斷C比B好還是差?，F(xiàn)在所有評估都依賴測試集、基準(zhǔn)或人類反饋。如果B能修改評估標(biāo)準(zhǔn)它就會(huì)傾向于選擇那些“標(biāo)準(zhǔn)下好看但實(shí)際不一定好用”的方案。這就是所謂的“獎(jiǎng)勵(lì)欺騙”問題。第二計(jì)算成本不可控。讓模型去設(shè)計(jì)模型每一次搜索、每一次嘗試都可能需要跑一大輪訓(xùn)練實(shí)驗(yàn)。如果模型每提出一個(gè)想法都要實(shí)際訓(xùn)練驗(yàn)證一次算力開銷會(huì)暴漲到任何團(tuán)隊(duì)都承受不起。論文里出現(xiàn)過一些用強(qiáng)化學(xué)習(xí)搜索梯度更新規(guī)則的嘗試規(guī)模也非常有限。第三搜索空間的“設(shè)計(jì)”依然是人類提供的。模型之所以能改模型是因?yàn)槿祟悶樗归_了“改法”的候選范圍。一旦超出這個(gè)范圍模型并不會(huì)自己發(fā)明一個(gè)全新的數(shù)學(xué)框架。它更像是一個(gè)能力很強(qiáng)的優(yōu)化器而不是一個(gè)真正的科學(xué)家。還有一點(diǎn)很微妙遞歸自我改進(jìn)對起始模型的要求極高。它需要模型本身就具備足夠強(qiáng)的推理能力、足夠準(zhǔn)確的世界模型和足夠健全的價(jià)值觀。如果我們現(xiàn)在能造出一個(gè)“足夠聰明的模型”那它很可能已經(jīng)不需要靠自我改進(jìn)去變成神模型了如果造不出來那它改進(jìn)自己也就是在小范圍里打轉(zhuǎn)。這就是“神模型”遲遲沒上崗的深層原因——既缺條件又缺目標(biāo)還缺驗(yàn)證方法。4.4 如果“神模型”真上崗了工程師的崗位還在嗎很多人一聽到“模型訓(xùn)練模型”第一反應(yīng)是“那我們這些搞模型的人是不是要失業(yè)了”。我倒覺得完全不用慌。從歷史上看工具的進(jìn)步只會(huì)讓更高層的判斷力變得更值錢。AutoML普及了但沒有讓機(jī)器學(xué)習(xí)工程師消失只是讓大家不用手動(dòng)試學(xué)習(xí)率大模型生成數(shù)據(jù)普及了但數(shù)據(jù)治理、數(shù)據(jù)合規(guī)、領(lǐng)域知識注入的需求反而大增。真到了“模型能訓(xùn)練模型”的那一天人類的角色會(huì)從“手工訓(xùn)練者”變成“目標(biāo)定義者”和“邊界守護(hù)者”——確定這個(gè)模型該為什么目標(biāo)服務(wù)、在什么范圍內(nèi)允許自我調(diào)整、出現(xiàn)異常時(shí)怎么中斷。這恰恰是更難被替代的能力。5. 普通工程師現(xiàn)在就能實(shí)踐的“類模型訓(xùn)練模型”操作指南5.1 用預(yù)訓(xùn)練模型搭臺階別從零開始很多時(shí)候我們覺得“模型訓(xùn)練模型”離自己很遠(yuǎn)但其實(shí)每一次微調(diào)預(yù)訓(xùn)練模型你都在利用“另一個(gè)模型已經(jīng)學(xué)到的知識”。ResNet、RoBERTa、EasyOCR、YOLO系列這些預(yù)訓(xùn)練權(quán)重都是被人或已有算法在超大數(shù)據(jù)集上燒了很多算力訓(xùn)練出來的。你拿它做初始化本質(zhì)就是讓一個(gè)已有模型“幫助”你的模型更快收斂。這里有一個(gè)關(guān)鍵細(xì)節(jié)微調(diào)時(shí)要不要凍結(jié)底層我的經(jīng)驗(yàn)是如果新數(shù)據(jù)集和預(yù)訓(xùn)練數(shù)據(jù)分布比較接近前幾個(gè)階段可以凍結(jié)大部分底層只訓(xùn)練頂層分類器能省不少顯存和時(shí)間。等頂層穩(wěn)定后再解凍少量深層繼續(xù)微調(diào)。如果數(shù)據(jù)分布差異很大那就要逐步解凍更多層否則模型只會(huì)學(xué)到表面特征。5.2 用現(xiàn)成的AutoML能力做基線很多云平臺或開源框架都集成了AutoML能力。小數(shù)據(jù)集上我建議別一開始就上幾十個(gè)小時(shí)的深度搜索先用一個(gè)輕量級的搜索跑幾輪拿一個(gè)還不錯(cuò)的基線然后人工分析錯(cuò)誤樣本再?zèng)Q定下一步。記住一個(gè)樸素原則AutoML給的是“可能的起點(diǎn)”不是“最終的答案”。它最大的價(jià)值是幫你把大量低價(jià)值的調(diào)參時(shí)間壓縮下來留出精力去做真正影響業(yè)務(wù)的數(shù)據(jù)分析和模型診斷。5.3 用大模型合成你缺的數(shù)據(jù)如果你正在做垂直領(lǐng)域模型最缺的往往是特定場景的訓(xùn)練數(shù)據(jù)。這個(gè)時(shí)候可以嘗試用較大的通用模型做數(shù)據(jù)擴(kuò)充。比如訓(xùn)練一個(gè)中文文本分類模型類別C只有100條樣本你可以寫幾個(gè)提示模板讓大模型基于這100條樣本生成1000條語義相近但不重復(fù)的新樣本再做一次人工抽查去掉明顯錯(cuò)誤或無中生有的項(xiàng)。需要注意合成數(shù)據(jù)的多樣性有時(shí)候是假象。大模型會(huì)偏向常見的說法可能會(huì)高頻復(fù)現(xiàn)模板句型導(dǎo)致合成數(shù)據(jù)分布單一。我在實(shí)踐中通常會(huì)讓生成時(shí)temperature調(diào)高一些再引入一些隨機(jī)改寫模板盡可能增加多樣性。5.4 親手做一個(gè)最小的“教師-學(xué)生”蒸餾項(xiàng)目如果你想直觀感受“一個(gè)模型訓(xùn)練另一個(gè)模型”知識蒸餾是最好入門的實(shí)驗(yàn)。假設(shè)你有一個(gè)訓(xùn)練好的分類模型Teacher想訓(xùn)練一個(gè)更小的Student模型核心步驟大致如下# 假設(shè) teacher_preds 是教師模型對訓(xùn)練集輸出的軟標(biāo)簽概率分布 # student_logits 是學(xué)生模型的原始輸出 # hard_labels 是真實(shí)標(biāo)簽 import torch.nn.functional as F loss_hard F.cross_entropy(student_logits, hard_labels) loss_soft F.kl_div( F.log_softmax(student_logits / temperature, dim-1), F.softmax(teacher_preds / temperature, dim-1), reductionbatchmean ) loss alpha * loss_hard (1 - alpha) * loss_soft這里面的temperature是溫度系數(shù)一般設(shè)成2到5之間。溫度越高軟標(biāo)簽里類間相似度的信息越平滑學(xué)生模型學(xué)到的不只是“哪個(gè)類正確”還有“哪些類彼此接近”。alpha控制硬標(biāo)簽和軟標(biāo)簽的權(quán)重通常在0.5到0.9之間。這樣一個(gè)簡單的蒸餾流程就能讓你直觀看到小模型拿著大模型的“思考痕跡”能比只拿硬標(biāo)簽學(xué)到更多東西。我就是從這個(gè)小實(shí)驗(yàn)開始理解“模型訓(xùn)練模型”的。5.5 部署到邊緣設(shè)備前的壓縮路線很多人在樹莓派、K210這類邊緣設(shè)備上部署模型時(shí)會(huì)碰到精度和速度的矛盾。前面提到的蒸餾是一種方案另一種是量化。你可以先把大模型蒸餾成小模型再做INT8量化這樣通常能在精度損失可控的情況下大幅降低推理開銷。PaddleOCR導(dǎo)出的模型轉(zhuǎn)成推理格式時(shí)也建議先做一次模型裁剪或蒸餾再轉(zhuǎn)換部署否則邊緣設(shè)備的算力會(huì)被直接壓垮。我自己做過一輪YOLO模型從服務(wù)器到樹莓派的部署最省事的路線是大模型蒸餾→小模型剪枝→INT8量化整體下來精度掉得不多但幀率從個(gè)位數(shù)升到了二十多。整個(gè)過程里每一步都有“模型在輔助模型”的影子?；氐介_頭那個(gè)問題——“神模型”到底什么時(shí)候上崗我的判斷是它不會(huì)以某個(gè)全知全能模型的形式突然出現(xiàn)更可能像AutoML、知識蒸餾、數(shù)據(jù)飛輪一樣一點(diǎn)一點(diǎn)滲透進(jìn)每個(gè)訓(xùn)練流程里。最終大家會(huì)發(fā)現(xiàn)我們早已生活在被模型訓(xùn)練過的模型所包圍的世界里。那最后一截沒人走的路也許不會(huì)有人真正走完但每一個(gè)靠近它的人都會(huì)被迫重新思考一個(gè)問題當(dāng)模型能訓(xùn)練模型時(shí)我們到底在訓(xùn)練什么我在自己的項(xiàng)目里體會(huì)最深的一點(diǎn)是不要把“模型訓(xùn)練模型”當(dāng)成一個(gè)終極目標(biāo)而是把它當(dāng)成一組工具箱。今天用AutoML省兩小時(shí)調(diào)參時(shí)間明天用大模型補(bǔ)一批難例數(shù)據(jù)后天用蒸餾讓小模型跑上邊緣設(shè)備——這些全是“神模型”的一部分。至于最終那個(gè)能獨(dú)立完成所有訓(xùn)練的模型它會(huì)不會(huì)出現(xiàn)其實(shí)已經(jīng)不那么重要了。重要的是我們已經(jīng)在這條路上拿到了足夠多的紅利。