去年我們團(tuán)隊(duì)接到一個(gè)任務(wù)把大模型真正用進(jìn)貨拉拉的營(yíng)銷廣告鏈路里。當(dāng)時(shí)內(nèi)部討論時(shí)兩種聲音特別典型一種是覺(jué)得大模型無(wú)所不能干脆把整個(gè)廣告系統(tǒng)推翻重來(lái)另一種覺(jué)得大模型就是玩具上線后只會(huì)拖慢線上耗時(shí)、抬高成本。實(shí)際做完一輪之后我最大的感觸是真正有價(jià)值的不是“用了大模型”這個(gè)標(biāo)簽而是把生成、理解、審核這三類能力拆開分別放到廣告鏈路中最合適的位置上。這篇文章就記錄這次從數(shù)據(jù)、微調(diào)、部署到線上業(yè)務(wù)的落地過(guò)程分享一些可復(fù)用的經(jīng)驗(yàn)也把踩過(guò)的坑原原本本寫出來(lái)。如果你在電商、本地生活、出行或者貨運(yùn)平臺(tái)做營(yíng)銷廣告算法或者正準(zhǔn)備把大模型接入業(yè)務(wù)系統(tǒng)這篇文章應(yīng)該能幫你少走很多彎路。1. 業(yè)務(wù)痛點(diǎn)與整體架構(gòu)選型1.1 貨拉拉廣告場(chǎng)景的難點(diǎn)在哪里貨拉拉的營(yíng)銷廣告跟傳統(tǒng)電商廣告相比有比較明顯的自身特點(diǎn)。C端用戶使用場(chǎng)景集中在搬家、拉貨、同城運(yùn)輸決策周期短、地域?qū)傩詮?qiáng)B端司機(jī)側(cè)則需要持續(xù)招募、活躍留存同時(shí)要保證司機(jī)收入和平臺(tái)單量之間的平衡。整個(gè)平臺(tái)的廣告位分布在首頁(yè)信息流、搜索廣告、開屏、Push、短信營(yíng)銷等多個(gè)入口投放目標(biāo)既有用戶拉新、也有老用戶促活、還有司機(jī)端招募轉(zhuǎn)化。傳統(tǒng)廣告系統(tǒng)在文本理解上的瓶頸是很明顯的。CTR/CVR模型主要依賴ID類特征、統(tǒng)計(jì)類特征和基礎(chǔ)的文本匹配特征但廣告標(biāo)題、描述、利益點(diǎn)、適用場(chǎng)景這些長(zhǎng)文本語(yǔ)義信息很難被充分利用。新司機(jī)、新用戶、新廣告主都是稀疏樣本冷啟動(dòng)問(wèn)題嚴(yán)重文案素材同質(zhì)化嚴(yán)重寫來(lái)寫去都是“專業(yè)搬家、收費(fèi)透明、快速上門”運(yùn)營(yíng)同學(xué)手工改寫效率也不高。更深層的問(wèn)題是廣告創(chuàng)意和用戶意圖之間的匹配不能只看關(guān)鍵詞重合度還需要理解“我今天要搬鋼琴”和“提供鋼琴搬運(yùn)保護(hù)”這種細(xì)顆粒度的語(yǔ)義關(guān)聯(lián)。大模型正好在這些痛點(diǎn)上有發(fā)揮空間。最直接的是生成能力可以用大模型批量生成幾十組廣告標(biāo)題、利益點(diǎn)、場(chǎng)景描述緩解素材供給不足。其次是語(yǔ)義理解用大模型把廣告和用戶請(qǐng)求映射到語(yǔ)義空間改善稀疏場(chǎng)景下的召回。還有就是控制能力廣告上線前需要做素材審核、敏感詞過(guò)濾、夸大宣傳檢測(cè)過(guò)去靠詞表規(guī)則誤殺和漏殺并存大模型可以做得更準(zhǔn)。1.2 為什么沒(méi)有選擇“全量重構(gòu)方案”內(nèi)部也有同事提出過(guò)一個(gè)看起來(lái)更“徹底”的思路既然大模型能力這么強(qiáng)干脆用它把召回、粗排、精排全部替換掉。這個(gè)方案我一開始就反對(duì)不是說(shuō)大模型能力不行而是工程代價(jià)和風(fēng)險(xiǎn)完全不可控。廣告系統(tǒng)對(duì)延遲極其敏感信息流和搜索場(chǎng)景要求整個(gè)請(qǐng)求鏈路在百毫秒級(jí)別返回如果每個(gè)環(huán)節(jié)都插入一次幾十毫秒甚至上百毫秒的大模型推理線上根本扛不住。另外大模型本質(zhì)上是概率模型直接做精排打分會(huì)有置信度和可解釋性問(wèn)題。業(yè)務(wù)方問(wèn)一句“為什么這個(gè)人看到了這條廣告”我們需要能回答出具體的特征貢獻(xiàn)。而精排模型中的LR、DNN這類模型配合SHAP或特征歸因至少能給出一個(gè)讓人信服的解釋。大模型生成的內(nèi)容則需要疊加校驗(yàn)環(huán)節(jié)比如金額計(jì)算是否正確、優(yōu)惠是否真實(shí)可達(dá)、是否違反廣告法。所以最終我們走了“共生”路線原來(lái)成熟的召回和精排體系保留大模型負(fù)責(zé)給系統(tǒng)提供更好的文本語(yǔ)義、更豐富的創(chuàng)意素材、更準(zhǔn)的審核判斷。1.3 最終架構(gòu)生成層、理解層、控制層整個(gè)應(yīng)用架構(gòu)我習(xí)慣分成三層這樣團(tuán)隊(duì)里做工程、做算法、做數(shù)據(jù)的人都有一個(gè)共同語(yǔ)言。生成層負(fù)責(zé)廣告創(chuàng)意生產(chǎn)、標(biāo)題改寫、利益點(diǎn)擴(kuò)寫、Push文案生成輸入是廣告主素材和業(yè)務(wù)畫像輸出是多種風(fēng)格的候選文案。理解層負(fù)責(zé)語(yǔ)義向量召回、廣告文本向量化、用戶搜索意圖識(shí)別、人群標(biāo)簽自動(dòng)擴(kuò)展。它的產(chǎn)出不只是向量還包括結(jié)構(gòu)化的意圖標(biāo)簽和關(guān)鍵詞權(quán)重?？刂茖迂?fù)責(zé)廣告內(nèi)容合規(guī)審核、虛假宣傳檢測(cè)、折扣準(zhǔn)確性校驗(yàn)、敏感行業(yè)攔截。所有生成層和理解層的產(chǎn)出都要經(jīng)過(guò)控制層確認(rèn)后才能進(jìn)入線上。這個(gè)三層架構(gòu)的好處是邊界清晰。生成層壞了最多是素材供給變慢不影響廣告主流程理解層出問(wèn)題召回效果波動(dòng)但精排還能兜底控制層是唯一要求高召回率的部分寧可誤殺也不能漏過(guò)違規(guī)內(nèi)容。三層之間互不阻塞我們可以獨(dú)立迭代、獨(dú)立灰度、獨(dú)立回滾。技術(shù)底座上我們沒(méi)有選擇接外部API因?yàn)閺V告數(shù)據(jù)涉及投放策略和用戶畫像數(shù)據(jù)合規(guī)上走私有化部署是更穩(wěn)妥的選擇。也對(duì)比了幾種開源底座方案最后選了7B級(jí)別的中英雙語(yǔ)底座一臺(tái)A10或者4090級(jí)別的單卡就能跑推理訓(xùn)練階段用4卡就可以完成微調(diào)。這套選型保證了后續(xù)不管是灰度驗(yàn)證還是正式上線都不用為算力發(fā)愁。2. 數(shù)據(jù)鏈路與樣本工程決定效果的上限2.1 營(yíng)銷廣告數(shù)據(jù)池里有什么可以利用的很多團(tuán)隊(duì)做大模型應(yīng)用時(shí)最容易犯的錯(cuò)誤是一上來(lái)就問(wèn)“用什么基座模型”卻忽視訓(xùn)練數(shù)據(jù)。實(shí)際上模型效果的上限由數(shù)據(jù)決定模型結(jié)構(gòu)決定了能逼近這個(gè)上限多少。貨拉拉廣告系統(tǒng)沉淀下來(lái)的數(shù)據(jù)其實(shí)非常豐富關(guān)鍵是看怎么組織。第一類是廣告主側(cè)的素材數(shù)據(jù)包括歷史投放過(guò)的標(biāo)題、描述、圖片文案、落地頁(yè)利益點(diǎn)以及每個(gè)素材的曝光、點(diǎn)擊、轉(zhuǎn)化數(shù)據(jù)。這些數(shù)據(jù)可以直接用于監(jiān)督微調(diào)讓模型理解什么風(fēng)格在什么場(chǎng)景下更容易獲得正向反饋。第二類是用戶行為序列也就是用戶在廣告位的曝光、點(diǎn)擊、停留、咨詢、下單行為這些數(shù)據(jù)可以構(gòu)造偏序樣本判斷哪些廣告文案更符合用戶需求。第三類是審核數(shù)據(jù)包含歷史上被拒絕的違規(guī)素材、被投訴的廣告、人工審核的標(biāo)注結(jié)果這些數(shù)據(jù)是控制層模型訓(xùn)練的核心原料。有一點(diǎn)要特別提醒不要天真地以為CTR高的素材就一定是好素材。點(diǎn)擊行為受廣告位展示位置、人群定向、投放時(shí)段等多重因素影響如果直接用點(diǎn)擊率給樣本打標(biāo)模型學(xué)到的可能是“不同位置帶來(lái)的偏差”。我們的做法是把素材歸一到同一廣告位、同一人群桶、同一時(shí)段下再做相對(duì)比較最終用轉(zhuǎn)化率、獲客成本這些業(yè)務(wù)指標(biāo)來(lái)打輔助標(biāo)簽。2.2 三種訓(xùn)練樣本的構(gòu)造方式這次項(xiàng)目里我們同時(shí)訓(xùn)練了三個(gè)能力創(chuàng)意生成、語(yǔ)義召回、內(nèi)容審核。每個(gè)能力對(duì)應(yīng)的樣本結(jié)構(gòu)完全不同共享基座模型但使用不同的Adapter這樣可以避免一個(gè)模型把所有能力揉在一起導(dǎo)致互相干擾。創(chuàng)意生成任務(wù)的樣本是一個(gè)典型的監(jiān)督式文本生成樣本格式大概是這樣的{ instruction: 為搬家服務(wù)寫一條APP內(nèi)信息流廣告文案突出專業(yè)和價(jià)格透明不超過(guò)25個(gè)字。, context: 用戶近期搜索過(guò)鋼琴搬運(yùn)近7天有搬家意向。, output: 專業(yè)鋼琴搬運(yùn)全程保險(xiǎn)費(fèi)用明細(xì)提前說(shuō)清 }這里的關(guān)鍵點(diǎn)不只是讓模型學(xué)會(huì)寫得通順還要學(xué)會(huì)利用上下文中的用戶意圖。我們會(huì)把用戶搜索詞、瀏覽行為摘要作為前綴寫進(jìn)prompt讓模型生成時(shí)具備場(chǎng)景感知能力。樣本數(shù)量最終控制在20萬(wàn)條左右覆蓋搬家、拉貨、同城貨運(yùn)、企業(yè)服務(wù)、汽車增值服務(wù)等主要業(yè)務(wù)線。語(yǔ)義召回任務(wù)我們做的是雙塔式的對(duì)比學(xué)習(xí)樣本但這里沒(méi)有用傳統(tǒng)雙塔而是用大模型底座做文本編碼產(chǎn)出語(yǔ)義向量再配合Faiss做向量檢索。訓(xùn)練樣本來(lái)自搜索日志和廣告投放日志中的“查詢?cè)~-廣告標(biāo)題”對(duì)正樣本是有點(diǎn)擊或轉(zhuǎn)化的對(duì)負(fù)樣本是從曝光未點(diǎn)擊和隨機(jī)采樣中構(gòu)造的。對(duì)錯(cuò)誤負(fù)樣本要特別小心比如“搬家費(fèi)用”和“寵物托運(yùn)”看起來(lái)完全不相關(guān)但如果用戶同時(shí)看了兩個(gè)廣告就不能簡(jiǎn)單認(rèn)為是純負(fù)樣本我們會(huì)根據(jù)行為強(qiáng)度動(dòng)態(tài)調(diào)整負(fù)樣本的難易程度。審核任務(wù)的樣本則相對(duì)直接輸入是一條待審核廣告文本輸出是一個(gè)多標(biāo)簽集合包括“是否違規(guī)”“違規(guī)類型”“風(fēng)險(xiǎn)等級(jí)”“建議動(dòng)作”。歷史審核記錄天然存在標(biāo)注偏置早期標(biāo)注標(biāo)準(zhǔn)比較松后來(lái)標(biāo)準(zhǔn)收緊所以訓(xùn)練前要統(tǒng)一標(biāo)準(zhǔn)做一次重標(biāo)注否則模型會(huì)學(xué)習(xí)到舊標(biāo)準(zhǔn)下的錯(cuò)誤判斷。2.3 數(shù)據(jù)清洗的血淚經(jīng)驗(yàn)第一輪微調(diào)我們翻過(guò)一個(gè)大跟頭。直接用歷史素材訓(xùn)練生成模型發(fā)現(xiàn)生成結(jié)果幾乎全都在“抄”高頻模板多樣性非常差。排查后發(fā)現(xiàn)問(wèn)題出在文本重復(fù)上——?dú)v史素材里有大量同一個(gè)模板只改了城市名的文案比如“北京專業(yè)搬家”“上海專業(yè)搬家”看起來(lái)是不同樣本但模型學(xué)到的是復(fù)讀機(jī)。解決辦法是加了一層MinHash近重復(fù)去重相似度超過(guò)閾值的只保留一條同時(shí)保證每個(gè)業(yè)務(wù)線、每種利益點(diǎn)類型都有足夠的覆蓋。另一個(gè)坑是數(shù)據(jù)穿越。訓(xùn)練語(yǔ)料里混入了投放周期比較長(zhǎng)的素材導(dǎo)致驗(yàn)證集里也包含同一條文案離線指標(biāo)虛高。我們后來(lái)嚴(yán)格按時(shí)間切分訓(xùn)練集取前60天數(shù)據(jù)驗(yàn)證集取最近14天數(shù)據(jù)再用規(guī)則檢查訓(xùn)練集和驗(yàn)證集的公開標(biāo)識(shí)比如素材ID是否有重疊有重疊就剔除。這看起來(lái)是基礎(chǔ)操作但真到了做樣本工程的時(shí)候很多人為了貪圖樣本量會(huì)睜一只眼閉一只眼最后上線效果還原不了離線結(jié)果反而更耽誤事。還有一個(gè)容易被忽略的問(wèn)題是標(biāo)簽噪聲。廣告點(diǎn)擊數(shù)據(jù)里存在大量誤點(diǎn)擊和惡意點(diǎn)擊直接拿這些樣本喂給模型會(huì)讓生成模型學(xué)到“標(biāo)題黨”傾向。我們?cè)O(shè)計(jì)了一套規(guī)則點(diǎn)擊后停留小于2秒的樣本降權(quán)短時(shí)間內(nèi)連續(xù)多次點(diǎn)擊同一廣告但無(wú)后續(xù)行為的用戶樣本直接過(guò)濾。迭代過(guò)程中還做人工抽檢每批次抽500條樣本由運(yùn)營(yíng)團(tuán)隊(duì)給新舊版本打分抽檢一致率低于85%的樣本批次不進(jìn)入訓(xùn)練。3. 模型選型與微調(diào)細(xì)節(jié)花小錢辦大事3.1 基座模型怎么選7B是甜點(diǎn)還是妥協(xié)模型選型上我們經(jīng)歷了比較長(zhǎng)的技術(shù)調(diào)研。一開始團(tuán)隊(duì)里有人提出直接用千億級(jí)API效果好但數(shù)據(jù)合規(guī)和成本都不太接受也有人提議私有化部署一個(gè)數(shù)百億參數(shù)的大模型結(jié)果評(píng)估下來(lái)光是GPU服務(wù)器成本就夠養(yǎng)好幾個(gè)算法工程師了。最終鎖定在7B到14B這個(gè)區(qū)間的開源底座實(shí)際跑完業(yè)務(wù)側(cè)的效果之后確定用7B中英雙語(yǔ)底座作為主力。為什么7B夠用因?yàn)槲覀兊膹V告文案本身長(zhǎng)度有限單條素材通常在20到80個(gè)字之間輸入的用戶畫像信息也不復(fù)雜模型的推理任務(wù)負(fù)載并不重。7B模型的語(yǔ)義理解能力和文本生成質(zhì)量在廣告這種“短文本、強(qiáng)結(jié)構(gòu)化”的領(lǐng)域中跟14B甚至更大模型的差距并沒(méi)有想象中那么大。我們把同一套驗(yàn)證集跑完對(duì)比在ROUGE-L、語(yǔ)義相似度和人工好評(píng)率三個(gè)指標(biāo)上7B只比14B低不到3個(gè)百分點(diǎn)但推理時(shí)延降低了一半多顯存占用也從接近40GB降到不到20GB。對(duì)廣告系統(tǒng)來(lái)說(shuō)延遲就是錢這個(gè)妥協(xié)是值得的。當(dāng)然7B也有明顯的短板主要體現(xiàn)在復(fù)雜指令跟隨和長(zhǎng)文本推理上。比如讓它根據(jù)用戶歷史行為序列做深度歸因或者生成包含多條件優(yōu)惠計(jì)算的文案它偶爾會(huì)丟條件或算錯(cuò)金額。這種情況我們不硬扛而是把任務(wù)拆解條件校驗(yàn)交給規(guī)則系統(tǒng)優(yōu)惠金額計(jì)算用模板填充大模型只負(fù)責(zé)生成“人話”部分。3.2 微調(diào)方式對(duì)比為什么選LoRA而不是全量微調(diào)基座模型確定后微調(diào)方式是我們討論最久的技術(shù)細(xì)節(jié)。三種主流方案我們都做了小規(guī)模實(shí)驗(yàn)全量微調(diào)、LoRA、QLoRA。全量微調(diào)的效果上限最高但訓(xùn)練成本驚人。7B模型全量微調(diào)在A100-80G上即使用了ZeRO優(yōu)化也需要至少4卡才能跑得比較舒服一個(gè)epoch就要兩三個(gè)小時(shí)而且每次實(shí)驗(yàn)調(diào)參都要重來(lái)迭代效率太低。QLoRA的顯存占用確實(shí)最低4-bit量化后甚至可以在單張4090上跑但訓(xùn)練速度偏慢且量化帶來(lái)的信息損失在廣告審核這類精細(xì)任務(wù)上偶發(fā)誤判。最后我們選擇的是LoRA加16-bit混合精度訓(xùn)練用4張A10訓(xùn)練效果和成本達(dá)到了一個(gè)比較舒服的平衡。微調(diào)參數(shù)上我們的經(jīng)驗(yàn)是rank不要一味追求大。早期試過(guò)rank64訓(xùn)練收斂慢且推理時(shí)有額外顯存開銷穩(wěn)定下來(lái)用的是rank32、alpha64、dropout0.05這個(gè)配置在生成質(zhì)量和訓(xùn)練速度之間比較均衡。學(xué)習(xí)率用2e-4warmup ratio設(shè)為0.1batch size按每個(gè)GPU 16條樣本、梯度累積8步來(lái)設(shè)置相當(dāng)于每輪更新用512條樣本的梯度。訓(xùn)練輪數(shù)我們控制在2到3輪超過(guò)3輪會(huì)開始出現(xiàn)明顯的過(guò)擬合驗(yàn)證集困惑度上升生成內(nèi)容變得死板。# 訓(xùn)練命令示例細(xì)節(jié)略去平臺(tái)相關(guān)配置 accelerate launch --mixed_precision bf16 \ --num_processes 4 \ finetune.py \ --base_model /data/models/qwen-7b-chat \ --adapter_name lora_ads_v1 \ --rank 32 \ --alpha 64 \ --learning_rate 2e-4 \ --num_epochs 2 \ --batch_size 16 \ --gradient_accumulation_steps 83.3 離線評(píng)測(cè)與上線前的三道關(guān)卡離線評(píng)測(cè)如果只用一個(gè)指標(biāo)大概率會(huì)被帶偏。我們?cè)O(shè)置了三個(gè)維度的指標(biāo)只有三個(gè)維度都達(dá)標(biāo)才允許進(jìn)入線上灰度。第一是生成質(zhì)量指標(biāo)。計(jì)算生成文案和歷史高轉(zhuǎn)化素材之間的ROUGE-L、BLEU同時(shí)對(duì)文本多樣性做統(tǒng)計(jì)比如重復(fù)n-gram占比、同一業(yè)務(wù)線下生成結(jié)果的成對(duì)相似度。我們希望ROUGE-L不要太高太高說(shuō)明模型在背模板也不要太低太低說(shuō)明模型跑偏了。第二是語(yǔ)義一致性指標(biāo)。把生成文案和原始需求放到底座模型的向量空間里算余弦相似度低于閾值的結(jié)果直接丟棄。這能過(guò)濾掉“答非所問(wèn)”的生成結(jié)果。比如業(yè)務(wù)方要的是“同城貨運(yùn)”模型生成“長(zhǎng)途搬家”即使語(yǔ)句通順也不會(huì)被采用。第三是安全合規(guī)指標(biāo)。我們專門構(gòu)造了一個(gè)包含1200條挑戰(zhàn)樣本的評(píng)測(cè)集覆蓋夸大宣傳、敏感行業(yè)、競(jìng)品詞、價(jià)格歧義等類型。大模型生成的每一條內(nèi)容都要經(jīng)過(guò)控制層審核審核不通過(guò)的直接攔截。這里對(duì)召回率的要求是至少99%哪怕誤殺率高一點(diǎn)都接受因?yàn)檫`規(guī)帶來(lái)的平臺(tái)風(fēng)險(xiǎn)遠(yuǎn)比多花一點(diǎn)審核成本嚴(yán)重。三道關(guān)卡全部通過(guò)后我們才做小流量AB實(shí)驗(yàn)。AB實(shí)驗(yàn)觀測(cè)的不是單一的CTR而是綜合了點(diǎn)擊率、轉(zhuǎn)化率、獲客單價(jià)、投訴率四個(gè)指標(biāo)。第一輪實(shí)驗(yàn)跑出來(lái)點(diǎn)擊率提升了8%左右獲客成本下降了6%左右但投訴率沒(méi)有明顯變化說(shuō)明文案質(zhì)量過(guò)關(guān)。這里多說(shuō)一句做AB時(shí)一定要同時(shí)設(shè)置一個(gè)“人工撰寫優(yōu)質(zhì)文案”的對(duì)照組不然老板會(huì)質(zhì)疑“是不是因?yàn)樾氯藢懙奈陌柑畈棚@得大模型好”。4. 線上推理部署與廣告鏈路接入穩(wěn)定壓倒一切4.1 部署方式與首版性能數(shù)據(jù)線上部署我們用了vLLM作為推理框架它支持PagedAttention和Continuous Batching在高并發(fā)場(chǎng)景下能把GPU利用率拉得很滿。模型權(quán)重做了16-bit和8-bit兩種版本首版先用16-bit保證效果后續(xù)需要壓成本再切8-bit。一個(gè)比較穩(wěn)定的組合是單張A10跑7B模型16-bit最大輸入長(zhǎng)度512、輸出長(zhǎng)度128并發(fā)請(qǐng)求數(shù)設(shè)置成8首版線上壓測(cè)的單個(gè)請(qǐng)求P95時(shí)延在180毫秒左右QPS能做到40上下。這個(gè)時(shí)延對(duì)內(nèi)容生成類場(chǎng)景完全夠用但絕對(duì)不能放在用戶請(qǐng)求的同步主鏈路上。我們做了一個(gè)異步任務(wù)隊(duì)列上游把需要生成文案的素材包推送到MQ消費(fèi)者從MQ拉取任務(wù)后批量調(diào)用推理服務(wù)生成結(jié)果回寫KV存儲(chǔ)再由廣告檢索服務(wù)讀取。首版上線后隊(duì)列積壓最嚴(yán)重的一次是凌晨大促活動(dòng)幾十萬(wàn)條素材同時(shí)涌入我們通過(guò)把消費(fèi)者實(shí)例從3個(gè)擴(kuò)容到10個(gè)在15分鐘內(nèi)就把積壓清掉了。部署時(shí)還有一個(gè)容易忽略的點(diǎn)模型熱加載。如果每次發(fā)版都手動(dòng)重啟推理服務(wù)整個(gè)鏈路會(huì)中斷幾分鐘。我們最終把模型文件放在共享存儲(chǔ)上啟動(dòng)時(shí)從共享存儲(chǔ)加載權(quán)重發(fā)版通過(guò)更新Adapter文件實(shí)現(xiàn)秒級(jí)切換。配合灰度發(fā)布流量按1%、5%、20%逐步放開隨時(shí)可以一鍵回滾到上一版。4.2 在廣告召回、精排、創(chuàng)意環(huán)節(jié)的落點(diǎn)大模型在召回環(huán)節(jié)的價(jià)值主要體現(xiàn)在語(yǔ)義召回。傳統(tǒng)的關(guān)鍵詞召回只能匹配字面重合比如用戶搜“搬鋼琴”關(guān)鍵詞系統(tǒng)只能召回標(biāo)題里帶“搬鋼琴”的廣告而“鋼琴搬運(yùn)”“鋼琴托運(yùn)”“貴重物品運(yùn)輸”這些語(yǔ)義相關(guān)的廣告全部漏掉。我們利用大模型把用戶查詢?cè)~和廣告標(biāo)題統(tǒng)一編碼成128維向量再疊加一層基于Faiss的ANN檢索。實(shí)踐下來(lái)的一個(gè)關(guān)鍵教訓(xùn)是向量召回不能單獨(dú)用要和傳統(tǒng)召回融合。我們?cè)诰烹A段把兩種召回的得分都帶上用特征交叉讓精排自己學(xué)習(xí)偏重哪一種上線后召回率提升了12%但廣告主覆蓋率沒(méi)有下降說(shuō)明融合確實(shí)有效。精排環(huán)節(jié)我們比較克制沒(méi)有直接把大模型作為打分器放進(jìn)去。只在精排特征里增加了一個(gè)“大模型生成文本質(zhì)量分”這個(gè)分?jǐn)?shù)是控制層審核后得到的綜合質(zhì)量得分包含語(yǔ)義相關(guān)性、合規(guī)置信度、風(fēng)格一致性等信息。精排模型拿到這個(gè)分?jǐn)?shù)后會(huì)更好地過(guò)濾掉低質(zhì)素材同時(shí)不影響原有特征體系。創(chuàng)意環(huán)節(jié)是大模型介入最深的地方。運(yùn)營(yíng)和廣告主上傳一條原始素材后系統(tǒng)自動(dòng)基于用戶畫像生成多個(gè)版本的標(biāo)題和利益點(diǎn)描述。比如一條原始的“專業(yè)搬家”素材大模型可以生成“鋼琴也能安全搬運(yùn)”“本周下單立減30元”“搬家?guī)煾堤崆半娫挏贤ā钡榷鄠€(gè)變體然后自動(dòng)做小流量測(cè)試用真實(shí)點(diǎn)擊和轉(zhuǎn)化數(shù)據(jù)反饋給生成服務(wù)形成“生成-投放-反饋-再生成”的閉環(huán)。這個(gè)閉環(huán)跑起來(lái)之后我們不再依賴人工從一堆文案里挑選而是把篩選交給數(shù)據(jù)。4.3 廣告內(nèi)容合規(guī)與風(fēng)險(xiǎn)控制廣告行業(yè)的合規(guī)要求非常嚴(yán)格虛假宣傳、違規(guī)承諾、敏感詞、競(jìng)品貶低都是紅線。傳統(tǒng)詞表規(guī)則最大的問(wèn)題是無(wú)法處理語(yǔ)義變體比如“不花一分錢就能搬家”這種表達(dá)詞表里未必有“不花一分錢”這個(gè)關(guān)鍵詞但語(yǔ)義上明顯屬于誘導(dǎo)夸大。我們的控制層用大模型做文本分類輸入是完整的待審核文案輸出是違規(guī)類型和風(fēng)險(xiǎn)概率。模型覆蓋的違規(guī)類型包括虛假折扣、絕對(duì)化用語(yǔ)、醫(yī)療功效承諾、金融誤導(dǎo)、競(jìng)品攀比、性暗示擦邊等。對(duì)于生成任務(wù)我們?cè)趐rompt里強(qiáng)行加了一條“禁止輸出與事實(shí)不符的促銷信息禁止輸出模糊價(jià)格”同時(shí)在解碼階段做了logit級(jí)別的約束如果生成文本中包含未出現(xiàn)在白名單里的價(jià)格數(shù)字或優(yōu)惠折扣直接熔斷重試。這一招非常管用上線后由模型幻覺(jué)導(dǎo)致的虛假折扣問(wèn)題下降了90%以上。還有一個(gè)容易被忽略的細(xì)節(jié)模型要識(shí)別平臺(tái)特有的業(yè)務(wù)黑話。有些詞匯在普通場(chǎng)景沒(méi)有風(fēng)險(xiǎn)但在貨拉拉業(yè)務(wù)下就是違規(guī)詞比如“司機(jī)繞路”“私下交易”“場(chǎng)外結(jié)算”。我們會(huì)在訓(xùn)練數(shù)據(jù)里專門補(bǔ)充這類業(yè)務(wù)正負(fù)樣本并且維護(hù)一份動(dòng)態(tài)的業(yè)務(wù)敏感詞表大模型分類結(jié)果和敏感詞表結(jié)果做加權(quán)融合兩者都判斷為風(fēng)險(xiǎn)時(shí)才放行否則進(jìn)入人工審核列表。整體來(lái)說(shuō)控制層的存在讓業(yè)務(wù)方對(duì)大模型生成內(nèi)容有了基本信任否則他們根本不敢把模型產(chǎn)出推到用戶面前。5. 踩坑記錄與問(wèn)題排查這些坑常規(guī)文檔里不會(huì)寫5.1 模型幻覺(jué)差點(diǎn)把優(yōu)惠金額算錯(cuò)第一次灰度時(shí)出現(xiàn)了一條“新用戶立減100元”的文案但運(yùn)營(yíng)后臺(tái)配置的真實(shí)優(yōu)惠是“新用戶立減30元”。原因是模型在讀歷史素材時(shí)學(xué)到了一個(gè)舊版本的優(yōu)惠信息把它當(dāng)成了通用的業(yè)務(wù)規(guī)則。這個(gè)問(wèn)題光靠微調(diào)很難解決因?yàn)榇竽Ｐ捅举|(zhì)上是在做概率預(yù)測(cè)它不知道促銷活動(dòng)具有時(shí)效性。我們最終的解決方案分三路提示詞里把當(dāng)前有效優(yōu)惠信息單獨(dú)放在“系統(tǒng)固話區(qū)”并用特殊分隔符和正文隔開生成結(jié)果里所有數(shù)字金額、折扣、滿減必須預(yù)先經(jīng)過(guò)模板化處理大模型只選擇活動(dòng)模板ID不直接生成數(shù)值最后校驗(yàn)?zāi)K檢查所有數(shù)字是否與配置中心的活動(dòng)參數(shù)一致不一致直接攔截。三路都加完之后類似問(wèn)題基本清零。5.2 生成內(nèi)容多樣性不足第一版模型剛上線時(shí)運(yùn)營(yíng)反饋“十條文案起碼六條驚人相似”我們檢查發(fā)現(xiàn)其實(shí)是解碼參數(shù)太保守了。為了求穩(wěn)我們把temperature設(shè)成了0.1top_p設(shè)成了0.8結(jié)果生成的候選池里最頻繁的幾條模板占據(jù)了絕大多數(shù)。后來(lái)調(diào)整成temperature0.8、top_p0.9同時(shí)加了一個(gè)重復(fù)懲罰參數(shù)把生成結(jié)果的多樣性明顯拉開。但過(guò)高的temperature也會(huì)導(dǎo)致語(yǔ)法錯(cuò)誤和語(yǔ)義漂移所以現(xiàn)在的做法是先生成20個(gè)候選然后過(guò)一個(gè)多樣性篩選器保證最終進(jìn)入AB池的10條文案兩兩之間相似度不超過(guò)0.75同時(shí)語(yǔ)義一致性得分都高于閾值。5.3 數(shù)據(jù)穿越讓離線指標(biāo)虛高差點(diǎn)誤判模型能力在2.3里我提過(guò)數(shù)據(jù)穿越的問(wèn)題這里再補(bǔ)充一個(gè)具體教訓(xùn)。有一版模型離線評(píng)估指標(biāo)特別好ROUGE-L和語(yǔ)義一致性都大幅超過(guò)前一版但上線后效果沒(méi)有明顯提升。定位后發(fā)現(xiàn)是訓(xùn)練數(shù)據(jù)里包含了來(lái)自未來(lái)時(shí)間段的素材。具體場(chǎng)景是我們當(dāng)時(shí)只按素材ID做了去重沒(méi)有嚴(yán)格按時(shí)間切分導(dǎo)致測(cè)試集里混入了已經(jīng)在線上投放過(guò)的歷史素材模型等于“開卷考試”。后來(lái)我們加了時(shí)間過(guò)濾同時(shí)用規(guī)則檢查訓(xùn)練集和驗(yàn)證集的文本重疊度把這個(gè)bug徹底堵住。做數(shù)據(jù)工程的人都知道這件事但真正動(dòng)手時(shí)特別容易因?yàn)閳D省事而跳過(guò)我在這里強(qiáng)調(diào)第二次是因?yàn)樗娴闹档脧?qiáng)調(diào)。5.4 線上推理延遲波動(dòng)和GPU顯存溢出首版部署時(shí)我們用的是單路同步推理壓測(cè)時(shí)P95延遲非常好看但一上生產(chǎn)環(huán)境就原形畢露早晚高峰期用戶請(qǐng)求并發(fā)上來(lái)后P95時(shí)延從180毫秒飆到接近1秒偶爾還會(huì)報(bào)CUDA Out of Memory。排查后發(fā)現(xiàn)是實(shí)例上混跑了好幾個(gè)模型副本互相爭(zhēng)搶GPU顯存加上vLLM的KV Cache策略沒(méi)有配置好長(zhǎng)尾請(qǐng)求把緩存占滿了。解決辦法是分配獨(dú)立的GPU實(shí)例給生成式服務(wù)并顯式設(shè)置KV Cache的顯存上限比例比如gpu_memory_utilization0.85同時(shí)配合請(qǐng)求排隊(duì)和隊(duì)列超時(shí)熔斷。這一輪調(diào)整之后高峰期的P95時(shí)延穩(wěn)定在350毫秒左右抖動(dòng)幅度明顯收斂。6. 項(xiàng)目復(fù)盤與我的個(gè)人體會(huì)6.1 復(fù)盤中值得肯定的三件事第一件事是堅(jiān)持了“小步快跑、分模塊上線”的節(jié)奏。我們沒(méi)有搞一個(gè)“大模型全流程改造”的大版本而是把生成層先灰度驗(yàn)證穩(wěn)定后再推理解層最后才上控制層這樣每一層出問(wèn)題時(shí)影響半徑都很小。第二件事是把數(shù)據(jù)工程和大模型訓(xùn)練放在了同等重要的位置前期花了將近三周時(shí)間做樣本清洗和標(biāo)注標(biāo)準(zhǔn)統(tǒng)一雖然看起來(lái)拖慢了啟動(dòng)進(jìn)度但后面模型迭代的效率成倍提升。第三件事是建立了比較完整的離線評(píng)測(cè)和上線回歸體系特別是安全審核挑戰(zhàn)集讓業(yè)務(wù)方對(duì)生成內(nèi)容建立了信任。如果要說(shuō)做得不夠好的地方我覺(jué)得是對(duì)大模型輸出結(jié)果的解釋性工具準(zhǔn)備得偏少。業(yè)務(wù)方經(jīng)常會(huì)問(wèn)“為什么這個(gè)文案能過(guò)審、那個(gè)文案不能”我們只能事后分析日志。如果一開始就把日志埋點(diǎn)和歸因模塊做進(jìn)控制層后續(xù)溝通成本會(huì)低很多。6.2 后續(xù)我還會(huì)做什么下一步我們?cè)诳磧蓚€(gè)方向。一個(gè)是多模態(tài)素材生成不只是文本而是把圖片、文案、落地頁(yè)結(jié)構(gòu)化信息打通用統(tǒng)一的大模型底座去生成整張廣告卡片這需要把視覺(jué)編碼器接入現(xiàn)有的生成流程對(duì)推理成本和延遲提出更高要求。另一個(gè)是Agent化運(yùn)營(yíng)讓大模型不只是“生成一條文案”而是能根據(jù)投放數(shù)據(jù)自動(dòng)調(diào)整人群包和出價(jià)策略做成一個(gè)能對(duì)業(yè)務(wù)指標(biāo)負(fù)責(zé)的智能體。這兩個(gè)方向我們目前都在做技術(shù)驗(yàn)證但核心原則不變?nèi)魏文Ｐ偷漠a(chǎn)出都必須經(jīng)過(guò)控制層校驗(yàn)任何推廣效果都必須用AB實(shí)驗(yàn)說(shuō)話。從個(gè)人經(jīng)驗(yàn)角度說(shuō)這次項(xiàng)目最深的體會(huì)是大模型不是銀彈它更像是給廣告系統(tǒng)裝上了一個(gè)更強(qiáng)的“言語(yǔ)中樞”。真正決定項(xiàng)目成敗的不是你用了多大的模型而是你把它放在什么樣的工程鏈路里讓它在什么時(shí)候該出場(chǎng)、什么時(shí)候該閉嘴。這個(gè)分寸感才是應(yīng)用團(tuán)隊(duì)最需要修煉的內(nèi)功。