1. 為什么一個(gè)殺熟案例值得AI工程師反復(fù)琢磨我在算法團(tuán)隊(duì)做過幾年推薦和定價(jià)相關(guān)的事情最怕的不是模型跑不動(dòng)而是某天運(yùn)營群里甩來一張截圖兩臺(tái)手機(jī)、同一個(gè)收貨地址、同一家店、同一份餐一個(gè)顯示28.5元一個(gè)顯示21元。然后有人全體成員問一句這是怎么回事。那一刻你會(huì)發(fā)現(xiàn)所有的離線指標(biāo)、AUC、召回率、GMV提升曲線在這張截圖面前都沒有說服力。這就是大數(shù)據(jù)殺熟這四個(gè)字為什么總能引爆輿論的原因。它不是一個(gè)純技術(shù)問題也不是一個(gè)純商業(yè)問題而是人工智能、大數(shù)據(jù)與工程倫理三者交匯處最典型的一個(gè)斷面。外賣平臺(tái)是這個(gè)議題被討論得最多的場景因?yàn)樗哳l、剛需、價(jià)格構(gòu)成復(fù)雜商品價(jià)、包裝費(fèi)、配送費(fèi)、紅包、滿減、會(huì)員權(quán)益混在一起用戶又很難橫向比價(jià)。對于做算法、做數(shù)據(jù)、做產(chǎn)品的同學(xué)來說這個(gè)案例的價(jià)值在于它把我的模型選擇和別人多付了幾塊錢之間的因果鏈條第一次拉得足夠短、足夠清晰。這篇東西主要寫給三類人。一類是在校學(xué)生尤其是做人工智能大作業(yè)、大數(shù)據(jù)畢設(shè)、準(zhǔn)備人工智能導(dǎo)論課程論文的同學(xué)你們需要一個(gè)能撐起論證深度的真實(shí)案例而不是空談AI要講道德。第二類是剛?cè)胄械乃惴ā?shù)據(jù)、產(chǎn)品崗從業(yè)者你們需要一套能落地的方法把倫理審查嵌進(jìn)日常研發(fā)流程而不是等出事了再寫檢討。第三類是做技術(shù)管理的人你們需要在需求評審會(huì)上有底氣問出幾個(gè)關(guān)鍵問題。我會(huì)盡量避開兩種寫法一種是把倫理寫成口號(hào)滿篇應(yīng)當(dāng)必須另一種是把技術(shù)寫成擋箭牌說模型自己學(xué)出來的我也控制不了。前者沒用后者不負(fù)責(zé)任。1.1 先分清現(xiàn)象層、算法層和責(zé)任層討論這個(gè)問題最容易犯的錯(cuò)誤是把三個(gè)層次混成一鍋粥?，F(xiàn)象層說的是用戶看到的結(jié)果同樣的服務(wù)不同的人付不同的錢而且這個(gè)差異和成本無關(guān)、和用戶身份有關(guān)。用戶感知到的被針對就發(fā)生在這個(gè)層次。算法層說的是這個(gè)結(jié)果是怎么產(chǎn)生的它通常不是某一個(gè)模型單獨(dú)決定的而是用戶畫像、價(jià)格敏感度預(yù)測、優(yōu)惠券分配策略、運(yùn)籌優(yōu)化求解器、A/B實(shí)驗(yàn)平臺(tái)這一整條鏈路協(xié)同的產(chǎn)物。你很難指著某一行代碼說就是它殺的熟。責(zé)任層說的是誰該為這個(gè)結(jié)果負(fù)責(zé)是寫特征工程的工程師是設(shè)定目標(biāo)函數(shù)的產(chǎn)品經(jīng)理是批準(zhǔn)上線的業(yè)務(wù)負(fù)責(zé)人還是設(shè)計(jì)實(shí)驗(yàn)方案的算法科學(xué)家這個(gè)問題不解決倫理討論就會(huì)變成互相甩鍋。把這三層拆開之后你會(huì)發(fā)現(xiàn)工程倫理介入口其實(shí)在中間那一層。因?yàn)楝F(xiàn)象層是結(jié)果責(zé)任層是事后追認(rèn)只有算法層是工程師真正有權(quán)限、有能力做出不同選擇的地方。特征選不選歷史客單價(jià)目標(biāo)函數(shù)里加不加老用戶價(jià)格保護(hù)約束實(shí)驗(yàn)分組怎么設(shè)計(jì)這些都發(fā)生在鍵盤前面。1.2 這個(gè)案例的三處不適感從哪來為什么同樣是差別定價(jià)機(jī)票淡旺季浮動(dòng)大家能接受外賣的差異化定價(jià)卻讓人憤怒我琢磨了很久覺得有三處結(jié)構(gòu)性的不適感。第一處是信息不對稱的方向反了。機(jī)票漲價(jià)是公開的、可預(yù)期的、和你的身份無關(guān)你可以提前買、可以換航班。而外賣的差異化定價(jià)對用戶是黑箱你不知道自己是不是被分到了高支付意愿那一組也不知道換個(gè)賬號(hào)會(huì)不會(huì)更便宜。當(dāng)信息優(yōu)勢完全落在平臺(tái)一側(cè)用戶的第一反應(yīng)必然是不信任。第二處是關(guān)系的不對等被放大了。老用戶之所以是老用戶是因?yàn)樾湃魏土?xí)慣這在很多商業(yè)邏輯里會(huì)被視為忠誠度資產(chǎn)。但如果模型把忠誠度高翻譯成價(jià)格敏感度低進(jìn)而翻譯成可以少給優(yōu)惠那忠誠就變成了被懲罰的理由。用戶能隱約感覺到這個(gè)轉(zhuǎn)換雖然他說不出價(jià)格彈性這個(gè)詞。第三處是生活場景的脆弱性。點(diǎn)外賣這件事實(shí)在太日常了它不像買機(jī)票那樣是一個(gè)決策事件而是肌肉記憶。在肌肉記憶的領(lǐng)域里被算法悄悄區(qū)別對待那種不適感會(huì)直接轉(zhuǎn)化為道德判斷。理解了這三處不適感你就能明白為什么這個(gè)案例在課堂上、在面試?yán)?、在技術(shù)社區(qū)里被反復(fù)提起。它是一個(gè)絕佳的載體讓人工智能偏見這個(gè)抽象概念落到了一份麻辣燙的價(jià)格上。2. 大數(shù)據(jù)殺熟到底是怎么被算出來的外行看這件事容易想象成程序員寫了個(gè)if語句是老用戶就加價(jià)。真做這行的人都知道沒人會(huì)這么寫。真實(shí)的鏈路要文明得多也隱蔽得多。這一章我把技術(shù)路徑拆開講因?yàn)椴焕斫饧夹g(shù)倫理討論就只能停留在表層。2.1 用戶畫像與價(jià)格敏感度分層是地基任何差異化定價(jià)策略的第一步都是把用戶分群。這一步在技術(shù)上叫用戶分層在商業(yè)上叫精細(xì)化運(yùn)營在輿論里叫貼標(biāo)簽。常用的特征大概能分成幾類。交易類特征包括歷史客單價(jià)、月下單頻次、優(yōu)惠券使用率、退款率、加購未支付次數(shù)。行為類特征包括比價(jià)行為是否頻繁來回切換商家、點(diǎn)擊深度、瀏覽時(shí)段、對配送費(fèi)變動(dòng)的反應(yīng)速度。賬戶類特征包括注冊時(shí)長、會(huì)員狀態(tài)、支付方式綁定情況、設(shè)備型號(hào)和系統(tǒng)版本。把這些特征喂給一個(gè)模型預(yù)測目標(biāo)通常是用戶對價(jià)格的敏感程度也就是價(jià)格彈性。彈性的定義不難價(jià)格變動(dòng)1%需求量變動(dòng)多少百分比。彈性絕對值大說明這個(gè)人一貴就跑叫高彈性彈性絕對值小說明貴一點(diǎn)他照樣買叫低彈性。生活化的類比就是菜市場。老練的攤主看人報(bào)價(jià)看的是你問價(jià)的語氣、猶豫的時(shí)間、有沒有轉(zhuǎn)身要走。算法做的事情本質(zhì)上一樣只不過它用的是幾百個(gè)維度的特征而且永不疲倦、永遠(yuǎn)一致、可復(fù)制到每一單。這就是大數(shù)據(jù)三個(gè)字在這件事里的分量不是數(shù)據(jù)本身有惡意而是數(shù)據(jù)的密度讓看人下菜碟這件事第一次具備了工業(yè)級的可執(zhí)行性。提示價(jià)格彈性不是一個(gè)固定值它是隨場景、時(shí)段、品類變化的。同一用戶在深夜點(diǎn)夜宵時(shí)的彈性可能遠(yuǎn)低于中午點(diǎn)工作餐時(shí)的彈性。2.2 三種典型技術(shù)路徑風(fēng)險(xiǎn)等級完全不同業(yè)內(nèi)討論這個(gè)話題時(shí)經(jīng)常籠統(tǒng)地說差異化定價(jià)但不同實(shí)現(xiàn)方式的性質(zhì)差異很大。我按自己的經(jīng)驗(yàn)整理成一張表。實(shí)現(xiàn)路徑技術(shù)做法用戶可感知度可解釋性倫理風(fēng)險(xiǎn)差異化優(yōu)惠券投放對高彈性用戶多發(fā)券低彈性用戶少發(fā)或不發(fā)中等較高券是顯性的中差異化配送費(fèi)/動(dòng)態(tài)加價(jià)按時(shí)段、運(yùn)力、區(qū)域動(dòng)態(tài)調(diào)整配送費(fèi)高明碼顯示高可歸因到供需較低個(gè)性化展示價(jià)同一商品對不同用戶展示不同基礎(chǔ)價(jià)低最隱蔽低難以歸因高第一類路徑最常見也最有爭議空間。因?yàn)榘l(fā)券本身是給好處問題在于給誰不給誰。如果模型系統(tǒng)性地讓老用戶拿到更少的券那在用戶視角里就是我越忠誠越吃虧。第二類路徑反而是這三類里最經(jīng)得起推敲的。動(dòng)態(tài)配送費(fèi)可以解釋為運(yùn)力調(diào)度手段雨天、高峰期、偏遠(yuǎn)區(qū)域加價(jià)目的是引導(dǎo)訂單在時(shí)間和空間上分散。它符合成本邏輯用戶也能理解雖然不爽。第三類路徑風(fēng)險(xiǎn)最高?；A(chǔ)商品價(jià)對所有人應(yīng)該是一致的這是用戶心理的底線。一旦基礎(chǔ)價(jià)開始因人而異任何解釋都顯得蒼白因?yàn)橛脩粽也坏饺魏魏妥陨砀冻鱿嚓P(guān)的合理依據(jù)。我做過的項(xiàng)目里內(nèi)部有一條不成文的紅線優(yōu)惠可以個(gè)性化標(biāo)價(jià)不能個(gè)性化。這條紅線不寫在任何規(guī)范里但它是很多團(tuán)隊(duì)能睡得著覺的原因。2.3 一段可復(fù)現(xiàn)的彈性建模示例為了讓大家看清楚數(shù)學(xué)上正確和倫理上有問題之間的距離有多近我用一段簡化代碼演示彈性估計(jì)。數(shù)據(jù)是模擬的邏輯是真的。import numpy as np import pandas as pd import statsmodels.api as sm # 模擬每個(gè)用戶的訂單金額與對應(yīng)優(yōu)惠力度 # discount_rate 表示優(yōu)惠占原價(jià)比例price_ratio 1 - discount_rate np.random.seed(42) n 20000 user_price_sensitivity np.random.beta(2, 5, n) # 隱變量越低越不敏感 base_fee np.random.normal(30, 5, n) discount_rate np.random.uniform(0, 0.3, n) price_ratio 1 - discount_rate # 需求量彈性越大的用戶漲幅對其需求抑制越明顯 qty 10 * price_ratio ** (-user_price_sensitivity * 5) qty np.maximum(qty, 0.1) df pd.DataFrame({ price_ratio: price_ratio, qty: qty, user_id: np.arange(n) }) # 對整體做 log-log 回歸回歸系數(shù)即價(jià)格彈性 X sm.add_constant(np.log(df[price_ratio])) y np.log(df[qty]) model sm.OLS(y, X).fit() print(整體價(jià)格彈性估計(jì):, model.params[price_ratio]) # 按用戶分組估計(jì)彈性真實(shí)系統(tǒng)里按畫像分群 df[group] pd.qcut(user_price_sensitivity, 5, labelsFalse) for g, sub in df.groupby(group): Xg sm.add_constant(np.log(sub[price_ratio])) yg np.log(sub[qty]) m sm.OLS(yg, Xg).fit() print(f第{g}組彈性: {m.params[price_ratio]:.3f})跑完你會(huì)發(fā)現(xiàn)不同群體的彈性估計(jì)值差異明顯。一個(gè)理性的定價(jià)系統(tǒng)拿到這個(gè)結(jié)果下一步動(dòng)作幾乎是必然的對彈性絕對值小的群體減少補(bǔ)貼對彈性絕對值大的群體加大補(bǔ)貼。從優(yōu)化目標(biāo)看這一步完全正確——它讓每一塊錢補(bǔ)貼都花在最能撬動(dòng)訂單的人身上補(bǔ)貼效率最大化。但從倫理看恰恰是這一步把忠誠和低彈性劃了等號(hào)讓老用戶成了被減少補(bǔ)貼的那一批。注意這里的問題不在于模型錯(cuò)了而在于目標(biāo)函數(shù)里只有效率沒有公平約束。這是工程師真正能改變的地方后面第5章會(huì)講具體怎么加。3. 工程倫理的幾把尺子以及它們各自的盲區(qū)聊倫理最怕空對空。我的經(jīng)驗(yàn)是準(zhǔn)備三到四把尺子遇到具體決策時(shí)輪著量一遍哪把尺子量出來都不舒服那就該停下來重新設(shè)計(jì)了。這一章我把最常用的幾把尺子講清楚同時(shí)說明它們各自在什么情況下會(huì)失靈。3.1 后果論算總福利但算不出誰在承擔(dān)代價(jià)后果論的核心思路是看結(jié)果一個(gè)決策讓總體福利增加了還是減少了。放到差異化定價(jià)上支持方的論證通常是補(bǔ)貼總額固定把補(bǔ)貼給更需要的價(jià)格敏感人群能帶來更多訂單平臺(tái)、商家、騎手、用戶的總福利都上升。這個(gè)論證在數(shù)學(xué)上成立。問題在于它只關(guān)心總量不關(guān)心分布。如果總福利上升100但代價(jià)是讓1000萬老用戶每人多付2塊錢后果論本身沒有給出這能不能接受的答案。它只是把問題轉(zhuǎn)化成了這100和那1000萬怎么折算而折算規(guī)則是人定的不是算出來的。所以后果論有用但只能當(dāng)?shù)谝话殉咦印Ｋ鼛湍愦_認(rèn)這事確實(shí)有效率收益但不能幫你確認(rèn)這收益值得拿。我見過太多團(tuán)隊(duì)止步于此拿一份GMV提升報(bào)告就去上線了。3.2 義務(wù)論與知情同意用戶到底同意了什么義務(wù)論關(guān)心的是行為本身是否違反了某種義務(wù)不管結(jié)果好壞。在數(shù)據(jù)倫理里它最常落到的落點(diǎn)是知情同意。用戶注冊時(shí)勾選的那份用戶協(xié)議通常包含我們可能根據(jù)您的使用情況提供個(gè)性化服務(wù)這類表述。這句話覆蓋的范圍很寬但它能不能覆蓋對同一種商品向你展示不同價(jià)格我的判斷是在絕大多數(shù)情況下不能。因?yàn)橛脩粼诠催x時(shí)腦子里想的是推薦更合口味的店不是我可能因?yàn)檫@個(gè)勾選而多付錢。知情同意要成立有三個(gè)條件知道、理解、自愿。協(xié)議文本做到了知道雖然沒人讀做不到理解至于自愿就更勉強(qiáng)了——在一個(gè)已經(jīng)高度依賴外賣的生活節(jié)奏里不同意就別用算不算自愿是很難回答的問題。做工程的人從中能得到一條非常具體的啟發(fā)個(gè)性化推薦和個(gè)性化定價(jià)應(yīng)該分開授權(quán)。前者風(fēng)險(xiǎn)低可以用默認(rèn)開啟加顯式說明后者風(fēng)險(xiǎn)高應(yīng)該有獨(dú)立、清晰、可撤回的開關(guān)。我不能說現(xiàn)在的產(chǎn)品都做到了這一點(diǎn)但這個(gè)方向是對的。3.3 美德倫理與工程師的職業(yè)責(zé)任前面兩把尺子都在看外部第三把尺子看內(nèi)部作為一個(gè)手藝人你愿不愿意公開說明你做了什么。這條自測標(biāo)準(zhǔn)非常鋒利。設(shè)想你要在技術(shù)評審會(huì)上用十分鐘向一群非技術(shù)同事解釋你設(shè)計(jì)的定價(jià)邏輯你用了哪些特征、目標(biāo)函數(shù)是什么、約束條件是什么、實(shí)驗(yàn)是怎么分組的。如果這個(gè)過程中有幾處你會(huì)下意識(shí)地含糊過去那么這幾處就是問題所在。我在團(tuán)隊(duì)里推過一個(gè)很土的辦法叫家屬測試假設(shè)你爸媽用的就是這個(gè)產(chǎn)品你能不能坦然告訴他們您的價(jià)格是按這個(gè)規(guī)則算出來的。這個(gè)測試不能替代正式的倫理審查但它能在五秒鐘內(nèi)告訴你自己心里有沒有數(shù)。3.4 價(jià)值敏感設(shè)計(jì)把倫理從事后審查挪到事前設(shè)計(jì)上面三把尺子都是判斷工具價(jià)值敏感設(shè)計(jì)Value Sensitive Design則是流程工具。它的核心主張是倫理價(jià)值不應(yīng)該等產(chǎn)品做完了再評估而應(yīng)該在概念設(shè)計(jì)階段就被當(dāng)作設(shè)計(jì)需求之一和性能、成本、工期并列。具體到外賣定價(jià)場景這意味著公平不是一句口號(hào)而是要翻譯成可測量的設(shè)計(jì)指標(biāo)。比如老用戶與新用戶在同一條件下的價(jià)格差異不超過某個(gè)閾值同一城市同一時(shí)段內(nèi)同類商品的展示價(jià)方差控制在某個(gè)范圍內(nèi)補(bǔ)貼覆蓋率的基尼系數(shù)不高于某個(gè)值。一旦翻譯成指標(biāo)它就能進(jìn)實(shí)驗(yàn)平臺(tái)、進(jìn)監(jiān)控大盤、進(jìn)上線卡點(diǎn)。這才是工程師能真正使上勁的地方。倫理一旦能被度量它就從理念變成了工程約束。4. 邊界在哪個(gè)性化服務(wù)、差異化定價(jià)與殺熟的三方關(guān)系討論到這一步必須處理一個(gè)繞不開的問題個(gè)性化服務(wù)和差異化定價(jià)本身不是壞事那殺熟的邊界到底在哪如果答案模糊所有討論都會(huì)變成站隊(duì)。4.1 用四個(gè)維度把三個(gè)概念切開我的經(jīng)驗(yàn)是用四個(gè)維度做判定定價(jià)依據(jù)、信息透明度、用戶選擇權(quán)、代價(jià)歸屬。做成一張對照表會(huì)清晰很多。維度合理的個(gè)性化服務(wù)合理的差異化定價(jià)大數(shù)據(jù)殺熟定價(jià)依據(jù)口味偏好、配送時(shí)間偏好供需關(guān)系、運(yùn)力成本、時(shí)段用戶身份、忠誠度、支付意愿信息透明度推薦理由可見價(jià)格規(guī)則公開可查規(guī)則不公開用戶無法歸因用戶選擇權(quán)可關(guān)閉、可調(diào)整可選擇時(shí)段、可換渠道無實(shí)質(zhì)退出選項(xiàng)代價(jià)歸屬平臺(tái)承擔(dān)讓利需求方承擔(dān)但可預(yù)期忠誠用戶承擔(dān)且不可預(yù)期這張表最好用的地方是第四行。代價(jià)由誰承擔(dān)、承擔(dān)者能不能預(yù)期這是最鋒利的一刀。高峰期配送費(fèi)上漲代價(jià)由需求方承擔(dān)但用戶能預(yù)期、能選擇避開而殺熟的代價(jià)由最信任平臺(tái)的那批用戶承擔(dān)且他們完全無法預(yù)期。4.2 五個(gè)可以在評審會(huì)上直接問的問題我把這套判斷壓縮成五個(gè)問題用起來比表格快。這個(gè)價(jià)格差異能不能用成本差異解釋清楚如果解釋不了差異的依據(jù)是什么用戶如果知道自己被分到了哪一組會(huì)不會(huì)覺得受騙用戶有沒有一個(gè)現(xiàn)實(shí)可操作的方式避免支付這個(gè)差異如果這個(gè)策略被完整公開在首頁上業(yè)務(wù)還做得下去嗎承擔(dān)這個(gè)差異的是新用戶、隨機(jī)用戶還是最忠誠的那批用戶這五個(gè)問題里第五個(gè)最有殺傷力。很多方案在1到4上都勉強(qiáng)能自圓其說一到第5個(gè)就露餡了。4.3 為什么這件事特別容易誤判需要說明的是輿論里被指認(rèn)為殺熟的案例有一部分其實(shí)是誤判。我見過幾種常見的混淆源。第一種是優(yōu)惠券的隨機(jī)發(fā)放。平臺(tái)做A/B實(shí)驗(yàn)時(shí)會(huì)給不同用戶發(fā)不同面額的券這在統(tǒng)計(jì)上看起來就是同物不同價(jià)但它的目的不是收割而是測試。這種方案在合規(guī)和倫理上的問題在于測試期沒有向用戶說明差異性且測試結(jié)束后的策略選擇可能被最優(yōu)轉(zhuǎn)化這個(gè)單一指標(biāo)綁架。第二種是緩存與時(shí)效差異。同一個(gè)商品在不同時(shí)間點(diǎn)被加載商家可能剛好調(diào)價(jià)或者滿減活動(dòng)剛好切換。用戶截圖時(shí)間差了幾分鐘結(jié)果看起來像殺熟。第三種是會(huì)員權(quán)益的疊加邏輯。會(huì)員費(fèi)和權(quán)益是兩筆賬當(dāng)權(quán)益計(jì)算方式復(fù)雜到用戶算不清時(shí)用戶會(huì)默認(rèn)自己吃虧。這是表達(dá)問題不是定價(jià)問題但殺傷力一樣大。區(qū)分這三類對工程師有實(shí)際意義前兩類需要在產(chǎn)品層面做說明和補(bǔ)償?shù)谌愋枰褭?quán)益計(jì)算做成一張用戶能看懂的賬單。我個(gè)人的看法是可解釋性本身就應(yīng)該是一項(xiàng)產(chǎn)品需求而不是等出了輿情再補(bǔ)的公關(guān)材料。5. 把倫理審查嵌進(jìn)研發(fā)流程的落地方案前面幾章都在講判斷這一章講操作。我按研發(fā)流程的時(shí)間順序走一遍每一步給出可以直接抄的清單、腳本或指標(biāo)。這部分是我認(rèn)為最有價(jià)值的部分因?yàn)樗褌惱韽挠懻撟兂闪斯ば颉?.1 需求評審階段一份十問清單需求評審是成本最低的攔截點(diǎn)。一個(gè)方案在這個(gè)階段被攔下?lián)p失幾乎為零上線后再回滾損失的是用戶信任。我在團(tuán)隊(duì)里推過一份十問清單評審定價(jià)類需求時(shí)必須逐條回答。這個(gè)策略的收益來自哪里是新增訂單還是存量訂單的價(jià)格提升價(jià)格差異的判定依據(jù)里有沒有包含用戶身份、注冊時(shí)長、會(huì)員狀態(tài)這類非成本特征是否設(shè)置了價(jià)格差異上限上限是怎么算出來的老用戶和新用戶在同一條件下的價(jià)格是否存在系統(tǒng)性差異實(shí)驗(yàn)組和對照組的分組方式是什么會(huì)不會(huì)導(dǎo)致特定群體長期處在被測試狀態(tài)用戶能否感知到這個(gè)差異如果感知到我們的解釋是什么有沒有一個(gè)用戶可以實(shí)際操作的退出路徑策略的監(jiān)控指標(biāo)里除了轉(zhuǎn)化率有沒有價(jià)格公平類指標(biāo)一旦出現(xiàn)輿情或投訴回滾方案是什么回滾需要多長時(shí)間這套邏輯如果被完整公開我們的對外說明會(huì)怎么寫最后一條是壓力測試。如果第10條寫不出來或者寫出來自己都覺得牽強(qiáng)那這個(gè)方案就不該往前走。5.2 開發(fā)階段可解釋性埋點(diǎn)和約束條件到了寫代碼這一步有兩件事必須做進(jìn)系統(tǒng)。第一件是可解釋性埋點(diǎn)。每一次價(jià)格計(jì)算都要把為什么是這個(gè)價(jià)記錄下來命中了哪些特征、折扣是怎么來的、被哪些規(guī)則調(diào)整過。這些日志平時(shí)沒人看出事的時(shí)候就是唯一的證據(jù)鏈。沒有它你既證明不了自己清白也發(fā)現(xiàn)不了自己的問題。第二件是把公平寫成約束條件。這是本文最想傳遞的一條操作建議。原來的優(yōu)化目標(biāo)可能是maximize 總訂單量 - λ * 補(bǔ)貼總額加上公平約束后變成maximize 總訂單量 - λ * 補(bǔ)貼總額 subject to 同一條件下老用戶價(jià)格 ≤ 新用戶價(jià)格 * (1 ε) 同類商品展示價(jià)方差 ≤ σ2 補(bǔ)貼覆蓋率的基尼系數(shù) ≤ Gε、σ2、G 這三個(gè)參數(shù)就是倫理討論最終的落點(diǎn)。它們不該由算法同學(xué)單獨(dú)拍而應(yīng)該由產(chǎn)品、法務(wù)、數(shù)據(jù)和業(yè)務(wù)共同確定并且寫進(jìn)文檔。參數(shù)一旦確定它就變成了一個(gè)普通的工程約束可以測試、可以監(jiān)控、可以回歸。我在實(shí)際項(xiàng)目里的體會(huì)是把倫理翻譯成參數(shù)這件事比開十次倫理研討會(huì)都有用。5.3 上線前價(jià)格一致性回歸測試腳本上線前一定要跑一遍跨賬號(hào)、跨設(shè)備、跨地域的價(jià)格一致性測試。這類測試的價(jià)值在于它能把我們覺得沒問題變成我們測過沒問題。import time import statistics import requests BASE_URL https://example-api.internal/price/quote def fetch_price(token, store_id, item_id, address_id): headers {Authorization: fBearer {token}} params { store_id: store_id, item_id: item_id, address_id: address_id, } resp requests.get(BASE_URL, headersheaders, paramsparams, timeout5) resp.raise_for_status() data resp.json() return { base: data[base_price], delivery: data[delivery_fee], final: data[final_price], coupon: data.get(coupon_amount, 0), } def audit(tokens, store_id, item_id, address_id, rounds5): results {} for round_idx in range(rounds): for name, token in tokens.items(): results.setdefault(name, []).append( fetch_price(token, store_id, item_id, address_id) ) time.sleep(2) # 避開瞬時(shí)波動(dòng)也降低對線上接口的壓力 print(f{賬號(hào):12}{平均終價(jià):10}{基礎(chǔ)價(jià):10}{配送費(fèi):10}{券:8}) base_prices [] final_prices [] for name, rows in results.items(): avg_final statistics.mean(r[final] for r in rows) avg_base statistics.mean(r[base] for r in rows) avg_delivery statistics.mean(r[delivery] for r in rows) avg_coupon statistics.mean(r[coupon] for r in rows) base_prices.append(avg_base) final_prices.append(avg_final) print(f{name:12}{avg_final:10.2f}{avg_base:10.2f} f{avg_delivery:10.2f}{avg_coupon:8.2f}) # 基礎(chǔ)價(jià)必須完全一致這是紅線 if max(base_prices) - min(base_prices) 0.01: raise AssertionError( f基礎(chǔ)價(jià)不一致極差 {max(base_prices) - min(base_prices):.2f} f這屬于標(biāo)價(jià)個(gè)性化必須阻斷上線 ) # 終價(jià)允許有差異來自券但差異要有上限 spread max(final_prices) - min(final_prices) if spread 8: print(f警告終價(jià)極差 {spread:.2f}超過預(yù)設(shè)閾值 8 元需人工復(fù)核) return results if __name__ __main__: tokens { 新用戶A: token_new_a, 老用戶B: token_old_b, 老用戶C: token_old_c, 會(huì)員D: token_vip_d, } audit(tokens, store_id10086, item_id555, address_id999)這段腳本的核心設(shè)計(jì)思路是把紅線和不紅線分開測?；A(chǔ)價(jià)必須完全一致這是零容忍項(xiàng)一旦超出直接阻斷終價(jià)允許因券而不同但要有極差閾值超出就報(bào)警讓人看。這樣既不會(huì)因?yàn)檎５臓I銷差異頻繁誤報(bào)也不會(huì)漏掉真正的問題。5.4 上線后監(jiān)控指標(biāo)與熔斷機(jī)制上線不是終點(diǎn)。我的經(jīng)驗(yàn)是至少要盯三組指標(biāo)。第一組是價(jià)格公平指標(biāo)同一條件下跨用戶群的終價(jià)極差、老用戶與新用戶的平均價(jià)格比、補(bǔ)貼覆蓋率的基尼系數(shù)。這三個(gè)指標(biāo)畫成時(shí)間序列一旦出現(xiàn)趨勢性偏移就要查。第二組是用戶感知指標(biāo)關(guān)于價(jià)格的客訴量、客服話術(shù)中為什么我和朋友價(jià)格不一樣的命中次數(shù)、退款申請中的價(jià)格相關(guān)理由占比。這組指標(biāo)是前哨比輿情早得多。第三組是策略漂移指標(biāo)模型的特征重要性排序變化、被高頻命中的特征列表變化。因?yàn)橛泻芏鄦栴}是模型在持續(xù)訓(xùn)練中慢慢學(xué)壞的——初始版本可能是干凈的跑三個(gè)月之后它自己發(fā)現(xiàn)了注冊時(shí)長這個(gè)強(qiáng)特征然后系統(tǒng)性地開始區(qū)別對待。這種漂移最危險(xiǎn)因?yàn)樗鼪]有責(zé)任人只有時(shí)間。熔斷機(jī)制也簡單價(jià)格公平指標(biāo)一旦越過閾值自動(dòng)把定價(jià)策略降級到統(tǒng)一券池模式也就是所有人發(fā)同樣的券先止血再排查。6. 常見問題與排查技巧實(shí)錄這一章整理我在實(shí)際工作中遇到和聽說過的典型問題。表格形式方便速查?，F(xiàn)象常見原因排查思路處理建議老用戶價(jià)格系統(tǒng)性偏高模型學(xué)到了注冊時(shí)長作為低彈性代理特征導(dǎo)出特征重要性看是否含身份類特征從特征集中移除身份代理特征或加入公平約束同一時(shí)刻不同賬號(hào)基礎(chǔ)價(jià)不同緩存不一致或灰度配置錯(cuò)亂對比不同節(jié)點(diǎn)返回、檢查灰度規(guī)則基礎(chǔ)價(jià)走統(tǒng)一配置源禁止個(gè)性化券面額差異過大實(shí)驗(yàn)分組不均或策略過激檢查各組樣本量和券額分布設(shè)置券額極差上限實(shí)驗(yàn)期同步白名單用戶投訴變多但數(shù)據(jù)看著沒問題權(quán)益賬單不可讀讓客服復(fù)現(xiàn)用戶視角的完整價(jià)格構(gòu)成把價(jià)格構(gòu)成做成可讀賬單主動(dòng)展示模型上線后逐步變壞策略漂移定期回歸價(jià)格一致性測試建立月度審計(jì)機(jī)制納入上線流程輿情爆發(fā)但定位不到邏輯缺少價(jià)格計(jì)算日志查埋點(diǎn)覆蓋情況補(bǔ)全可解釋性埋點(diǎn)作為長期基建除了表格還有幾個(gè)我踩過的坑值得單獨(dú)說。第一個(gè)坑以為公平約束會(huì)拖垮效果。我一開始也擔(dān)心加約束會(huì)讓優(yōu)化效果大幅下降實(shí)際測下來把價(jià)格差異上限設(shè)在一個(gè)合理區(qū)間對總訂單量的影響通常在1%到3%之間而客訴和退款率的改善會(huì)明顯得多。這筆賬長期看是劃算的只是短期KPI不好看。第二個(gè)坑把告知做成了免責(zé)。有一陣子我們在用戶協(xié)議里加了一段關(guān)于個(gè)性化定價(jià)的說明寫得非常專業(yè)結(jié)果是沒人看而且投訴的時(shí)候用戶會(huì)說你們就是靠這個(gè)免責(zé)的。后來改成了在訂單頁用一句話說明本單優(yōu)惠由系統(tǒng)按活動(dòng)規(guī)則發(fā)放效果反而好一些。告知的關(guān)鍵不是法律上站得住而是用戶能看懂。第三個(gè)坑指標(biāo)定義本身有爭議。我們內(nèi)部一開始用平均價(jià)格做公平監(jiān)控后來發(fā)現(xiàn)平均值會(huì)掩蓋結(jié)構(gòu)性問題——如果只有10%的用戶價(jià)格明顯偏高平均值看不出來。后來改成同時(shí)看均值、極差和分位數(shù)才算能抓住問題。第四個(gè)坑跨部門的分歧無法用數(shù)據(jù)解決。有些爭論本質(zhì)上是價(jià)值判斷不是技術(shù)判斷。比如老用戶價(jià)格比新用戶高多少算過分這個(gè)問題沒有唯一答案。我的經(jīng)驗(yàn)是把這類分歧擺到臺(tái)面上讓業(yè)務(wù)負(fù)責(zé)人拍板并留下文檔記錄而不是讓算法同學(xué)自己背著。留痕這件事在事后非常重要它保護(hù)的是做技術(shù)的人。7. 踩過坑之后我的幾點(diǎn)體會(huì)做這行時(shí)間長了我對人工智能倫理這個(gè)說法的理解一直在變。剛?cè)胄袝r(shí)覺得它是務(wù)虛的是給論文和會(huì)議準(zhǔn)備的做過幾個(gè)真實(shí)項(xiàng)目之后我越來越覺得它是這行最難、也最見功力的一部分。因?yàn)榧夹g(shù)問題有標(biāo)準(zhǔn)答案倫理問題沒有。我現(xiàn)在比較確信的一點(diǎn)是倫理問題的落點(diǎn)永遠(yuǎn)在具體參數(shù)上。不是要公平而是老用戶價(jià)格不得超過新用戶價(jià)格的1.05倍不是要透明而是訂單頁必須能展開看到價(jià)格構(gòu)成的每一行。凡是不能落到參數(shù)和界面上的倫理討論最后都會(huì)變成會(huì)議紀(jì)要里的一段漂亮話。第二點(diǎn)是工程師在這件事上的處境其實(shí)比想象中主動(dòng)。很多人覺得這是老板定的我只是執(zhí)行。但實(shí)際操作中特征怎么選、約束怎么加、日志怎么埋、測試怎么寫這些決定權(quán)確實(shí)在工程師手上。把身份類特征從模型里拿掉把公平約束加進(jìn)目標(biāo)函數(shù)把價(jià)格一致性測試接進(jìn)發(fā)布流水線這些事情不需要誰批準(zhǔn)就能做。真做了之后你才有資格在更上游的決策里說話。第三點(diǎn)是關(guān)于表達(dá)。很多價(jià)格爭議之所以升級不是因?yàn)槎▋r(jià)本身有多離譜而是因?yàn)橛脩艨床欢?、問不到、找不著人解釋。把價(jià)格構(gòu)成做得讓一個(gè)普通人三十秒內(nèi)看明白這件事的技術(shù)難度遠(yuǎn)低于模型調(diào)優(yōu)但對信任的價(jià)值高出很多。我甚至覺得可解釋性的投入產(chǎn)出比在這類產(chǎn)品里被嚴(yán)重低估了。至于這個(gè)案例本身我把它當(dāng)作一面鏡子。每次做定價(jià)、推薦、風(fēng)控相關(guān)的項(xiàng)目我都會(huì)拿那五個(gè)問題自問一遍成本能不能解釋、用戶知道后會(huì)不會(huì)覺得受騙、有沒有退出路徑、敢不敢公開、承擔(dān)代價(jià)的是不是最信任平臺(tái)的那批人。這五個(gè)問題不能讓我做出正確的決定但至少能讓我在做決定之前清楚自己在做什么。如果你正在寫相關(guān)的課程論文或者人工智能大作業(yè)我的建議是不要停在應(yīng)該加強(qiáng)監(jiān)管這種結(jié)論上。往下一層去寫清楚算法鏈路是怎么形成價(jià)格差異的去給出一個(gè)可以量化的公平約束去設(shè)計(jì)一個(gè)能跑的審計(jì)腳本。把倫理問題寫成工程問題這篇東西才算有分量。