做AI內(nèi)容久了最直觀的感受就是信息密度越來(lái)越夸張。10月7日一早打開(kāi)信息流圈內(nèi)基本都在聊兩件事一是某海外前沿AI實(shí)驗(yàn)室一口氣公開(kāi)了722篇數(shù)學(xué)論文二是某大型科技集團(tuán)和某全球連鎖零售企業(yè)一起發(fā)布了面向消費(fèi)場(chǎng)景的個(gè)人代理協(xié)議。按慣例涉及機(jī)構(gòu)名稱我先做了脫敏處理但事情本身值得掰開(kāi)揉碎聊一聊。這兩條消息乍一看沒(méi)什么關(guān)系一條是科研動(dòng)作一條是商業(yè)合作。但放在一起看它們其實(shí)指向同一個(gè)信號(hào)AI正在從“能說(shuō)會(huì)道”往“能算能辦”過(guò)渡而且這個(gè)過(guò)渡已經(jīng)開(kāi)始有了可落地、可驗(yàn)收、可擔(dān)責(zé)的框架。作為從業(yè)者我不太想停留在“又一個(gè)新聞”的層面更想拆一拆背后的技術(shù)路線、協(xié)議邏輯以及這件事對(duì)普通開(kāi)發(fā)者、產(chǎn)品和普通用戶到底意味著什么。1. 這次刷屏的其實(shí)是兩件“半件事”1.1 722篇數(shù)學(xué)論文不是“發(fā)論文”是“喂彈藥”先說(shuō)那722篇數(shù)學(xué)論文。很多媒體的標(biāo)題寫的是“公開(kāi)論文”“開(kāi)源資源”聽(tīng)起來(lái)像是一家實(shí)驗(yàn)室在做學(xué)術(shù)共享。但如果關(guān)注模型訓(xùn)練這個(gè)行當(dāng)你會(huì)立刻意識(shí)到另一層含義這不是普通的論文發(fā)布而是一個(gè)規(guī)模極其可觀的高質(zhì)量數(shù)學(xué)語(yǔ)料包。數(shù)學(xué)論文和通用文本有個(gè)根本區(qū)別——結(jié)構(gòu)性強(qiáng)、邏輯鏈長(zhǎng)、符號(hào)密集而且天然自帶“標(biāo)準(zhǔn)答案”屬性。定理有證明例題有推導(dǎo)競(jìng)賽題有評(píng)分標(biāo)準(zhǔn)。對(duì)訓(xùn)練推理模型來(lái)說(shuō)這是近乎完美的數(shù)據(jù)形態(tài)。一家前沿實(shí)驗(yàn)室一次放出722篇說(shuō)明他們手上已經(jīng)囤了遠(yuǎn)大于這個(gè)數(shù)量的數(shù)學(xué)語(yǔ)料公開(kāi)出來(lái)的部分大概率只是經(jīng)過(guò)清洗和篩選之后的精華層。圈里有句玩笑話大模型拼到最后拼的是“吃過(guò)的題”。722篇論文如果切到例題、引理、證明步驟的粒度能拆出幾十萬(wàn)甚至上百萬(wàn)條高質(zhì)量推理鏈。對(duì)這些數(shù)據(jù)做一些格式化處理配上可驗(yàn)證的答案做強(qiáng)化學(xué)習(xí)模型的數(shù)學(xué)推理能力會(huì)有非常實(shí)質(zhì)性的提升。1.2 個(gè)人代理協(xié)議把AI從“聊天框”拉到“支票本”另一條消息是某大型科技集團(tuán)和某全球連鎖零售企業(yè)發(fā)布的個(gè)人代理協(xié)議。這個(gè)名字乍一聽(tīng)有點(diǎn)嚴(yán)肅其實(shí)翻譯成人話就是以后AI代理可以拿著你的授權(quán)在真實(shí)的零售場(chǎng)景里替你花錢辦事了。過(guò)去一年各家都在推“AI助手”“智能體”但大多停留在聊天、查詢、生成內(nèi)容這一步。真要讓AI幫你下單、比價(jià)、預(yù)約退換貨會(huì)碰到一連串現(xiàn)實(shí)問(wèn)題平臺(tái)憑什么相信這個(gè)AI是你派來(lái)的AI到底能在多大額度內(nèi)替你決策出了問(wèn)題誰(shuí)來(lái)?yè)?dān)責(zé)數(shù)據(jù)隱私怎么切分這份協(xié)議做的就是這件事把“AI代理能不能替我買東西”這件事從口頭承諾變成了有條款、有邊界、有追責(zé)機(jī)制的白紙黑字。它不太像新聞更像是一個(gè)行業(yè)開(kāi)始補(bǔ)“契約基建”的信號(hào)。2. 數(shù)學(xué)論文背后為什么一次公開(kāi)722篇能震住整個(gè)行業(yè)2.1 數(shù)學(xué)是AI推理能力的“稱重機(jī)”先解釋一個(gè)核心問(wèn)題為什么AI實(shí)驗(yàn)室都在卷數(shù)學(xué)而不是卷寫詩(shī)或聊天答案很簡(jiǎn)單數(shù)學(xué)是現(xiàn)有條件下最接近“可自動(dòng)化評(píng)測(cè)”的智力活動(dòng)。一篇證明對(duì)不對(duì)程序可以驗(yàn)一道競(jìng)賽題結(jié)果對(duì)不對(duì)答案可以比對(duì)一個(gè)解題過(guò)程邏輯是否嚴(yán)謹(jǐn)可以靠規(guī)則加模型雙重打分。這種“可驗(yàn)證性”決定了數(shù)學(xué)天然適合做強(qiáng)化學(xué)習(xí)的獎(jiǎng)勵(lì)信號(hào)。相比通用對(duì)話數(shù)學(xué)推理更需要多步規(guī)劃。模型要先理解題意再拆分條件嘗試不同的推導(dǎo)路徑最后組織成嚴(yán)謹(jǐn)?shù)淖C明。整個(gè)過(guò)程的每一步都是可觀測(cè)、可反饋的。換句話說(shuō)強(qiáng)化學(xué)習(xí)在數(shù)學(xué)上能產(chǎn)生明確的梯度信號(hào)模型每走一步都知道自己走得對(duì)不對(duì)。而在開(kāi)放領(lǐng)域這種信號(hào)往往模糊得多。所以你看過(guò)去一年各家在數(shù)學(xué)推理上的表現(xiàn)突飛猛進(jìn)不是因?yàn)閿?shù)學(xué)本身突然變熱門了而是因?yàn)椤翱沈?yàn)證的推理數(shù)據(jù)”是訓(xùn)練下一代模型最值錢的原材料。2.2 公開(kāi)722篇的底層邏輯數(shù)據(jù)合規(guī)、開(kāi)源博弈、喂題海這722篇論文的新聞點(diǎn)不在于“數(shù)量大”而在于公開(kāi)方式與時(shí)機(jī)。公開(kāi)這個(gè)動(dòng)作本身包含了至少三層考量。第一層是數(shù)據(jù)合規(guī)。訓(xùn)練數(shù)據(jù)之外的版權(quán)爭(zhēng)議已經(jīng)成為AI行業(yè)的達(dá)摩克利斯之劍。與其被動(dòng)應(yīng)對(duì)質(zhì)疑不如主動(dòng)把一批高質(zhì)量訓(xùn)練語(yǔ)料變成可公開(kāi)獲取的資源從源頭上告訴外界我們用的數(shù)據(jù)是干凈的、可追溯的、經(jīng)得起查的。這是一種防守策略也是一種公關(guān)策略。第二層是開(kāi)源博弈。頭部實(shí)驗(yàn)室之間的人才和模型競(jìng)賽已經(jīng)白熱化。公開(kāi)數(shù)據(jù)看似利他其實(shí)是在抬高行業(yè)的準(zhǔn)入標(biāo)準(zhǔn)當(dāng)722篇論文成為基線資源后來(lái)者如果連這個(gè)量級(jí)的數(shù)據(jù)都拿不出手在數(shù)學(xué)推理這個(gè)賽道上基本就不用玩了。先發(fā)者不怕信息公開(kāi)怕的是自己積累數(shù)據(jù)的能力被追上。第三層才是核心——喂題海。像數(shù)學(xué)這種技能模型要強(qiáng)就得多見(jiàn)題。722篇論文覆蓋的題型、難度層次、數(shù)學(xué)分支肯定比我這里能猜到的要廣得多。對(duì)模型來(lái)說(shuō)這意味著更豐富的“肌肉記憶”。對(duì)從業(yè)者來(lái)說(shuō)這其實(shí)是一個(gè)公開(kāi)的“抄作業(yè)”機(jī)會(huì)如果你想訓(xùn)練自己的推理模型這批數(shù)據(jù)直接拿去用就好省去了大量的爬取和清洗時(shí)間。2.3 對(duì)開(kāi)發(fā)者最直接的“撿漏”機(jī)會(huì)別只把這條新聞當(dāng)成行業(yè)動(dòng)態(tài)對(duì)做AI應(yīng)用的小團(tuán)隊(duì)和個(gè)人開(kāi)發(fā)者這里面有實(shí)打?qū)嵉馁Y源紅利。數(shù)學(xué)論文類語(yǔ)料和普通網(wǎng)頁(yè)文本不同它的格式相對(duì)統(tǒng)一公式清晰邏輯鏈完整。你可以拿它做至少三件事第一微調(diào)一個(gè)數(shù)學(xué)領(lǐng)域?qū)Ｓ媚Ｐ妥鲱}目解析、解題輔導(dǎo)、公式推導(dǎo)類產(chǎn)品第二把它作為評(píng)測(cè)集的一部分驗(yàn)證你自己模型的推理能力第三把它進(jìn)一步加工成“推理鏈問(wèn)答對(duì)”用于強(qiáng)化學(xué)習(xí)訓(xùn)練。我自己的建議是先別急著把722篇全部灌進(jìn)模型先挑100篇做一個(gè)小樣本跑一遍清洗、格式化、訓(xùn)練、評(píng)測(cè)的完整流程找到最適合你場(chǎng)景的數(shù)據(jù)配比再考慮規(guī)模化。上來(lái)就上全量數(shù)據(jù)往往什么問(wèn)題都看不清楚。3. 個(gè)人代理協(xié)議拆解AI消費(fèi)場(chǎng)景的“授權(quán)合同”長(zhǎng)什么樣3.1 協(xié)議的核心條款與邊界個(gè)人代理協(xié)議要解決的核心疑難點(diǎn)是AI代理什么時(shí)候能動(dòng)、能動(dòng)到什么程度、動(dòng)了之后怎么追溯。我根據(jù)自己的理解和公開(kāi)信息的碎片把它的邏輯拆成了四個(gè)維度。第一授權(quán)邊界。協(xié)議里會(huì)約定AI代理可以執(zhí)行的動(dòng)作類型比如瀏覽商品、比價(jià)、加入購(gòu)物車、下單以及每一類動(dòng)作的金額上限。我推測(cè)這套體系會(huì)做成可配置的而不是一刀切。比如單價(jià)低于50元的日用品可以自動(dòng)下單200元以上需要二次確認(rèn)1000元以上直接拒絕并通知用戶。這種分層授權(quán)既保住了便捷性又控制了風(fēng)險(xiǎn)。第二隱私邊界。AI代理要辦事勢(shì)必要訪問(wèn)你的購(gòu)物歷史、收貨地址、支付偏好、搜索記錄。協(xié)議需要明確哪些數(shù)據(jù)可以被代理讀取哪些絕對(duì)不能碰。我比較關(guān)心的是“數(shù)據(jù)最小化”原則有沒(méi)有被真正執(zhí)行也就是代理只讀取完成當(dāng)前任務(wù)所需的最小數(shù)據(jù)子集而不是把你所有的消費(fèi)習(xí)慣一次性打包拿走。第三責(zé)任歸屬。這是整個(gè)協(xié)議里最敏感的部分。AI代理下了單結(jié)果商品有問(wèn)題用戶找誰(shuí)AI代理誤操作買錯(cuò)了東西退款流程怎么走在不可控的AI行為面前平臺(tái)和用戶之間的責(zé)任邊界如果不提前劃清后面全是扯皮。協(xié)議里大概率會(huì)引入“代理操作日志”這個(gè)概念把每一步動(dòng)作、觸發(fā)條件、授權(quán)來(lái)源都記錄下來(lái)后續(xù)一旦有糾紛直接翻日志定責(zé)。第四撤回機(jī)制。授權(quán)不能是永久的。用戶應(yīng)該可以隨時(shí)查看代理的“權(quán)限清單”、暫停某個(gè)具體權(quán)限或者一鍵撤銷全部授權(quán)。這個(gè)機(jī)制如果做得不好等同于把家門鑰匙給了別人卻換不了鎖。3.2 三個(gè)真實(shí)落地場(chǎng)景推演光說(shuō)條款很空洞我試著還原幾個(gè)可能會(huì)很快出現(xiàn)的場(chǎng)景。場(chǎng)景一日用品自動(dòng)補(bǔ)貨。A同學(xué)每月在協(xié)議框架內(nèi)給AI代理設(shè)了500元額度用于在指定店鋪?zhàn)詣?dòng)購(gòu)買紙巾、洗漱用品等標(biāo)品。代理每周檢查一次庫(kù)存比完三家店鋪的價(jià)格后自動(dòng)下單。整個(gè)流程不需要A同學(xué)手動(dòng)參與月末收到一份消費(fèi)明細(xì)。這件事的本質(zhì)是把“固定頻率的確定性消費(fèi)”交給AI執(zhí)行省心且可預(yù)期。場(chǎng)景二售后糾紛一站式處理。B用戶買了一臺(tái)小家電一周后出問(wèn)題。傳統(tǒng)流程是找客服、錄視頻、傳票據(jù)、等審核。在新框架下AI代理可以直接訪問(wèn)電子發(fā)票、調(diào)取購(gòu)買記錄、對(duì)比售后政策甚至自動(dòng)生成申訴材料并發(fā)起退貨申請(qǐng)。用戶唯一要做的是在最終確認(rèn)頁(yè)上點(diǎn)一下“同意”。這種體驗(yàn)的差距是代際級(jí)的。場(chǎng)景三比價(jià)與優(yōu)惠最大化。C用戶想買一款耳機(jī)AI代理在同一平臺(tái)內(nèi)掃描不同店鋪的同款商品結(jié)合品牌優(yōu)惠券、平臺(tái)紅包和不同配送方案算一個(gè)綜合成本最低的購(gòu)買組合。注意這里的AI不是給你推薦一堆鏈接而是真正執(zhí)行下單、用券、預(yù)約配送這一套完整動(dòng)作。它從一個(gè)“參謀”變成了“跑腿代辦”。3.3 平臺(tái)方和開(kāi)發(fā)者要做什么準(zhǔn)備這份協(xié)議一旦鋪開(kāi)技術(shù)棧的調(diào)整是必然的。對(duì)平臺(tái)方來(lái)說(shuō)要補(bǔ)齊的是“代理接入層”。這包括一套面向AI代理的API接口規(guī)范一個(gè)權(quán)限令牌系統(tǒng)一份標(biāo)準(zhǔn)化的訂單操作審計(jì)日志。用戶授權(quán)、代理調(diào)用、訂單執(zhí)行、異常上報(bào)整個(gè)過(guò)程都要有可編程的接口和可追溯的記錄。沒(méi)有這些底層設(shè)施任何協(xié)議都只是一張廢紙。對(duì)開(kāi)發(fā)者來(lái)說(shuō)如果你在做Agent類產(chǎn)品現(xiàn)在就可以開(kāi)始研究怎么對(duì)接這類協(xié)議。未來(lái)的Agent不會(huì)只在對(duì)話框里跑它需要能調(diào)用真實(shí)世界的服務(wù)。你需要理解權(quán)限申請(qǐng)、范圍限定、事件回調(diào)、異常確認(rèn)這些交互模式。我個(gè)人判斷這會(huì)是AI應(yīng)用開(kāi)發(fā)的下一個(gè)技能點(diǎn)。4. 兩件事背后的共同主線AI正在補(bǔ)“信任基建”4.1 數(shù)學(xué)論文補(bǔ)的是“能力信任”把兩件事放同一張桌面上看你會(huì)發(fā)現(xiàn)一條隱藏主線信任。722篇數(shù)學(xué)論文解決的是“能力信任”。它背后是一整套可驗(yàn)證的推理訓(xùn)練體系目標(biāo)是讓模型在“對(duì)錯(cuò)有標(biāo)準(zhǔn)”的事情上越來(lái)越可靠。為什么先補(bǔ)這塊因?yàn)槿绻鸄I連數(shù)學(xué)這種確定性任務(wù)都搞不定你很難相信它能穩(wěn)妥地幫你處理現(xiàn)實(shí)世界里更復(fù)雜、更模糊的任務(wù)。數(shù)學(xué)是AI走向“靠譜”的入場(chǎng)券。這種能力信任的建立靠的不是模型自己說(shuō)“我會(huì)”而是用大量可驗(yàn)證的數(shù)據(jù)去反復(fù)訓(xùn)練再用公開(kāi)的數(shù)據(jù)集去證明訓(xùn)練過(guò)程的可信度。從“自說(shuō)自話”到“公開(kāi)驗(yàn)證”這是質(zhì)變。4.2 代理協(xié)議補(bǔ)的是“行為信任”個(gè)人代理協(xié)議解決的是“行為信任”。AI能力再?gòu)?qiáng)如果它在現(xiàn)實(shí)行動(dòng)中不受約束、沒(méi)有邊界、出了問(wèn)題找不到責(zé)任方那就永遠(yuǎn)只能待在聊天框里當(dāng)玩具。行為信任的意思是AI替用戶辦事的時(shí)候系統(tǒng)能夠證明“這是用戶授權(quán)的”“動(dòng)作在權(quán)限范圍內(nèi)”“過(guò)程可追溯”。代理協(xié)議就是給AI的行為裝上一個(gè)“圍欄”。它定義了哪些路可以走、哪些門不能進(jìn)、遇到突發(fā)情況怎么停下來(lái)問(wèn)人。對(duì)用戶來(lái)說(shuō)這個(gè)圍欄的存在比AI本身聰明不聰明更重要。4.3 對(duì)行業(yè)競(jìng)爭(zhēng)格局的影響這兩件事如果做實(shí)會(huì)直接改變AI競(jìng)爭(zhēng)的維度。過(guò)去的競(jìng)爭(zhēng)焦點(diǎn)基本是模型智力參數(shù)規(guī)模大不大、跑分高不高、生成流暢不流暢。而接下來(lái)的競(jìng)爭(zhēng)焦點(diǎn)會(huì)轉(zhuǎn)向“可投入生產(chǎn)的可靠性”模型能不能在真實(shí)消費(fèi)場(chǎng)景里承擔(dān)職責(zé)不能只看它的單輪回答準(zhǔn)不準(zhǔn)還要看它在長(zhǎng)鏈條執(zhí)行中的穩(wěn)定性、可審計(jì)性和容錯(cuò)能力。頭部玩家已經(jīng)不滿足于當(dāng)工具提供商它們想做的是一套“AI社會(huì)基礎(chǔ)設(shè)施”。今天放數(shù)據(jù)集提升能力明天推協(xié)議約束行為后天可能整個(gè)生態(tài)都會(huì)圍繞這兩層基建長(zhǎng)出來(lái)。這才是真正需要從業(yè)者關(guān)注的部分。5. 從看到到用到個(gè)人和團(tuán)隊(duì)的4個(gè)實(shí)操切入點(diǎn)5.1 想讓模型數(shù)學(xué)更強(qiáng)照著這三個(gè)方向做第一建評(píng)測(cè)集。別把722篇論文一次性當(dāng)訓(xùn)練集先留出20%作為評(píng)測(cè)集定期跑一遍準(zhǔn)確率和推理鏈完整性測(cè)試。第二做數(shù)據(jù)混合。純數(shù)學(xué)數(shù)據(jù)容易讓模型“偏科”建議按2比1或者3比1的比例混入通用代碼和邏輯推理數(shù)據(jù)保持泛化能力。第三重視“證明鏈”提取。論文里的結(jié)論固然重要但證明步驟、中間推導(dǎo)過(guò)程才是強(qiáng)化學(xué)習(xí)最需要的監(jiān)督信號(hào)。不要只截取結(jié)論段落要盡量保留完整推導(dǎo)結(jié)構(gòu)。5.2 想接入消費(fèi)代理場(chǎng)景先畫一張權(quán)限地圖如果你是想接代理協(xié)議做應(yīng)用的開(kāi)發(fā)者我強(qiáng)烈建議先從一張權(quán)限地圖開(kāi)始。把用戶的授權(quán)細(xì)分成四級(jí)只讀級(jí)、操作級(jí)、支付級(jí)、敏感級(jí)。然后為每一級(jí)定義明確的動(dòng)作范圍和接口調(diào)用方式。比如只讀級(jí)可以看商品詳情和價(jià)格操作級(jí)可以加購(gòu)、領(lǐng)券支付級(jí)可以下單但要觸發(fā)二次確認(rèn)敏感級(jí)涉及地址和支付信息修改必須走獨(dú)立強(qiáng)認(rèn)證。把這四級(jí)做扎實(shí)比開(kāi)發(fā)任何花哨的AI功能都重要。5.3 不想被新協(xié)議卷進(jìn)去至少要做的三件防御普通用戶即使不主動(dòng)接入這類協(xié)議也建議做三件防御性準(zhǔn)備。一是定期檢查賬號(hào)的授權(quán)列表看看哪些第三方服務(wù)拿到了權(quán)限不用的立刻撤。二是為AI代理設(shè)置單筆限額和月累計(jì)限額不要圖方便給無(wú)限額度。三是打開(kāi)所有操作通知包括下單、改地址、綁定新支付方式一旦有異動(dòng)能第一時(shí)間發(fā)現(xiàn)。5.4 給產(chǎn)品經(jīng)理的建議從“功能設(shè)計(jì)”轉(zhuǎn)向“契約設(shè)計(jì)”如果你負(fù)責(zé)AI產(chǎn)品我最大的建議是換一套設(shè)計(jì)語(yǔ)言。以前設(shè)計(jì)的是功能用戶點(diǎn)什么、AI回什么接下來(lái)設(shè)計(jì)的是契約AI在什么條件下可以替你做什么、做到哪一步需要停下來(lái)問(wèn)你。這意味著產(chǎn)品上要多幾個(gè)模塊權(quán)限管理頁(yè)、操作日志頁(yè)、異常確認(rèn)彈窗。這些模塊不性感甚至有點(diǎn)枯燥但它們才是用戶敢不敢把“花錢的事”交給AI的關(guān)鍵。沒(méi)有契約感的功能做得再順滑用戶心里也是懸的。6. 常見(jiàn)問(wèn)題速查與個(gè)人避坑記錄我把這幾天大家問(wèn)得比較多的問(wèn)題以及我自己基于過(guò)往經(jīng)驗(yàn)的一些判斷整理成了一張速查表。問(wèn)題類型具體問(wèn)題實(shí)操建議與個(gè)人心得數(shù)據(jù)使用722篇論文要不要全部拿來(lái)微調(diào)模型不建議。先抽100篇做小規(guī)模驗(yàn)證確認(rèn)數(shù)據(jù)質(zhì)量與格式統(tǒng)一性再逐步擴(kuò)量。數(shù)據(jù)清洗數(shù)學(xué)論文里的公式和符號(hào)要特殊處理嗎要看訓(xùn)練框架的Tokenizer是否覆蓋數(shù)學(xué)符號(hào)。沒(méi)覆蓋的話先做符號(hào)映射和統(tǒng)一編碼不然灌進(jìn)去也是噪聲。代理權(quán)限給AI代理多大的金額限額比較合適我的習(xí)慣是日用品50元以內(nèi)、大額200元以內(nèi)設(shè)自動(dòng)執(zhí)行超過(guò)默認(rèn)暫停并推送確認(rèn)通知。責(zé)任追溯代理誤下單了能不能退款新框架下關(guān)鍵在于你是否保存了授權(quán)憑證和操作日志。授權(quán)范圍外的操作用戶有權(quán)申訴甚至要求免責(zé)。隱私保護(hù)代理讀取了我的購(gòu)物記錄會(huì)不會(huì)被拿去訓(xùn)練這個(gè)必須看協(xié)議原文。我的底線是要求“數(shù)據(jù)最小化”即代理只能讀取本單任務(wù)所需的數(shù)據(jù)不批量采集。開(kāi)發(fā)接入Agent應(yīng)用怎么對(duì)接零售平臺(tái)先摸清兩套接口權(quán)限令牌接口和操作審計(jì)接口。前者做授權(quán)后者做留痕。沒(méi)有這兩樣寧可晚點(diǎn)上也不要裸奔。再分享三個(gè)我踩過(guò)的真實(shí)經(jīng)驗(yàn)希望能幫各位少走彎路。第一公開(kāi)數(shù)據(jù)不直接等于高質(zhì)量數(shù)據(jù)。論文PDF轉(zhuǎn)出來(lái)的文本經(jīng)常夾著雙欄排版錯(cuò)亂、公式識(shí)別錯(cuò)誤、引用編號(hào)殘留。直接拿去訓(xùn)練輕則浪費(fèi)算力重則污染模型。我處理這類語(yǔ)料的流程通常是轉(zhuǎn)文本、規(guī)則清洗、人工抽檢、格式統(tǒng)一、切分成訓(xùn)練集與評(píng)測(cè)集。第二代理類產(chǎn)品最容易被低估的是“確認(rèn)機(jī)制”。很多人以為自動(dòng)執(zhí)行越順暢越好我做下來(lái)發(fā)現(xiàn)恰恰相反關(guān)鍵步驟保留一個(gè)輕量級(jí)二次確認(rèn)會(huì)讓用戶安全感顯著提升。確認(rèn)不是打斷體驗(yàn)而是在建立契約感。用戶不怕多點(diǎn)一下怕的是AI在自己不知情的情況下做了不可逆的操作。第三權(quán)限設(shè)計(jì)的核心不是“能做什么”而是“不能做什么”。把“不能主動(dòng)變更收貨地址”“不能綁定新支付方式”“不能修改訂單金額”這些負(fù)面清單寫清楚比寫一百條正向能力都管用。我個(gè)人在這一輪行業(yè)變化里的體會(huì)是AI的能力邊界正在被重新定義而真正決定這項(xiàng)技術(shù)能走多遠(yuǎn)的不是它能在多少道數(shù)學(xué)題上拿滿分也不是它能在多少毫秒內(nèi)完成一次下單而是它能不能在需要說(shuō)“不”的時(shí)候停下來(lái)、在需要負(fù)責(zé)的時(shí)候被追溯。數(shù)學(xué)論文是讓AI變得更強(qiáng)代理協(xié)議是讓AI變得可信。這兩個(gè)字——“強(qiáng)”和“信”——才是接下來(lái)的主旋律。如果你手頭正在做相關(guān)方向的事我的建議是別追風(fēng)口先把手里的權(quán)限邊界、數(shù)據(jù)質(zhì)量、評(píng)測(cè)基線這三件事做扎實(shí)等潮水真正到來(lái)的時(shí)候你至少已經(jīng)站在了岸邊。