1. 三條熱搜背后的技術(shù)信號(hào)拆解1.1 為什么這三條新聞值得放在一起看把這三條消息放在同一天來(lái)讀其實(shí)能拼出一張很清晰的行業(yè)地圖。第一條關(guān)于某頭部模型團(tuán)隊(duì)一次性放出377項(xiàng)數(shù)學(xué)成果第二條關(guān)于兩家科技巨頭聯(lián)手重造PC形態(tài)第三條關(guān)于代碼托管平臺(tái)上三分之一的合并請(qǐng)求已經(jīng)由AI完成。這三件事分別對(duì)應(yīng)了AI能力的上限突破、載體遷移和生產(chǎn)落地恰好是技術(shù)從實(shí)驗(yàn)室走向日常工作的完整鏈條。我平時(shí)關(guān)注行業(yè)動(dòng)態(tài)有個(gè)習(xí)慣就是不看單條新聞的熱鬧而是看同一天不同方向的消息能不能互相印證。這次三條消息的共振非常明顯模型在純智力任務(wù)上開(kāi)始觸碰人類(lèi)前沿硬件廠商在重新定義計(jì)算設(shè)備的形態(tài)而軟件開(kāi)發(fā)這個(gè)最成熟的數(shù)字化生產(chǎn)場(chǎng)景里AI已經(jīng)悄悄占到了三分之一的實(shí)際產(chǎn)出。這三個(gè)信號(hào)疊加起來(lái)說(shuō)明AI不再是一個(gè)需要被討論能不能用的話題而是已經(jīng)進(jìn)入了怎么用得好的階段。對(duì)于普通開(kāi)發(fā)者和技術(shù)愛(ài)好者來(lái)說(shuō)這意味著兩件事。第一你手里的工具鏈會(huì)在這半年內(nèi)發(fā)生肉眼可見(jiàn)的變化尤其是寫(xiě)代碼、查資料、做數(shù)學(xué)推導(dǎo)這些環(huán)節(jié)。第二理解這些變化背后的原理比追著每一個(gè)新工具跑更重要因?yàn)楣ぞ邥?huì)換但底層的推理機(jī)制、工程約束和協(xié)作模式在短期內(nèi)是穩(wěn)定的。1.2 377項(xiàng)數(shù)學(xué)成果到底意味著什么先說(shuō)這個(gè)377項(xiàng)數(shù)學(xué)成果的事。很多人看到這個(gè)數(shù)字的第一反應(yīng)是AI又刷榜了但真正值得關(guān)注的是這些成果的性質(zhì)。根據(jù)公開(kāi)討論的內(nèi)容這批成果覆蓋了組合數(shù)學(xué)、數(shù)論、圖論等多個(gè)分支其中一部分是已知定理的新證明另一部分是此前未被記錄的小型猜想驗(yàn)證。爭(zhēng)議點(diǎn)主要集中在兩個(gè)方面一是這些成果是否經(jīng)過(guò)了嚴(yán)格的同行評(píng)審二是AI在其中的貢獻(xiàn)比例到底怎么界定。從技術(shù)角度看一個(gè)模型能在數(shù)學(xué)這種對(duì)邏輯嚴(yán)密性要求極高的領(lǐng)域批量產(chǎn)出可驗(yàn)證的結(jié)果說(shuō)明它的推理鏈條已經(jīng)能夠維持足夠長(zhǎng)的連貫性。數(shù)學(xué)證明和寫(xiě)文章不一樣中間任何一步邏輯斷裂整個(gè)證明就廢了。377項(xiàng)成果哪怕只有一部分是真正有價(jià)值的也說(shuō)明模型在長(zhǎng)程推理上的穩(wěn)定性有了實(shí)質(zhì)提升。但爭(zhēng)議也是合理的。數(shù)學(xué)界的慣例是一個(gè)新證明需要經(jīng)過(guò)領(lǐng)域?qū)＜曳磸?fù)檢驗(yàn)才能被承認(rèn)而AI批量產(chǎn)出的成果在評(píng)審流程上很難跟上。這就引出一個(gè)很現(xiàn)實(shí)的問(wèn)題當(dāng)AI的產(chǎn)出速度遠(yuǎn)超人類(lèi)評(píng)審速度時(shí)我們?cè)撛趺唇⑿碌馁|(zhì)量篩選機(jī)制這個(gè)問(wèn)題目前沒(méi)有標(biāo)準(zhǔn)答案但可以確定的是單純看數(shù)量沒(méi)有意義關(guān)鍵要看有多少成果能被獨(dú)立驗(yàn)證并納入知識(shí)體系。提示如果你在關(guān)注這類(lèi)成果建議重點(diǎn)看那些提供了完整證明步驟、且能被現(xiàn)有數(shù)學(xué)工具輔助驗(yàn)證的條目而不是只看總數(shù)。1.3 重造PC這件事的底層邏輯第二條消息關(guān)于兩家公司聯(lián)手重造PC這個(gè)方向其實(shí)醞釀了很久。傳統(tǒng)PC的架構(gòu)是CPU負(fù)責(zé)通用計(jì)算GPU負(fù)責(zé)圖形和并行計(jì)算兩者通過(guò)總線連接數(shù)據(jù)來(lái)回搬運(yùn)的延遲和功耗一直是瓶頸。現(xiàn)在要做的事情本質(zhì)上是在芯片層面把計(jì)算單元和內(nèi)存的距離拉近甚至讓AI推理任務(wù)直接在更靠近數(shù)據(jù)的地方完成。具體來(lái)說(shuō)這種新形態(tài)的PC會(huì)強(qiáng)調(diào)幾個(gè)能力本地運(yùn)行中等規(guī)模的模型、實(shí)時(shí)處理多模態(tài)輸入、以及在斷網(wǎng)狀態(tài)下保持核心AI功能可用。這對(duì)開(kāi)發(fā)者意味著什么意味著你寫(xiě)的應(yīng)用不能再假設(shè)算力在云端而要考慮端側(cè)推理的延遲、內(nèi)存占用和功耗預(yù)算。以前做AI應(yīng)用大家習(xí)慣把請(qǐng)求發(fā)到服務(wù)器現(xiàn)在這個(gè)假設(shè)正在被打破。我個(gè)人的判斷是這類(lèi)設(shè)備第一代不會(huì)便宜也不會(huì)適合所有人但它代表的方向是明確的。就像當(dāng)年從機(jī)械硬盤(pán)過(guò)渡到固態(tài)硬盤(pán)一開(kāi)始只有高端機(jī)型用后來(lái)變成標(biāo)配。端側(cè)AI能力也會(huì)走類(lèi)似的路只不過(guò)這次過(guò)渡速度會(huì)快很多因?yàn)檐浖鷳B(tài)的遷移成本比硬件制造低得多。1.4 三分之一PR由AI完成說(shuō)明了什么第三條消息可能是對(duì)普通開(kāi)發(fā)者影響最直接的。代碼托管平臺(tái)上三分之一的合并請(qǐng)求已經(jīng)由AI參與完成這個(gè)比例比我年初預(yù)估的要高。需要澄清的是由AI完成不等于AI獨(dú)立完成大多數(shù)情況是AI生成初稿、人類(lèi)審核修改或者AI輔助修復(fù)bug、補(bǔ)充測(cè)試。但即便如此三分之一這個(gè)量級(jí)也說(shuō)明AI已經(jīng)深度嵌入了日常開(kāi)發(fā)流程。從工程角度看這件事的意義在于協(xié)作模式的變化。以前一個(gè)PR從提交到合并主要成本在寫(xiě)代碼和review上。現(xiàn)在寫(xiě)代碼的成本被大幅壓縮review反而成了新的瓶頸。我觀察到的一個(gè)現(xiàn)象是很多團(tuán)隊(duì)的review時(shí)間不降反升因?yàn)锳I生成的代碼雖然能跑但風(fēng)格不統(tǒng)一、邊界條件考慮不周全review的人需要花更多精力去判斷這段代碼能不能信。這就引出一個(gè)很實(shí)際的技能需求如何高效地review AI生成的代碼。這跟review人類(lèi)同事的代碼不一樣人類(lèi)寫(xiě)代碼會(huì)有慣性思維你能猜到他的意圖AI寫(xiě)代碼有時(shí)候會(huì)繞遠(yuǎn)路或者用一些你沒(méi)想到的寫(xiě)法你需要快速判斷這是更優(yōu)解還是隱藏的坑。這個(gè)能力目前還沒(méi)有系統(tǒng)的培訓(xùn)材料主要靠實(shí)踐積累。2. 從數(shù)學(xué)成果爭(zhēng)議看AI推理能力的真實(shí)邊界2.1 長(zhǎng)程推理為什么是道坎要理解377項(xiàng)數(shù)學(xué)成果的分量得先明白長(zhǎng)程推理難在哪里。你可以把模型的推理過(guò)程想象成走迷宮每一步都有多個(gè)岔路走錯(cuò)一步后面就全錯(cuò)了。短程推理比如3加5等于幾模型幾乎不會(huì)錯(cuò)但數(shù)學(xué)證明動(dòng)輒幾十步甚至上百步每一步都要保持邏輯一致這對(duì)模型的狀態(tài)維持能力是極大的考驗(yàn)。早期的模型在長(zhǎng)程推理上經(jīng)常出現(xiàn)中間步驟正確、最后結(jié)論跑偏的情況原因是它在生成過(guò)程中會(huì)逐漸丟失前面的約束條件。后來(lái)的改進(jìn)主要集中在兩個(gè)方向一是讓模型在推理時(shí)顯式地寫(xiě)出中間步驟相當(dāng)于把思路外化減少內(nèi)部狀態(tài)丟失二是引入驗(yàn)證機(jī)制讓另一個(gè)模型或者工具來(lái)檢查每一步是否合法。這次377項(xiàng)成果能批量產(chǎn)出說(shuō)明這兩個(gè)方向的工程化已經(jīng)比較成熟了。但成熟不等于完美。我實(shí)測(cè)過(guò)一些數(shù)學(xué)推理任務(wù)模型在遇到需要構(gòu)造性證明的題目時(shí)表現(xiàn)明顯不如驗(yàn)證性證明。也就是說(shuō)讓它驗(yàn)證一個(gè)給定證明對(duì)不對(duì)它做得不錯(cuò)讓它從零構(gòu)造一個(gè)證明成功率就下降很多。這次公布的成果里有多少是構(gòu)造性的有多少是驗(yàn)證性的這個(gè)比例很關(guān)鍵但公開(kāi)信息里沒(méi)有明確區(qū)分。2.2 爭(zhēng)議背后的評(píng)審機(jī)制問(wèn)題數(shù)學(xué)界對(duì)AI成果的謹(jǐn)慎態(tài)度本質(zhì)上不是排斥新技術(shù)而是評(píng)審機(jī)制跟不上。一篇人類(lèi)數(shù)學(xué)家寫(xiě)的論文從投稿到發(fā)表通常要幾個(gè)月甚至幾年期間經(jīng)過(guò)多輪同行評(píng)審。AI一天產(chǎn)出幾百項(xiàng)成果如果每一項(xiàng)都要走這個(gè)流程評(píng)審資源根本不夠用。目前比較務(wù)實(shí)的做法是分層處理對(duì)于能直接被現(xiàn)有定理庫(kù)驗(yàn)證的成果用自動(dòng)化工具先篩一遍對(duì)于需要人類(lèi)判斷的挑出最有價(jià)值的少量條目送審剩下的作為待驗(yàn)證資料存檔。這個(gè)流程聽(tīng)起來(lái)合理但實(shí)際操作中最有價(jià)值的判斷標(biāo)準(zhǔn)很難統(tǒng)一容易漏掉一些看起來(lái)不起眼但后續(xù)很重要的結(jié)果。注意如果你在跟進(jìn)這類(lèi)成果不要只看新聞標(biāo)題里的數(shù)字要去查原始資料里有沒(méi)有提供完整的證明步驟和驗(yàn)證方式。沒(méi)有驗(yàn)證路徑的成果參考價(jià)值有限。2.3 對(duì)普通開(kāi)發(fā)者的實(shí)際影響數(shù)學(xué)成果聽(tīng)起來(lái)離日常開(kāi)發(fā)很遠(yuǎn)但它背后的推理能力提升會(huì)很快滲透到工具層。最直接的影響是代碼生成的質(zhì)量。寫(xiě)代碼本質(zhì)上也是一種邏輯構(gòu)造模型在數(shù)學(xué)推理上的進(jìn)步會(huì)直接反映在代碼的邊界條件處理、算法選擇和錯(cuò)誤預(yù)防上。我自己的體感是最近半年AI生成的代碼在一次通過(guò)率上有明顯提升尤其是涉及復(fù)雜條件判斷和循環(huán)邏輯的部分。以前經(jīng)常需要手動(dòng)補(bǔ)邊界條件現(xiàn)在這種情況少了很多。這背后就是推理能力提升帶來(lái)的紅利雖然普通用戶(hù)感知不到數(shù)學(xué)成果本身但能感知到工具變好用了。另一個(gè)影響是調(diào)試輔助。當(dāng)代碼出錯(cuò)時(shí)模型現(xiàn)在能更準(zhǔn)確地定位到邏輯錯(cuò)誤的根源而不是只告訴你這里報(bào)錯(cuò)了。這同樣依賴(lài)于長(zhǎng)程推理能力因?yàn)樗枰獜腻e(cuò)誤現(xiàn)象反推到最初的邏輯偏差。3. 端側(cè)AI與PC形態(tài)重構(gòu)的工程細(xì)節(jié)3.1 端側(cè)推理的算力賬怎么算重造PC的核心目標(biāo)之一是讓中等規(guī)模的模型能在本地流暢運(yùn)行。這里有個(gè)基本的算力賬要算清楚。假設(shè)一個(gè)模型有70億參數(shù)用16位精度存儲(chǔ)光模型權(quán)重就要占大約14GB內(nèi)存。如果再加上推理時(shí)的中間激活值實(shí)際內(nèi)存占用會(huì)更高。這意味著端側(cè)設(shè)備至少要有16GB以上的可用內(nèi)存最好有32GB。算力方面推理速度和芯片的內(nèi)存帶寬關(guān)系最大而不是單純的算力峰值。因?yàn)橥评磉^(guò)程中大量時(shí)間花在把權(quán)重從內(nèi)存搬到計(jì)算單元上帶寬不夠算力再?gòu)?qiáng)也喂不飽。這就是為什么新的PC架構(gòu)強(qiáng)調(diào)內(nèi)存和計(jì)算單元的集成目的就是減少數(shù)據(jù)搬運(yùn)的開(kāi)銷(xiāo)。功耗是另一個(gè)約束。桌面設(shè)備可以不太在意功耗但筆記本和平板必須考慮續(xù)航。本地跑模型時(shí)芯片會(huì)持續(xù)高負(fù)載運(yùn)行功耗墻很快就到了。所以端側(cè)推理通常會(huì)做量化把16位精度壓到8位甚至4位犧牲一點(diǎn)精度換功耗和速度。量化后的模型在通用任務(wù)上表現(xiàn)下降不明顯但在需要精細(xì)判斷的任務(wù)上會(huì)有可感知的差距。3.2 開(kāi)發(fā)者需要調(diào)整的思維習(xí)慣以前做AI應(yīng)用開(kāi)發(fā)者習(xí)慣把模型當(dāng)成一個(gè)遠(yuǎn)程服務(wù)調(diào)用時(shí)只關(guān)心輸入輸出不關(guān)心它跑在哪里。端側(cè)AI打破了這個(gè)假設(shè)你需要關(guān)心模型什么時(shí)候加載、占多少內(nèi)存、推理時(shí)會(huì)不會(huì)卡住界面。這些在云端都不是問(wèn)題在端側(cè)全是問(wèn)題。我建議的調(diào)整方式是把模型當(dāng)成一個(gè)重量級(jí)依賴(lài)來(lái)對(duì)待就像以前對(duì)待數(shù)據(jù)庫(kù)連接池一樣。你需要管理它的生命周期預(yù)熱、緩存、釋放都要有策略。比如用戶(hù)打開(kāi)應(yīng)用時(shí)不要立刻加載模型而是等真正需要AI功能時(shí)再加載加載過(guò)程中給個(gè)明確的進(jìn)度提示避免界面無(wú)響應(yīng)。另一個(gè)習(xí)慣調(diào)整是降級(jí)策略。端側(cè)設(shè)備性能參差不齊高端設(shè)備能跑大模型低端設(shè)備只能跑小模型或者干脆走云端。你的應(yīng)用需要能根據(jù)設(shè)備能力自動(dòng)選擇推理路徑而不是假設(shè)所有設(shè)備都一樣。這個(gè)適配工作量不小但端側(cè)AI應(yīng)用遲早都要面對(duì)。3.3 本地與云端的混合架構(gòu)怎么設(shè)計(jì)完全端側(cè)和完全云端都不是最優(yōu)解實(shí)際產(chǎn)品大概率是混合架構(gòu)。我的經(jīng)驗(yàn)是按任務(wù)敏感度來(lái)劃分涉及隱私數(shù)據(jù)的任務(wù)盡量端側(cè)完成需要強(qiáng)推理能力的任務(wù)走云端中間地帶根據(jù)網(wǎng)絡(luò)狀況和設(shè)備負(fù)載動(dòng)態(tài)決定。具體實(shí)現(xiàn)上可以設(shè)計(jì)一個(gè)路由層它根據(jù)任務(wù)類(lèi)型、設(shè)備狀態(tài)和網(wǎng)絡(luò)條件決定推理位置。這個(gè)路由層的邏輯不復(fù)雜但需要仔細(xì)調(diào)參。比如網(wǎng)絡(luò)延遲超過(guò)某個(gè)閾值時(shí)即使任務(wù)適合云端也切到端側(cè)用較小模型先給個(gè)粗略結(jié)果等網(wǎng)絡(luò)恢復(fù)再補(bǔ)充精確結(jié)果。這種先給反饋再優(yōu)化的模式在用戶(hù)體驗(yàn)上比干等云端響應(yīng)要好得多。提示混合架構(gòu)的調(diào)試比純端或純?cè)贫悸闊┙ㄗh在開(kāi)發(fā)早期就把日志打全記錄每次推理的位置、耗時(shí)和結(jié)果質(zhì)量后續(xù)優(yōu)化才有依據(jù)。4. AI參與代碼生產(chǎn)的協(xié)作模式變化4.1 三分之一PR背后的真實(shí)工作流三分之一PR由AI參與這個(gè)數(shù)字背后是多種不同的工作流。我觀察到的模式主要有三類(lèi)第一類(lèi)是AI生成完整初稿人類(lèi)做review和修改第二類(lèi)是AI輔助修復(fù)人類(lèi)定位問(wèn)題后讓AI生成補(bǔ)丁第三類(lèi)是AI補(bǔ)充測(cè)試和文檔人類(lèi)寫(xiě)核心邏輯。這三類(lèi)的比例在不同團(tuán)隊(duì)差異很大但整體趨勢(shì)是AI承擔(dān)的比例在上升。對(duì)開(kāi)發(fā)者來(lái)說(shuō)最需要適應(yīng)的是從寫(xiě)代碼轉(zhuǎn)向?qū)彺a。以前你的核心產(chǎn)出是代碼本身現(xiàn)在你的核心產(chǎn)出是判斷力——判斷AI寫(xiě)的代碼能不能用、哪里需要改、有沒(méi)有隱藏風(fēng)險(xiǎn)。這個(gè)轉(zhuǎn)變對(duì)很多人來(lái)說(shuō)不舒服因?yàn)閷?xiě)代碼有明確的成就感審代碼則更像挑毛病。但從效率角度看這個(gè)轉(zhuǎn)變是值得的。我自己的實(shí)測(cè)是用AI生成初稿再人工精修整體耗時(shí)比純手寫(xiě)減少大約四成而且最終代碼質(zhì)量在多數(shù)場(chǎng)景下不降反升因?yàn)锳I不會(huì)犯復(fù)制粘貼忘了改變量名這類(lèi)低級(jí)錯(cuò)誤。前提是你得認(rèn)真review不能直接合并。4.2 高效review AI代碼的幾個(gè)要點(diǎn)review AI生成的代碼和review人類(lèi)代碼有幾點(diǎn)不同。第一不要假設(shè)AI理解你的業(yè)務(wù)上下文。它生成的代碼可能在語(yǔ)法上完美但業(yè)務(wù)邏輯上跑偏因?yàn)樗恢滥銈兿到y(tǒng)里某個(gè)字段的特殊含義。所以review時(shí)要重點(diǎn)檢查業(yè)務(wù)規(guī)則相關(guān)的部分。第二關(guān)注邊界條件。AI傾向于生成正常路徑的代碼對(duì)異常輸入、空值、并發(fā)沖突這些情況的處理往往不夠周全。我習(xí)慣在review時(shí)專(zhuān)門(mén)找這些地方看有沒(méi)有遺漏的判斷。第三檢查依賴(lài)和版本。AI有時(shí)會(huì)引用一些過(guò)時(shí)或者不存在的庫(kù)版本這在運(yùn)行前很難發(fā)現(xiàn)。建議在CI流程里加一步依賴(lài)檢查自動(dòng)攔截這類(lèi)問(wèn)題。第四留意性能陷阱。AI生成的代碼在功能上正確但可能用了低效的寫(xiě)法比如在循環(huán)里做重復(fù)查詢(xún)、用嵌套循環(huán)處理本可以一次遍歷完成的任務(wù)。這類(lèi)問(wèn)題在小數(shù)據(jù)量下看不出來(lái)上線后才暴露。4.3 團(tuán)隊(duì)協(xié)作規(guī)范要怎么調(diào)整當(dāng)AI成為代碼生產(chǎn)的重要參與者時(shí)團(tuán)隊(duì)的協(xié)作規(guī)范需要相應(yīng)調(diào)整。我建議至少明確三件事AI生成代碼的標(biāo)記方式、review的額外要求、以及責(zé)任歸屬。標(biāo)記方式上可以在commit信息里注明哪些部分是AI生成的方便后續(xù)追溯。這不是為了追責(zé)而是為了在出問(wèn)題時(shí)能快速定位是生成環(huán)節(jié)還是修改環(huán)節(jié)引入的缺陷。review要求上對(duì)AI生成的代碼應(yīng)該比人類(lèi)代碼更嚴(yán)格尤其是測(cè)試覆蓋。人類(lèi)寫(xiě)的代碼通常有隱含的上下文理解AI沒(méi)有所以需要更明確的測(cè)試來(lái)保證行為正確。責(zé)任歸屬上原則很簡(jiǎn)單誰(shuí)合并誰(shuí)負(fù)責(zé)。不管代碼是誰(shuí)寫(xiě)的還是哪個(gè)AI生成的合并的人承擔(dān)最終責(zé)任。這個(gè)原則能避免這是AI寫(xiě)的所以不怪我這種心態(tài)保證review質(zhì)量。5. 常見(jiàn)問(wèn)題與實(shí)操避坑指南5.1 數(shù)學(xué)推理類(lèi)工具的使用誤區(qū)很多人用AI做數(shù)學(xué)推導(dǎo)時(shí)容易犯一個(gè)錯(cuò)誤只看結(jié)論不看過(guò)程。AI給出的結(jié)論可能是對(duì)的但推導(dǎo)過(guò)程有跳躍或者隱含假設(shè)如果你直接采信結(jié)論而不檢查過(guò)程在后續(xù)使用中可能踩坑。我的習(xí)慣是凡是用于實(shí)際工作的數(shù)學(xué)結(jié)果都要把推導(dǎo)過(guò)程逐步核對(duì)一遍尤其是那些顯然可得的步驟往往藏著問(wèn)題。另一個(gè)誤區(qū)是過(guò)度信任符號(hào)計(jì)算。AI在處理符號(hào)推導(dǎo)時(shí)有時(shí)會(huì)混淆變量作用域或者在不該化簡(jiǎn)的地方化簡(jiǎn)。這類(lèi)錯(cuò)誤很隱蔽因?yàn)榻Y(jié)果看起來(lái)合理。建議在關(guān)鍵步驟上用獨(dú)立的工具交叉驗(yàn)證不要只依賴(lài)一個(gè)來(lái)源。5.2 端側(cè)AI應(yīng)用的性能排查端側(cè)AI應(yīng)用最常見(jiàn)的性能問(wèn)題是首次推理特別慢。原因是模型加載和初始化需要時(shí)間第一次調(diào)用時(shí)這些開(kāi)銷(xiāo)都算在用戶(hù)頭上。解決辦法是在應(yīng)用啟動(dòng)后、用戶(hù)觸發(fā)AI功能前用一個(gè)低優(yōu)先級(jí)的后臺(tái)任務(wù)預(yù)熱模型。預(yù)熱不需要跑完整推理只要把權(quán)重加載到內(nèi)存并做一次簡(jiǎn)單的前向計(jì)算就行。第二個(gè)常見(jiàn)問(wèn)題是內(nèi)存抖動(dòng)。端側(cè)設(shè)備內(nèi)存有限模型加載后如果頻繁分配釋放臨時(shí)緩沖區(qū)會(huì)導(dǎo)致內(nèi)存碎片化最終觸發(fā)系統(tǒng)回收表現(xiàn)為間歇性卡頓。解決辦法是預(yù)分配固定的緩沖區(qū)推理時(shí)復(fù)用不要每次動(dòng)態(tài)申請(qǐng)。第三個(gè)問(wèn)題是熱管理。持續(xù)推理會(huì)讓芯片發(fā)熱觸發(fā)降頻推理速度越來(lái)越慢。這個(gè)在手機(jī)上尤其明顯。緩解辦法是控制單次推理的時(shí)長(zhǎng)把長(zhǎng)任務(wù)拆成多個(gè)短任務(wù)中間留出散熱間隙。5.3 AI代碼review的速查表問(wèn)題類(lèi)型檢查要點(diǎn)常見(jiàn)表現(xiàn)業(yè)務(wù)邏輯字段含義、規(guī)則優(yōu)先級(jí)語(yǔ)法正確但業(yè)務(wù)結(jié)果錯(cuò)誤邊界條件空值、越界、并發(fā)正常輸入通過(guò)異常輸入崩潰依賴(lài)版本庫(kù)版本、API兼容性本地能跑CI失敗性能循環(huán)內(nèi)查詢(xún)、重復(fù)計(jì)算小數(shù)據(jù)正常大數(shù)據(jù)超時(shí)安全輸入校驗(yàn)、權(quán)限檢查功能正常但存在注入風(fēng)險(xiǎn)這張表是我自己review時(shí)常用的檢查清單按優(yōu)先級(jí)從上到下。業(yè)務(wù)邏輯和邊界條件是最容易出問(wèn)題的地方建議每次review都過(guò)一遍。依賴(lài)和性能問(wèn)題可以在CI階段用自動(dòng)化工具攔截一部分但人工檢查仍然必要。5.4 混合架構(gòu)的調(diào)試技巧混合架構(gòu)最難調(diào)試的是推理位置切換時(shí)的行為不一致。同一個(gè)請(qǐng)求端側(cè)和云端可能給出不同結(jié)果用戶(hù)會(huì)感到困惑。解決辦法是統(tǒng)一后處理邏輯讓端側(cè)和云端的輸出經(jīng)過(guò)同一套格式化流程減少表面差異。至于結(jié)果本身的差異如果業(yè)務(wù)允許可以在界面上標(biāo)注當(dāng)前為快速結(jié)果給用戶(hù)預(yù)期。另一個(gè)技巧是記錄推理路徑。每次推理都記錄是在端側(cè)還是云端完成的、耗時(shí)多少、結(jié)果置信度如何。這些日志在排查為什么這次結(jié)果不一樣時(shí)非常有用。我一般會(huì)在開(kāi)發(fā)階段把日志級(jí)別調(diào)高上線后保留關(guān)鍵字段方便回溯。6. 這些變化對(duì)個(gè)人技能棧的長(zhǎng)期影響6.1 哪些技能在升值哪些在貶值從這三條消息能看出一個(gè)清晰的趨勢(shì)執(zhí)行類(lèi)技能在貶值判斷類(lèi)技能在升值。寫(xiě)代碼、做數(shù)學(xué)推導(dǎo)、生成文檔這些執(zhí)行類(lèi)工作AI的參與度會(huì)越來(lái)越高。而判斷代碼質(zhì)量、判斷數(shù)學(xué)證明是否可靠、判斷架構(gòu)方案是否合理這些判斷類(lèi)工作反而更需要人來(lái)做因?yàn)锳I目前還不擅長(zhǎng)對(duì)自己的產(chǎn)出做批判性評(píng)估。具體到技能棧上我建議重點(diǎn)投入三個(gè)方向。第一是領(lǐng)域知識(shí)你對(duì)業(yè)務(wù)的理解越深越能判斷AI的產(chǎn)出是否符合實(shí)際需求。第二是驗(yàn)證能力包括寫(xiě)測(cè)試、做交叉驗(yàn)證、設(shè)計(jì)實(shí)驗(yàn)這些能力在AI產(chǎn)出泛濫的環(huán)境下會(huì)越來(lái)越重要。第三是架構(gòu)設(shè)計(jì)尤其是混合架構(gòu)的設(shè)計(jì)能力因?yàn)槎藗?cè)和云端的邊界會(huì)長(zhǎng)期存在怎么劃分任務(wù)、怎么保證一致性這些都需要人來(lái)決策。6.2 學(xué)習(xí)路徑的調(diào)整建議如果你還在按傳統(tǒng)路徑學(xué)習(xí)編程我建議做兩個(gè)調(diào)整。一是盡早把AI工具納入日常練習(xí)不是用它替你寫(xiě)作業(yè)而是用它生成代碼后你來(lái)review訓(xùn)練自己的判斷力。二是加強(qiáng)數(shù)學(xué)和邏輯基礎(chǔ)因?yàn)锳I產(chǎn)出的代碼和推導(dǎo)越來(lái)越復(fù)雜沒(méi)有扎實(shí)的基礎(chǔ)你連review都做不了。對(duì)于已經(jīng)在職的開(kāi)發(fā)者調(diào)整的重點(diǎn)是工作流的重構(gòu)。把重復(fù)性的編碼任務(wù)交給AI自己把時(shí)間花在需求分析、方案設(shè)計(jì)和質(zhì)量把關(guān)上。這個(gè)轉(zhuǎn)變一開(kāi)始會(huì)不適應(yīng)因?yàn)閷?xiě)代碼有即時(shí)的成就感而設(shè)計(jì)和把關(guān)的反饋周期更長(zhǎng)。但從長(zhǎng)期看這個(gè)轉(zhuǎn)變是必須的越早適應(yīng)越主動(dòng)。6.3 我個(gè)人的實(shí)踐體會(huì)最后分享一點(diǎn)我自己的體會(huì)。這半年我明顯感覺(jué)到工作中動(dòng)手的時(shí)間在減少動(dòng)腦的時(shí)間在增加。以前一天可能寫(xiě)幾百行代碼現(xiàn)在可能只寫(xiě)幾十行但花在思考架構(gòu)、review產(chǎn)出、驗(yàn)證結(jié)果上的時(shí)間多了很多。這個(gè)變化一開(kāi)始讓我有點(diǎn)焦慮覺(jué)得自己的編碼能力在退化。但后來(lái)想明白了編碼能力不只是打字速度更重要的是知道該寫(xiě)什么、不該寫(xiě)什么這個(gè)能力反而在提升。另一個(gè)體會(huì)是工具的選擇比工具的使用更重要。AI工具層出不窮每個(gè)都學(xué)一遍不現(xiàn)實(shí)。我的策略是只深入掌握一兩個(gè)主力工具其他的了解基本能力就行需要時(shí)再查文檔。把省下來(lái)的時(shí)間用在理解原理和積累領(lǐng)域知識(shí)上這些才是長(zhǎng)期競(jìng)爭(zhēng)力。提示不要因?yàn)锳I能寫(xiě)代碼就放棄學(xué)習(xí)編程基礎(chǔ)。恰恰相反基礎(chǔ)越扎實(shí)你越能判斷AI產(chǎn)出的質(zhì)量越能寫(xiě)出高質(zhì)量的提示詞越能在AI出錯(cuò)時(shí)快速定位問(wèn)題。