芯片世界里有一句話最近被工程師們重復(fù)得越來越多AI贏了棋局卻講不出思路。就在上個(gè)月我拿著一個(gè)AI輔助完成的block級floorplan給物理設(shè)計(jì)團(tuán)隊(duì)線長比上一版少了12%擁塞圖也干凈得不像話。結(jié)果等IR壓降全芯片仿真跑完某條buffer鏈所在區(qū)域的vdd電壓被拉低超了2.3%溫度云圖上一整條熱點(diǎn)橫穿而過。那一刻我意識到我在交付的不是“一個(gè)更好的方案”而是“一個(gè)無法解釋的方案”——這正是“AI 在芯片領(lǐng)域依然是個(gè)黑盒”的真實(shí)寫照。這篇文章不是否定AI在芯片設(shè)計(jì)里的價(jià)值恰恰相反我的項(xiàng)目組已經(jīng)把AI用在了floorplan、擁塞預(yù)測、時(shí)序優(yōu)化等多個(gè)環(huán)節(jié)節(jié)省了大量人工迭代時(shí)間。但與此同時(shí)我也清楚地看到了黑盒帶來的風(fēng)險(xiǎn)模型能給出漂亮的分?jǐn)?shù)卻給不出物理層面的因果。本文會(huì)用一次具體的失敗案例、幾條可以照抄的防御手段以及我自己沉淀出的使用底線聊聊怎么在享受AI效率的同時(shí)不讓黑盒在簽核階段反過來咬你一口。1. 芯片設(shè)計(jì)里的AI含量哪些環(huán)節(jié)已經(jīng)像黑盒一樣運(yùn)轉(zhuǎn)1.1 布局規(guī)劃只是被討論最多的冰山一角大多數(shù)人提到AI做芯片第一反應(yīng)都是“AI自動(dòng)布局布線”。確實(shí)布局規(guī)劃是AI落地最早、宣傳最猛的方向但真正在實(shí)際項(xiàng)目里AI早就滲透到了更細(xì)碎的節(jié)點(diǎn)宏單元放置強(qiáng)化學(xué)習(xí)把memory、register file、大的模擬IP當(dāng)作可移動(dòng)的塊通過獎(jiǎng)勵(lì)函數(shù)學(xué)習(xí)“什么相對位置能讓整體線長最短、擁塞最低”。布線擁塞預(yù)測以前要跑一遍全局布線才能拿到擁塞圖現(xiàn)在用圖神經(jīng)網(wǎng)絡(luò)看floorplan和圖連接關(guān)系就能直接輸出預(yù)測熱圖省掉幾個(gè)小時(shí)。單元選型與VT分配高閾值電壓單元省功耗但拖時(shí)序低閾值單元提速但漏電大AI在這類多目標(biāo)組合優(yōu)化里表現(xiàn)非常穩(wěn)定。時(shí)鐘樹綜合參數(shù)調(diào)優(yōu)時(shí)鐘樹的buffer級數(shù)、位置分布直接影響skew和功耗AI用歷史設(shè)計(jì)數(shù)據(jù)做回歸能快速推薦參數(shù)組合省掉反復(fù)試錯(cuò)。時(shí)序路徑的快速預(yù)估用學(xué)習(xí)模型繞過詳細(xì)布線直接估計(jì)關(guān)鍵路徑延時(shí)提前發(fā)現(xiàn)潛在violation從而指導(dǎo)早期布局調(diào)整。這些環(huán)節(jié)有一個(gè)共同特征搜索空間巨大傳統(tǒng)解析方法難以快速收斂。以單元選型為例一個(gè)中等規(guī)模的block可能有幾十萬個(gè)標(biāo)準(zhǔn)單元每個(gè)單元又有低VT、標(biāo)準(zhǔn)VT、高VT三檔可選組合數(shù)遠(yuǎn)超窮舉能力。傳統(tǒng)做法是用靜態(tài)時(shí)序分析反饋迭代跑一輪要幾小時(shí)AI則把“先仿真再?zèng)Q策”變成了“先預(yù)測再微調(diào)”速度優(yōu)勢非常明顯。1.2 從解析器到神經(jīng)網(wǎng)絡(luò)的范式換擋代價(jià)是“可解釋性”傳統(tǒng)EDA算法大體上是解析型的明確的約束條件、明確的目標(biāo)函數(shù)、迭代求解到收斂。它慢但每一步都有據(jù)可循。最大缺陷是容量不夠。遇到幾百個(gè)宏單元的大型SoC哪怕只做二維布局搜索計(jì)算量也讓人頭皮發(fā)麻。AI的優(yōu)勢在于用訓(xùn)練好的權(quán)重替代了搜索過程中的大量“回溯嘗試”整體求解路徑被壓縮到極短。代價(jià)就是模型內(nèi)部的1200萬參數(shù)沒有哪怕一個(gè)參數(shù)能對應(yīng)到“這條線為什么走這里”。我在內(nèi)部評審會(huì)上經(jīng)常打一個(gè)比方以前你是請一位說得出每一步推理的工程師來干活現(xiàn)在你請了一位速度很快、經(jīng)驗(yàn)豐富但從不解釋的專家——如果他的結(jié)論恰好對了體驗(yàn)極佳一旦錯(cuò)了你連“他是從哪一步開始錯(cuò)的”都無從查起。1.3 為什么黑盒偏偏挑時(shí)序和IR壓降下手時(shí)序收斂和IR壓降本來就是對物理真實(shí)性最敏感的兩類檢查。先說時(shí)序。片內(nèi)延遲不只取決于線長還受相鄰金屬層的耦合電容、溫度梯度、電源電壓波動(dòng)影響。AI模型如果只把“線長”“層次”“開關(guān)活動(dòng)率”當(dāng)輸入它對物理效應(yīng)的覆蓋天然是有損的。模型分?jǐn)?shù)高只能說明它在訓(xùn)練集分布范圍內(nèi)擬合得好不代表它在某個(gè)具體角落的耦合電容模型上仍然準(zhǔn)確。再說IR壓降。壓降分布取決于電源網(wǎng)格拓?fù)洹⑦^孔陣列、電流負(fù)載密度、封裝模型甚至溫度系數(shù)。這些因素在AI訓(xùn)練階段經(jīng)常被簡化掉。結(jié)果就是AI說這個(gè)區(qū)域功耗密度“可接受”但簽核工具算出來的是電流全擠在一條過孔鏈路上電壓被拉穿。在項(xiàng)目里我把這類問題統(tǒng)稱為“黑盒盲區(qū)”模型沒有物理感知卻輸出了一個(gè)看起來物理上合理的結(jié)論。環(huán)節(jié)AI常見切入點(diǎn)黑盒濃度風(fēng)險(xiǎn)類別布局規(guī)劃宏單元位置、block形狀比高時(shí)序、擁塞、IR壓降布線擁塞預(yù)測GCN/Transformer預(yù)測熱圖中布線可達(dá)性單元選型/VT分配強(qiáng)化學(xué)習(xí)多目標(biāo)優(yōu)化高時(shí)序、漏電、功耗閉環(huán)時(shí)鐘樹綜合參數(shù)回歸推薦中skew、時(shí)序收斂簽核驗(yàn)證暫不適合直接替代極低不可替代2. 黑盒的邊界模型可靠性、訓(xùn)練數(shù)據(jù)分布與物理驗(yàn)證之間的斷層2.1 芯片設(shè)計(jì)數(shù)據(jù)天然稀缺且分布嚴(yán)重偏移AI在圖像、語音領(lǐng)域能成功靠的是海量公開數(shù)據(jù)。芯片設(shè)計(jì)領(lǐng)域恰恰相反每個(gè)foundry的工藝數(shù)據(jù)保密每個(gè)公司的庫文件保密每個(gè)項(xiàng)目的floorplan差異巨大。一個(gè)模型能在某個(gè)工藝節(jié)點(diǎn)上訓(xùn)練到“可用”狀態(tài)背后往往只有幾十個(gè)設(shè)計(jì)樣本和圖像識別動(dòng)輒上百萬張圖完全不是一個(gè)量級。更麻煩的是這些設(shè)計(jì)樣本之間高度相似。如果我來建模我拿到的歷史項(xiàng)目大多是同一類應(yīng)用處理器、同一代總線架構(gòu)、相似的IP組合。AI很輕松就能學(xué)會(huì)“把這幾個(gè)宏放在類似的相對位置”?？梢坏﹣砹艘活w射頻前端混合信號芯片或者老工藝的功率管理芯片它的分布就完全跳出了訓(xùn)練覆蓋區(qū)。2.2 神經(jīng)網(wǎng)絡(luò)擅長插值不擅長外推這是整個(gè)黑盒問題的核心。神經(jīng)網(wǎng)絡(luò)在本質(zhì)上是學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的平滑函數(shù)它能很好地“補(bǔ)全”兩個(gè)已知樣本之間的空白但在面對從未見過的工藝角、極端電壓、極高溫度組合時(shí)它做的是外推——而外推質(zhì)量是無法保證的。我見過一個(gè)案例某個(gè)AI時(shí)序預(yù)測器在常規(guī)工藝角下預(yù)測誤差只有3%到了低電壓、高溫這個(gè)邊界角誤差暴漲到25%。為什么因?yàn)橛?xùn)練數(shù)據(jù)里這個(gè)組合太少了模型根本沒學(xué)過“高溫使得遷移率下降而此時(shí)低電壓又讓驅(qū)動(dòng)電流緊缺”這兩重效應(yīng)疊加后的結(jié)果。物理設(shè)計(jì)工程師靠的是“理解的遷移”也就是基于半導(dǎo)體物理知識去推斷未知條件下的行為。AI沒有這個(gè)能力它只有“見過的遷移”。這種差別讓AI在標(biāo)準(zhǔn)場景下的體驗(yàn)非常順滑一旦離開舒適區(qū)它交出的答案就像一個(gè)人閉著眼過馬路——運(yùn)氣好沒事運(yùn)氣不好直接翻車。2.3 模型訓(xùn)練的“標(biāo)簽”本身并不等于物理真值很多人忽略一個(gè)問題AI訓(xùn)練時(shí)用的標(biāo)簽主要來自仿真工具的輸出而不是硅片上的真實(shí)結(jié)果。仿真工具本身有模型誤差有網(wǎng)格簡化的誤差有算法收斂閾值的誤差。用這些標(biāo)簽訓(xùn)練出來的模型是對仿真器的近似而不是對物理世界的近似。這就造成了黑盒的第二重含義模型誤差疊加在仿真誤差之上。你以為AI比解析仿真更接近真實(shí)物理其實(shí)它只是比解析仿真更快地“復(fù)述”了一套可能本來就偏掉的仿真結(jié)論。簽核階段必須用更高精度的工具重跑一遍本質(zhì)上就是因?yàn)锳I模型的標(biāo)簽源不夠權(quán)威。2.4 可解釋性工具救不了因果缺失現(xiàn)在流行用SHAP、注意力權(quán)重這類工具分析“模型看了哪里”。說實(shí)話我試過幾次確實(shí)能看出模型在決定某個(gè)宏位置時(shí)重點(diǎn)參考了哪些相鄰宏的坐標(biāo)、總線寬度等信息。但這只是“特征歸因”不是“因果解釋”。芯片物理問題需要的解釋是“這個(gè)位置IR壓降超了因?yàn)殡娫催^孔陣列不夠、電流密度過高、鄰近金屬層導(dǎo)致熱阻增大。”SHAP給不了這種邏輯鏈。它只能告訴你“模型認(rèn)為這些特征重要”但為什么重要、權(quán)重組合是否物理可行它一概不管。所以在我的日常流程中可解釋性工具更多用于“懷疑模型是否學(xué)偏了”而不是“驗(yàn)證模型是否正確”。它幫我發(fā)現(xiàn)問題但不能替代任何一步簽核。3. 一次工程化復(fù)盤AI布局方案為何在IR壓降檢查中翻了車3.1 項(xiàng)目背景與AI方案的“漂亮成績單”這個(gè)項(xiàng)目是一個(gè)中等規(guī)模的MCU內(nèi)嵌DSP模塊采用某180nm BCD工藝核心電壓1.8V最高工作頻率70MHz。我們當(dāng)時(shí)的路數(shù)是先用AI完成宏單元的相對放置再做標(biāo)準(zhǔn)單元自動(dòng)布局和時(shí)鐘樹綜合。AI模型是拿前一代、前前一代的兩個(gè)老項(xiàng)目的真實(shí)布局?jǐn)?shù)據(jù)訓(xùn)練的加上一些公開的基準(zhǔn)電路data增強(qiáng)訓(xùn)練集總共約70個(gè)樣本。AI跑出來的結(jié)果確實(shí)好看線長減少9%目標(biāo)擁塞峰值從1.12降到0.97關(guān)鍵路徑預(yù)估slack比上一版人工方案多留了40ps。團(tuán)隊(duì)里兩個(gè)年輕工程師當(dāng)時(shí)已經(jīng)喜形于色覺得“以后是不是不用加班了”。我提醒了一句“等簽核工具跑完再說”結(jié)果還真被我不幸言中。3.2 翻車現(xiàn)場IR壓降怎么查都是超標(biāo)進(jìn)入物理驗(yàn)證階段我們在做動(dòng)態(tài)IR壓降仿真時(shí)發(fā)現(xiàn)有一片邏輯區(qū)域在“峰值電流模式”下vdd電壓降到了1.78V以下比1.8V的規(guī)范值低了不少。單獨(dú)看某個(gè)buffer的壓降可能不致命但問題是整條buffer鏈都泡在同一片低電壓區(qū)時(shí)序裕量被系統(tǒng)性吃掉最終導(dǎo)致setup檢查在最壞工藝角下直接violation。一開始團(tuán)隊(duì)?wèi)岩煞庋b模型設(shè)錯(cuò)了把Package parasitic加得過大。換了兩版模型后問題依然存在才意識到不是外部因素而是這塊區(qū)域本身的片上電源分布密度不夠。3.3 逐步追查AI究竟埋了什么雷我們把電壓降云圖、電流密度云圖和AI輸出的floorplan疊在一起很快鎖定了一個(gè)異常模式AI為了讓某條數(shù)據(jù)總線的線長最短把一組buffer排列成了一列非常緊湊的“直列陣”所有buffer的電流匯入同一小片過孔陣列。單純從線長和擁塞角度看這是最優(yōu)解。但從電源網(wǎng)絡(luò)看這片過孔陣列的電流承載能力遠(yuǎn)低于實(shí)際需求IR壓降就在這里迅速累積起來。為什么AI會(huì)給出這種方案翻回訓(xùn)練數(shù)據(jù)后發(fā)現(xiàn)之前兩個(gè)老項(xiàng)目里沒有出現(xiàn)過“高密度buffer直列排布”的情況模型相當(dāng)于發(fā)明了一個(gè)訓(xùn)練集中從未見過的模式而這個(gè)模式在物理上極其不健康。這是一次非常典型的黑盒事故AI解決了它被訓(xùn)練去解決的問題卻對另外一個(gè)它根本看不到的物理維度一無所知。它的目標(biāo)函數(shù)里沒有“電流密度均勻性”“過孔陣列承載能力”“熱梯度”這些項(xiàng)所以它交出的結(jié)果在它自己的評價(jià)體系里是滿分到了物理簽核體系里就是不及格。3.4 復(fù)現(xiàn)教訓(xùn)繞過黑盒之前先逼它自證后續(xù)我們做了一個(gè)小實(shí)驗(yàn)把這一列buffer手工拆成兩組間隔拉開犧牲了約4%的線長代價(jià)IR壓降直接回到安全線內(nèi)。之后我們又在同樣的訓(xùn)練條件下跑了五組新布局每次都在簽核階段檢查“是否存在電流密度極端集中的排布”結(jié)果發(fā)現(xiàn)AI經(jīng)常會(huì)在不同位置復(fù)制類似的直列結(jié)構(gòu)。這件事之后我給團(tuán)隊(duì)定了條規(guī)矩AI給出的任何布局方案在上簽核工具之前必須先用快速功耗/熱評估腳本掃一遍電流密度極值。不為別的就為了在AI自以為最聰明的地方設(shè)一道最基礎(chǔ)的物理護(hù)欄。現(xiàn)象第一輪猜想排查結(jié)論buffer鏈區(qū)域IR壓降超標(biāo)封裝模型參數(shù)過大與實(shí)際不符更換兩版封裝模型后仍超標(biāo)電源網(wǎng)格開短路未發(fā)現(xiàn)斷點(diǎn)電壓云圖與電流密度匹配AI布局導(dǎo)致過孔陣列過流確認(rèn)根因拆分buffer列后指標(biāo)恢復(fù)線長增加但密度下降驗(yàn)證完畢4. 反制黑盒的實(shí)戰(zhàn)手段約束注入、白盒代理與回歸基線4.1 約束注入別讓AI在“事后驗(yàn)證”才聽到物理限制最有效的反制方式不是事后再查而是在AI訓(xùn)練和推理的激勵(lì)函數(shù)里把物理約束直接加進(jìn)去。這就是所謂的“約束注入”。具體做法把“最大功率密度”“過孔陣列電流極限”“最小電源網(wǎng)格間距”這些參數(shù)轉(zhuǎn)化為目標(biāo)函數(shù)里的懲罰項(xiàng)而不是只靠簽核工具最后把關(guān)。AI學(xué)習(xí)的時(shí)候就知道“電流密度過高會(huì)被扣分”“電源網(wǎng)格拓?fù)溥^疏會(huì)被扣分”它就會(huì)主動(dòng)避開這些雷區(qū)。約束注入的難點(diǎn)在于量化。IR壓降不是一個(gè)簡單的二值約束它和電流強(qiáng)度、金屬層電阻、走線寬度呈非線性關(guān)系。一個(gè)可操作的方法是先離線用簽核工具對幾個(gè)典型設(shè)計(jì)做掃描擬合出一個(gè)簡化模型把“什么配置大概會(huì)產(chǎn)生多少壓降”變成粗略的解析公式再作為獎(jiǎng)勵(lì)函數(shù)的附加項(xiàng)。這個(gè)辦法說不上完全精確但足以讓AI放棄那些明顯不合理的方案。4.2 白盒代理用簡化物理模型給AI輸出“先審一遍”我常用的第二個(gè)手段是白盒代理模型。所謂白盒代理就是不用神經(jīng)網(wǎng)絡(luò)而是用一個(gè)簡化但透明可查的快速評估器對AI輸出做一輪模擬。比如針對IR壓降我會(huì)把AI給出的floorplan快速映射到一個(gè)粗粒度的RC網(wǎng)絡(luò)網(wǎng)格上每個(gè)網(wǎng)格用簡化的供電電阻加電流源表示跑一次快速求解。這樣能在幾十秒內(nèi)得到“這個(gè)布局大概率會(huì)在哪片區(qū)域掉壓”。精度肯定不如簽核工具但足以篩掉最離譜的方案。白盒代理還有一個(gè)額外好處可解釋。它的中間計(jì)算過程全部開放——電阻、電流、壓降每一格都能列出來。工程師可以清楚地看到“這一片壓降高是因?yàn)檫@段電源線太長而且負(fù)載又集中在這里”。這種解釋不需要揣測模型的意圖只關(guān)乎物理本身。實(shí)際操作里我是讓白盒代理跑在AI方案和正式簽核之間。AI跑完一批方案后先過白盒代理得分不合格的直接扔掉合格的再用簽核工具精算。兩道關(guān)卡一快一慢效率損失很小但安全邊際提升很多。4.3 回歸基線沒有歷史對照組AI的改進(jìn)就是自嗨AI團(tuán)隊(duì)給我報(bào)喜的時(shí)候我最怕聽到的就是“比上一版好”。好多少好在哪個(gè)指標(biāo)犧牲了哪些指標(biāo)總得有個(gè)準(zhǔn)。為了回答這個(gè)問題我在項(xiàng)目里建立了一套“黃金回歸集”從歷史設(shè)計(jì)里挑出5到10個(gè)覆蓋不同結(jié)構(gòu)的代表性block既有那種吃過虧的、布局極具挑戰(zhàn)的也有相對常規(guī)的。每次AI更新模型或者調(diào)整參數(shù)就用這套回歸集跑完一輪和上一版AI的所有輸出逐項(xiàng)對比。對比不全看平均值更看“最差值”。一個(gè)AI模型哪怕平均水平進(jìn)步了5%只要在任何一個(gè)回歸樣本上產(chǎn)生“嚴(yán)重物理不合理”的布局我就直接打回重調(diào)。因?yàn)樾酒O(shè)計(jì)是短板效應(yīng)行業(yè)一個(gè)局部熱點(diǎn)就能毀掉整個(gè)die的良率。把歷史“地雷”翻出來逐個(gè)踩一遍比看一百個(gè)平均值都有用。4.4 人工復(fù)核員制度每個(gè)黑盒配一名“對立面”入職我第一家公司的時(shí)候老工程師教給我一句話簽核和設(shè)計(jì)不在同一個(gè)人手里簽字才不會(huì)走形式。AI引入之后我把這條制度復(fù)制到了人與AI之間。具體做法給每個(gè)AI介入的環(huán)節(jié)指定一名“反對者”他唯一的任務(wù)就是找出AI方案里物理上說不通的地方。負(fù)責(zé)時(shí)序的復(fù)核員專門盯關(guān)鍵路徑的buffer分布負(fù)責(zé)功耗的復(fù)核員專門盯電流密度熱點(diǎn)負(fù)責(zé)可布線的復(fù)核員專門盯擁塞爆點(diǎn)。每個(gè)人只負(fù)責(zé)自己那一畝三分地但都擁有“否決權(quán)”。這個(gè)制度聽起來有點(diǎn)笨但實(shí)際效果極好。AI方案在評審會(huì)上被拒絕時(shí)理由再也不是一句籠統(tǒng)的“我不信任AI”而是“這個(gè)位置過孔陣列電流密度超限需要增加returning via數(shù)量否則IR降壓會(huì)超”。對抗性復(fù)核逼著大家把黑盒里的結(jié)論翻譯回物理語言而這恰恰是打破黑盒的關(guān)鍵一步。反制手段適用環(huán)節(jié)核心思路實(shí)施成本約束注入AI訓(xùn)練/微調(diào)把物理限制寫入目標(biāo)函數(shù)中白盒代理AI推理后、簽核前快速物理模型預(yù)篩低回歸基線每次模型迭代歷史地雷集橫向?qū)Ρ戎腥斯?fù)核員評審及簽核前后人為制造對立面中高5. 我在實(shí)際項(xiàng)目里對待AI結(jié)果的幾條底線5.1 讓AI做重點(diǎn)方案的生成器而不是決策器經(jīng)過那次IR壓降事故我把團(tuán)隊(duì)里AI的定位從“方案決策者”降級成了“方案候選生成器”。AI可以一口氣給出二十個(gè)布局候選再由團(tuán)隊(duì)用白盒代理、快速時(shí)序評估和經(jīng)驗(yàn)直覺做篩選。這個(gè)轉(zhuǎn)變很關(guān)鍵。因?yàn)锳I作為生成器時(shí)它的任務(wù)只是多樣性探索出現(xiàn)幾個(gè)不靠譜的候選完全可以接受但如果讓AI直接拍板“這就是最優(yōu)方案”你就等于把最終決策權(quán)交給了它看不懂的物理世界。人來做決策AI來做思路發(fā)散效率和安全才能兼顧。5.2 關(guān)鍵路徑附近的任何AI建議都必須人工復(fù)核我有一條死規(guī)矩凡是離關(guān)鍵路徑endpoint最近的5%區(qū)域AI給出的buffer位置、VT選型、擺列朝向全部要求人工過一遍。不是不信任AI的能力恰恰是因?yàn)檫@些區(qū)域是整顆芯片最脆弱的地方任何模型誤差在這里都會(huì)被時(shí)序收斂問題放大。一個(gè)AI預(yù)測誤差只有3%的模型在關(guān)鍵路徑上可能意味著幾十皮秒的偏差足以把一個(gè)本來能收斂的設(shè)計(jì)拖進(jìn)violation。人工復(fù)核在這里的意義不是“替代AI做優(yōu)化”而是“確保AI沒有在一根已經(jīng)繃緊的鋼絲上再疊一個(gè)風(fēng)險(xiǎn)”。5.3 永遠(yuǎn)給物理簽核留一道“最高權(quán)限”我在內(nèi)部文檔里寫過一句話AI可以做99%的事情但剩下1%的簽核權(quán)限必須留在人類工程師手里。哪怕有一天AI的預(yù)測準(zhǔn)確率達(dá)到了99.9%我也堅(jiān)持最后一道IR壓降、電遷移、時(shí)序收斂的簽核必須由高精度仿真工具加人工評審共同完成。這不是保守而是因?yàn)樾酒髌淮蔚某杀緮[在那里。一次失敗的流片損失的不僅是幾百萬美元的制造費(fèi)用還有整個(gè)項(xiàng)目半年的迭代窗口。在這個(gè)背景下AI帶來的效率提升值得擁抱但簽核環(huán)節(jié)的“人類最高權(quán)限”不該被任何模型取代。5.4 黑盒不會(huì)消失但可以被圈養(yǎng)最后說點(diǎn)體會(huì)。我做這個(gè)項(xiàng)目最大的收獲不是用AI省了多少工時(shí)而是搞明白了一個(gè)道理我們沒法讓神經(jīng)網(wǎng)絡(luò)變成白盒但可以在它的外圍筑起一層層護(hù)欄讓黑盒的“黑”只限定在它擅長的推理內(nèi)部而不擴(kuò)散到物理安全的邊界。約束注入是護(hù)欄白盒代理是護(hù)欄回歸基線是護(hù)欄人工復(fù)核更是護(hù)欄。每次新模型進(jìn)來我都會(huì)先拿那套黃金回歸集跑上一遍再讓團(tuán)隊(duì)里的“反對者”挑一輪刺最后帶著潤色后的方案走上簽核桌。流程變得繁瑣了但踩坑的頻率大幅下降。到現(xiàn)在為止至少在我負(fù)責(zé)的范圍內(nèi)AI產(chǎn)出的方案再也沒出現(xiàn)過類似那排buffer直列造成的IR壓降事故。和AI共事信任當(dāng)然重要但比信任更重要的是知道它的邊界在哪并且始終站在邊界靠物理這一側(cè)。