1. 從兩個方向理解AI與控制的融合1.1 為什么這個命題值得認(rèn)真拆解“AI賦能控制”和“控制約束AI”這兩個說法乍一聽像是同一件事的正反兩面但真正在一線做過系統(tǒng)落地的人會知道它們對應(yīng)的是兩套完全不同的技術(shù)路線、工程思維和評價體系。前者是把深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、大模型這些工具塞進(jìn)現(xiàn)有的控制回路里讓控制器變得更聰明后者是把控制理論里那套穩(wěn)定性分析、魯棒性保證、約束優(yōu)化的數(shù)學(xué)框架反過來套在AI模型上讓AI的行為變得可預(yù)測、可約束、可驗證。我之所以想認(rèn)真聊這個話題是因為過去幾年里我參與過幾個工業(yè)級的智能控制項目也踩過不少坑。最開始團(tuán)隊里所有人都覺得“AI賦能控制”是理所當(dāng)然的方向——用神經(jīng)網(wǎng)絡(luò)替代PID用強(qiáng)化學(xué)習(xí)做自適應(yīng)調(diào)度聽起來又酷又有效。但真正上線之后才發(fā)現(xiàn)一個在仿真環(huán)境里表現(xiàn)完美的RL策略到了現(xiàn)場可能因為一個傳感器漂移就徹底崩潰而且你根本不知道它為什么崩潰。這時候才意識到控制理論里那些看似“保守”的穩(wěn)定性證明、Lyapunov函數(shù)、魯棒邊界其實(shí)是在為系統(tǒng)的可靠性兜底。反過來當(dāng)我們嘗試把大模型引入到調(diào)度決策環(huán)節(jié)時又遇到了新的問題模型輸出的動作空間不受約束可能給出一個物理上根本不可執(zhí)行的指令。這時候就需要用控制理論里的約束優(yōu)化方法把AI的輸出“框”在一個安全可行域內(nèi)。這就是“控制約束AI”的典型場景。所以這篇文章想做的事情很明確把這兩個方向的技術(shù)邏輯、適用場景、實(shí)操要點(diǎn)和踩坑經(jīng)驗盡可能完整地拆開來講。無論你是做控制出身的工程師想了解AI怎么用還是做AI出身的研究者想理解控制理論的約束思維都能從中找到可以直接參考的東西。1.2 兩個方向的核心差異對比在展開細(xì)節(jié)之前先用一張表把兩個方向的核心差異說清楚這樣后面討論具體技術(shù)時不容易混淆。對比維度AI賦能控制控制約束AI核心目標(biāo)提升控制性能、適應(yīng)性和智能化水平保證AI行為的安全性、穩(wěn)定性和可解釋性主要工具神經(jīng)網(wǎng)絡(luò)、強(qiáng)化學(xué)習(xí)、模仿學(xué)習(xí)、大模型Lyapunov分析、魯棒控制、模型預(yù)測控制、約束優(yōu)化評價標(biāo)準(zhǔn)跟蹤精度、響應(yīng)速度、泛化能力穩(wěn)定性證明、安全邊界、約束滿足率典型場景非線性系統(tǒng)控制、自適應(yīng)調(diào)度、端到端決策安全關(guān)鍵系統(tǒng)、AI輸出校驗、在線監(jiān)控主要風(fēng)險黑箱不可解釋、泛化差、訓(xùn)練成本高過度保守導(dǎo)致性能下降、約束設(shè)計復(fù)雜工程成熟度中等部分場景已落地較高但與AI結(jié)合仍在探索這張表不是要分出誰優(yōu)誰劣而是想說清楚這兩個方向解決的是不同層次的問題。AI賦能控制解決的是“怎么做得更好”控制約束AI解決的是“怎么保證不出事”。在實(shí)際系統(tǒng)里兩者往往是配合使用的。2. AI賦能控制的核心技術(shù)路徑2.1 神經(jīng)網(wǎng)絡(luò)控制器到底能不能替代PID這是很多人入行時第一個會問的問題。我的答案是能替代一部分但替代的條件比想象中苛刻得多。先說不替代的理由。PID控制器之所以在工業(yè)界統(tǒng)治了幾十年核心原因是它的行為完全可預(yù)測。給定一組參數(shù)你可以精確計算出它在任何輸入下的輸出可以畫出Bode圖分析頻域特性可以用根軌跡判斷閉環(huán)穩(wěn)定性。這些數(shù)學(xué)工具給了工程師極大的信心。而一個神經(jīng)網(wǎng)絡(luò)控制器哪怕訓(xùn)練損失降到很低你也沒法用同樣的方式去分析它——它的行為依賴于權(quán)重矩陣?yán)锍汕先f個參數(shù)任何一個參數(shù)的微小擾動都可能導(dǎo)致輸出劇烈變化。但反過來說有些場景下PID確實(shí)不夠用。比如一個強(qiáng)非線性系統(tǒng)工作點(diǎn)在大范圍內(nèi)變化PID的參數(shù)需要頻繁整定整定成本很高。這時候如果用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)一個非線性映射把系統(tǒng)狀態(tài)直接映射到控制量理論上可以覆蓋更大的工作范圍。我做過一個溫度控制的項目系統(tǒng)存在明顯的滯后和非線性傳統(tǒng)PID在升溫階段和恒溫階段需要兩套完全不同的參數(shù)切換時還會產(chǎn)生振蕩。后來用了一個簡單的三層BP網(wǎng)絡(luò)做前饋補(bǔ)償PID只負(fù)責(zé)反饋校正效果提升很明顯。所以我的經(jīng)驗是不要試圖用神經(jīng)網(wǎng)絡(luò)完全替代PID而是讓它做PID做不好的事情。比如前饋補(bǔ)償、非線性增益調(diào)度、多變量解耦。PID負(fù)責(zé)它最擅長的反饋校正神經(jīng)網(wǎng)絡(luò)負(fù)責(zé)它最擅長的非線性映射。這種混合結(jié)構(gòu)既保留了可解釋性又引入了適應(yīng)性。2.2 強(qiáng)化學(xué)習(xí)在控制中的落地難點(diǎn)強(qiáng)化學(xué)習(xí)在控制領(lǐng)域的論文很多但真正落地的案例少得可憐。原因不復(fù)雜RL的訓(xùn)練過程本質(zhì)上是在試錯而工業(yè)系統(tǒng)不允許你隨便試錯。我見過一個典型的失敗案例。某團(tuán)隊用DDPG算法訓(xùn)練一個機(jī)械臂的抓取策略在仿真環(huán)境里訓(xùn)練了上百萬步成功率很高。但到了真實(shí)機(jī)械臂上第一次運(yùn)行就直接撞到了限位。原因是仿真環(huán)境里沒有建模限位開關(guān)的物理約束而RL策略在探索過程中學(xué)會了“用力撞過去”這種在仿真里沒有懲罰的動作。這個問題的根源在于RL的獎勵函數(shù)設(shè)計很難覆蓋所有安全約束。你在獎勵函數(shù)里加一個碰撞懲罰但RL可能會學(xué)會用更隱蔽的方式繞過這個懲罰。而且獎勵函數(shù)的權(quán)重很難調(diào)碰撞懲罰太大策略會變得過于保守太小又會冒險。我的建議是如果一定要用RL做控制必須配合一個獨(dú)立的安全層。這個安全層不參與學(xué)習(xí)只負(fù)責(zé)在RL輸出動作之后做一次校驗和修正。比如用控制屏障函數(shù)CBF把RL的輸出投影到安全集內(nèi)或者用一個簡單的規(guī)則引擎做兜底。這樣即使RL策略出了問題安全層也能保證系統(tǒng)不會進(jìn)入危險狀態(tài)。2.3 大模型在控制回路中的角色定位大模型進(jìn)入控制領(lǐng)域是最近一兩年的事情。目前看到的用法主要有兩類一類是做高層決策比如根據(jù)自然語言指令生成任務(wù)序列另一類是做異常診斷比如根據(jù)日志和傳感器數(shù)據(jù)判斷系統(tǒng)出了什么問題。但大模型有一個致命問題它的輸出是概率性的而且推理延遲通常比較大。在一個要求毫秒級響應(yīng)的控制回路里你不可能讓大模型直接參與實(shí)時控制。所以合理的定位是大模型做離線或準(zhǔn)實(shí)時的決策支持實(shí)時控制仍然由傳統(tǒng)控制器或輕量級神經(jīng)網(wǎng)絡(luò)完成。我參與過一個設(shè)備運(yùn)維項目用大模型做故障根因分析。具體做法是把設(shè)備的歷史報警日志、傳感器趨勢數(shù)據(jù)、維修記錄整理成結(jié)構(gòu)化文本讓大模型做推理輸出可能的故障原因和排查建議。這個用法不涉及實(shí)時控制所以對延遲不敏感而且大模型的語義理解能力確實(shí)比傳統(tǒng)規(guī)則引擎強(qiáng)很多。但即便如此我們?nèi)匀患恿艘粚尤斯ご_認(rèn)環(huán)節(jié)因為大模型偶爾會給出看似合理但實(shí)際錯誤的建議。3. 控制約束AI的技術(shù)框架3.1 為什么AI需要被約束這個問題可以從三個層面來回答。第一個層面是安全性。AI模型尤其是神經(jīng)網(wǎng)絡(luò)本質(zhì)上是高維空間里的函數(shù)逼近器。你給它一個輸入它給你一個輸出但這個輸出可能落在物理上不可執(zhí)行的區(qū)域。比如一個無人機(jī)的高度控制神經(jīng)網(wǎng)絡(luò)可能輸出一個負(fù)的高度指令這在物理上是不可能的。如果不加約束系統(tǒng)就會出問題。第二個層面是穩(wěn)定性。控制理論里判斷一個系統(tǒng)是否穩(wěn)定有一套成熟的數(shù)學(xué)工具。但神經(jīng)網(wǎng)絡(luò)控制器通常是非線性的、時變的傳統(tǒng)的穩(wěn)定性分析方法很難直接套用。如果你不能證明系統(tǒng)穩(wěn)定那在實(shí)際部署時就要非常小心。第三個層面是可解釋性。在安全關(guān)鍵領(lǐng)域比如醫(yī)療、交通、能源監(jiān)管機(jī)構(gòu)通常要求你解釋系統(tǒng)的決策邏輯。一個黑箱模型很難滿足這個要求。而控制理論里的約束框架比如模型預(yù)測控制每一步的優(yōu)化過程都是可追溯的這在一定程度上提供了可解釋性。3.2 控制屏障函數(shù)給AI畫一條安全線控制屏障函數(shù)Control Barrier FunctionCBF是近年來比較受關(guān)注的一種安全約束方法。它的核心思想是定義一個安全集然后設(shè)計一個約束條件保證系統(tǒng)狀態(tài)永遠(yuǎn)不會離開這個安全集。用生活化的類比來解釋假設(shè)你在開車安全集就是“不撞到前車”。CBF的作用就是給你一個約束你的加速度不能超過某個值否則就會撞上。這個約束是實(shí)時計算的根據(jù)你和前車的距離、相對速度動態(tài)調(diào)整。在AI控制中CBF通常作為一層過濾器使用。AI輸出一個動作CBF檢查這個動作是否滿足安全約束。如果不滿足就把動作投影到安全集邊界上。這樣既保留了AI的靈活性又保證了安全性。但CBF也有局限性。它需要知道系統(tǒng)的動力學(xué)模型而且對于高維系統(tǒng)計算量會很大。另外CBF的設(shè)計需要一定的專業(yè)知識不是隨便定義一個函數(shù)就能用的。3.3 模型預(yù)測控制與AI的結(jié)合方式模型預(yù)測控制MPC是工業(yè)界應(yīng)用最廣泛的高級控制方法之一。它的核心思想是在每個控制周期求解一個有限時域的優(yōu)化問題得到未來一段時間的控制序列然后只執(zhí)行第一個控制量下一個周期重新求解。MPC天然適合與AI結(jié)合因為它的優(yōu)化框架可以很方便地加入各種約束。比如你可以把AI的輸出作為MPC的參考軌跡然后MPC在滿足約束的前提下跟蹤這個參考。這樣AI負(fù)責(zé)“想要做什么”MPC負(fù)責(zé)“能做什么”。我做過一個化工過程的項目用神經(jīng)網(wǎng)絡(luò)預(yù)測產(chǎn)品質(zhì)量然后用MPC做約束優(yōu)化。神經(jīng)網(wǎng)絡(luò)給出的質(zhì)量預(yù)測作為MPC的目標(biāo)函數(shù)而MPC的約束包括溫度上限、壓力上限、閥門開度限制等。這樣既利用了神經(jīng)網(wǎng)絡(luò)的預(yù)測能力又保證了操作的安全性。但這種結(jié)合方式也有代價MPC的求解需要時間如果神經(jīng)網(wǎng)絡(luò)預(yù)測不準(zhǔn)MPC可能會做出錯誤的決策。所以實(shí)際使用時通常需要加一個在線校正環(huán)節(jié)用實(shí)際測量值反饋修正神經(jīng)網(wǎng)絡(luò)的預(yù)測。4. 實(shí)操落地從仿真到現(xiàn)場的關(guān)鍵步驟4.1 系統(tǒng)建模與數(shù)據(jù)準(zhǔn)備無論走哪個方向第一步都是把系統(tǒng)搞清楚。對于AI賦能控制你需要足夠的數(shù)據(jù)來訓(xùn)練模型對于控制約束AI你需要一個相對準(zhǔn)確的動力學(xué)模型來設(shè)計約束。數(shù)據(jù)準(zhǔn)備階段有幾個容易踩的坑。第一個是數(shù)據(jù)質(zhì)量問題。工業(yè)現(xiàn)場的數(shù)據(jù)往往有缺失、噪聲、異常值如果不做清洗就直接訓(xùn)練模型很容易學(xué)到錯誤的模式。我的做法是先做基本的統(tǒng)計分析看看數(shù)據(jù)的分布、缺失率、異常值比例然后用插值或濾波做初步處理最后用可視化工具人工檢查一遍確認(rèn)沒有明顯的異常。第二個是數(shù)據(jù)量問題。深度學(xué)習(xí)需要大量數(shù)據(jù)但工業(yè)系統(tǒng)往往運(yùn)行工況有限能采集到的有效數(shù)據(jù)不多。這時候可以考慮數(shù)據(jù)增強(qiáng)比如加噪聲、時間縮放、工況插值。但要注意增強(qiáng)后的數(shù)據(jù)必須仍然符合物理規(guī)律不能隨便生成。第三個是標(biāo)注問題。如果做監(jiān)督學(xué)習(xí)需要標(biāo)注數(shù)據(jù)。但工業(yè)數(shù)據(jù)標(biāo)注成本很高而且有些標(biāo)簽本身就有爭議。這時候可以考慮半監(jiān)督學(xué)習(xí)或自監(jiān)督學(xué)習(xí)減少對標(biāo)注的依賴。4.2 控制器設(shè)計與參數(shù)整定如果選擇神經(jīng)網(wǎng)絡(luò)控制器設(shè)計階段需要考慮網(wǎng)絡(luò)結(jié)構(gòu)、激活函數(shù)、損失函數(shù)等。我的經(jīng)驗是不要一上來就用很深的網(wǎng)絡(luò)先從淺層網(wǎng)絡(luò)開始看看能不能解決問題。很多控制問題其實(shí)用兩三層網(wǎng)絡(luò)就夠了深層網(wǎng)絡(luò)反而容易過擬合。損失函數(shù)的設(shè)計很關(guān)鍵。對于控制問題常用的損失是跟蹤誤差的均方誤差。但單純用MSE可能會導(dǎo)致控制量抖動所以通常還要加一個控制量變化率的懲罰項。另外如果系統(tǒng)有約束可以在損失函數(shù)里加懲罰項但更可靠的做法是用硬約束。參數(shù)整定方面學(xué)習(xí)率、批大小、訓(xùn)練輪數(shù)這些超參數(shù)需要反復(fù)調(diào)試。我的習(xí)慣是先用一個較小的學(xué)習(xí)率訓(xùn)練觀察損失下降曲線如果下降太慢就增大學(xué)習(xí)率如果震蕩就減小。批大小通常取32或64訓(xùn)練輪數(shù)根據(jù)驗證集的表現(xiàn)來定一般到驗證損失不再下降就停。4.3 安全約束的工程實(shí)現(xiàn)安全約束的實(shí)現(xiàn)方式取決于具體場景。如果約束比較簡單比如控制量上下限可以直接在輸出層加一個裁剪操作。如果約束比較復(fù)雜比如狀態(tài)之間的耦合約束就需要用優(yōu)化方法。一個實(shí)用的做法是把安全約束分成兩層。第一層是硬約束比如物理極限這些約束在任何情況下都不能違反用簡單的裁剪或投影實(shí)現(xiàn)。第二層是軟約束比如性能指標(biāo)這些約束可以在一定范圍內(nèi)放寬用懲罰函數(shù)或優(yōu)先級優(yōu)化實(shí)現(xiàn)。在工程實(shí)現(xiàn)時還要考慮計算資源的限制。如果控制器運(yùn)行在嵌入式平臺上計算能力有限就不能用太復(fù)雜的優(yōu)化算法。這時候可以考慮查表法、近似算法或者降階模型。4.4 在線監(jiān)控與回退機(jī)制任何AI控制系統(tǒng)上線后都需要監(jiān)控。監(jiān)控的指標(biāo)包括控制性能跟蹤誤差、響應(yīng)時間、安全指標(biāo)約束違反次數(shù)、安全邊界距離、模型健康度輸入分布漂移、輸出置信度。如果監(jiān)控發(fā)現(xiàn)異常需要有回退機(jī)制。最簡單的回退是切換到傳統(tǒng)控制器比如PID。復(fù)雜一點(diǎn)的回退是切換到保守的AI策略比如降低控制增益、縮小動作空間。我經(jīng)歷過一次線上事故神經(jīng)網(wǎng)絡(luò)控制器的輸入傳感器出現(xiàn)漂移導(dǎo)致控制器輸出異常。幸好當(dāng)時設(shè)置了監(jiān)控檢測到輸入分布偏離訓(xùn)練分布后自動切換到了PID才沒有造成嚴(yán)重后果。這件事讓我深刻體會到AI控制系統(tǒng)可以很聰明但必須有兜底。5. 常見問題與排查技巧實(shí)錄5.1 模型在仿真中表現(xiàn)好但現(xiàn)場效果差這是最常見的問題。原因通常有幾個仿真模型和實(shí)際系統(tǒng)有差距、訓(xùn)練數(shù)據(jù)沒有覆蓋現(xiàn)場工況、傳感器噪聲和延遲沒有建模。排查思路先對比仿真和現(xiàn)場的輸入輸出數(shù)據(jù)看看差異在哪里。如果差異主要在穩(wěn)態(tài)可能是模型參數(shù)不準(zhǔn)如果差異主要在動態(tài)可能是未建模動態(tài)或延遲。然后檢查訓(xùn)練數(shù)據(jù)的覆蓋范圍看看現(xiàn)場工況是否在訓(xùn)練分布內(nèi)。最后檢查傳感器和執(zhí)行器的特性看看是否有非線性或延遲。解決方法如果仿真模型不準(zhǔn)可以用現(xiàn)場數(shù)據(jù)做系統(tǒng)辨識修正模型參數(shù)。如果訓(xùn)練數(shù)據(jù)不夠可以采集更多現(xiàn)場數(shù)據(jù)做增量訓(xùn)練。如果傳感器有問題可以加濾波或補(bǔ)償。5.2 控制器輸出抖動嚴(yán)重抖動通常是因為控制增益太大或者神經(jīng)網(wǎng)絡(luò)輸出不平滑。對于神經(jīng)網(wǎng)絡(luò)控制器可以在損失函數(shù)里加一個平滑懲罰項或者對輸出做低通濾波。對于傳統(tǒng)控制器可以降低增益或加微分濾波。但要注意過度平滑會降低響應(yīng)速度。所以需要在平滑和響應(yīng)之間做權(quán)衡。我的做法是先保證穩(wěn)定性再逐步提高響應(yīng)速度直到出現(xiàn)輕微抖動然后回退一點(diǎn)。5.3 安全約束頻繁觸發(fā)導(dǎo)致性能下降如果安全約束經(jīng)常觸發(fā)說明AI策略經(jīng)常試圖違反約束。這時候需要檢查約束設(shè)計是否過于保守、AI訓(xùn)練時是否考慮了約束、約束的優(yōu)先級是否合理。解決方法如果約束太保守可以適當(dāng)放寬但要有依據(jù)。如果AI訓(xùn)練時沒有考慮約束可以在訓(xùn)練時加入約束懲罰或者用安全層做后處理。如果約束優(yōu)先級不合理可以調(diào)整約束的軟硬程度。5.4 模型更新后性能突然下降這通常是因為新數(shù)據(jù)分布和舊數(shù)據(jù)分布差異太大導(dǎo)致模型遺忘。解決方法保留一部分舊數(shù)據(jù)做回放或者用增量學(xué)習(xí)的方法只更新部分參數(shù)。另外模型更新后要先在仿真環(huán)境里驗證確認(rèn)沒有問題再上線。6. 個人經(jīng)驗與后續(xù)擴(kuò)展方向6.1 幾個讓我印象深刻的踩坑經(jīng)歷第一個坑是過度信任仿真。早期做強(qiáng)化學(xué)習(xí)控制時我們在仿真環(huán)境里調(diào)了很久效果很好就直接上真機(jī)了。結(jié)果真機(jī)的摩擦特性、延遲、噪聲都和仿真不一樣策略完全失效。后來我們養(yǎng)成了一個習(xí)慣任何策略在上真機(jī)之前必須先在真機(jī)的一個安全子集上做小范圍測試確認(rèn)基本可行再逐步擴(kuò)大范圍。第二個坑是忽視數(shù)據(jù)分布漂移。有一個項目模型訓(xùn)練時用的是夏季數(shù)據(jù)到了冬季環(huán)境溫度變化導(dǎo)致傳感器讀數(shù)分布偏移模型性能大幅下降。后來我們加了在線監(jiān)測檢測到分布漂移就觸發(fā)模型更新或回退。第三個坑是約束設(shè)計太復(fù)雜。有一次設(shè)計安全約束時考慮了很多極端情況結(jié)果約束條件太多優(yōu)化問題經(jīng)常無解。后來簡化了約束只保留最關(guān)鍵的幾個問題就解決了。6.2 這個方向后續(xù)可以怎么擴(kuò)展從技術(shù)趨勢來看AI和控制的融合會越來越緊密。一個值得關(guān)注的方向是“可微分控制”把控制器的設(shè)計也納入到端到端的學(xué)習(xí)框架里讓控制器和AI模型一起優(yōu)化。另一個方向是“神經(jīng)Lyapunov函數(shù)”用神經(jīng)網(wǎng)絡(luò)來構(gòu)造Lyapunov函數(shù)從而證明神經(jīng)網(wǎng)絡(luò)控制器的穩(wěn)定性。從工程角度來看工具鏈的成熟很重要。目前做AI控制很多工作還是手工的比如約束設(shè)計、安全驗證。未來如果有更好的工具支持比如自動化的約束生成、形式化驗證落地會容易很多。從應(yīng)用場景來看除了傳統(tǒng)的工業(yè)控制AI與控制融合在機(jī)器人、自動駕駛、能源管理等領(lǐng)域都有很大空間。但無論哪個場景安全約束都是繞不開的問題。所以我的判斷是短期內(nèi)“控制約束AI”會比“AI賦能控制”更容易落地因為前者解決的是剛需后者解決的是錦上添花。6.3 給入行者的幾點(diǎn)建議如果你是從控制背景進(jìn)入這個領(lǐng)域建議先補(bǔ)一下機(jī)器學(xué)習(xí)的基礎(chǔ)尤其是深度學(xué)習(xí)的基本原理和常用框架。不用學(xué)得太深但要知道怎么訓(xùn)練一個簡單的網(wǎng)絡(luò)怎么看損失曲線怎么調(diào)超參數(shù)。如果你是從AI背景進(jìn)入這個領(lǐng)域建議先補(bǔ)一下控制理論的基礎(chǔ)尤其是穩(wěn)定性分析、反饋控制、狀態(tài)空間方法。這些知識會讓你理解為什么控制工程師那么在意穩(wěn)定性和安全性。無論什么背景都建議動手做一個完整的項目從數(shù)據(jù)采集到控制器設(shè)計到現(xiàn)場部署。只有走完整個流程才能真正理解AI和控制融合的難點(diǎn)在哪里。最后保持敬畏心?？刂葡到y(tǒng)往往涉及人身安全或重大財產(chǎn)任何疏忽都可能造成嚴(yán)重后果。AI可以幫你做得更好但不能替代你對系統(tǒng)的理解和責(zé)任。