簡(jiǎn)介面向本碩博及科研人員這份Matlab仿真資源圍繞高斯過(guò)程與貝葉斯全局優(yōu)化方法展開包含完整可運(yùn)行的算法代碼與演示錄像適合用于貝葉斯優(yōu)化編程學(xué)習(xí)、課程設(shè)計(jì)、畢業(yè)論文驗(yàn)證及課題組算法預(yù)研。資源共11個(gè)文件以9個(gè)Matlab腳本.m為核心另有1個(gè)文本格式的說(shuō)明文檔和1個(gè)操作演示視頻整體壓縮包僅173KB輕量緊湊、便于按需查看。目前已有2031人學(xué)習(xí)下載屬于高頻使用的教研資料。內(nèi)容上代碼模塊化實(shí)現(xiàn)了高斯過(guò)程回歸、期望改進(jìn)EI、置信上界UCB等關(guān)鍵步驟綜合運(yùn)行腳本可一鍵串聯(lián)優(yōu)化流程說(shuō)明文檔補(bǔ)充了必要的算法注釋與運(yùn)行提示操作視頻則直觀展示從主腳本運(yùn)行、子函數(shù)調(diào)用到當(dāng)前路徑設(shè)置的完整細(xì)節(jié)可有效規(guī)避直接運(yùn)行子函數(shù)等常見錯(cuò)誤幫助讀者快速掌握貝葉斯全局優(yōu)化在Matlab中的落地寫法。1. 貝葉斯全局優(yōu)化把調(diào)參黑匣子變成一條可復(fù)現(xiàn)的收斂曲線貝葉斯全局優(yōu)化Bayesian OptimizationBO在 MATLAB 里最常見的打開方式是bayesopt一行命令但大多數(shù)教程止步于“填個(gè)函數(shù)、按回車、看曲線”它背后的高斯過(guò)程代理模型、采集函數(shù)選點(diǎn)、新樣本回填這三步到底怎么協(xié)作很多人沒機(jī)會(huì)看細(xì)節(jié)。這次拆的資源包包含一套手動(dòng)實(shí)現(xiàn)的 BO 仿真代碼和配套操作視頻能把黑匣子一層層剝開每一步怎么算、每個(gè)參數(shù)調(diào)了有什么影響、為什么幾十次迭代就能逼近全局最優(yōu)。適合正在做超參數(shù)搜索、仿真試驗(yàn)次數(shù)有限、或者想從“會(huì)用bayesopt”進(jìn)階到“能自己改 BO 邏輯”的 MATLAB 用戶。下面的內(nèi)容按原理、復(fù)現(xiàn)、避坑、驗(yàn)證往下走代碼可以直接抄。2. 高斯過(guò)程代理模型與采集函數(shù)BO 少算的那幾步憑什么是“全局最優(yōu)”2.1 高斯過(guò)程回歸在 BO 里的角色均值、協(xié)方差與超參數(shù)BO 的核心假設(shè)是目標(biāo)函數(shù)很貴我不能隨便算。所以先用一個(gè)代理模型模仿它代理模型給每個(gè)未知點(diǎn)同時(shí)輸出“預(yù)測(cè)值”和“不確定度”。工程上最常用的代理模型就是高斯過(guò)程回歸Gaussian Process RegressionGPR。區(qū)別在于普通回歸只給一個(gè)y_predGP 給的是y_pred ± 若干倍標(biāo)準(zhǔn)差這個(gè)標(biāo)準(zhǔn)差會(huì)隨訓(xùn)練點(diǎn)密度的變化而變化離已知樣本越遠(yuǎn)標(biāo)準(zhǔn)差越大也就是“我心里越?jīng)]底”。在 MATLAB 里fitrgp就是干這件事的。它有三個(gè)東西需要你理解均值函數(shù)默認(rèn)是常數(shù)也就是整體趨勢(shì)。對(duì) BO 場(chǎng)景常數(shù)均值夠用因?yàn)椴杉瘮?shù)選點(diǎn)主要靠協(xié)方差帶來(lái)的空間結(jié)構(gòu)。協(xié)方差函數(shù)核函數(shù)決定“兩個(gè)點(diǎn)距離多近才算相似”。平方指數(shù)核平滑但偏“軟”Matern 5/2 核在工程目標(biāo)函數(shù)上更穩(wěn)因?yàn)樗鼘?duì)參數(shù)變化不那么敏感不容易把響應(yīng)面擬合得過(guò)于震蕩。噪聲參數(shù)Sigma目標(biāo)函數(shù)如果是仿真軟件每次結(jié)果可能帶數(shù)值噪聲如果是確定性數(shù)學(xué)函數(shù)Sigma可以設(shè)得很小。參數(shù)調(diào)優(yōu)時(shí)fitrgp默認(rèn)用最大似然估計(jì)去擬合超參數(shù)包括核函數(shù)的長(zhǎng)度尺度、噪聲方差。這意味著每一輪 BO 迭代其實(shí)都在重新學(xué)一次“響應(yīng)面的形狀”。這也是 BO 耗時(shí)的大頭后面避坑章會(huì)細(xì)說(shuō)。核函數(shù)MATLAB 中名稱適用目標(biāo)函數(shù)特點(diǎn)常用場(chǎng)景平方指數(shù)squaredexponential非常光滑、無(wú)突變理論測(cè)試函數(shù)Matern 5/2matern52存在輕微粗糙、有噪聲工程仿真、CFD/ FEMMatern 3/2matern32波動(dòng)較強(qiáng)結(jié)構(gòu)優(yōu)化響應(yīng)面ARD 類ardsquaredexponential不同維度敏感度差異大維度多、需自動(dòng)降權(quán)我一般做 BO 仿真第一版都用 Matern 5/2不是因?yàn)樗碚撟钇炼菍?shí)際跑工程目標(biāo)函數(shù)時(shí)它比平方指數(shù)更不容易出現(xiàn)那種“過(guò)度自信”的窄尖峰假象。這一條在后面避坑章會(huì)反復(fù)出現(xiàn)。2.2 采集函數(shù) EI怎么平衡“挖已知最優(yōu)點(diǎn)”和“探索未知區(qū)”代理模型建好了下一步要決定下一個(gè)試驗(yàn)點(diǎn)在哪里。這個(gè)決策函數(shù)叫采集函數(shù)Acquisition Function。最經(jīng)典的是期望改進(jìn)Expected ImprovementEI已知當(dāng)前已觀測(cè)到的最小值是f_best某候選點(diǎn)x的 GP 預(yù)測(cè)均值為mu標(biāo)準(zhǔn)差為sigma該點(diǎn)的期望改進(jìn)量約為EI (f_best - mu) * Phi(z) sigma * phi(z)其中z (f_best - mu) / sigma直觀理解如果mu比f(wàn)_best小很多說(shuō)明這個(gè)點(diǎn)很有潛力如果sigma很大說(shuō)明這里沒被探索過(guò)也可能藏著更優(yōu)解。EI 同時(shí)考慮這兩項(xiàng)所以它既不會(huì)死守當(dāng)前最優(yōu)也不會(huì)漫無(wú)目的地亂跑。這就是 BO“全局”二字的來(lái)源。采集函數(shù)不只有 EI 一種。UCB 是把mu和sigma做加權(quán)和偏好更激進(jìn)地探索POI 則只關(guān)心“超過(guò)當(dāng)前最優(yōu)的概率”容易保守。MATLAB 的bayesopt里可以直接指定AcquisitionFunctionName手動(dòng)實(shí)現(xiàn)時(shí)我通常選 EI因?yàn)樗鼌?shù)少、對(duì)噪聲容忍度更高。如果你想更保守可以把 EI 公式里的f_best換成f_best xixi取 0.01 到 0.1這樣會(huì)給探索加一點(diǎn)權(quán)重避免卡在局部極值。2.3 BO 與網(wǎng)格搜索、隨機(jī)搜索的邊界在哪方法采樣次數(shù)對(duì)低維參數(shù)效果好對(duì)高維參數(shù)效果好能否利用歷史信息網(wǎng)格搜索指數(shù)增長(zhǎng)是否否隨機(jī)搜索固定次數(shù)否是否BO固定次數(shù)是弱是網(wǎng)格搜索在 2 個(gè)參數(shù)時(shí)還能忍到 6 個(gè)參數(shù)時(shí)每維度取 10 個(gè)點(diǎn)就是 10^6 次仿真顯然不現(xiàn)實(shí)。隨機(jī)搜索雖然在高維下比網(wǎng)格好用但每一輪都是獨(dú)立抽簽之前算出的好點(diǎn)不會(huì)指導(dǎo)后面往哪個(gè)方向補(bǔ)采。BO 的價(jià)值就是“每一輪都站在過(guò)去所有采樣點(diǎn)肩膀上”。但 BO 不是萬(wàn)能。參數(shù)維度超過(guò) 20 且沒有明顯低維結(jié)構(gòu)時(shí)GP 的協(xié)方差矩陣訓(xùn)練成本和采集函數(shù)優(yōu)化成本都會(huì)陡增這時(shí) BO 反而不如隨機(jī)搜索加后處理。這個(gè)邊界要心里有數(shù)BO 適合的是“單次評(píng)估貴、預(yù)算小、維度在 2 到 15 之間”的優(yōu)化問(wèn)題正好覆蓋大多數(shù)仿真調(diào)參場(chǎng)景。3. 在 MATLAB 里搭建 BO 仿真從測(cè)試函數(shù)到完整迭代循環(huán)3.1 用 Branin-Hoo 標(biāo)準(zhǔn)測(cè)試函數(shù)當(dāng)目標(biāo)為什么選它為了驗(yàn)證實(shí)現(xiàn)正確需要選一個(gè)全局最優(yōu)已知、形狀又不太簡(jiǎn)單的目標(biāo)函數(shù)。Branin-Hoo 是全局優(yōu)化領(lǐng)域的標(biāo)準(zhǔn)測(cè)試函數(shù)定義域x1 ∈ [-5, 10]、x2 ∈ [0, 15]有三個(gè)全局最優(yōu)點(diǎn)最小值約為0.3979。它有兩個(gè)局部極小能考驗(yàn) BO 是否會(huì)過(guò)早收斂。工程里的仿真黑箱通常也有多個(gè)局部極值因此這個(gè)測(cè)試函數(shù)非常有代表性。下面是初始采樣與目標(biāo)函數(shù)定義% Branin-Hoo 目標(biāo)函數(shù)x 是 1x2 行向量 obj (x) (x(2) - 5.1./(4*pi^2).*x(1).^2 5/pi.*x(1) - 6).^2 ... 10*(1 - 1./(8*pi)).*cos(x(1)) 10; lb [-5, 0]; % 兩個(gè)維度的下界 ub [10, 15]; % 兩個(gè)維度的上界 % 用 Latin Hypercube 生成 5 個(gè)初始樣本保證空間不扎堆 rng(42); X0 lb lhsdesign(5, 2) .* (ub - lb); y0 zeros(5, 1); for i 1:5 y0(i) obj(X0(i, :)); end這里lhsdesign生成的是[0,1]區(qū)間內(nèi)的拉丁超立方樣本通過(guò).*(ub - lb) lb縮放到實(shí)際定義域。初始樣本數(shù)量不要太多5 個(gè)就夠因?yàn)?BO 的價(jià)值就是在迭代中逐步補(bǔ)點(diǎn)。rng(42)固定隨機(jī)種子保證復(fù)現(xiàn)時(shí)初始點(diǎn)完全一致。再看 GP 擬合與迭代循環(huán)X X0; y y0; for iter 1:30 % 1. 用當(dāng)前所有觀測(cè)點(diǎn)擬合高斯過(guò)程 gpr fitrgp(X, y, ... KernelFunction, matern52, ... Sigma, 1e-3, ... SigmaLowerBound, 1e-5, ... Standardize, true); % 2. 在候選網(wǎng)格上預(yù)測(cè)均值和標(biāo)準(zhǔn)差 n 100; x1g linspace(lb(1), ub(1), n); x2g linspace(lb(2), ub(2), n); [X1, X2] ndgrid(x1g, x2g); Xcand [X1(:), X2(:)]; [mu, sigma] predict(gpr, Xcand); sigma max(sigma, 1e-6); % 防止除零 % 3. 計(jì)算 EI 并挑出最大期望改進(jìn)點(diǎn) fbest min(y); z (fbest - mu) ./ sigma; EI (fbest - mu) .* normcdf(z) sigma .* normpdf(z); [~, idx] max(EI); xnew Xcand(idx, :); ynew obj(xnew); % 4. 把新點(diǎn)加入歷史樣本進(jìn)入下一輪 X [X; xnew]; y [y; ynew]; end這段代碼的邏輯很直白每次迭代先重新用fitrgp擬合 GP然后在 100×100 的網(wǎng)格候選點(diǎn)上算 EI取 EI 最大的那個(gè)點(diǎn)作為本次仿真點(diǎn)算完真實(shí)目標(biāo)值后回填到樣本庫(kù)。fitrgp的Sigma參數(shù)是高斯過(guò)程噪聲標(biāo)準(zhǔn)差SigmaLowerBound給一個(gè)下限防止fitrgp把噪聲調(diào)整為負(fù)數(shù)或過(guò)小導(dǎo)致數(shù)值奇異。Standardize設(shè)為true會(huì)對(duì)輸出做標(biāo)準(zhǔn)化對(duì) Branin 這種取值范圍跨度大的目標(biāo)函數(shù)很有必要。normcdf和normpdf分別是標(biāo)準(zhǔn)正態(tài)分布的累積分布函數(shù)和概率密度函數(shù)對(duì)應(yīng)前文 EI 公式里的Phi(z)和phi(z)。網(wǎng)格密度n100在二維問(wèn)題下生成一萬(wàn)個(gè)候選點(diǎn)計(jì)算量完全可接受。如果你優(yōu)化的是三維建議降到 40否則候選笛卡爾積會(huì)爆炸到 6 萬(wàn)以上。3.2 用 MATLAB 內(nèi)置 bayesopt 走一遍結(jié)果對(duì)照用手動(dòng)實(shí)現(xiàn)適合理解原理、改采集函數(shù)、加自定義核函數(shù)。但在實(shí)際工程里你更可能直接用內(nèi)置bayesopt它內(nèi)部做了更多數(shù)值優(yōu)化比如采集函數(shù)的最優(yōu)解不是靠網(wǎng)格找的而是用連續(xù)優(yōu)化器去細(xì)搜因此結(jié)果會(huì)更精細(xì)。% 定義可優(yōu)化變量及其邊界 optVar [optimizableVariable(x1, [-5, 10]); ... optimizableVariable(x2, [0, 15])]; % 直接調(diào)用內(nèi)置貝葉斯優(yōu)化 results bayesopt(obj, optVar, ... AcquisitionFunctionName, expected-improvement, ... MaxObjectiveEvaluations, 30, ... IsObjectiveDeterministic, true, ... Verbose, 1); [Xopt, yopt] bestPoint(results, Criterion, min-observed); fprintf(最優(yōu)值: %.4f 在 x1%.2f x2%.2f\n, yopt, Xopt.x1, Xopt.x2);MaxObjectiveEvaluations控制總仿真次數(shù)包括初始點(diǎn)。IsObjectiveDeterministic設(shè)為true告訴優(yōu)化器函數(shù)無(wú)噪聲這樣它會(huì)直接插值而不額外估計(jì)噪聲如果你的目標(biāo)函數(shù)每次運(yùn)行有一點(diǎn)點(diǎn)浮點(diǎn)誤差或仿真隨機(jī)性要改成false。Verbose設(shè)為 1 能在命令行實(shí)時(shí)看到每輪迭代結(jié)果。跑完以后bestPoint的min-observed是找“已觀測(cè)到的最小值”比min-expected更穩(wěn)妥后者是用代理模型預(yù)測(cè)的可能出現(xiàn)偏差。把手動(dòng)循環(huán)和bayesopt的結(jié)果放在一起對(duì)比你會(huì)發(fā)現(xiàn)最優(yōu)值都很接近0.3979但bayesopt通常用更少的迭代數(shù)找到更接近最優(yōu)的位置因?yàn)樗谶x點(diǎn)上做了連續(xù)優(yōu)化而不是粗網(wǎng)格。不過(guò)手動(dòng)版的價(jià)值恰恰在“可改”你想換成 UCB 采集函數(shù)、加一個(gè)禁止采樣的禁區(qū)或者把 GP 換成帶梯度信息的變體手動(dòng)版才是起點(diǎn)。3.3 收斂曲線怎么畫、怎么看BO 的收斂曲線不應(yīng)該畫“歷史最優(yōu)值”因?yàn)樽钚≈禃?huì)一直單調(diào)下降顯得很漂亮但信息量不夠。我建議畫兩個(gè)子圖% 子圖1當(dāng)前最優(yōu)值隨評(píng)估次數(shù)變化 figure; plot(1:length(y), min(y), b-, LineWidth, 1.5); xlabel(評(píng)估次數(shù)); ylabel(當(dāng)前最優(yōu)目標(biāo)值); % 子圖2每次新增樣本的改進(jìn)量 dy [0; min(y(2:end)) - min(y(1:end-1))]; hold on; bar(1:length(dy), dy); legend(當(dāng)前最優(yōu), 單次改進(jìn)量);單次改進(jìn)量如果長(zhǎng)期小于1e-4說(shuō)明 BO 已經(jīng)收斂或卡住了。這時(shí)要看最后兩個(gè)樣本點(diǎn)是否落在一起如果落在同一個(gè)局部極值周圍且 EI 最大值依然很高說(shuō)明探索不足需要調(diào)大xi或改用 UCB。3.4 資源包里操作視頻對(duì)應(yīng)的復(fù)現(xiàn)節(jié)奏這套資源里附帶了一段操作視頻。視頻里按“生成初始樣本 → 跑第一輪 GP 擬合 → 觀察 EI 面 → 加入新樣本 → 再看收斂曲線”的順序演示對(duì)應(yīng)上面代碼的執(zhí)行路徑。錄制操作時(shí)建議打開 MATLAB 的編輯器與命令行分區(qū)每輪迭代之間停頓 3 到 5 秒讓EI面的變化過(guò)程在視頻里可讀。你拿到手復(fù)現(xiàn)時(shí)只要固定rng(42)每一步的輸出數(shù)字會(huì)和視頻完全一致可以用來(lái)核對(duì)你的 MATLAB 版本和工具箱是否裝齊。注意fitrgp屬于 Statistics and Machine Learning Toolboxbayesopt屬于 Global Optimization Toolbox。缺少任一個(gè)工具箱都會(huì)在調(diào)用時(shí)報(bào)未定義函數(shù)或許可證錯(cuò)誤。4. BO 仿真避坑核矩陣奇異、邊界徘徊與超參翻車的排查記錄4.1 現(xiàn)象擬合 GP 時(shí) MATLAB 報(bào)錯(cuò)“無(wú)法計(jì)算協(xié)方差矩陣”運(yùn)行fitrgp時(shí)直接報(bào)錯(cuò)有時(shí)還提示Matrix is singular或者covariance matrix not positive definite。新手最容易以為是fitrgp不穩(wěn)定其實(shí)是樣本里有重復(fù)點(diǎn)或者核函數(shù)長(zhǎng)度尺度被訓(xùn)練得極小導(dǎo)致兩點(diǎn)之間協(xié)方差趨近零整個(gè)矩陣接近奇異。原因BO 迭代時(shí)如果候選網(wǎng)格太粗EI 最大值點(diǎn)可能會(huì)反復(fù)選到同一位置或者初始樣本點(diǎn)之間距離太近造成數(shù)值重復(fù)。遇到這類問(wèn)題首先要做去重檢查而不是急著換核函數(shù)。解決在進(jìn)入下一輪前判斷新點(diǎn)與已有樣本的最小距離小于閾值就跳過(guò)本次迭代?；蛘咴趂itrgp里給Sigma加一個(gè)下限比如1e-5這相當(dāng)于給協(xié)方差矩陣對(duì)角線加噪聲數(shù)值穩(wěn)定很多。實(shí)際操作中我會(huì)在循環(huán)里加一行% 檢查重復(fù)點(diǎn) dmin min(sqrt(sum((X - xnew).^2, 2))); if dmin 1e-6 continue; end4.2 現(xiàn)象EI 最大值一直貼著邊界新樣本全在參數(shù)上下限處這可能是 BO 最隱蔽的翻車現(xiàn)場(chǎng)曲線也在下降但選出來(lái)的點(diǎn)永遠(yuǎn)是x2的上界或下界。第一次遇到會(huì)懷疑采集函數(shù)寫錯(cuò)了其實(shí)多半是目標(biāo)函數(shù)在邊界外的趨勢(shì)沒被 GP 學(xué)準(zhǔn)或者網(wǎng)格候選點(diǎn)沒有把邊界附近加密。原因Branin 這類函數(shù)的最優(yōu)點(diǎn)在邊界內(nèi)側(cè)但如果 GP 長(zhǎng)度尺度被最大似然估計(jì)得偏大邊界外會(huì)被預(yù)測(cè)成同樣低的值EI 就會(huì)把點(diǎn)推到邊界上。另一個(gè)常見原因是Standardize沒開GP 對(duì)超出訓(xùn)練范圍的外推值過(guò)于自信。解決先看訓(xùn)練好的核函數(shù)長(zhǎng)度尺度如果兩個(gè)維度的長(zhǎng)度尺度都遠(yuǎn)遠(yuǎn)大于定義域?qū)挾日f(shuō)明模型把函數(shù)學(xué)成了近似線性需要給長(zhǎng)度尺度設(shè)置上限。手動(dòng)實(shí)現(xiàn)時(shí)我用的是KernelFunction, matern52并且把候選網(wǎng)格在邊界處加密比如linspace改用兩側(cè)加密的分布。更實(shí)際的辦法是改用bayesopt它會(huì)用連續(xù)優(yōu)化采集函數(shù)而不受網(wǎng)格分辨率限制邊界問(wèn)題會(huì)輕很多。4.3 現(xiàn)象每次迭代都要幾十秒30 次根本跑不完fitrgp每次迭代都在重新估計(jì)全部超參數(shù)數(shù)據(jù)點(diǎn)從 5 漲到 35雖然樣本量不大但每次訓(xùn)練都要多次計(jì)算核矩陣的逆和似然函數(shù)梯度累積起來(lái)就很慢。如果你把候選網(wǎng)格設(shè)成n300一次預(yù)測(cè)就是 9 萬(wàn)個(gè)點(diǎn)更慢。原因手動(dòng)實(shí)現(xiàn)里把“GP 擬合”放在了每一輪循環(huán)內(nèi)而實(shí)際上超參數(shù)在樣本量變化不大時(shí)沒必要每輪都重學(xué)。解決一種常見做法是每 5 輪更新一次超參數(shù)其余輪次用上一輪訓(xùn)練好的gpr對(duì)象直接預(yù)測(cè)。MATLAB 的predict可以用舊模型不強(qiáng)制重新擬合。把fitrgp調(diào)用放進(jìn)if mod(iter, 5) 1條件里能省一半以上的訓(xùn)練時(shí)間。同時(shí)把候選網(wǎng)格降到n80二維就是 6400 個(gè)點(diǎn)對(duì)選點(diǎn)精度影響很小。4.4 現(xiàn)象目標(biāo)函數(shù)帶噪聲時(shí)BO 結(jié)果反而比隨機(jī)搜索差工程仿真里目標(biāo)函數(shù)常有數(shù)值噪聲比如有限元結(jié)果的小幅波動(dòng)、CFD 迭代未完全收斂。直接用手動(dòng)版跑EI 會(huì)把噪聲當(dāng)成真信號(hào)導(dǎo)致它反復(fù)去采樣那些“碰巧低”的點(diǎn)。原因EI 公式里的sigma是 GP 對(duì)模型不確定度的估計(jì)而fitrgp默認(rèn)會(huì)嘗試把噪聲Sigma擬合到接近下限模型只會(huì)去解釋觀測(cè)值的波動(dòng)而不是平滑噪聲。目標(biāo)函數(shù)有噪聲時(shí)這會(huì)推動(dòng) BO 進(jìn)入過(guò)度擬合狀態(tài)。解決fitrgp里把Sigma初值設(shè)成目標(biāo)值方差的 10%并設(shè)置SigmaLowerBound為一個(gè)明顯不為零的值比如sqrt(var(y)) * 0.01。如果噪聲隨時(shí)間均勻還可以在同一參數(shù)點(diǎn)重復(fù)采樣三次取均值。最省事的路徑是直接用bayesopt并把IsObjectiveDeterministic設(shè)為false它會(huì)自動(dòng)估計(jì)一個(gè)合適的噪聲方差。4.5 現(xiàn)象照視頻復(fù)現(xiàn)收斂曲線對(duì)不上資源包的操作視頻里每一步都有命令行輸出但自己跑出來(lái)的最優(yōu)值和曲線走勢(shì)不一致。這時(shí)八成不是代碼抄錯(cuò)而是隨機(jī)種子、版本差異或初始采樣差異。原因視頻里用rng(42)固定了初始點(diǎn)如果你跳過(guò)了這一行l(wèi)hsdesign每次生成的 5 個(gè)點(diǎn)都不一樣。另一個(gè)常見因素是高版本 MATLAB 的fitrgp默認(rèn)迭代次數(shù)或優(yōu)化容差變了導(dǎo)致同一批數(shù)據(jù)擬合出的超參數(shù)略有差異。解決在腳本最前面寫清rng(42)復(fù)現(xiàn)時(shí)把fitrgp的OptimizeHyperparameters默認(rèn)行為關(guān)掉比較麻煩。更通用的是把每輪X、y保存成.mat文件視頻里也做同樣記錄對(duì)比中間過(guò)程數(shù)據(jù)而不是只對(duì)比最終圖。save(sprintf(bo_iter_%02d.mat, iter), X, y);5. 用已知最優(yōu)反推實(shí)現(xiàn)正確性采樣預(yù)算壓縮與結(jié)果驗(yàn)證拿到這套代碼第一件事不是立刻換自己的工程目標(biāo)函數(shù)而是先在 Branin-Hoo 上確認(rèn)實(shí)現(xiàn)正確。定義域內(nèi)已知全局最優(yōu)值約為0.3979三組最優(yōu)解分別落在(-pi, 12.275)、(pi, 2.275)、(9.42478, 2.475)附近。如果能跑到0.398左右說(shuō)明代理模型和 EI 實(shí)現(xiàn)沒問(wèn)題如果卡在某個(gè)局部最優(yōu)附近比如0.5以上且 30 輪不再下降就要回頭查采集函數(shù)里的符號(hào)是不是寫反了。我會(huì)做一個(gè)更嚴(yán)格的驗(yàn)證把MaxObjectiveEvaluations分別壓到 10、20、30跑三次各自記錄最終最優(yōu)值和第一次低于0.42的輪次。結(jié)果應(yīng)該呈現(xiàn)一個(gè)規(guī)律——10 次通常能到0.45左右20 次能穩(wěn)定低于0.4130 次逼近0.398。如果 10 次反而比 30 次結(jié)果更好那說(shuō)明迭代中出現(xiàn)了數(shù)值抖動(dòng)或重復(fù)采樣需要檢查去重邏輯。驗(yàn)證完正確性后再把這個(gè) BO 封裝成自己的函數(shù)輸入是目標(biāo)函數(shù)句柄、邊界、迭代次數(shù)輸出是全局最優(yōu)解、最優(yōu)值和歷史樣本記錄。用 MATLAB 的 OOP 架構(gòu)把測(cè)試函數(shù)、采集函數(shù)和代理模型拆成三個(gè)類后續(xù)換到自己工程目標(biāo)時(shí)就不用來(lái)回改腳本了。我現(xiàn)在每換一個(gè)新仿真場(chǎng)景都會(huì)先固定隨機(jī)種子在 2 維標(biāo)準(zhǔn)函數(shù)上跑通一輪再套真實(shí)仿真目標(biāo)這一條習(xí)慣救過(guò)我很多次。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取