接手這套構建發(fā)布系統(tǒng)的時候老板只丟過來一句話現(xiàn)在好幾個項目組都在搶 Jenkins動不動就卡隊列你想想辦法。這句話基本概括了大多數(shù)團隊從 Jenkins 單機走向集群的真實場景——不是趕時髦而是被并發(fā)任務逼出來的。后來我基于 Jenkins 官方推薦的 Controller/Agent 架構把原有的單機實例改造成了集群部署同時梳理了一套代碼發(fā)布流程從源碼拉取、編譯、鏡像構建到遠程發(fā)布全部串成流水線。這篇文章就是我整理出來的實戰(zhàn)文檔包含集群搭建的完整步驟、憑據(jù)與環(huán)境變量的處理方式、批量取消排隊任務的小技巧以及日常運維最容易踩到的坑。目標讀者是那些已經(jīng)用過 Jenkins 基礎功能、希望解決單點瓶頸或想把發(fā)布流程規(guī)范化的同學文章里的命令和腳本都來自真實環(huán)境可以直接拿過去改改就用。1. 項目背景與整體設計1.1 單機 Jenkins 的瓶頸為什么要拆成集群團隊剛開始用 Jenkins 的時候只有一個單機實例。你甚至不需要專門配一臺服務器隨便一臺 4C8G 的虛擬機就能跑。任務量小的時候master 上既跑 Web 界面又跑構建任務感覺也沒啥問題。直到有一天你發(fā)現(xiàn)構建隊列里堆了幾十個任務點一下立即構建要等十分鐘才輪到某個項目的測試用例寫得稀爛把整個 master 的 CPU 打到 100%其他組的人想點一下構建按鈕都卡半天。單機 Jenkins 的瓶頸不只是資源問題還有嚴重的隔離問題。所有構建任務都在同一臺機器上執(zhí)行A 項目的構建腳本如果執(zhí)行了sudo rm -rf /你整個 Jenkins 數(shù)據(jù)目錄都有可能被帶走。就算不出現(xiàn)這么極端的情況兩個項目依賴同一個 Maven 本地倉庫、同一個 npm 緩存目錄也經(jīng)常出現(xiàn)版本互相污染的問題。還有一點容易被忽視單機部署意味著 master 掛了整個發(fā)布能力就沒了。任何人想回滾一個版本、緊急修一個線上 bug都得眼巴巴等運維把 Jenkins 服務拉起來。所以當并發(fā)量和團隊規(guī)模到一定程度單機必然要轉集群。集群帶來的收益很直接任務分散到多臺 agent 上執(zhí)行master 只負責調(diào)度和數(shù)據(jù)存儲不會因為某個構建任務失控而拖垮整個系統(tǒng)不同技術棧的構建環(huán)境可以按標簽隔離比如 Java 項目跑在帶java-agent標簽的機器上前端項目跑在帶node-agent標簽的機器上互不干擾而且單臺 agent 掛了隊列里的任務會自動找其他可用節(jié)點可用性比單機高一個量級。1.2 整體架構與組件選型我最終采用的是 Jenkins 官方推薦的 Controller/Agent 架構也就是你常聽到的 Master/Agent。Master 節(jié)點負責 Web 控制臺、任務調(diào)度、憑據(jù)管理、構建記錄存儲原則上不跑具體的構建邏輯Agent 節(jié)點負責真正執(zhí)行流水線里的各個 stage比如拉代碼、編譯、跑測試、構建鏡像、遠程發(fā)布。架構圖不用畫得太復雜核心就三塊一臺 master、多臺 agent、一個共享存儲目錄。為什么不搞多個 master很多人的第一反應是搞兩臺 Jenkins 做高可用一個掛了另一個頂上。但多 master 的維護成本非常高插件配置、憑據(jù)同步、任務配置復制全是額外的工作量而且 Jenkins 的架構設計里橫向擴展 agent 才是更合理的姿勢。一臺 master 加上一堆帶標簽的 agent已經(jīng)能應對絕大多數(shù)團隊的需求。如果到了 master 本身成了瓶頸的那一天再考慮 Jenkins 官方推薦的 HA 方案或者遷移到 Kubernetes 動態(tài)構建環(huán)境也不遲。Agent 有兩種接入方式SSH 方式和 JNLP 方式。我在生產(chǎn)環(huán)境里用的是 SSH 方式master 主動通過 SSH 連接 agent然后拉起 agent 進程。這種方式配置直觀網(wǎng)絡環(huán)境也好控制只要 master 能訪問 agent 的 22 端口就夠了。JNLP 方式適合 agent 在另一個隔離網(wǎng)絡的場景agent 主動反向連接 master后面我會詳細說這兩種方式的利弊。組件選型方面我的原則是夠用就好。沒有一上來就上 Kubernetes 插件、動態(tài) Pod而是先用手頭的幾臺固定 agent 把流程跑通。構建環(huán)境里統(tǒng)一裝 JDK 17、Maven、Node.js 18、Docker CLI共享目錄放在/mnt/jenkins_shared用來存放依賴緩存和跨節(jié)點傳遞的產(chǎn)物。這套組合在中小規(guī)模團隊里已經(jīng)非常穩(wěn)等確實需要彈性擴縮容的時候再引入 Kubernetes 動態(tài) agent 也不遲。2. 集群部署實操環(huán)境準備與安裝2.1 節(jié)點規(guī)劃與系統(tǒng)準備先規(guī)劃機器這步容易被人忽略但直接決定了后面集群好不好用。我的建議是 master 獨立一臺配置不用太高4C8G 起步就夠了因為 master 只做調(diào)度而不跑構建agent 節(jié)點按實際構建需求來編譯 Java 服務或者跑前端構建的8C16G 是比較舒服的配置如果你要并行跑多個任務內(nèi)存可以再加。操作系統(tǒng)我優(yōu)先選 Ubuntu 20.04 或 22.04因為依賴安裝方便glibc 版本新老一點的 CentOS 7.9 也能用但 Java 17 和部分工具鏈在 CentOS 7 上可能會有坑。系統(tǒng)準備階段先把基礎工具裝好。下面的命令在 master 和所有 agent 上都執(zhí)行一遍sudo apt update sudo apt install -y openjdk-17-jre git curl unzip rsync java -version如果你用的是 CentOS 系sudo yum install -y java-17-openjdk git curl unzip rsync java -version這里有個細節(jié)不要只裝 JRE很多 Jenkins 操作和構建任務會用到keytool、jarsigner這類 JDK 自帶的工具直接用openjdk-17-jdk更省心。同時建議創(chuàng)建統(tǒng)一的運行用戶我習慣叫jenkins避免直接用 root 跑構建任務sudo useradd -m -d /var/lib/jenkins -s /bin/bash jenkins sudo mkdir -p /mnt/jenkins_shared sudo chown jenkins:jenkins /mnt/jenkins_shared目錄規(guī)劃上JENKINS_HOME放在/var/lib/jenkins構建緩存放在/mnt/jenkins_shared。這樣 master 的系統(tǒng)盤和數(shù)據(jù)盤可以分離后續(xù)即使系統(tǒng)盤出問題數(shù)據(jù)依然安全。如果你有多塊磁盤強烈建議把/mnt/jenkins_shared掛載到獨立數(shù)據(jù)盤。2.2 Master 安裝與初始化流程Jenkins 官方推薦用 deb 包或 rpm 包安裝但對國內(nèi)網(wǎng)絡環(huán)境來說清華鏡像直接下載 war 包反而更穩(wěn)定。我在生產(chǎn)環(huán)境就是這樣干的sudo mkdir -p /opt/jenkins cd /opt/jenkins sudo wget https://mirrors.tuna.tsinghua.edu.cn/jenkins/war-stable/2.452.3/jenkins.war然后用 systemd 管理 Jenkins 進程。這里我要強烈建議你用 systemd 而不是直接用java -jar jenkins.war啟動因為 systemd 能提供守護進程、崩潰自動重啟、日志管理省掉你手動搞 nohup 和 pid 文件的麻煩。[Unit] DescriptionJenkins Controller Afternetwork.target [Service] Userjenkins Groupjenkins EnvironmentJENKINS_HOME/var/lib/jenkins EnvironmentJAVA_OPTS-Xms512m -Xmx2g ExecStart/usr/bin/java -Xms512m -Xmx2g -jar /opt/jenkins/jenkins.war --httpPort8080 --webroot/var/cache/jenkins/war Restarton-failure [Install] WantedBymulti-user.target把jenkins.service放到/etc/systemd/system/目錄后sudo systemctl daemon-reload sudo systemctl enable --now jenkins sudo tail -f /var/log/syslog | grep jenkins第一次啟動完成后打開http://master-ip:8080Jenkins 會要求輸入初始密碼。這個密碼在 master 的本地文件里sudo cat /var/lib/jenkins/secrets/initialAdminPassword初始化階段 Jenkins 會問你要裝哪些插件。新手會直接點 Install suggested plugins但我建議你冷靜一下裝精簡集合。你真正需要的插件其實不多Pipeline、Git、Credentials Binding、SSH Agent、SSH Pipeline Steps、Timestamper。裝太多插件會讓啟動變慢而且插件之間版本沖突非常鬧心。后面要用什么再裝什么保持插件列表干凈是 Jenkins 長期穩(wěn)定的關鍵。初始化完成后建議順手確認一下Manage Jenkins - Security里的設置。生產(chǎn)環(huán)境不要開 Anyone can do anything至少要開啟登錄后才能操作并且關閉掉不必要的匿名權限。CSRF 保護默認是開著的反向代理配置不當?shù)脑捄竺鏁霈F(xiàn) 403 問題這個我在排查清單里會專門講。2.3 Agent 節(jié)點接入與連接方式實戰(zhàn)Agent 接入是整個集群搭建里最核心的一步也是很多人第一次踩坑的地方。我先說 SSH 方式因為這是我最推薦的做法。進入Manage Jenkins - Nodes - New Node填節(jié)點名稱比如agent-node1類型選擇 Permanent Agent。然后在配置頁里設置Remote root directory/home/jenkins/agentLabelsnode javaLaunch methodLaunch agents via SSHHostagent 的實際 IP比如192.168.1.21Credentials添加一個SSH Username with private key類型的憑據(jù)用戶名填jenkins私鑰選 master 上生成的 SSH 私鑰在 master 上生成 SSH 密鑰對并分發(fā)到 agentsudo -u jenkins ssh-keygen -t ed25519 -N -f /var/lib/jenkins/.ssh/id_ed25519 sudo -u jenkins ssh-copy-id -i /var/lib/jenkins/.ssh/id_ed25519.pub jenkins192.168.1.21這步有個坑ssh-copy-id需要 agent 上已經(jīng)允許jenkins用戶登錄如果你用的是一臺全新的服務器先手動設置一下/etc/ssh/sshd_config里的PasswordAuthentication yes等密鑰分發(fā)成功后可以再關掉。分發(fā)完密鑰回到 Jenkins 頁面點保存再試一下 Launch agent如果能從離線變成在線就說明連接成功了。SSH 方式的優(yōu)勢在于master 主動連 agent只要有 22 端口通就行agent 不需要額外安裝任何 Jenkins 客戶端而且密鑰是放在 master 的憑據(jù)庫里管理方便。缺點是如果 master 到 agent 的網(wǎng)絡不通或者有防火墻限制就費勁了。這時候你改用 JNLP 方式agent 主動向 master 發(fā)起連接。JNLP 方式的連接命令長這樣curl -sO http://jenkins-master:8080/jnlpJars/agent.jar java -jar agent.jar -url http://jenkins-master:8080 -secret secret-token -name agent-node2 -workDir /home/jenkins/agent這里secret-token可以在節(jié)點的配置詳情頁找到。JNLP 方式不需要 master 能訪問 agent反而要求 agent 能訪問 master所以適合 agent 在云上、在別的機房、網(wǎng)絡隔離比較嚴格的場景。但 JNLP 有個煩人的地方如果 master 的公網(wǎng)地址換了一個端口agent 就得重新指定-url參數(shù)維護成本稍高。無論用哪種方式我都要強調(diào)一點agent 是一臺獨立的構建機所有構建需要用到的工具鏈都必須在 agent 上裝好而不是在 master 上裝。常見的問題是有人新加了 agent 節(jié)點結果流水線一直報找不到mvn、找不到node排查下來發(fā)現(xiàn) agent 上根本沒裝這些工具。我一般會在每個 agent 的 labels 里標明技術棧比如node、java、docker流水線里用agent { label node }去精確調(diào)度這個習慣能省掉很多莫名其妙的故障。3. 核心配置Credentials、環(huán)境變量與代碼發(fā)布流程3.1 Credentials 配置的正確姿勢與避坑Jenkins 里的憑據(jù)配置看著簡單但一旦用錯排查起來能讓你懷疑人生。我的原則只有一個任何密碼、token、私鑰都不準出現(xiàn)在 Jenkinsfile 里。說白了把密碼明文寫在流水線腳本里等于把密鑰直接暴露給所有能看到 Jenkins 源碼倉庫的人而且日志里到處都是。憑據(jù)在Manage Jenkins - Credentials - System - Global credentials下創(chuàng)建。常見類型和用途如下憑據(jù)類型用途典型場景Username with password用戶名密碼認證Git 私有倉庫、HTTP 接口賬號SSH Username with private keySSH 認證Git 倉庫、SSH 發(fā)布到服務器Secret textAPI tokenRegistry 登錄 token、Webhook 密鑰Secret file文件型密鑰kubeconfig、云平臺憑證文件在流水線里使用憑據(jù)最標準的方式是withCredentials或者credentials()綁定。比如 SSH 發(fā)布到遠程服務器stage(Deploy) { steps { withCredentials([sshUserPrivateKey( credentialsId: prod-deploy-key, keyFileVariable: SSH_KEY )]) { sh scp -i $SSH_KEY -o StrictHostKeyCheckingno -r dist/* deployprod-server:/opt/app/demo ssh -i $SSH_KEY -o StrictHostKeyCheckingno deployprod-server systemctl restart demo } } }注意幾個細節(jié)。第一憑據(jù) ID 盡量用小寫字母加橫線比如prod-deploy-key不要用中文或者帶空格。第二credentialsId一旦創(chuàng)建了就不要頻繁改動因為很多流水線腳本都引用它改了 ID 所有腳本都要跟著動。第三Secret text 在流水線日志里會被自動脫敏但如果你不小心把它 echo 出來雖然日志里會顯示****仍然要盡量避免這種用法。這里還要專門提一件事SSH Host Key 驗證。很多第一次做發(fā)布流水線的人會踩這個坑——用scp或ssh連接遠程服務器時因為目標主機沒有出現(xiàn)在 known_hosts 里命令直接卡在 Are you sure you want to continue connecting 上。最省事的辦法是在命令里加-o StrictHostKeyCheckingno或者干脆在 agent 上用 ssh-copy-id 先把 known_hosts 寫好。生產(chǎn)環(huán)境里我傾向于后者更安全也更可控。3.2 Jenkins 內(nèi)置可用環(huán)境變量盤點與自定義變量Jenkins 在每次構建時會注入一堆環(huán)境變量幾乎可以說只要你在流水線里寫env.XXX就能拿到構建上下文信息。掌握這幾十個環(huán)境變量你的流水線才算真正靈活起來。環(huán)境變量含義典型用途JENKINS_HOMEJenkins 數(shù)據(jù)目錄備份、清理、定位配置JENKINS_URLJenkins 訪問地址回調(diào)通知、生成鏈接BUILD_NUMBER當前構建序號版本號、鏡像 tagBUILD_URL當前構建地址發(fā)送通知時附鏈接JOB_NAME任務名稱構建產(chǎn)物目錄、分支識別WORKSPACE構建工作目錄定位源碼、產(chǎn)物NODE_NAME構建節(jié)點名知道跑在哪臺 agentGIT_COMMITGit 當前提交 hash版本記錄、鏡像 tagGIT_BRANCHGit 當前分支區(qū)分環(huán)境構建EXECUTOR_NUMBER執(zhí)行器編號并發(fā)任務時區(qū)分工作區(qū)怎么確認當前任務可用哪些環(huán)境變量最簡單的辦法是在流水線里加一個調(diào)試 stage把環(huán)境變量全部打出來stage(Show Env) { steps { sh env | sort } }這個輸出可能非常長但你能直接看到可用的變量名和取值。實際項目中我特別常用的是把BUILD_NUMBER和GIT_COMMIT拼起來生成鏡像 tag比如environment { IMAGE_TAG v${BUILD_NUMBER}_${GIT_COMMIT.take(8)} }這樣每個鏡像都有獨一無二的版本號既方便追溯每次構建的源碼版本也能避免覆蓋同名鏡像。還要學會自定義環(huán)境變量。聲明式流水線里用environment塊environment { APP_NAME demo REGISTRY registry.example.com IMAGE ${REGISTRY}/ns/${APP_NAME}:${BUILD_NUMBER} }在steps里通過sh echo ${IMAGE}使用。需要注意區(qū)分environment塊里的變量會在 shell 里真實注入你可以直接用$IMAGE而 Groovy 側的變量要用${env.IMAGE}或者拼接字符串。這兩者的寫法很容易混尤其是在單引號 sh 腳本里經(jīng)常有人把 Groovy 變量名直接當成 shell 變量用結果值為空。調(diào)試技巧就是先sh echo $IMAGE看到底有沒有值再排查引用方式。3.3 用 Jenkinsfile 實現(xiàn)完整的代碼發(fā)布流水線流水線有兩種寫法代碼寫進 Git 倉庫的 Jenkinsfile 顯然比在 Web 界面里點來點去靠譜得多。Jenkinsfile 可以隨代碼一起版本化代碼評審、分支管理、回滾都方便這是現(xiàn)代 Jenkins 推薦的做法。這里我直接給一個包含拉代碼、構建、打包鏡像、遠程部署的完整示例pipeline { agent { label node } options { timestamps() timeout(time: 30, unit: MINUTES) disableConcurrentBuilds() buildDiscarder(logRotator(numToKeepStr: 30)) } parameters { choice(name: ENV, choices: [test, prod], description: 發(fā)布環(huán)境) string(name: TAG, defaultValue: latest, description: 版本號/鏡像標簽) } environment { BRANCH env.TAG latest ? main : release/${env.TAG} REGISTRY registry.example.com IMAGE ${REGISTRY}/ns/demo:${BUILD_NUMBER} } stages { stage(Checkout) { steps { git branch: env.BRANCH, credentialsId: gitlab-account, url: http://git.example.com/group/demo.git } } stage(Build) { steps { sh npm ci sh npm run lint sh npm run test:unit sh npm run build } } stage(Package Image) { steps { sh docker build -t ${IMAGE} . withCredentials([string(credentialsId: registry-token, variable: REG_TOKEN)]) { sh echo ${REG_TOKEN} | docker login ${REGISTRY} --username ${REG_USER} --password-stdin docker push ${IMAGE} } } } stage(Deploy) { when { expression { params.ENV test } } steps { withCredentials([sshUserPrivateKey(credentialsId: deploy-key, keyFileVariable: SSH_KEY)]) { sh ssh -i $SSH_KEY -o StrictHostKeyCheckingno deploytest-server docker pull ${IMAGE} docker stop demo || true docker rm demo || true docker run -d --name demo -p 8080:80 ${IMAGE} } } } stage(Health Check) { steps { sh curl -sf http://test-server:8080/health || exit 1 } } } post { success { echo 構建發(fā)布成功 } failure { echo 構建發(fā)布失敗請查看日志 } } }逐個階段解釋一下。Checkout階段用credentialsId拉取私有倉庫代碼這里用了憑據(jù)綁定而不是把用戶名密碼寫在 URL 里。Build階段用了npm ci而不是npm install目的是保證每次構建依賴版本完全可復現(xiàn)。Package Image階段用${IMAGE}直接打包并推送注意withCredentials里的變量只在它包裹的sh塊里有效出了這個塊REG_TOKEN就取不到了這個是很多人寫流水線時最容易犯的錯。Deploy階段我用when條件來控制只有參數(shù)選擇test時才執(zhí)行部署。Health Check階段是發(fā)布質(zhì)量的最后一道防線別省掉。對于生產(chǎn)環(huán)境的發(fā)布我其實更推薦滾動發(fā)布的思路先把新容器拉起讓負載均衡把流量切到新容器確認健康檢查通過后再下線舊容器。上面的例子為了演示簡潔直接 stop 舊容器再起新的這種模式在測試環(huán)境夠用但生產(chǎn)環(huán)境會因為停機窗口引來麻煩。如果你是做 To B 服務或者交易系統(tǒng)建議把 Deploy 階段替換成調(diào)用你們的發(fā)布平臺接口或者用 Ansible 腳本編排更平滑的發(fā)布流程。這個思路同樣適用于大數(shù)據(jù)組件比如你要通過 Jenkins 發(fā)布 Doris、ClickHouse 這類集群組件本質(zhì)也是構建產(chǎn)物 配置管理 分批下發(fā)把 Deploy 階段的命令換成對應組件的管理接口即可。4. 集群運維排隊工程處理與啟動目錄管理4.1 批量取消排隊工程腳本與管理技巧隊列堆積是 Jenkins 集群運維里最常見的問題。一堆任務排隊不執(zhí)行可能的原因很多executor 被占滿、agent 在線但標簽不匹配、任務配置了disableConcurrentBuilds導致上一個還在跑。這時候你一個一個點取消顯然不現(xiàn)實尤其當你同時有幾十個誤觸發(fā)的構建任務在隊列里躺著手動點到手酸。Jenkins 提供了一個很強大的工具Manage Jenkins - Script Console。在這里可以直接執(zhí)行 Groovy 腳本操作 Jenkins 內(nèi)部對象。批量取消排隊任務的標準腳本是這樣的def queue Jenkins.instance.queue queue.items.each { item - println Cancelling ${item.task.name} in queue: ${item.getInQueueForString()} item.doCancel() } println Queue cleared這段腳本會遍歷當前隊列里的所有任務逐個取消。執(zhí)行前你可以在 Script Console 里先跑一下只打印不取消的版本確認要取消的確實是目標任務def queue Jenkins.instance.queue queue.items.each { item - println Task: ${item.task.name}, waiting: ${item.getInQueueForString()}, label: ${item.task.assignedLabel} }這里我一般會加個hasBeenWaiting過濾只取消那些排隊超時的任務而不是把所有排隊項全部清空避免誤殺剛提交的合法構建。比如只取消等待超過 10 分鐘的任務import jenkins.model.Jenkins def queue Jenkins.instance.queue queue.items.findAll { item - item.hasBeenWaiting(600000) }.each { item - println Cancelling stale task: ${item.task.name}, waited: ${item.getInQueueForString()} item.doCancel() }hasBeenWaiting的參數(shù)是毫秒600000就是 10 分鐘。這個腳本比全量清空要溫柔得多適合日常工作場景。還有一個常見場景是某個 agent 節(jié)點掉線了導致它身上的任務全部積壓。這時候你可以在腳本里先過濾節(jié)點名把積壓任務批量取消?；蛘咴诠?jié)點配置里把 executor 數(shù)量暫時調(diào)大讓任務分散到其他機器上跑而不是一味取消。批量取消只是止血找到根因才是重點。我一般在取消隊列之后會順手看一眼 Queue Item 里顯示的 Why is this build waiting? 提示這里會直接告訴你原因是找不到匹配標簽的 agent還是 executor 不夠。4.2 啟動目錄、數(shù)據(jù)目錄與備份遷移很多剛接觸 Jenkins 的人會把 war 包放在哪當成啟動目錄然后到處找配置文件。這里必須澄清一個概念Jenkins 真正的數(shù)據(jù)全在JENKINS_HOME指定的目錄下而啟動參數(shù)里的--webroot只是存放 war 解壓緩存的臨時目錄可以隨便清。我強烈建議在任何文檔和腳本里都統(tǒng)一用JENKINS_HOME這個詞避免團隊內(nèi)部溝通混亂。默認情況下JENKINS_HOME指向/var/lib/jenkins。里面最重要的子目錄包括jobs/所有任務配置和構建記錄plugins/已安裝插件secrets/加密憑據(jù)的私鑰users/用戶配置和權限nodes/agent 節(jié)點信息init.groovy.d/啟動時自動執(zhí)行的初始化腳本備份時不要只復制 jobssecrets目錄尤其關鍵。Jenkins 的憑據(jù)是用 master 上的密鑰加密的如果只備份 jobs 而沒有 secrets遷移到新機器后你會發(fā)現(xiàn)所有憑據(jù)全部無法解密鬼知道到底哪個密碼對應哪個倉庫。我的備份策略是配合 ThinBackup 插件做定時備份插件備份的目錄可以直接拿到新環(huán)境恢復。如果不想用插件直接 rsync 整個JENKINS_HOME也行sudo rsync -az --delete /var/lib/jenkins/ backupnas:/backup/jenkins/注意 rsync 的時候不要用太頻繁的增量同步因為 Jenkins 運行過程中會不停寫日志和構建記錄頻繁同步容易產(chǎn)生大量碎片文件。我一般是在每天凌晨跑一個 cron 任務停止 Jenkins 或者用插件在保障一致性的前提下備份。數(shù)據(jù)目錄的磁盤規(guī)劃很容易被忽略。JENKINS_HOME和workspace目錄別放在系統(tǒng)盤上最好放到獨立數(shù)據(jù)盤。構建任務會不斷拉代碼、產(chǎn)生構建產(chǎn)物如果系統(tǒng)盤只有 20G幾天就能被撐滿。我見過一種很典型的故障master 上磁盤被workspace占滿Jenkins 寫不了新記錄整個 UI 直接卡死連刪除任務都操作不了。這種問題一旦發(fā)生只能手動進服務器清文件非常被動。提前做好目錄規(guī)劃把共享目錄放在獨立掛載點再配合buildDiscarder定期清理構建記錄能避免 80% 的磁盤故障。啟動參數(shù)方面有幾個常用的配置項值得記住。如果你想通過反向代理訪問比如用 Nginx 轉發(fā)到/jenkins那 Jenkins 啟動時要加上--prefix/jenkins否則頁面里的 CSS、JS、接口路徑都會不對你會經(jīng)歷一場樣式丟失但功能正常的邪門故障。JNLP 方式連接的固定端口也要顯式設置-Djenkins.model.Jenkins.slaveAgentPort50000默認不設置這個參數(shù)時JNLP 端口是隨機的你會有一種剛才連得上重啟后就連不上的詭異體驗原因就在這。5. 常見問題與排查清單集群環(huán)境多起來之后故障排查幾乎成了日常。我把這一年多踩過的坑整理成一張速查表先對號入座再按表操作。現(xiàn)象可能原因處理辦法新加的 agent 一直離線JNLP 端口不通 / SSH 密鑰不對 / agent 上 Java 版本過低先手動在 master 上ssh jenkinsagent測試改用 SSH 方式連接統(tǒng)一 JDK 17任務一直排隊但不執(zhí)行沒有匹配標簽的 agent / executor 全被占滿 / 并發(fā)鎖被卡住到隊列里看 Why is this build waiting?增加 executor 數(shù)量檢查同名任務的disableConcurrentBuilds憑據(jù)報錯或鑒權失敗憑據(jù) ID 寫錯 / 憑據(jù)權限范圍不對 / 私鑰回撤過在 Snippet Generator 里重新生成腳本比對確認憑據(jù)作用域是全局流水線里環(huán)境變量用出來是空引用方式錯誤 / 變量名拼錯 / 在environment塊外引用局部變量先加一個sh env的調(diào)試階段單引號里用$VARGroovy 里用${env.VAR}master 磁盤滿了workspace 產(chǎn)物堆積 / Jenkins 日志膨脹 / 構建記錄沒有清理清理/var/lib/jenkins/workspace下舊目錄調(diào)整buildDiscarder把日志開 logrotate頁面操作后報 403CSRF 配置與反向代理不匹配 / 用戶權限不足檢查 Nginx 請求頭確認登錄用戶有操作權限補充 CSRF 白名單配置謹慎開放Git 倉庫拉取失敗憑據(jù)失效 / SSH host key 變更 / 分支名錯誤先手動git ls-remote驗證更新憑據(jù)確認分支和credentialsId重啟后 master 啟動異?？ㄗ〔寮p壞 / 某個任務配置阻塞 / JENKINS_HOME 權限不對查看啟動日志禁用懷疑的插件確認/var/lib/jenkins屬主是jenkins構建產(chǎn)物或依賴被串a(chǎn)gent 上緩存目錄互相污染 / workspace 復用舊文件每個任務用獨立 workspace清理 npm/Yarn/Maven 緩存必要時給不同 agent 打技術棧標簽某個構建任務殺掉后 executor 一直占用子進程沒被徹底殺干凈 / agent 掉線到節(jié)點詳情點 Disconnect 再重連用ps -ef找殘留進程單獨拿出來說一個最容易被人忽略的問題Agent 掉線之后任務其實不會立刻排隊它會一直掛在該節(jié)點上嘗試重連時間久了看起來就像任務卡死。這其實是 agent 上的 Java 進程內(nèi)存溢出了或者網(wǎng)絡抖動導致連接斷開。我的處理方式是先把該節(jié)點標記離線然后去 agent 上看日志journalctl -u jenkins-agent -n 200如果是因為-Xmx配置太小導致 agent 進程內(nèi)存溢出把 agent 服務的內(nèi)存調(diào)上去就行。很多時候問題不在 master 而在 agent 本身。還有一類典型問題是 構建過程一切正常但產(chǎn)物是舊的。常見原因是同一臺 agent 上多個任務共用了同一個 workspace 或緩存目錄。比如兩個項目都配了workspace: /var/lib/jenkins/workspace/demo后一個任務會覆蓋前一個的構建結果。我的建議是不要手動指定共享 workspace讓 Jenkins 自己管理默認 workspace除非你非常清楚自己在做什么。如果需要共享依賴緩存就把緩存目錄放到/mnt/jenkins_shared這個獨立共享目錄里去并且用npm config set cache或 Maven 的localRepository指過去避免 workspace 之間互相打架。6. 實操心得與擴展建議最后分享一些我?guī)状尾瓤铀こ鰜淼慕?jīng)驗不一定都寫在官方文檔里但都非常實用。第一master 上堅決不跑構建任務。哪怕 master 配置再高也別在它上面執(zhí)行npm build或者mvn package。一方面要讓 master 把資源都留給調(diào)度和數(shù)據(jù)讀寫另一方面是讓 agent 承擔構建風險即使某個構建腳本炸了也不會影響你登錄 Jenkins 控制臺的能力。你可以在Manage Jenkins - Nodes - Built-In Node里把 executor 數(shù)量改成 0強制所有任務走 agent。第二Jenkinsfile 一定要入庫而且是跟代碼放在同一個倉庫里。不要覺得在 Web 界面上寫流水線方便等你需要回看某個歷史版本用的什么構建邏輯時代碼倉庫里的 Jenkinsfile 能告訴你一切。配合多分支流水線插件分支一變就能自動創(chuàng)建對應的 Jenkins 任務這套用起來才算真正現(xiàn)代化。第三把發(fā)布做成可控操作。不要把生產(chǎn)環(huán)境部署暴露給所有人也不要把每次構建都自動發(fā)版設成默認。參數(shù)化構建里加choice、用input確認、或者接到審批插件這些手段都能防止誤操作。我見過不止一次因為流水線里寫死了always deploy to prod一個普通的 feature 分支合并直接推到了生產(chǎn)環(huán)境那場面相當刺激。第四共享庫是好東西但要克制。Pipeline 共享庫可以把登錄倉庫、構建鏡像、SSH 發(fā)布這些通用邏輯抽成函數(shù)避免每個項目都復制粘貼一大段腳本。但如果你一次把太多邏輯塞進共享庫流水線會變得非常不透明調(diào)試起來極其痛苦。我的建議是先把通用步驟抽出來降低重復代碼具體項目的特殊邏輯保留在 Jenkinsfile 里平衡可讀性和復用性。第五如果團隊規(guī)模還小不要急著上 Kubernetes 動態(tài) agent。K8s 插件確實能讓構建節(jié)點按需彈性伸縮但引入的復雜性也很大需要維護 PodTemplate、鏡像倉庫憑據(jù)、網(wǎng)絡配置還要排查資源配額問題。固定 agent 標簽調(diào)度這套方案在幾十個項目的規(guī)模下完全夠用。等確實出現(xiàn)高峰期 agent 不夠、低峰期 agent 閑置的情況再考慮用 Kubernetes 插件也不遲。關于配置即代碼我建議你逐步往Configuration as CodeJCasC方向走。把系統(tǒng)配置、全局安全、Agent 參數(shù)這些內(nèi)容寫進 YAML配合 Git 管理這樣集群重搭、遷移、恢復都有跡可循而不用靠幾個人腦子里的記憶。結合定時備份你的 Jenkins 集群會處在一種即使整機掛了也能很快重建的狀態(tài)。我在實際運維中發(fā)現(xiàn)越是簡單的架構越容易養(yǎng)出穩(wěn)定的流水線。很多團隊遇到瓶頸第一反應是加機器加插件但真正的好做法是先把干凈的環(huán)境、清晰的標簽、可追溯的流水線建起來。這套 Jenkins 集群部署和代碼發(fā)布方案我至今還在用它支撐的項目越來越多踩坑頻率反而下降了。希望這份實戰(zhàn)文檔也能幫你從排隊排到懷疑人生的泥潭里走出來。