 RayCluster)
KubeRay 部署十分鐘上手裝好 Ray Operator跑通第一個(gè) RayCluster【免費(fèi)下載鏈接】kuberayA toolkit to run Ray applications on Kubernetes項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ku/kuberayKubeRay 是一個(gè)在 Kubernetes 上運(yùn)行 Ray 應(yīng)用的 Operator本文帶你完成 KubeRay 部署與上手全流程。裝好 Operator 后它接管 Ray 集群的完整生命周期你只需提交一份 YAML節(jié)點(diǎn)就會(huì)自動(dòng)拉起?？赐赀@篇你的第一個(gè) RayCluster 就能跑起來并且知道該改哪里。核心亮點(diǎn)管理 RayCluster、RayJob、RayService 三類自定義資源覆蓋長(zhǎng)駐服務(wù)和一次性任務(wù)內(nèi)置自動(dòng)擴(kuò)縮容與容錯(cuò)Worker 節(jié)點(diǎn)數(shù)隨負(fù)載自動(dòng)增減可接入 Volcano、YuniKorn 等批量調(diào)度器可選 kubectl 插件、API Server、Web 控制臺(tái)等擴(kuò)展組件一、環(huán)境要求與安裝 這一步把 KubeRay Operator 裝進(jìn)你的 Kubernetes 集群是后續(xù)所有操作的前提。前置條件清單可訪問的 Kubernetes 集群版本 1.23 及以上已配置好kubectl并能連上集群使用 Helm 方式時(shí)需要 Helm v3 及以上方式一通過 Helm 倉庫安裝推薦細(xì)節(jié)見 docs/deploy/helm.mdhelm repo add kuberay https://ray-project.github.io/kuberay-helm/ helm install kuberay-operator kuberay/kuberay-operator方式二克隆倉庫后本地安裝git clone https://gitcode.com/GitHub_Trending/ku/kuberay cd kuberay/helm-chart/kuberay-operator helm install kuberay-operator .驗(yàn)證是否裝好kubectl get pods # kuberay-operator-xxxx 1/1 Running 0 17s kubectl get crd | grep ray.io # rayclusters / rayjobs / rayservices / raycronjobs看到 Operator Pod 處于 Running且 4 個(gè) CRD 都在說明安裝成功。二、倉庫目錄速覽改配置、查源碼前先花一分鐘認(rèn)清倉庫的主干結(jié)構(gòu). ├── ray-operator/ # 核心 Operator控制器、CRD 定義、示例 YAML ├── helm-chart/ # 安裝 Operator 與 API Server 的 Helm 圖表 ├── apiserver/ # 資源管理 APIServer可選組件 ├── dashboard/ # 實(shí)驗(yàn)性 Web 管理控制臺(tái) ├── kubectl-plugin/ # kubectl ray 插件簡(jiǎn)化常用命令 ├── clients/ # Python SDK 客戶端 ├── historyserver/ # 日志收集與歷史會(huì)話服務(wù) ├── docs/ # 安裝、部署與開發(fā)文檔 └── benchmark/ # 性能測(cè)試與 Operator 內(nèi)存基準(zhǔn)測(cè)試新手優(yōu)先看 ray-operator/ 和 helm-chart/ 兩個(gè)目錄前者是全部控制器源碼和示例所在地后者是安裝配置所在地。Operator 與監(jiān)控組件的協(xié)作關(guān)系如下圖所示三、快速上手跑通你的第一個(gè) RayCluster 現(xiàn)在提交一個(gè) RayCluster驗(yàn)證整套 KubeRay 部署是否真正可用。把下面這份最小配置保存為raycluster.yaml更完整的版本可參考 ray-operator/config/samples/。apiVersion: ray.io/v1 kind: RayCluster metadata: name: my-raycluster spec: rayVersion: 2.52.0 headGroupSpec: template: spec: containers: - name: ray-head image: rayproject/ray:2.52.0 ports: - containerPort: 8265 name: dashboard workerGroupSpecs: - replicas: 1 groupName: worker-group template: spec: containers: - name: ray-worker image: rayproject/ray:2.52.0應(yīng)用并觀察狀態(tài)kubectl apply -f raycluster.yaml kubectl get raycluster # NAME DESIRED WORKER RUNNING WORKER STATUS # my-raycluster 1 1 RUNNING成功的樣子STATUS 列變?yōu)?RUNNING說明 Head 和 Worker 節(jié)點(diǎn)都已就緒。此時(shí)用kubectl port-forward把 8265 端口轉(zhuǎn)發(fā)到本地瀏覽器打開就能看到 Ray Dashboard集群頁如下四、配置要點(diǎn) ??生產(chǎn)使用前把下面幾個(gè)高頻配置項(xiàng)過一遍。Operator 側(cè)配置在 helm-chart/kuberay-operator/values.yaml集群側(cè)配置在 RayCluster YAML 里。配置項(xiàng)作用示例image.tagOperator 鏡像版本默認(rèn) nightly1.1.0replicasOperator 副本數(shù)1batchScheduler.name指定自定義批量調(diào)度器volcano、yunikorn、scheduler-pluginsrayVersion集群內(nèi) Ray 版本須與鏡像一致2.52.0workerGroupSpecs[].minReplicas/maxReplicasWorker 自動(dòng)擴(kuò)縮容范圍最小1最大10最易配錯(cuò)的一點(diǎn)rayVersion字段必須與rayproject/ray鏡像的 tag 完全一致不一致時(shí)集群會(huì)一直無法進(jìn)入 RUNNING排查時(shí)先看這里。五、常見問題 ?Q裝 CRD 需要集群管理員權(quán)限裝 Operator 不需要怎么分工管理員先單獨(dú)安裝 CRD開發(fā)者再用helm install加--skip-crds參數(shù)只裝 Operator詳細(xì)步驟見 docs/deploy/helm.md。Q如何徹底卸載 KubeRay執(zhí)行helm uninstall kuberay-operatorOperator Pod 和 release 都會(huì)移除如需連同 CRD 一起清理刪除時(shí)額外執(zhí)行helm uninstall對(duì)應(yīng)的 CRD 資源即可。Qkubectl apply之后一直不 RUNNING怎么排查先核對(duì)rayVersion與鏡像版本是否一致再用kubectl logs查看 head Pod 日志定位具體報(bào)錯(cuò)。一句話總結(jié)KubeRay 部署就是 Helm 裝 Operator、驗(yàn)證 CRD、提交 RayCluster YAML 這三步。想繼續(xù)深入建議瀏覽 docs/ 目錄下的部署文檔和 ray-operator/config/samples/ 里的各類示例?！久赓M(fèi)下載鏈接】kuberayA toolkit to run Ray applications on Kubernetes項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ku/kuberay創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 KubeRay 部署十分鐘上手：裝好 Ray Operator，跑通第一個(gè) RayCluster
KubeRay 部署十分鐘上手裝好 Ray Operator跑通第一個(gè) RayCluster【免費(fèi)下載鏈接】kuberayA toolkit to run Ray applications on Kubernetes項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ku/kuberayKubeRay 是一個(gè)在 Kubernetes 上運(yùn)行 Ray 應(yīng)用的 Operator本文帶你完成 KubeRay 部署與上手全流程。裝好 Operator 后它接管 Ray 集群的完整生命周期你只需提交一份 YAML節(jié)點(diǎn)就會(huì)自動(dòng)拉起?？赐赀@篇你的第一個(gè) RayCluster 就能跑起來并且知道該改哪里。核心亮點(diǎn)管理 RayCluster、RayJob、RayService 三類自定義資源覆蓋長(zhǎng)駐服務(wù)和一次性任務(wù)內(nèi)置自動(dòng)擴(kuò)縮容與容錯(cuò)Worker 節(jié)點(diǎn)數(shù)隨負(fù)載自動(dòng)增減可接入 Volcano、YuniKorn 等批量調(diào)度器可選 kubectl 插件、API Server、Web 控制臺(tái)等擴(kuò)展組件一、環(huán)境要求與安裝 這一步把 KubeRay Operator 裝進(jìn)你的 Kubernetes 集群是后續(xù)所有操作的前提。前置條件清單可訪問的 Kubernetes 集群版本 1.23 及以上已配置好kubectl并能連上集群使用 Helm 方式時(shí)需要 Helm v3 及以上方式一通過 Helm 倉庫安裝推薦細(xì)節(jié)見 docs/deploy/helm.mdhelm repo add kuberay https://ray-project.github.io/kuberay-helm/ helm install kuberay-operator kuberay/kuberay-operator方式二克隆倉庫后本地安裝git clone https://gitcode.com/GitHub_Trending/ku/kuberay cd kuberay/helm-chart/kuberay-operator helm install kuberay-operator .驗(yàn)證是否裝好kubectl get pods # kuberay-operator-xxxx 1/1 Running 0 17s kubectl get crd | grep ray.io # rayclusters / rayjobs / rayservices / raycronjobs看到 Operator Pod 處于 Running且 4 個(gè) CRD 都在說明安裝成功。二、倉庫目錄速覽改配置、查源碼前先花一分鐘認(rèn)清倉庫的主干結(jié)構(gòu). ├── ray-operator/ # 核心 Operator控制器、CRD 定義、示例 YAML ├── helm-chart/ # 安裝 Operator 與 API Server 的 Helm 圖表 ├── apiserver/ # 資源管理 APIServer可選組件 ├── dashboard/ # 實(shí)驗(yàn)性 Web 管理控制臺(tái) ├── kubectl-plugin/ # kubectl ray 插件簡(jiǎn)化常用命令 ├── clients/ # Python SDK 客戶端 ├── historyserver/ # 日志收集與歷史會(huì)話服務(wù) ├── docs/ # 安裝、部署與開發(fā)文檔 └── benchmark/ # 性能測(cè)試與 Operator 內(nèi)存基準(zhǔn)測(cè)試新手優(yōu)先看 ray-operator/ 和 helm-chart/ 兩個(gè)目錄前者是全部控制器源碼和示例所在地后者是安裝配置所在地。Operator 與監(jiān)控組件的協(xié)作關(guān)系如下圖所示三、快速上手跑通你的第一個(gè) RayCluster 現(xiàn)在提交一個(gè) RayCluster驗(yàn)證整套 KubeRay 部署是否真正可用。把下面這份最小配置保存為raycluster.yaml更完整的版本可參考 ray-operator/config/samples/。apiVersion: ray.io/v1 kind: RayCluster metadata: name: my-raycluster spec: rayVersion: 2.52.0 headGroupSpec: template: spec: containers: - name: ray-head image: rayproject/ray:2.52.0 ports: - containerPort: 8265 name: dashboard workerGroupSpecs: - replicas: 1 groupName: worker-group template: spec: containers: - name: ray-worker image: rayproject/ray:2.52.0應(yīng)用并觀察狀態(tài)kubectl apply -f raycluster.yaml kubectl get raycluster # NAME DESIRED WORKER RUNNING WORKER STATUS # my-raycluster 1 1 RUNNING成功的樣子STATUS 列變?yōu)?RUNNING說明 Head 和 Worker 節(jié)點(diǎn)都已就緒。此時(shí)用kubectl port-forward把 8265 端口轉(zhuǎn)發(fā)到本地瀏覽器打開就能看到 Ray Dashboard集群頁如下四、配置要點(diǎn) ??生產(chǎn)使用前把下面幾個(gè)高頻配置項(xiàng)過一遍。Operator 側(cè)配置在 helm-chart/kuberay-operator/values.yaml集群側(cè)配置在 RayCluster YAML 里。配置項(xiàng)作用示例image.tagOperator 鏡像版本默認(rèn) nightly1.1.0replicasOperator 副本數(shù)1batchScheduler.name指定自定義批量調(diào)度器volcano、yunikorn、scheduler-pluginsrayVersion集群內(nèi) Ray 版本須與鏡像一致2.52.0workerGroupSpecs[].minReplicas/maxReplicasWorker 自動(dòng)擴(kuò)縮容范圍最小1最大10最易配錯(cuò)的一點(diǎn)rayVersion字段必須與rayproject/ray鏡像的 tag 完全一致不一致時(shí)集群會(huì)一直無法進(jìn)入 RUNNING排查時(shí)先看這里。五、常見問題 ?Q裝 CRD 需要集群管理員權(quán)限裝 Operator 不需要怎么分工管理員先單獨(dú)安裝 CRD開發(fā)者再用helm install加--skip-crds參數(shù)只裝 Operator詳細(xì)步驟見 docs/deploy/helm.md。Q如何徹底卸載 KubeRay執(zhí)行helm uninstall kuberay-operatorOperator Pod 和 release 都會(huì)移除如需連同 CRD 一起清理刪除時(shí)額外執(zhí)行helm uninstall對(duì)應(yīng)的 CRD 資源即可。Qkubectl apply之后一直不 RUNNING怎么排查先核對(duì)rayVersion與鏡像版本是否一致再用kubectl logs查看 head Pod 日志定位具體報(bào)錯(cuò)。一句話總結(jié)KubeRay 部署就是 Helm 裝 Operator、驗(yàn)證 CRD、提交 RayCluster YAML 這三步。想繼續(xù)深入建議瀏覽 docs/ 目錄下的部署文檔和 ray-operator/config/samples/ 里的各類示例?！久赓M(fèi)下載鏈接】kuberayA toolkit to run Ray applications on Kubernetes項(xiàng)目地址: https://gitcode.com/GitHub_Trending/ku/kuberay創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考