與微調能力)
【免費下載鏈接】gemma-skillsSkills for the Gemma and model/agent interactions項目地址https://gitcode.com/gh_mirrors/ge/gemma-skills點擊查看免費下載如果你是剛接觸 Gemma 模型的新手gemma-skills 會是一個絕佳的起點。這是 Google 官方推出的 AI Agent 技能倉庫包含gemma-dev和gemma-trainer兩大核心技能前者讓 AI 編碼助手掌握 Gemma 應用開發(fā)的最佳實踐模型選型、部署、推理加速后者賦予它本地微調 Gemma 的能力SFT、DPO、獎勵建模。安裝后你的 AI Agent 就能像資深工程師一樣帶你完成從原型到微調部署的完整流程。什么是 gemma-skills給 AI Agent 裝上Gemma 官方知識庫傳統(tǒng)的 AI 助手回答 Gemma 相關問題時可能會推薦過時的模型或不規(guī)范的用法。而 gemma-skills 把這些經(jīng)過 Google 官方驗證的最佳實踐打包成技能直接注入到你的 AI 編碼助手中。倉庫結構非常清晰兩大技能各自獨立、各司其職技能定位覆蓋場景gemma-dev應用開發(fā)模型選型、Gradio 原型、瀏覽器推理、云端部署gemma-trainer訓練微調SFT、DPO、獎勵建模、數(shù)據(jù)集準備、GGUF 轉換兩大技能的入口定義分別在 skills/gemma-dev/SKILL.md 和 skills/gemma-trainer/SKILL.md每個 SKILL.md 就是技能的說明書AI Agent 會根據(jù)它自動觸發(fā)對應能力。快速上手3種方式把技能裝進你的 AI 助手gemma-skills 支持主流的 AI 編碼助手與技能包管理器安裝只需一條命令方式一Vercel skills CLI# 交互式瀏覽并安裝 npx skills add google-gemma/gemma-skills --list # 只安裝指定技能以 gemma-dev 為例 npx skills add google-gemma/gemma-skills --skill gemma-dev方式二Context7 skills CLInpx ctx7 skills install /google-gemma/gemma-skills gemma-dev方式三Antigravityagy plugin install https://github.com/google-gemma/gemma-skills三種方式的完整說明可參考 README.md。裝好之后你只需要用自然語言描述需求比如幫我用 Gemma 搭一個聊天界面AI Agent 就會自動調用對應技能。gemma-dev 技能詳解讓 AI Agent 成為 Gemma 開發(fā)專家gemma-dev技能解決新手最常見的困惑該選哪個模型該用什么工具部署 模型選型不再靠猜技能內置了一份完整的選型指南skills/gemma-dev/SKILL.mdAI Agent 會根據(jù)你的硬件和業(yè)務場景推薦精確的模型Gemma 4 大杯26B A4B / 31B支持文本圖像輸入256K 上下文適合復雜多模態(tài)推理Gemma 4 12B額外支持音頻輸入適合筆記本等消費級設備Gemma 4 E2B / E4B為移動端 NPU 加速而生支持原生音頻處理EmbeddingGemma 2RAG / 向量檢索專用嵌入模型ShieldGemma 2內容安全審核專用分類器。核心原則是不盲目默認最小模型而是先分析你的領域、硬件約束和輸入模態(tài)再給出精準建議。 四種部署路徑都有官方答案針對不同的部署目標技能都映射了推薦技術棧并且倉庫里附帶了可直接參考的示例代碼部署場景推薦技術棧參考示例快速原型 / DemoGradio Transformersgradio-app.py網(wǎng)頁 / 客戶端應用transformers.js瀏覽器內推理transformers-js-app.js企業(yè)級云端Vertex AI 容器化部署vertex-ai-app.pyApple Silicon 設備Ollama 或 mlx-lm—其中 gradio-app.py 是一個開箱即用的 Gradio 聊天界面示例新手可以直接學習它的對話流式輸出寫法。? 進階能力MTP 推理加速與 QAT 量化Multi-Token PredictionMTPGemma 4 內置的推測解碼技術用輕量草稿模型提出候選 token主模型一次前向驗證在不損失質量的前提下顯著提速skills/gemma-dev/SKILL.md。QAT 量化感知訓練官方提供不同部署引擎的量化模型llama.cpp 用 GGUF 格式、vLLM/SGLang 用 w4a16 壓縮張量比傳統(tǒng) PTQ 量化質量損失更小skills/gemma-dev/SKILL.md。這些深水區(qū)知識以前需要自己翻遍官方文檔現(xiàn)在 AI Agent 會主動替你規(guī)劃。gemma-trainer 技能詳解在本地硬件微調 Gemma 模型gemma-trainer技能面向想在本地顯卡上微調 Gemma 的開發(fā)者覆蓋微調全流程數(shù)據(jù)集準備 → 模型訓練 → 格式轉換 → 端側部署。 微調方法怎么選技能內置了一張清晰的目標 → 方法決策表skills/gemma-trainer/SKILL.mdSFT監(jiān)督微調教模型新領域知識、任務指令或自定義輸出格式——這是大多數(shù)新手的起點DPO直接偏好優(yōu)化對齊模型的語氣、風格、安全性需要先在 SFT 基礎上進行獎勵建模RM訓練一個給回答質量打分的評估模型。 關鍵最佳實踐新手最容易踩坑的地方優(yōu)先使用 Unsloth本地單卡訓練省最多 70% 顯存、速度提升 2 倍多卡環(huán)境則退回 TRL PEFT bitsandbytes 方案始終使用 QLoRA4-bit 量化這是讓 12B/31B 模型裝進消費級顯卡的關鍵控制訓練上下文長度雖然 Gemma 4 支持 256K 上下文但本地訓練建議 2048~8192 token避免顯存溢出OOMskills/gemma-trainer/SKILL.md。 五個即拿即用的資產(chǎn)腳本gemma-trainer技能附帶了一套完整的工具腳本全部位于 skills/gemma-trainer/assets/腳本用途dataset_prep.py數(shù)據(jù)集加載、格式化與校驗格式錯誤是訓練失敗的頭號原因distill_dataset.py用大模型老師生成高質量數(shù)據(jù)蒸餾訓練小模型sft_train.pyQLoRA 監(jiān)督微調自動檢測 Unsloth 加速dpo_train.py偏好對齊訓練模板reward_train.py獎勵模型訓練序列分類頭 RewardTrainer特別值得一提的是 distill_dataset.py 的師-生蒸餾玩法用 Gemma 4 31B 等教師模型在本地生成高質量回答再拿去訓練 Gemma 4 E2B 這樣的輕量學生模型——沒有標注數(shù)據(jù)也不怕。 訓練完成后的最后一公里技能還覆蓋部署環(huán)節(jié)skills/gemma-trainer/SKILL.mdUnsloth 可直接原生導出GGUF格式方便接入 llama.cpp / LM Studio小模型則可用LiteRT-LM部署到手機、Web 和 IoT 設備充分利用 CPU/GPU/NPU 硬件加速。常見問題速查Q我需要很強的顯卡才能微調嗎A技能默認推薦 QLoRA 4-bit 量化 Unsloth消費級顯卡也能微調 12B 級模型E2B/E4B 小模型門檻更低。Q微調完的模型怎么用到手機上A兩條路轉 GGUF 用本地推理框架或轉 LiteRT-LM 格式走端側硬件加速。Q技能會推薦過時的模型嗎A技能要求默認推薦Gemma 4新一代模型且優(yōu)先通過 MCP 的search_documentation工具獲取最新官方文檔skills/gemma-dev/SKILL.md保證信息不滯后。寫在最后gemma-skills 的價值不在于多而在于準它把 Google 官方的模型選型標準、部署技術棧、微調超參數(shù)經(jīng)驗全部固化下來讓 AI Agent 從泛泛而談的聊天機器人變成懂 Gemma 的實戰(zhàn)教練。新手建議的使用路徑安裝兩個技能前文三種方式任選其一先用gemma-dev讓 Agent 幫你搭一個本地 DemoGradio 最快有了業(yè)務數(shù)據(jù)后用gemma-trainer走完 SFT → 校驗數(shù)據(jù)集 → 部署的完整微調流程。完整的技能清單參見 README.md項目采用 Apache-2.0 許可證plugin.json可放心用于學習和生產(chǎn)環(huán)境。贊分享【免費下載鏈接】gemma-skillsSkills for the Gemma and model/agent interactions項目地址https://gitcode.com/gh_mirrors/ge/gemma-skills點擊查看免費下載相關推薦如何在本地硬件微調Gemma 4gemma-skills的SFT/DPO/RLHF完整路線圖如何在本地硬件微調Gemma 4gemma skills的SFT/DPO/RLHF完整路線圖 想讓 Gemma 4 聽懂你的行話、說話更像你的風格 geSweetModal-Vue 無障礙訪問指南讓彈窗對所有用戶都友好SweetModal Vue 無障礙訪問指南讓彈窗對所有用戶都友好 SweetModal Vue 是一個功能強大的 Vue.js 模態(tài)框庫但要讓您的彈窗對所如何在 3 秒內完成 macOS 分屏Loop 窗口管理快捷鍵完整指南如何在 3 秒內完成 macOS 分屏Loop 窗口管理快捷鍵完整指南 Loop 是一款免費開源的 macOS 窗口管理應用按住觸發(fā)鍵移動鼠標、或按下快捷鍵桌面應用創(chuàng)作聲明:本文部分內容由AI輔助生成(AIGC),僅供參考