【免費(fèi)下載鏈接】humanizer-12b-OptiQ-4bit項(xiàng)目地址https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-12b-OptiQ-4bit點(diǎn)擊查看免費(fèi)下載humanizer-12b-OptiQ-4bit 是一個(gè)基于 MLX 框架、專(zhuān)為 Apple Silicon 優(yōu)化的 12B去 AI 味改寫(xiě)模型它接受一種非常嚴(yán)格的固定輸入格式——這就是倉(cāng)庫(kù)里的 prompt_format.json 所定義的提示詞契約。格式差一個(gè)字節(jié)輸出質(zhì)量都可能打折扣。本文帶你逐字段讀懂這份契約并一步步把輸入拼裝正確。先搞懂本質(zhì)它是補(bǔ)全模型不是聊天模型這是使用 humanizer 系列模型最重要的一條前提It is a completion model, not a chat model見(jiàn) README.md模型不是在對(duì)話而是在續(xù)寫(xiě)。它被微調(diào)時(shí)見(jiàn)過(guò)的輸入永遠(yuǎn)是同一個(gè)模板一段固定指令 你的草稿 一個(gè)分隔符。你偏離這個(gè)模板比如加上 system prompt、包上 user/assistant 角色就等于把模型喂到了它訓(xùn)練分布之外改寫(xiě)效果會(huì)明顯變差。下面逐字段拆解這個(gè)契約文件。prompt_format.json 六個(gè)字段逐一拆解整個(gè) prompt_format.json 很短但每個(gè)字段都有明確分工字段值作用stylelegacy聲明使用 legacy傳統(tǒng)補(bǔ)全風(fēng)格的提示詞而非聊天模板instr一段英文改寫(xiě)指令告訴模型像人一樣重寫(xiě)砍掉套話、長(zhǎng)短句交錯(cuò)但所有事實(shí)、數(shù)字、單位、日期、人名、引語(yǔ)必須原樣保留sep\n\n### Rewritten:\n\n分隔符追加在草稿末尾向模型發(fā)出從這里開(kāi)始寫(xiě)改寫(xiě)結(jié)果的信號(hào)fingerprintcc51d66b4c593fbe指紋哈希用來(lái)校驗(yàn)?zāi)愕奶崾驹~是否與官方模板逐字節(jié)一致chatfalse明確聲明不要按聊天格式角色輪次包裝輸入note推理時(shí)需 instr draft sep官方備注直接給出了拼裝順序兩點(diǎn)值得注意instr的原文要求模型故意變化句子長(zhǎng)度、刪掉鋪墊句、優(yōu)先用具體詞而非抽象詞允許讀起來(lái)不那么工整——這就是去 AI 味的效果來(lái)源。sep里的### Rewritten:不是隨便起的標(biāo)題它是模型識(shí)別該我輸出了的錨點(diǎn)一字不能改。三步拼裝輸入instr draft sep官方給出的拼裝公式只有一行見(jiàn) README.md 中的用法示例prompt instr \n\n draft.strip() sep拆解成三步第 1 步原樣取instr從 prompt_format.json 讀出instr的完整字符串不改寫(xiě)、不翻譯、不增刪標(biāo)點(diǎn)。第 2 步接上你的草稿先加兩個(gè)換行符一個(gè)空行再放你的待改寫(xiě)文本并且去掉文本首尾的空白即示例中的draft.strip()。中英文草稿都可以——模型支持 en/zh 雙語(yǔ)改寫(xiě)。第 3 步原樣追加sep最后把sep的完整字符串拼到末尾它自帶前后空行。最終送進(jìn)模型的提示詞長(zhǎng)這樣……處是你的草稿Rewrite the text below so it reads like a person wrote it, not a language model. ……你的草稿文本…… ### Rewritten:注意結(jié)尾是### Rewritten:之后留空——模型會(huì)從這里開(kāi)始續(xù)寫(xiě)改寫(xiě)結(jié)果你不需要再寫(xiě)任何提示。采樣參數(shù)照抄官方temperature 1.0 與 top_p 0.95提示詞對(duì)了采樣參數(shù)也要對(duì)。倉(cāng)庫(kù)自帶的 generation_config.json 給出了官方推薦值參數(shù)推薦值說(shuō)明temperature1.0原作者推薦溫度太低改寫(xiě)風(fēng)格會(huì)僵化top_p0.95原作者推薦top_k64配置文件中附帶do_sampletrue需要開(kāi)啟采樣而非貪心解碼原模型作者的額外建議除了 temperature 和 top_p 之外其他采樣開(kāi)關(guān)保持關(guān)閉。用 fingerprint 校驗(yàn)?zāi)愕奶崾驹~拼對(duì)沒(méi)有prompt_format.json里的fingerprintcc51d66b4c593fbe是一個(gè)哈希指紋。它的用途非常實(shí)用你可以對(duì)自己拼裝好的提示詞做同樣的哈希計(jì)算與fingerprint比對(duì)——一致說(shuō)明你的instr、空行、sep全部逐字節(jié)正確不一致說(shuō)明你某處改了換行、多打了一個(gè)空格或動(dòng)了instr的措辭。這是新手排錯(cuò)時(shí)的第一工具效果不好時(shí)先查提示詞字節(jié)再懷疑模型本身。常見(jiàn)錯(cuò)誤清單這幾件事千萬(wàn)別做?加 system prompt——契約里沒(méi)有這個(gè)角色加了就是畫(huà)蛇添足。?用聊天輪次包裝——不要寫(xiě)用戶(hù)請(qǐng)改寫(xiě)……chat: false已經(jīng)明說(shuō)了。?修改或翻譯instr——哪怕只改一個(gè)詞模型看到的就不再是訓(xùn)練時(shí)的模板。?草稿前后留大量空白——記得draft.strip()空行數(shù)量要與契約一致。??英文草稿被改寫(xiě)成中文——這是已知的偶發(fā)情況官方建議的處理方式很簡(jiǎn)單重新采樣一次即可通常第二次就能回到正確語(yǔ)言。關(guān)鍵文件速查文件用途prompt_format.json提示詞契約拼裝輸入的全部素材都在這里generation_config.json官方采樣參數(shù)temperature / top_p / top_kREADME.md完整用法說(shuō)明含加載與生成示例optiq/metadata.jsonOptiQ 混合精度量化元數(shù)據(jù)157 層 8-bit 172 層 4-bitmodel-00001-of-00002.safetensors模型權(quán)重分片整個(gè)模型 8.4 GB可從 24 GB 的 bf16 原版壓縮而來(lái)16 GB 內(nèi)存的 Mac 也能跑小結(jié)給 humanizer-12b-OptiQ-4bit 喂輸入的口訣只有三句指令照抄、草稿居中、分隔符收尾。把instr \n\n draft sep這條拼裝公式刻進(jìn)肌肉記憶再用fingerprint校驗(yàn)一遍字節(jié)配合 temperature 1.0 / top_p 0.95 的采樣設(shè)置你就能穩(wěn)定拿到像人寫(xiě)的改寫(xiě)結(jié)果。贊分享【免費(fèi)下載鏈接】humanizer-12b-OptiQ-4bit項(xiàng)目地址https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-12b-OptiQ-4bit點(diǎn)擊查看免費(fèi)下載相關(guān)推薦在 SuperGrid 上運(yùn)行 Flower AgentAppCLI 提交、聯(lián)邦選擇、日志跟蹤與故障恢復(fù)完整指南在 SuperGrid 上運(yùn)行 Flower AgentAppCLI 提交、聯(lián)邦選擇、日志跟蹤與故障恢復(fù)完整指南 本文基于 Flower 倉(cāng)庫(kù)中的官方指南 R一段提示詞如何生成一個(gè)電影級(jí)畫(huà)面Opus 5.5 案例提示詞逐句拆解一段提示詞如何生成一個(gè)電影級(jí)畫(huà)面Opus 5.5 案例提示詞逐句拆解 Claude Opus 5.5 發(fā)布后中文社區(qū)最出圈的討論幾乎都圍繞一個(gè)詞展開(kāi)BepInEx 上手5 步跑通 Unity 插件框架的完整流程BepInEx 上手5 步跑通 Unity 插件框架的完整流程 游戲里想加個(gè) HUD、改個(gè)數(shù)值官方卻不給接口反編譯再打補(bǔ)丁改完還得手動(dòng)維護(hù)游戲一升級(jí)就游戲開(kāi)發(fā)插件系統(tǒng)上一篇如何實(shí)現(xiàn)高效Git工作流規(guī)范驅(qū)動(dòng)開(kāi)發(fā)的3個(gè)創(chuàng)新策略下一篇10分鐘打造專(zhuān)業(yè)短視頻揭秘AI視頻創(chuàng)作神器MoneyPrinterTurbo的終極指南 創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 如何正確喂給humanizer-12b-OptiQ-4bit輸入？逐步拆解prompt_format.json提示詞契約
【免費(fèi)下載鏈接】humanizer-12b-OptiQ-4bit項(xiàng)目地址https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-12b-OptiQ-4bit點(diǎn)擊查看免費(fèi)下載humanizer-12b-OptiQ-4bit 是一個(gè)基于 MLX 框架、專(zhuān)為 Apple Silicon 優(yōu)化的 12B去 AI 味改寫(xiě)模型它接受一種非常嚴(yán)格的固定輸入格式——這就是倉(cāng)庫(kù)里的 prompt_format.json 所定義的提示詞契約。格式差一個(gè)字節(jié)輸出質(zhì)量都可能打折扣。本文帶你逐字段讀懂這份契約并一步步把輸入拼裝正確。先搞懂本質(zhì)它是補(bǔ)全模型不是聊天模型這是使用 humanizer 系列模型最重要的一條前提It is a completion model, not a chat model見(jiàn) README.md模型不是在對(duì)話而是在續(xù)寫(xiě)。它被微調(diào)時(shí)見(jiàn)過(guò)的輸入永遠(yuǎn)是同一個(gè)模板一段固定指令 你的草稿 一個(gè)分隔符。你偏離這個(gè)模板比如加上 system prompt、包上 user/assistant 角色就等于把模型喂到了它訓(xùn)練分布之外改寫(xiě)效果會(huì)明顯變差。下面逐字段拆解這個(gè)契約文件。prompt_format.json 六個(gè)字段逐一拆解整個(gè) prompt_format.json 很短但每個(gè)字段都有明確分工字段值作用stylelegacy聲明使用 legacy傳統(tǒng)補(bǔ)全風(fēng)格的提示詞而非聊天模板instr一段英文改寫(xiě)指令告訴模型像人一樣重寫(xiě)砍掉套話、長(zhǎng)短句交錯(cuò)但所有事實(shí)、數(shù)字、單位、日期、人名、引語(yǔ)必須原樣保留sep\n\n### Rewritten:\n\n分隔符追加在草稿末尾向模型發(fā)出從這里開(kāi)始寫(xiě)改寫(xiě)結(jié)果的信號(hào)fingerprintcc51d66b4c593fbe指紋哈希用來(lái)校驗(yàn)?zāi)愕奶崾驹~是否與官方模板逐字節(jié)一致chatfalse明確聲明不要按聊天格式角色輪次包裝輸入note推理時(shí)需 instr draft sep官方備注直接給出了拼裝順序兩點(diǎn)值得注意instr的原文要求模型故意變化句子長(zhǎng)度、刪掉鋪墊句、優(yōu)先用具體詞而非抽象詞允許讀起來(lái)不那么工整——這就是去 AI 味的效果來(lái)源。sep里的### Rewritten:不是隨便起的標(biāo)題它是模型識(shí)別該我輸出了的錨點(diǎn)一字不能改。三步拼裝輸入instr draft sep官方給出的拼裝公式只有一行見(jiàn) README.md 中的用法示例prompt instr \n\n draft.strip() sep拆解成三步第 1 步原樣取instr從 prompt_format.json 讀出instr的完整字符串不改寫(xiě)、不翻譯、不增刪標(biāo)點(diǎn)。第 2 步接上你的草稿先加兩個(gè)換行符一個(gè)空行再放你的待改寫(xiě)文本并且去掉文本首尾的空白即示例中的draft.strip()。中英文草稿都可以——模型支持 en/zh 雙語(yǔ)改寫(xiě)。第 3 步原樣追加sep最后把sep的完整字符串拼到末尾它自帶前后空行。最終送進(jìn)模型的提示詞長(zhǎng)這樣……處是你的草稿Rewrite the text below so it reads like a person wrote it, not a language model. ……你的草稿文本…… ### Rewritten:注意結(jié)尾是### Rewritten:之后留空——模型會(huì)從這里開(kāi)始續(xù)寫(xiě)改寫(xiě)結(jié)果你不需要再寫(xiě)任何提示。采樣參數(shù)照抄官方temperature 1.0 與 top_p 0.95提示詞對(duì)了采樣參數(shù)也要對(duì)。倉(cāng)庫(kù)自帶的 generation_config.json 給出了官方推薦值參數(shù)推薦值說(shuō)明temperature1.0原作者推薦溫度太低改寫(xiě)風(fēng)格會(huì)僵化top_p0.95原作者推薦top_k64配置文件中附帶do_sampletrue需要開(kāi)啟采樣而非貪心解碼原模型作者的額外建議除了 temperature 和 top_p 之外其他采樣開(kāi)關(guān)保持關(guān)閉。用 fingerprint 校驗(yàn)?zāi)愕奶崾驹~拼對(duì)沒(méi)有prompt_format.json里的fingerprintcc51d66b4c593fbe是一個(gè)哈希指紋。它的用途非常實(shí)用你可以對(duì)自己拼裝好的提示詞做同樣的哈希計(jì)算與fingerprint比對(duì)——一致說(shuō)明你的instr、空行、sep全部逐字節(jié)正確不一致說(shuō)明你某處改了換行、多打了一個(gè)空格或動(dòng)了instr的措辭。這是新手排錯(cuò)時(shí)的第一工具效果不好時(shí)先查提示詞字節(jié)再懷疑模型本身。常見(jiàn)錯(cuò)誤清單這幾件事千萬(wàn)別做?加 system prompt——契約里沒(méi)有這個(gè)角色加了就是畫(huà)蛇添足。?用聊天輪次包裝——不要寫(xiě)用戶(hù)請(qǐng)改寫(xiě)……chat: false已經(jīng)明說(shuō)了。?修改或翻譯instr——哪怕只改一個(gè)詞模型看到的就不再是訓(xùn)練時(shí)的模板。?草稿前后留大量空白——記得draft.strip()空行數(shù)量要與契約一致。??英文草稿被改寫(xiě)成中文——這是已知的偶發(fā)情況官方建議的處理方式很簡(jiǎn)單重新采樣一次即可通常第二次就能回到正確語(yǔ)言。關(guān)鍵文件速查文件用途prompt_format.json提示詞契約拼裝輸入的全部素材都在這里generation_config.json官方采樣參數(shù)temperature / top_p / top_kREADME.md完整用法說(shuō)明含加載與生成示例optiq/metadata.jsonOptiQ 混合精度量化元數(shù)據(jù)157 層 8-bit 172 層 4-bitmodel-00001-of-00002.safetensors模型權(quán)重分片整個(gè)模型 8.4 GB可從 24 GB 的 bf16 原版壓縮而來(lái)16 GB 內(nèi)存的 Mac 也能跑小結(jié)給 humanizer-12b-OptiQ-4bit 喂輸入的口訣只有三句指令照抄、草稿居中、分隔符收尾。把instr \n\n draft sep這條拼裝公式刻進(jìn)肌肉記憶再用fingerprint校驗(yàn)一遍字節(jié)配合 temperature 1.0 / top_p 0.95 的采樣設(shè)置你就能穩(wěn)定拿到像人寫(xiě)的改寫(xiě)結(jié)果。贊分享【免費(fèi)下載鏈接】humanizer-12b-OptiQ-4bit項(xiàng)目地址https://ai.gitcode.com/hf_mirrors/mlx-community/humanizer-12b-OptiQ-4bit點(diǎn)擊查看免費(fèi)下載相關(guān)推薦在 SuperGrid 上運(yùn)行 Flower AgentAppCLI 提交、聯(lián)邦選擇、日志跟蹤與故障恢復(fù)完整指南在 SuperGrid 上運(yùn)行 Flower AgentAppCLI 提交、聯(lián)邦選擇、日志跟蹤與故障恢復(fù)完整指南 本文基于 Flower 倉(cāng)庫(kù)中的官方指南 R一段提示詞如何生成一個(gè)電影級(jí)畫(huà)面Opus 5.5 案例提示詞逐句拆解一段提示詞如何生成一個(gè)電影級(jí)畫(huà)面Opus 5.5 案例提示詞逐句拆解 Claude Opus 5.5 發(fā)布后中文社區(qū)最出圈的討論幾乎都圍繞一個(gè)詞展開(kāi)BepInEx 上手5 步跑通 Unity 插件框架的完整流程BepInEx 上手5 步跑通 Unity 插件框架的完整流程 游戲里想加個(gè) HUD、改個(gè)數(shù)值官方卻不給接口反編譯再打補(bǔ)丁改完還得手動(dòng)維護(hù)游戲一升級(jí)就游戲開(kāi)發(fā)插件系統(tǒng)上一篇如何實(shí)現(xiàn)高效Git工作流規(guī)范驅(qū)動(dòng)開(kāi)發(fā)的3個(gè)創(chuàng)新策略下一篇10分鐘打造專(zhuān)業(yè)短視頻揭秘AI視頻創(chuàng)作神器MoneyPrinterTurbo的終極指南 創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考