一、模型速覽10 月 15 日階躍星辰把 Step 5 Preview 的權(quán)重掛上了 Hugging Face 和魔搭FP8、BF16 雙版本同步放出另有一個 NVFP4 構(gòu)建。智東西當(dāng)晚的標(biāo)題是OpenRouter 周榜全球第二這個國產(chǎn)模型終于開源了——近七天 Token 用量約 18.8 萬億周榜日榜都是第二。項目參數(shù)發(fā)布方階躍星辰StepFun開放權(quán)重日期2026-10-15API 9 月 20 日已商用總參數(shù) / 激活6043 億官方取整 600B/ 每 token 270 億架構(gòu)92 層稀疏 MoE88 層 MoE 4 層稠密352 路由專家 Top-8 1 共享專家上下文原生 1M 輸入最高 1M 輸出輸入模態(tài)文本 圖像API 側(cè)另加視頻權(quán)重體積FP8 約 650GB / BF16 約 1.2TB / 另有 NVFP4許可證StepFun Model License 1.0不是Apache-2.0 / MIT官方最低自托管FP84×B300 或 8×H200BF168×B300 或 16×H200API 價格輸入 $1.00 / 輸出 $2.70 每百萬 token緩存命中 $0.10一句話定位它是給長程 Agent 倉庫級軟件工程 金融研究準(zhǔn)備的機房級基座不是能在筆記本上把玩的模型。二、核心亮點1. 600B 只動 27B但千萬別按 27B 去備卡。激活 27B 指的是每一步前向參與計算的規(guī)模決定的是算力開銷而權(quán)重必須整份駐留顯存決定的是顯存檔位。FP8 檢查點 650.32GB 擺在那里四張 B300 或八張 H200 是官方給出的下限不是建議值。把它當(dāng)成一個 27B 模型去規(guī)劃硬件是這一類稀疏 MoE 最常見的翻車方式。2. 92 層窄而深是沖著長任務(wù)的多跳依賴去的。官方技術(shù)博客的解釋很直白Agent 跑久了工具返回的日志、文檔、代碼會一層層堆進上下文多跳依賴需要在模型內(nèi)部逐層傳遞加深網(wǎng)絡(luò)比加寬更有效。注意力按 3∶1 交錯排布——三層 Gated Sliding Window 管局部一層稀疏全局注意力用 Sparse GQA 從長歷史里挑相關(guān)內(nèi)容且 Sparse GQA 走的是分塊索引。這是典型的用結(jié)構(gòu)換長上下文效率和單純把 RoPE 拉長是兩回事。3. 把上下文壓縮寫進了策略訓(xùn)練。多數(shù)模型的長上下文能力是能塞進去Step 5 想解決的是塞滿了還能干活。官方說法是把上下文壓縮納入端到端策略訓(xùn)練讓 Agent 自己整理任務(wù)狀態(tài)、騰出窗口再繼續(xù)執(zhí)行。對動輒跑幾小時的 Agent 來說這比多 10 萬分好看得多——窗口管理做不好1M 只是把爆炸點往后推。4. 長上下文是真強項第三方也認(rèn)。Artificial Analysis 的獨立結(jié)果里AA-LCR 長上下文推理拿到88.3%這個分?jǐn)?shù)不是廠商自報。綜合智能指數(shù) 43.7官方口徑 44排在全球開源模型前三。HLE 46.5%、GDPval-AA 54.3%屬于能打但不封神的區(qū)間。5. 單任務(wù)成本 0.71 美元是 Opus 5 的 1/8。這個數(shù)字要拆開看它是 Artificial Analysis 的完成一個任務(wù)的總開銷口徑不是每百萬 token 的價目表——前者包含推理 token、重試、工具輪次后者只是單價。Step 5 的 API 定價是輸入 $1.00、輸出 $2.70對比 Kimi K3 的 $3.00 / $15.00輸出側(cè)便宜五倍多。對高頻 Agent 業(yè)務(wù)這個差價會被輪次放大。三、部署實戰(zhàn)3.1 環(huán)境準(zhǔn)備先接受一個現(xiàn)實這不是單卡能碰的模型。官方部署表列得很清楚精度權(quán)重體積vLLM / SGLang 最低配置FP8約 650GB4×B300單節(jié)點或 8×H200單節(jié)點BF16約 1.2TB8×B300單節(jié)點或 16×H200雙節(jié)點NVFP4更小官方未給完整配置表需自行驗證Transformers 路徑官方明確寫著只支持離線生成而且完整 BF16 的轉(zhuǎn)換→分片→生成流程尚未端到端驗證。所以生產(chǎn)部署請直接走 vLLM 或 SGLang兩家都提供了帶 OpenAI 兼容 API 的專用鏡像。# 1) 安裝下載工具 pip install -U huggingface_hub[cli] ? # 2) 拉取 FP8 權(quán)重約 650GB28 個 safetensors 分片 # 國內(nèi)網(wǎng)絡(luò)可換 modelscopemodelscope download --model stepfun-ai/Step-5-Preview hf download stepfun-ai/Step-5-Preview --local-dir /models/Step-5-Preview3.2 啟動推理服務(wù)# vLLM 單節(jié)點 8×H200 FP8開啟專家并行 docker run --gpus all --ipchost --network host \ -v /models/Step-5-Preview:/model \ vllm/vllm-openai:latest \ --model /model \ --served-model-name step-5-preview \ --trust-remote-code \ --tensor-parallel-size 8 \ --enable-expert-parallel \ --max-model-len 262144 ? # Blackwell 上專家并行會走 MegaMoE 后端 # reasoning / tool-call 解析器的參數(shù)名以官方 deployment 文檔為準(zhǔn)不要照抄舊版 Step 的寫法。一個實操提醒--max-model-len先別急著寫 1048576。1M 上下文的 KV 緩存是額外顯存開銷8×H200 上打滿長度并發(fā)額度會非常薄。先按 256K 起服務(wù)驗證鏈路再按實際業(yè)務(wù)長度往上加。3.3 推理代碼官方推薦的采樣參數(shù)是temperature1.0、top_p0.95、top_k0——這三個值別按習(xí)慣改成 0.7/0.9長程推理任務(wù)的穩(wěn)定性對這個很敏感。import time from openai import OpenAI ? client OpenAI(base_urlhttp://127.0.0.1:8000/v1, api_keyEMPTY) MODEL step-5-preview ? def ask(prompt: str, effort: str high, image_url: str | None None) - str: effort 支持 low / medium / high按任務(wù)復(fù)雜度選檔別一律拉滿。 content [{type: text, text: prompt}] if image_url: content.append({type: image_url, image_url: {url: image_url}}) ? t0 time.time() resp client.chat.completions.create( modelMODEL, messages[{role: user, content: content}], temperature1.0, top_p0.95, extra_body{top_k: 0, reasoning_effort: effort}, max_tokens4096, ) cost time.time() - t0 usage resp.usage out_tokens usage.completion_tokens print(f耗時 {cost:.1f}s | 輸出 {out_tokens} tok | f解碼約 {out_tokens / max(cost, 1e-6):.1f} tok/s) return resp.choices[0].message.content ? # 場景一倉庫級代碼修改官方主推場景 print(ask(把這個 Flask 項目的會話存儲從內(nèi)存換成 Redis列出要改的文件和每處改動理由。)) ? # 場景二長文檔 圖表理解原生支持圖像輸入 # print(ask(這張財報截圖里的毛利率是多少把計算過程寫出來。, # image_urldata:image/png;base64,你的base64))3.4 效果驗證服務(wù)起來后先做三件事別直接上業(yè)務(wù)第一用一句無工具依賴的問題確認(rèn)模型能正常吐字第二跑一個帶reasoning_effort切換的對比看 thinking 長度是否真的隨檔位變化第三把同一份 20 萬 token 的長文檔喂兩遍確認(rèn)前綴緩存生效第二次的 TTFT 應(yīng)明顯低于第一次。第三步是長上下文服務(wù)最容易出問題的地方——緩存沒命中成本會翻倍。四、性能測評4.1 速度官方給的口徑是 NVIDIA 平臺上8K tok/s/GPU配套宣傳里還有24 小時長程 Agent的說法。這兩個數(shù)字都來自廠商目前沒有獨立第三方在公開硬件上復(fù)測。按 650GB 權(quán)重、4×B300 的最低配置反推這個吞吐量級在理論帶寬上說得通但真實業(yè)務(wù)里的并發(fā)數(shù)、上下文長度、工具輪次都會大幅拉低它。我在本地沒有多卡環(huán)境不做任何實測聲明。4.2 顯存項目數(shù)值說明FP8 權(quán)重650.32 GB官方倉庫總存儲28 分片BF16 權(quán)重約 1.2 TB獨立倉庫其中 FP8 參數(shù)量約 5647 億 FP8 396 億 BF16混合精度不是全 FP81M 上下文 KV未公布與層數(shù)、KV 頭數(shù)、并發(fā)強相關(guān)務(wù)必自測4.3 生成質(zhì)量下表全部為 StepFun 在自己圖表上自報的成績Step 5 跑 High 檔競品跑 Max 檔口徑并不對等橫向?qū)Ρ葍H供參考基準(zhǔn)Step 5 PreviewGLM-5.3Kimi K3Claude Opus 5DeepSWE v1.167.766.967.574.0ProgramBench80.572.077.8—FrontierFinance66.464.162.669.7Terminal-Bench 4.033.341.912.657.9GDPval-AA v2.115661645——AA-LCR第三方88.3%———真正該被放大的是后半張表——短板評測得分來源Terminal-Bench 4.033.3官方自報Agents Last ExamALE-CLI29.5官方自報SRE Bench0.4%Vals AIHarvey 法律 Agent9.2%Vals AISRE Bench 0.4% 基本等于完全不會法律 Agent 9.2% 同理。宣傳里專業(yè)知識工作這個大筐裝得下金融研究裝不下運維排障和法務(wù)審閱——選型按具體任務(wù)對號入座。五、使用建議適用場景跨文件、跨倉庫的軟件工程改造需要連續(xù)調(diào)用工具數(shù)小時的長程 Agent金融投研這類讀大量材料→抽證據(jù)→出結(jié)論的鏈路對數(shù)據(jù)不出域有硬要求的私有化部署。不適用場景單卡或消費級硬件物理上跑不動SRE 排障、法律文書這類已驗證的弱項只需要短問答的高頻輕量調(diào)用用 API 或小模型更劃算對許可證敏感、必須 Apache-2.0 的商業(yè)項目。許可證必須逐條讀。StepFun Model License 1.0 允許免費使用、修改、再分發(fā)但有三條附加條件單月活躍用戶超 1 億或月收入超 2000 萬美元的商業(yè)產(chǎn)品要在界面和用戶協(xié)議里顯著標(biāo)注 Powered by StepFun AI把模型做進手機、汽車、眼鏡、機器人的硬件廠商以及年收入超 2000 萬美元的 MaaS 服務(wù)商商用前需單獨簽授權(quán)用 Step 5 輸出訓(xùn)練出的模型會被視為衍生作品。它不是 Apache-2.0HF 上的 license 字段寫的是 other。成本要算 TCO不是只看單價。API 輸入 $1.00 / 輸出 $2.70 看著便宜但自托管的賬是另一套四張 B300 或八張 H200 的機器成本、650GB 權(quán)重的存儲與加載時間、長上下文的 KV 開銷、運維人力。一個粗略的自托管 vs API 盈虧平衡測算腳本def breakeven(gpu_hour_cost: float, gpus: int, monthly_tasks: int, api_cost_per_task: float 0.71) - float: 返回每月跑多少任務(wù)時自托管開始比 API 更便宜。 gpu_hour_cost: 單卡每小時綜合成本租賃價 電費 運維攤銷 monthly_gpu gpu_hour_cost * gpus * 24 * 30 api_monthly api_cost_per_task * monthly_tasks print(f自托管固定成本 ≈ ${monthly_gpu:,.0f}/月) print(f{monthly_tasks:,} 個任務(wù)走 API ≈ ${api_monthly:,.0f}/月) return monthly_gpu / api_cost_per_task ? # 以 8×H200、單卡 $2.5/小時 粗算 need breakeven(gpu_hour_cost2.5, gpus8, monthly_tasks50_000) print(f盈虧平衡點約 {need:,.0f} 任務(wù)/月)按這組假設(shè)跑出來平衡點大概在每月一萬多個任務(wù)。低于這個量級除非你有數(shù)據(jù)不能出域的硬約束否則 API 更劃算——這也是 Step 5 這類機房級開源模型最現(xiàn)實的落地姿勢權(quán)重開源的意義不是讓你自己扛機器而是讓你在必須自建的時候有的選。你會為了數(shù)據(jù)不出域多付多少機器成本四張 B300 的賬和直接調(diào) API 的賬你所在團隊算下來是哪邊贏評論區(qū)聊聊你的實際數(shù)字。數(shù)據(jù)來源StepFun 官方模型卡stepfun-ai/Step-5-Preview 與 Step-5-Preview-BF16及 LICENSE.txt、官方技術(shù)博客與部署指南、Artificial Analysis智能指數(shù) 43.7 / AA-LCR 88.3% / HLE 46.5% / GDPval-AA 54.3% / 單任務(wù)成本 $0.71 對比 $5.86、Vals AISRE Bench 0.4% / Harvey 9.2%、OpenRouter Token 用量周榜日榜、SegmentFault 與七牛云的部署整理、智東西 10 月 15 日報道。除 Artificial Analysis 與 Vals AI 的標(biāo)注項外基準(zhǔn)分?jǐn)?shù)均為廠商自報且 Step 5 跑 High 檔、競品跑 Max 檔對比口徑不對等本機無多卡 GPU 環(huán)境全文未做任何實測速度與顯存數(shù)字均引用官方口徑。