10月2日OpenAI 把自家第一顆芯片的部署細(xì)節(jié)放了出來Jalape?o ASIC 已經(jīng)在內(nèi)部跑起來跟它搭伙的是一臺(tái)裝了 1.5TB 內(nèi)存的 AMD EPYC Turin 主機(jī)。負(fù)責(zé)這件事的是 OpenAI 副總裁兼硬件主管理查德·何Richard Ho。他給出的理由只有兩個(gè)字務(wù)實(shí)。原話是 AMD 的 Turin 性能夠用、合作伙伴熟悉這套平臺(tái)、能加快部署而英偉達(dá)今年新推的 Vera CPU成熟度上略顯落后。一臺(tái)主機(jī) CPU 的選擇為什么值得單獨(dú)拿出來講。因?yàn)檫^去兩年大家習(xí)慣性盯的是單顆芯片的峰值算力這次 OpenAI 給出的答案落在另一套坐標(biāo)上成熟度、可交付、控得住風(fēng)險(xiǎn)。Jalape?o 到底是什么先講清楚這顆芯片的定位很多討論在這里就跑偏了。它是一顆 ASIC也就是專門為某一類任務(wù)定制的芯片由 OpenAI 和博通共同開發(fā)、走臺(tái)積電 3nm 工藝方向明確寫在名字旁邊面向 LLM 的推理加速。它不訓(xùn)練模型只負(fù)責(zé)把已經(jīng)訓(xùn)練好的模型高效地跑起來。OpenAI 此前公布過的首秀數(shù)據(jù)是跑 DeepSeek R1 時(shí)每瓦 AI 吞吐量是英偉達(dá) GB300 的 1.7 倍延遲也更低。這里要提醒一句這是 OpenAI 自己公布的口徑不是第三方評(píng)測(cè)讀的時(shí)候要帶上這個(gè)前提。它憑什么省電道理不復(fù)雜。GPU 像一輛什么路都能開的越野車通用意味著要預(yù)留大量用不上的電路ASIC 是把最常見的幾種彎道、坡度直接澆筑成專用路面跑起來輕松代價(jià)是換一條新路就得重新施工。所以 ASIC 只在任務(wù)形狀足夠穩(wěn)定的地方劃算——推理恰好就是這種活。為什么配的不是英偉達(dá)的 CPU一顆加速卡自己跑不起來。它得跟 CPU、內(nèi)存、網(wǎng)絡(luò)、散熱組成整機(jī)主機(jī) CPU 負(fù)責(zé)數(shù)據(jù)搬運(yùn)、請(qǐng)求調(diào)度、系統(tǒng)管理這些配套工作。OpenAI 挑主機(jī)搭檔時(shí)選的不是最強(qiáng)是最穩(wěn)。Turin 已經(jīng)在大量服務(wù)器上跑了很久合作廠商經(jīng)驗(yàn)足部署能按周算Vera 更新但剛進(jìn)入市場(chǎng)。把全新加速卡和全新主機(jī)平臺(tái)疊在一起等于同時(shí)押兩個(gè)不確定項(xiàng)。理查德·何的說法是Jalape?o 從設(shè)計(jì)階段就定了兩條原則去風(fēng)險(xiǎn)和快速落地。性能指標(biāo)和成本可以激進(jìn)平臺(tái)選擇必須落在成熟的工程框架里。它說明了一件更大的事AI 基礎(chǔ)設(shè)施的競(jìng)爭(zhēng)正在從峰值性能轉(zhuǎn)向系統(tǒng)匹配。過去幾年比的是一顆芯片能跑多快現(xiàn)在比的是芯片、主機(jī)、內(nèi)存、網(wǎng)絡(luò)、散熱這一整套能不能最快裝起來、最省地跑下去。對(duì)做 AI 應(yīng)用的團(tuán)隊(duì)來說這是個(gè)可借鑒的工程習(xí)慣關(guān)鍵路徑上選一個(gè)已經(jīng)被驗(yàn)證過的組件往往比選一個(gè)參數(shù)更漂亮的組件更值錢。參數(shù)差 10% 能補(bǔ)交付晚一個(gè)季度補(bǔ)不回來。三個(gè)容易看錯(cuò)的地方常見說法一自研芯片成了英偉達(dá)要涼。有一定道理OpenAI 確實(shí)在把一部分推理負(fù)載從通用加速卡上搬走。但它解釋不了全部Jalape?o 只做推理訓(xùn)練側(cè)仍是另一套體系而且目前只在內(nèi)部使用官方明確說暫無對(duì)外銷售計(jì)劃。更準(zhǔn)確的理解是頭部公司把能自己定的部分自己定掉把必須外購的部分繼續(xù)外購——不是替代是分工再切一刀。常見說法二選 AMD 是因?yàn)?AMD 更強(qiáng)。有一定道理AMD 這兩年在服務(wù)器 CPU 上的推進(jìn)確實(shí)扎實(shí)。但它解釋不了全部這次的權(quán)重壓在成熟度和交付速度上而不是跑分。更準(zhǔn)確的理解是這是一次工程上的求穩(wěn)不是性能榜單的更替。常見說法三芯片自研了用起來就該更便宜。有一定道理單位推理成本下降最終會(huì)反映到 API 價(jià)格上。但它解釋不了全部成本傳導(dǎo)需要規(guī)模內(nèi)部部署的體量還不夠大ASIC 又只覆蓋它被設(shè)計(jì)出來的那部分工作。更準(zhǔn)確的理解是短期內(nèi)先受益的是 OpenAI 自己不是用戶的賬單。往下的看點(diǎn)Jalape?o 只在 OpenAI 內(nèi)部用官方留了口子未來資源允許不排除推到更廣的場(chǎng)景。這句話值得記下來——它決定了這顆芯片是自家省錢工具還是對(duì)外賣的產(chǎn)品。還有一點(diǎn)ASIC 的軟肋是模型結(jié)構(gòu)變了怎么辦。專用路面的代價(jià)就是路改了要重新澆筑。所以接下來真正要看的不是它這次跑贏多少而是下一代模型出來時(shí)它能不能用最小的改動(dòng)跟上。工程世界里能把不確定性摁在設(shè)計(jì)階段的人通常笑得更久。這次 OpenAI 摁掉的是主機(jī) CPU 這一項(xiàng)。如果覺得今天這篇有啟發(fā)點(diǎn)個(gè)在看順手轉(zhuǎn)發(fā)給需要的朋友想第一時(shí)間收到推送可以星標(biāo)我?。關(guān)注我每天陪你聰明看世界 —— 看懂熱搜玩懂AI。