在銀行系統(tǒng)待久了就明白大文件上傳從來(lái)不只是“把文件丟到服務(wù)器”那么簡(jiǎn)單。柜面掃描的影像件、批量對(duì)賬的流水包、信貸審批的合同附件、遠(yuǎn)程辦公要傳的報(bào)表隨便一個(gè)就奔著幾百M(fèi)B甚至幾個(gè)GB去。選錯(cuò)了上傳控件內(nèi)網(wǎng)里看起來(lái)一切正常一旦用戶(hù)換到外網(wǎng)、跨運(yùn)營(yíng)商甚至用手機(jī)熱點(diǎn)就開(kāi)始各種超時(shí)、斷傳、服務(wù)端內(nèi)存飆升。我在銀行系統(tǒng)的運(yùn)維和架構(gòu)崗位上待了快十年前前后后經(jīng)手過(guò)三個(gè)上傳組件的選型替換踩過(guò)的坑能列一長(zhǎng)串。這篇內(nèi)容就把銀行場(chǎng)景下選擇高效大文件上傳控件這件事掰開(kāi)揉碎從需求分析、技術(shù)方案對(duì)比、落地實(shí)操到問(wèn)題排查完整過(guò)一遍。適合正在做選型評(píng)估的架構(gòu)師也適合被上傳問(wèn)題反復(fù)折騰的開(kāi)發(fā)同學(xué)參考。先亮明一個(gè)觀(guān)點(diǎn)選上傳控件本質(zhì)上是選一套“傳輸協(xié)議加服務(wù)端處理策略”而不是挑一個(gè)花哨的前端組件。進(jìn)度條、拖拽上傳這些是面子分片、斷點(diǎn)續(xù)傳、失敗重試、服務(wù)端合并、完整性校驗(yàn)才是里子。銀行系統(tǒng)尤其講究穩(wěn)定、安全、可審計(jì)所以下面所有內(nèi)容都會(huì)圍繞這幾點(diǎn)展開(kāi)不繞彎子。1. 銀行場(chǎng)景的上傳需求先把賬算清楚1.1 銀行文件上傳的特殊性不只是“大”這么簡(jiǎn)單銀行系統(tǒng)里的文件上傳和其他行業(yè)的差別非常大。最大的差異在于文件本身的業(yè)務(wù)價(jià)值和風(fēng)險(xiǎn)。一筆信貸審批的影像材料傳輸中途少了一個(gè)分片事后審計(jì)調(diào)檔發(fā)現(xiàn)材料缺失就是風(fēng)險(xiǎn)事件。所以銀行對(duì)上傳的要求從來(lái)不只是“越快越好”而是要在保證完整、可追溯的前提下盡量快。具體來(lái)看銀行系統(tǒng)里的文件上傳有幾個(gè)典型特征。第一是文件類(lèi)型多樣除了常見(jiàn)的圖片和PDF還有批量導(dǎo)入的賬務(wù)文件、格式固定的對(duì)賬單、加密壓縮包、甚至柜面錄制的視頻。不同類(lèi)型的文件對(duì)傳輸和存儲(chǔ)的要求完全不一樣視頻對(duì)實(shí)時(shí)性要求低但對(duì)完整性要求極高批量賬務(wù)文件則可能在導(dǎo)入后馬上被下游跑批上傳慢一分鐘整條業(yè)務(wù)鏈就往后推一分鐘。第二是網(wǎng)絡(luò)環(huán)境極端復(fù)雜柜面走內(nèi)網(wǎng)帶寬穩(wěn)定延遲低客戶(hù)自助端走公網(wǎng)可能處于弱網(wǎng)環(huán)境行員移動(dòng)辦公走的內(nèi)網(wǎng)接入通道也可能不穩(wěn)定。第三是并發(fā)和峰值明顯月末、季末、年末批量處理期間大量網(wǎng)點(diǎn)同時(shí)上傳報(bào)表瞬間流量可能比平時(shí)高出一個(gè)數(shù)量級(jí)。這些特殊性決定了選型不能簡(jiǎn)單照搬互聯(lián)網(wǎng)公司的方案。互聯(lián)網(wǎng)公司可以接受一定失敗率靠重試和補(bǔ)償保證最終一致但銀行系統(tǒng)對(duì)失敗必須提前設(shè)計(jì)降級(jí)方案和手工補(bǔ)傳通道。選型時(shí)如果只盯著“快”很容易忽視這些前提。1.2 選型前必須回答的八個(gè)問(wèn)題在做任何技術(shù)對(duì)比之前我強(qiáng)烈建議先做一輪需求梳理。我每次參加選型評(píng)審都會(huì)要求業(yè)務(wù)方和開(kāi)發(fā)一起回答下面八個(gè)問(wèn)題答完再談控件選型。第一個(gè)問(wèn)題是單個(gè)文件的最大值是多少。很多業(yè)務(wù)方張口就說(shuō)“一般也就幾十兆”但實(shí)際生產(chǎn)環(huán)境里出現(xiàn)過(guò)單文件4GB的影像合集。最大值直接決定要不要上分片以及分片大小怎么設(shè)計(jì)。第二個(gè)問(wèn)題是日傳輸總量和峰值并發(fā)是多少這決定控件要不要支持并發(fā)上傳以及服務(wù)端需要預(yù)留多少處理能力。第三個(gè)問(wèn)題是終端環(huán)境固定柜面PC、行員自帶筆記本、客戶(hù)手機(jī)瀏覽器這三類(lèi)終端的瀏覽器版本和系統(tǒng)能力差異很大有些老終端根本跑不動(dòng)新特性。第四個(gè)問(wèn)題是網(wǎng)絡(luò)環(huán)境內(nèi)網(wǎng)還是公網(wǎng)帶寬大概多少是否跨運(yùn)營(yíng)商是否需要支持弱網(wǎng)和斷線(xiàn)重連。第五個(gè)問(wèn)題是安全合規(guī)要求文件要不要加密傳輸落盤(pán)后要不要做病毒掃描上傳日志要不要留存這些必須在選型前明確否則后面全是返工。第六個(gè)問(wèn)題是后端現(xiàn)有技術(shù)棧Java、其他語(yǔ)言還是混合架構(gòu)存儲(chǔ)用本地磁盤(pán)、分布式文件系統(tǒng)還是對(duì)象存儲(chǔ)接口風(fēng)格是RESTful還是別的上傳控件必須和后端無(wú)縫對(duì)接。第七個(gè)問(wèn)題是團(tuán)隊(duì)對(duì)開(kāi)源組件的掌控力有沒(méi)有人能讀懂源碼、會(huì)修bug如果出了問(wèn)題是找商業(yè)廠(chǎng)商支持還是自己扛。第八個(gè)問(wèn)題是使用環(huán)境是否有信創(chuàng)適配要求有些銀行要求控件必須在特定的國(guó)產(chǎn)芯片、操作系統(tǒng)和瀏覽器環(huán)境下正常運(yùn)行這一步不確認(rèn)前面做得再多也可能全部推翻。這八個(gè)問(wèn)題看起來(lái)很基礎(chǔ)但幾乎每次選型失敗追根溯源都是因?yàn)槟骋粋€(gè)問(wèn)題的答案和實(shí)際不符。比如只想著文件挺大沒(méi)想到有弱網(wǎng)結(jié)果上傳控件沒(méi)有斷點(diǎn)續(xù)傳客戶(hù)用手機(jī)傳一個(gè)200MB的文件眼看著到99%斷了全部重來(lái)投訴電話(huà)很快就會(huì)打進(jìn)客服。需求整理清楚接下來(lái)才進(jìn)入技術(shù)方案對(duì)比階段。2. 主流上傳方案對(duì)比選型前先看清楚路2.1 三類(lèi)基礎(chǔ)傳輸方式表單直傳、二進(jìn)制流、分片上傳先講技術(shù)底層的傳輸方式因?yàn)樗猩蟼骺丶谋举|(zhì)都跑不出這三類(lèi)。第一類(lèi)是傳統(tǒng)的表單直傳也就是瀏覽器提交multipart/form-data把整個(gè)文件一次性POST到服務(wù)器。這種方式的優(yōu)點(diǎn)是實(shí)現(xiàn)極其簡(jiǎn)單后端一個(gè)上傳接口就能接住兼容性最好缺點(diǎn)也很明顯文件稍大就容易觸發(fā)網(wǎng)關(guān)超時(shí)傳輸過(guò)程沒(méi)有進(jìn)度條一旦失敗就要整體重傳。在銀行內(nèi)網(wǎng)環(huán)境里10MB以?xún)?nèi)的文件用表單直傳問(wèn)題不大但超過(guò)這個(gè)量級(jí)就不建議了。第二類(lèi)是AJAX二進(jìn)制流上傳用XMLHttpRequest的send方法直接把文件二進(jìn)制發(fā)過(guò)去。相比表單直傳它的進(jìn)步在于可以實(shí)時(shí)拿到上傳進(jìn)度也能在傳輸過(guò)程中取消請(qǐng)求。但本質(zhì)上還是一次性把整個(gè)文件讀入內(nèi)存再發(fā)送對(duì)大文件來(lái)說(shuō)內(nèi)存占用高而且依然沒(méi)有斷點(diǎn)續(xù)傳。我在實(shí)際項(xiàng)目里見(jiàn)過(guò)有人用這種方式傳500MB的文件前端頁(yè)面直接卡死服務(wù)端內(nèi)存被打滿(mǎn)最后整個(gè)應(yīng)用容器都受影響。第三類(lèi)是分片上傳把文件按固定大小切成若干片逐片或并發(fā)上傳到服務(wù)器最后在服務(wù)端合并。這是當(dāng)前解決大文件上傳的主流方案核心價(jià)值有三點(diǎn)支持?jǐn)帱c(diǎn)續(xù)傳某一分片失敗后只需重傳該分片支持并發(fā)傳輸可以同時(shí)傳多個(gè)分片充分利用帶寬能夠?qū)崟r(shí)計(jì)算總體進(jìn)度用戶(hù)體驗(yàn)要好得多。代價(jià)是協(xié)議變復(fù)雜前端要做切片邏輯后端要負(fù)責(zé)分片接收、校驗(yàn)和合并整體工作量上一個(gè)臺(tái)階。銀行系統(tǒng)選擇上傳控件我?guī)缀醪豢紤]表單直傳直接用分片上傳作為基座因?yàn)樗娜蒎e(cuò)能力是所有方案里最適合生產(chǎn)環(huán)境的。2.2 商業(yè)控件、開(kāi)源框架、自研組件三種供給方式怎么選確定技術(shù)路線(xiàn)是分片上傳之后接下來(lái)要回答的問(wèn)題是組件從哪里來(lái)市面上大致有三條路商業(yè)控件、開(kāi)源框架、自研組件。商業(yè)控件的優(yōu)點(diǎn)是一站式交付前端控件、服務(wù)端SDK、技術(shù)支持都齊了功能上通常還附帶秒傳、批量上傳、壓縮預(yù)覽等增強(qiáng)能力。銀行選用商業(yè)控件的謹(jǐn)慎點(diǎn)在于授權(quán)費(fèi)用的持續(xù)性以及源碼不可見(jiàn)帶來(lái)的排查障礙。在信創(chuàng)環(huán)境下不是所有商業(yè)控件都能適配國(guó)產(chǎn)瀏覽器和國(guó)產(chǎn)服務(wù)器這個(gè)要提前拿到廠(chǎng)商測(cè)試報(bào)告或者做一輪實(shí)際驗(yàn)證。我參與過(guò)的一個(gè)項(xiàng)目中廠(chǎng)商承諾適配某國(guó)產(chǎn)瀏覽器結(jié)果現(xiàn)場(chǎng)演示時(shí)控件直接加載不出來(lái)場(chǎng)面相當(dāng)尷尬。開(kāi)源框架是很多團(tuán)隊(duì)的首選好處是免費(fèi)、源碼開(kāi)放、社區(qū)案例多出了問(wèn)題可以自己看代碼。但“免費(fèi)”不等于“沒(méi)成本”。引入開(kāi)源上傳組件實(shí)際上承擔(dān)了維護(hù)責(zé)任包括版本升級(jí)、安全漏洞修復(fù)、瀏覽器兼容性調(diào)整這些都需要有人力投入。銀行如果完全沒(méi)有前端和后端的技術(shù)儲(chǔ)備建議謹(jǐn)慎引入否則遇到問(wèn)題連求助都不知道怎么描述。自研組件看起來(lái)最可控實(shí)際上也最容易被低估成本。一套基本可用的分片上傳體系前端要處理切片、并發(fā)、進(jìn)度、重試、秒傳后端要處理元數(shù)據(jù)、分片存儲(chǔ)、合并、一致性校驗(yàn)還要考慮負(fù)載均衡多節(jié)點(diǎn)下的文件合并和臨時(shí)文件清理按三到六個(gè)人年估算并不夸張。如果只是為一兩個(gè)上傳場(chǎng)景自研成本太高。我的建議是有明顯的強(qiáng)需求例如超大文件、極致弱網(wǎng)要求且團(tuán)隊(duì)有技術(shù)底子的優(yōu)先基于成熟開(kāi)源框架做二次封裝沒(méi)有技術(shù)底子的直接買(mǎi)商業(yè)控件把錢(qián)花在服務(wù)上只有數(shù)據(jù)量特別龐大、業(yè)務(wù)定制要求極高的場(chǎng)景才認(rèn)真考慮自研。銀行選型最怕的就是什么都自己造最后留下一堆無(wú)人維護(hù)的技術(shù)債。另外要提醒一點(diǎn)不管選商業(yè)還是開(kāi)源都要把“可替換性”寫(xiě)進(jìn)評(píng)價(jià)指標(biāo)。上傳控件應(yīng)該是業(yè)務(wù)系統(tǒng)的一個(gè)外部適配層接口設(shè)計(jì)成可插拔的最好不要讓上游業(yè)務(wù)代碼直接依賴(lài)控件的內(nèi)部對(duì)象。這樣將來(lái)因?yàn)楹弦?guī)、成本、性能原因換掉底層實(shí)現(xiàn)時(shí)業(yè)務(wù)代碼可以不動(dòng)只替換適配層。這個(gè)原則等于給系統(tǒng)上了一層保險(xiǎn)時(shí)間越久價(jià)值越明顯。2.3 把“高效”量化成可打分的評(píng)估表說(shuō)完供給方式再講怎么評(píng)估。很多銀行在選型時(shí)容易犯的錯(cuò)是把“高效”理解成“傳得快”。實(shí)際上對(duì)上傳控件而言“高效”至少包含傳輸性能、穩(wěn)定性、資源占用、開(kāi)發(fā)效率和運(yùn)維友好度五個(gè)維度。我列一張?jiān)u估表每項(xiàng)按0到5分打分總分高的不一定就選它但至少把主觀(guān)印象變成可比較的數(shù)據(jù)。評(píng)估維度考察要點(diǎn)建議權(quán)重穩(wěn)定性重試機(jī)制、斷點(diǎn)續(xù)傳可靠性、意外斷網(wǎng)恢復(fù)能力30%安全合規(guī)加密傳輸、審計(jì)日志、權(quán)限控制、防濫用能力25%傳輸性能單文件速度、批量效率、大文件并發(fā)性能20%資源占用瀏覽器端內(nèi)存/CPU、服務(wù)端內(nèi)存/磁盤(pán)IO15%開(kāi)發(fā)與運(yùn)維API設(shè)計(jì)、文檔完整度、日志與監(jiān)控接入難度10%傳輸性能要看真實(shí)網(wǎng)絡(luò)環(huán)境下的實(shí)測(cè)數(shù)據(jù)不要看文檔里的理論值。測(cè)的時(shí)候分內(nèi)網(wǎng)、跨運(yùn)營(yíng)商、弱網(wǎng)環(huán)境分別記錄拉一張對(duì)比表。穩(wěn)定性方面重點(diǎn)驗(yàn)證重試機(jī)制是否完善、斷點(diǎn)續(xù)傳是否準(zhǔn)確、意外斷網(wǎng)后能否恢復(fù)。資源占用方面用同一臺(tái)低配PC分別跑不同控件觀(guān)察任務(wù)管理器里的內(nèi)存和CPU數(shù)據(jù)差異可能非常大。開(kāi)發(fā)與運(yùn)維方面看控件API設(shè)計(jì)是否清晰、文檔是否完整、日志能否方便接入監(jiān)控告警一個(gè)黑盒上傳組件運(yùn)維團(tuán)隊(duì)是不敢接的。權(quán)重分配也是門(mén)學(xué)問(wèn)。我習(xí)慣把穩(wěn)定性和安全合規(guī)權(quán)重調(diào)高傳輸性能只占兩成。道理很簡(jiǎn)單對(duì)銀行來(lái)說(shuō)一次上傳失敗造成的時(shí)間成本和合規(guī)風(fēng)險(xiǎn)遠(yuǎn)大于傳輸峰值快幾秒帶來(lái)的收益。這個(gè)評(píng)分表做完再結(jié)合商務(wù)條件和團(tuán)隊(duì)情況選型結(jié)果往往已經(jīng)很清楚了。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)落地一個(gè)可用的分片上傳方案3.1 協(xié)議設(shè)計(jì)先行前端后端各自要做什么選型最終要落到實(shí)現(xiàn)。不管選的是商業(yè)組件還是開(kāi)源框架都需要理解分片上傳的協(xié)議設(shè)計(jì)否則出了問(wèn)題根本無(wú)從下手。一個(gè)標(biāo)準(zhǔn)的分片上傳協(xié)議至少包含三個(gè)接口創(chuàng)建上傳任務(wù)、上傳分片、合并文件。創(chuàng)建上傳任務(wù)的接口入?yún)⒁话闶俏募?、文件大小、分片大小和文件唯一?biāo)識(shí)后端根據(jù)這些信息生成一個(gè)上傳任務(wù)ID并在存儲(chǔ)端創(chuàng)建臨時(shí)目錄。這個(gè)接口同時(shí)承擔(dān)初始化工作如果文件已經(jīng)存在可以直接返回“秒傳”標(biāo)記省去整個(gè)傳輸過(guò)程。上傳分片的接口入?yún)⑹侨蝿?wù)ID、分片序號(hào)和分片數(shù)據(jù)。后端把分片寫(xiě)入臨時(shí)目錄文件名按規(guī)則命名例如任務(wù)ID加序號(hào)加擴(kuò)展名。這里必須做冪等處理如果同一分片被重復(fù)上傳應(yīng)該直接覆蓋或者返回成功而不是報(bào)錯(cuò)因?yàn)榍岸耸≈卦嚂r(shí)很可能把同一個(gè)分片提交兩次。合并文件的接口入?yún)⑹侨蝿?wù)ID后端把所有分片按順序讀出來(lái)以流式方式拼接成完整文件然后做一次完整性校驗(yàn)。校驗(yàn)通過(guò)后再轉(zhuǎn)入業(yè)務(wù)存儲(chǔ)目錄進(jìn)入病毒掃描、內(nèi)容審核這些下游環(huán)節(jié)。前端的核心邏輯主要有四塊文件切片利用瀏覽器的文件讀取能力把File對(duì)象按指定大小切出分片并發(fā)控制同時(shí)啟動(dòng)N路上傳任務(wù)每路負(fù)責(zé)一個(gè)分片進(jìn)度計(jì)算用已成功上傳的分片數(shù)除以總分片數(shù)得到百分比異常處理分片失敗時(shí)自動(dòng)重試達(dá)到重試上限后標(biāo)記為失敗并允許用戶(hù)手動(dòng)續(xù)傳。這里要特別說(shuō)明分片上傳不等于必須自研底層協(xié)議。用開(kāi)源成熟框架時(shí)這些接口基本都實(shí)現(xiàn)好了只需要理解協(xié)議原理然后在后端SDK基礎(chǔ)上做業(yè)務(wù)適配。選商業(yè)控件的更是開(kāi)箱即用。但我仍然強(qiáng)烈建議至少自己動(dòng)手寫(xiě)一遍簡(jiǎn)化版這樣當(dāng)生產(chǎn)環(huán)境出現(xiàn)“合并的文件不完整”“重試后產(chǎn)生臟數(shù)據(jù)”這類(lèi)問(wèn)題時(shí)能快速定位是協(xié)議設(shè)計(jì)問(wèn)題還是實(shí)現(xiàn)缺陷。拿一個(gè)簡(jiǎn)單的偽代碼來(lái)說(shuō)明前端切片邏輯// 簡(jiǎn)化示例切分文件并逐個(gè)上傳 const CHUNK_SIZE 5 * 1024 * 1024; // 5MB let start 0; let index 0; while (start file.size) { const blob file.slice(start, start CHUNK_SIZE); const formData new FormData(); formData.append(taskId, taskId); formData.append(index, index); formData.append(chunk, blob); await uploadChunk(formData); // 并發(fā)場(chǎng)景下可改為批量發(fā)起 start CHUNK_SIZE; }這只是一個(gè)最簡(jiǎn)模型真實(shí)系統(tǒng)還要加并發(fā)控制、進(jìn)度回調(diào)、錯(cuò)誤重試和任務(wù)狀態(tài)持久化但協(xié)議骨架就是這個(gè)樣子。想清楚這三個(gè)接口前端后端各司其職選型時(shí)就多了不少底氣。3.2 幾個(gè)關(guān)鍵參數(shù)的計(jì)算邏輯分片大小、并發(fā)數(shù)、重試策略分片大小和并發(fā)數(shù)的設(shè)置直接決定上傳體驗(yàn)和后端壓力。很多團(tuán)隊(duì)直接照搬網(wǎng)上某個(gè)方案用5MB分片加10并發(fā)結(jié)果內(nèi)網(wǎng)環(huán)境跑得很歡一旦遇到弱網(wǎng)小分片反而被大量反復(fù)重傳拖慢。正確的做法是根據(jù)實(shí)測(cè)帶寬和目標(biāo)延遲來(lái)計(jì)算而不是拍腦袋。先說(shuō)分片大小。一個(gè)樸素的目標(biāo)是讓單個(gè)分片的傳輸時(shí)間控制在0.5秒到3秒之間。假設(shè)實(shí)測(cè)帶寬是10Mbps也就是約1.25MB/s那么5MB分片約4秒傳完對(duì)弱網(wǎng)偏大改成2MB分片差不多1.6秒一片體感會(huì)好很多。反過(guò)來(lái)帶寬是100Mbps時(shí)10MB分片傳輸時(shí)間約0.8秒服務(wù)端合并次數(shù)又少更合適。所以分片大小要和帶寬匹配弱網(wǎng)用小分片強(qiáng)網(wǎng)用大分片。成熟的框架支持動(dòng)態(tài)調(diào)整分片大小銀行場(chǎng)景我建議把這一點(diǎn)加入選型要求。再說(shuō)并發(fā)數(shù)。并發(fā)太高瀏覽器容易把連接占滿(mǎn)服務(wù)端也扛不住并發(fā)太低帶寬利用率上不去。我的經(jīng)驗(yàn)值在3到6路之間具體要看后端處理能力和網(wǎng)絡(luò)情況。一個(gè)簡(jiǎn)單的估算方法是把期望取得的傳輸帶寬除以單分片傳輸帶寬再加一點(diǎn)冗余。例如目標(biāo)是要跑滿(mǎn)20Mbps帶寬單分片在2Mbps下工作并發(fā)4到6路基本足夠。并發(fā)不是越大越好超過(guò)一定閾值吞吐量反而下降因?yàn)榉制喜?、網(wǎng)絡(luò)握手本身也要消耗資源。重試策略也很關(guān)鍵。分片上傳失敗的原因很多網(wǎng)絡(luò)抖動(dòng)、服務(wù)端臨時(shí)不可用、請(qǐng)求超時(shí)。一個(gè)健壯的重試機(jī)制應(yīng)該采用指數(shù)退避第一次失敗后等1秒第二次等2秒第三次等4秒最多重試五次。這里有兩個(gè)容易忽略的細(xì)節(jié)一是重試必須攜帶相同的分片序號(hào)和服務(wù)端給出的上傳任務(wù)ID否則重試會(huì)變成新增分片合并時(shí)數(shù)據(jù)就亂了二是前端斷開(kāi)網(wǎng)絡(luò)后頁(yè)面即使刷新也要能通過(guò)本地記錄的任務(wù)狀態(tài)繼續(xù)上傳剩余分片實(shí)現(xiàn)真正的斷點(diǎn)續(xù)傳。有些控件只做了內(nèi)存級(jí)的斷點(diǎn)刷新就失效這種不算真正的續(xù)傳。3.3 服務(wù)端接收與合并的設(shè)計(jì)重點(diǎn)服務(wù)端的設(shè)計(jì)容易被低估。很多人在前端花了大量時(shí)間后端只給個(gè)簡(jiǎn)單的接收接口就上線(xiàn)結(jié)果生產(chǎn)環(huán)境一跑問(wèn)題全在后端。第一個(gè)重點(diǎn)是臨時(shí)目錄的管理。分片文件不應(yīng)該直接寫(xiě)業(yè)務(wù)存儲(chǔ)區(qū)而是先落在臨時(shí)目錄。臨時(shí)目錄要有命名規(guī)范和生命周期同一個(gè)上傳任務(wù)的所有分片放同一個(gè)子目錄。還要有一個(gè)守護(hù)任務(wù)定期清理超時(shí)未合并的臨時(shí)分片。我早期沒(méi)做清理某次批量上傳任務(wù)失敗后幾萬(wàn)個(gè)分片留在臨時(shí)磁盤(pán)上差點(diǎn)把存儲(chǔ)空間打滿(mǎn)。清理策略要考慮正在上傳中的任務(wù)不能誤刪建議用上傳任務(wù)創(chuàng)建時(shí)間和活動(dòng)時(shí)間共同判定而不是只看任務(wù)創(chuàng)建時(shí)間。第二個(gè)重點(diǎn)是合并方式。合并時(shí)要求按分片序號(hào)嚴(yán)格排序用流式讀寫(xiě)逐片寫(xiě)入目標(biāo)文件而不是一次性把所有分片讀入內(nèi)存。假設(shè)一個(gè)4GB的文件分成800個(gè)5MB分片如果全部讀入內(nèi)存再合并內(nèi)存開(kāi)銷(xiāo)是災(zāi)難性的。正確做法是每讀一片寫(xiě)一片邊讀邊寫(xiě)這樣內(nèi)存占用始終很小。合并完成后還要做完整性校驗(yàn)。前端在創(chuàng)建任務(wù)時(shí)可以傳一個(gè)文件哈希值后端合并后重新計(jì)算一遍哈希不一致就返回錯(cuò)誤由前端決定是否重新上傳。這一步是銀行場(chǎng)景必須有的不能省因?yàn)槲募趥鬏敗帱c(diǎn)續(xù)傳過(guò)程中任何一步出錯(cuò)都可能產(chǎn)生一個(gè)“能打開(kāi)但內(nèi)容錯(cuò)誤”的文件這種錯(cuò)誤比完全失敗更隱蔽更危險(xiǎn)。第三個(gè)重點(diǎn)是防濫用。銀行系統(tǒng)的上傳接口要防止被惡意請(qǐng)求刷爆。常見(jiàn)措施包括限制單次請(qǐng)求上傳分片的大小、限制單個(gè)上傳任務(wù)的總大小、對(duì)同一客戶(hù)端的上傳頻率做限流。另外上傳接口必須走統(tǒng)一認(rèn)證體系不能把臨時(shí)目錄路徑暴露給前端避免用戶(hù)通過(guò)構(gòu)造請(qǐng)求非法訪(fǎng)問(wèn)他人未合并的分片。這些雖然是安全基線(xiàn)但不少開(kāi)源控件的示例里默認(rèn)都沒(méi)做接入時(shí)一定要加上。3.4 UI交互和安全審計(jì)的落地細(xì)節(jié)傳輸層的方案對(duì)齊后UI交互也不能忽視。銀行柜員每天要傳大量文件交互不好會(huì)直接拖累業(yè)務(wù)效率。一個(gè)合格的上傳控件至少要有進(jìn)度條、批量上傳、拖拽上傳、失敗提示和重試入口。進(jìn)度條要精確到百分比如果前端能做到按分片粒度計(jì)算百分比的精度就會(huì)很高不會(huì)出現(xiàn)“卡在99%不動(dòng)”的情況。卡99%的常見(jiàn)原因是最后一片沒(méi)傳完但前端已經(jīng)顯示所有分片完成這種隱藏問(wèn)題在驗(yàn)收時(shí)很難發(fā)現(xiàn)一定要用大文件實(shí)測(cè)。秒傳功能在銀行場(chǎng)景里很實(shí)用。同一客戶(hù)上傳同樣的身份證影印件如果系統(tǒng)已經(jīng)存在完全相同內(nèi)容的文件就沒(méi)必要重新傳一遍。實(shí)現(xiàn)秒傳的關(guān)鍵是文件哈希比對(duì)在創(chuàng)建上傳任務(wù)時(shí)先計(jì)算文件哈希去服務(wù)器查詢(xún)是否已存在。這個(gè)功能能極大減少重復(fù)傳輸尤其適合批量掃描件的重復(fù)提交場(chǎng)景。但從合規(guī)角度要小心哈希比對(duì)本身不泄露文件內(nèi)容可用于去重不過(guò)要明確文件內(nèi)容相同不等于業(yè)務(wù)權(quán)限可復(fù)用是否允許復(fù)用由業(yè)務(wù)規(guī)則決定。安全審計(jì)方面銀行對(duì)上傳動(dòng)作有明確要求。每次上傳事件要記錄操作人、操作時(shí)間、文件名、文件大小、任務(wù)結(jié)果、失敗原因日志要防篡改并留存足夠長(zhǎng)時(shí)間。如果控件支持回調(diào)可以讓前端上傳成功后自動(dòng)觸發(fā)審計(jì)日志記錄而不是依賴(lài)后端日志拼湊。傳輸過(guò)程是否加密要看業(yè)務(wù)分類(lèi)敏感數(shù)據(jù)必須在傳輸層啟用加密協(xié)議同時(shí)文件落盤(pán)后還要加密存儲(chǔ)。選型時(shí)要確認(rèn)控件支持自定義請(qǐng)求頭過(guò)濾器方便接入統(tǒng)一加密和審計(jì)組件避免上線(xiàn)時(shí)再打補(bǔ)丁。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄4.1 四個(gè)高頻故障的排查過(guò)程第一個(gè)高頻問(wèn)題是“上傳到一半突然失敗刷新頁(yè)面后進(jìn)度丟失”。這種問(wèn)題十有八九是前端沒(méi)有做持久化的任務(wù)狀態(tài)。排查時(shí)先看本地存儲(chǔ)里有沒(méi)有記錄任務(wù)ID和已完成分片數(shù)如果沒(méi)有說(shuō)明控件沒(méi)有真正實(shí)現(xiàn)刷新續(xù)傳。如果是自己二次開(kāi)發(fā)的要檢查斷點(diǎn)信息寫(xiě)入的時(shí)機(jī)是在分片成功回調(diào)里同步寫(xiě)入還是等整個(gè)任務(wù)完成后一次性寫(xiě)入。第二個(gè)高頻問(wèn)題是“并發(fā)高了以后服務(wù)端頻繁報(bào)錯(cuò)”。通常不是上傳接口本身的問(wèn)題而是后端臨時(shí)目錄寫(xiě)入沖突或連接數(shù)超限。排查時(shí)先看錯(cuò)誤日志如果集中在分片保存失敗或連接池滿(mǎn)就要回到并行度設(shè)置上看是否超過(guò)后端承受能力。這種情況建議把并發(fā)數(shù)調(diào)低比持續(xù)報(bào)錯(cuò)再重試更劃算。第三個(gè)高頻問(wèn)題是“弱網(wǎng)環(huán)境下小文件反而比大文件更容易失敗”。原因是小文件通常走普通表單上傳而不是分片上傳弱網(wǎng)上更容易觸發(fā)網(wǎng)關(guān)超時(shí)。解決方法是設(shè)置文件大小閾值超過(guò)閾值的文件走分片上傳小于閾值的也要走帶超時(shí)配置的普通上傳不要單純依賴(lài)控件默認(rèn)行為。我習(xí)慣把閾值設(shè)為2MB這個(gè)值可以根據(jù)業(yè)務(wù)實(shí)際調(diào)整。第四個(gè)高頻問(wèn)題是“多節(jié)點(diǎn)部署后分片合并失敗或者文件內(nèi)容殘缺”。這是典型的臨時(shí)目錄不共享問(wèn)題。兩個(gè)節(jié)點(diǎn)同時(shí)接收同一個(gè)任務(wù)的分片分片A存到了節(jié)點(diǎn)一的臨時(shí)目錄分片B存到了節(jié)點(diǎn)二合并請(qǐng)求被負(fù)載均衡轉(zhuǎn)發(fā)到節(jié)點(diǎn)二節(jié)點(diǎn)二找不齊分片合并必然失敗。解決辦法是讓所有節(jié)點(diǎn)共享一個(gè)網(wǎng)絡(luò)存儲(chǔ)目錄來(lái)放臨時(shí)分片或者把分片寫(xiě)入對(duì)象存儲(chǔ)保證任何節(jié)點(diǎn)都能訪(fǎng)問(wèn)同一份數(shù)據(jù)。也可以通過(guò)負(fù)載均衡會(huì)話(huà)保持讓同一個(gè)上傳任務(wù)的請(qǐng)求固定到一個(gè)節(jié)點(diǎn)但這種方案容錯(cuò)性差節(jié)點(diǎn)一旦重啟任務(wù)就斷了不建議。4.2 性能調(diào)優(yōu)的實(shí)測(cè)方法論做完故障排查再分享一套性能調(diào)優(yōu)的實(shí)測(cè)方法論。換控件或者調(diào)參數(shù)之前先建一個(gè)和業(yè)務(wù)環(huán)境一致的測(cè)試環(huán)境包括同樣的服務(wù)器配置、同樣的網(wǎng)絡(luò)帶寬、同樣的客戶(hù)端機(jī)器。然后準(zhǔn)備一組測(cè)試文件建議覆蓋小文件、中等文件、大文件、超大文件分別跑一遍基線(xiàn)測(cè)試?；€(xiàn)測(cè)試要記錄三個(gè)數(shù)據(jù)平均傳輸速度、失敗率、服務(wù)端峰值內(nèi)存。參數(shù)調(diào)整時(shí)每次只改一個(gè)變量例如先固定并發(fā)數(shù)分片大小從1MB一路試到16MB記錄不同分片下的傳輸速度和失敗率再固定最優(yōu)分片大小并發(fā)數(shù)從1試到10。最后畫(huà)一張簡(jiǎn)單的對(duì)比表大概率能看出來(lái)最佳區(qū)間。我在一個(gè)真實(shí)項(xiàng)目里遇到過(guò)這種情況默認(rèn)參數(shù)下用戶(hù)從遠(yuǎn)程網(wǎng)點(diǎn)上傳一個(gè)800MB的視頻素材平均速度只有8Mbps失敗率20%。我把分片從5MB改成2MB并發(fā)從8降到4結(jié)果平均速度提升到15Mbps失敗率接近于零。原因就是現(xiàn)場(chǎng)網(wǎng)絡(luò)抖動(dòng)大大分片一旦失敗重傳代價(jià)太高并發(fā)太高又加劇擁塞。這類(lèi)問(wèn)題不改業(yè)務(wù)代碼只改參數(shù)就能解決前提是你得做實(shí)測(cè)。另一條重要經(jīng)驗(yàn)是對(duì)銀行系統(tǒng)不要只看平均值還要看P95和P99耗時(shí)。因?yàn)樯蟼魇敲嫦蛴脩?hù)的操作最大的痛點(diǎn)不是平均速度慢而是個(gè)別請(qǐng)求長(zhǎng)時(shí)間卡住。如果把P99控制在用戶(hù)可接受的范圍內(nèi)即使平均值不是最優(yōu)整體的用戶(hù)滿(mǎn)意度也會(huì)提升。4.3 容易被忽略的隱藏坑最后列幾個(gè)我在文檔里基本沒(méi)見(jiàn)過(guò)的坑個(gè)個(gè)都是實(shí)戰(zhàn)踩出來(lái)的。第一臨時(shí)目錄清理任務(wù)的時(shí)間設(shè)置。如果你在凌晨跑批前做清理恰好有業(yè)務(wù)在凌晨傳輸大文件清理任務(wù)可能會(huì)把正在活躍的任務(wù)分片誤刪。解決方法是把“最后活動(dòng)時(shí)間”作為清理依據(jù)而不是“創(chuàng)建時(shí)間”。一個(gè)分片只要在最近30分鐘內(nèi)有活動(dòng)就不能清理。第二容器環(huán)境下的臨時(shí)存儲(chǔ)。如果服務(wù)端跑在容器里臨時(shí)目錄要掛到持久化存儲(chǔ)卷上。否則容器重啟所有未合并的分片全部丟失前端已經(jīng)顯示上傳完成用戶(hù)只能重傳。這個(gè)問(wèn)題的隱蔽之處在于它不是必然發(fā)生只在容器滾動(dòng)更新時(shí)概率出現(xiàn)。第三瀏覽器兼容性降級(jí)?，F(xiàn)在主流瀏覽器對(duì)分片切割和并發(fā)上傳支持都不錯(cuò)但銀行網(wǎng)點(diǎn)偶爾還能碰到老版本瀏覽器。如果控件不做降級(jí)老瀏覽器可能直接不支持分片API連上傳入口都打不開(kāi)。選型時(shí)要把目標(biāo)瀏覽器清單列給廠(chǎng)商現(xiàn)場(chǎng)驗(yàn)收時(shí)安排老舊終端跑一遍。第四代理和網(wǎng)關(guān)的超時(shí)機(jī)制。不少銀行內(nèi)網(wǎng)有代理網(wǎng)關(guān)默認(rèn)空閑超時(shí)可能是60秒或120秒。如果分片上傳請(qǐng)求在網(wǎng)關(guān)層被判定為空閑連接而中斷前端無(wú)論如何重試都是白搭。排查技巧是看用戶(hù)上傳失敗的時(shí)間點(diǎn)是否穩(wěn)定在一個(gè)固定值附近把抓包工具接到服務(wù)器端確認(rèn)請(qǐng)求是否到達(dá)應(yīng)用服務(wù)器如果到達(dá)且沒(méi)有超時(shí)記錄再回頭查網(wǎng)關(guān)配置。關(guān)于服務(wù)端合并時(shí)的哈希校驗(yàn)順序我再補(bǔ)一句。最好在合并過(guò)程中就同步計(jì)算哈希不要合并完成后再單獨(dú)讀一遍文件算。文件越大第二遍讀取的時(shí)間成本越高合并過(guò)程同步計(jì)算哈希能省出接近一倍的IO時(shí)間。這套東西我前前后后在不同項(xiàng)目里驗(yàn)證過(guò)三輪最深的體會(huì)是選上傳控件不能光看墻上貼的測(cè)試數(shù)據(jù)一定要在自己的網(wǎng)絡(luò)環(huán)境里跑真實(shí)業(yè)務(wù)文件。供應(yīng)商給的演示環(huán)境永遠(yuǎn)是理想網(wǎng)絡(luò)生產(chǎn)環(huán)境的復(fù)雜程度遠(yuǎn)超想象。另外無(wú)論最終選了哪家都要保留好替換的接口設(shè)計(jì)不要把業(yè)務(wù)代碼和某個(gè)具體控件的API焊死。我在一次組件升級(jí)中就是因?yàn)榈讓訌姆桨窤切換成方案B業(yè)務(wù)代碼幾乎沒(méi)動(dòng)只改了適配層整個(gè)切換耗時(shí)不到一天。這一點(diǎn)比控件本身多一兩個(gè)花哨功能有價(jià)值得多。如果你正在頭疼選型建議先從列需求清單開(kāi)始把八個(gè)問(wèn)題答完再看任何一份產(chǎn)品資料能少走一半彎路。