據(jù)集入門:3.2萬道競(jìng)賽級(jí)數(shù)學(xué)題與答案匹配驗(yàn)證機(jī)制)
UltraData-RL-2609 Math數(shù)據(jù)集入門3.2萬道競(jìng)賽級(jí)數(shù)學(xué)題與答案匹配驗(yàn)證機(jī)制【免費(fèi)下載鏈接】UltraData-RL-2609項(xiàng)目地址: https://ai.gitcode.com/OpenBMB/UltraData-RL-2609正在為數(shù)學(xué)強(qiáng)化學(xué)習(xí)挑選訓(xùn)練數(shù)據(jù)UltraData-RL-2609 Math數(shù)據(jù)集是 OpenBMB 開源的可驗(yàn)證獎(jiǎng)勵(lì)Verifiable Reward強(qiáng)化學(xué)習(xí)數(shù)據(jù)Math 切片收錄32,412 道競(jìng)賽級(jí)數(shù)學(xué)題——每題都有唯一參考答案模型輸出與答案做答案匹配即可自動(dòng)判定對(duì)錯(cuò)是 RLVR可驗(yàn)證獎(jiǎng)勵(lì) RL后訓(xùn)練的即插即用語料。 先認(rèn)識(shí) UltraData-RL-2609 是什么UltraData-RL-2609 是 UltraData 平臺(tái) L0-L4 分級(jí)數(shù)據(jù)框架中的L3 精煉數(shù)據(jù)專為 MiniCPM5-2B 等端側(cè)模型的后訓(xùn)練 RL 階段構(gòu)建。整個(gè)數(shù)據(jù)集共85,995 條樣本覆蓋四個(gè)方向方向樣本數(shù)占比結(jié)果如何驗(yàn)證Math32,41237.7%與ground_truth做答案匹配Code23,66527.5%沙箱執(zhí)行測(cè)試用例Long-Context18,04621.0%答案匹配 上下文支撐校驗(yàn)Knowledge11,87213.8%答案匹配合計(jì)85,995100%其中Math 是占比最大、驗(yàn)證方式最純粹的切片答案唯一、機(jī)器可判定獎(jiǎng)勵(lì)信號(hào)零人工成本。這也是本文聚焦它的原因。 Math 數(shù)據(jù)集文件結(jié)構(gòu)4 個(gè)分片共 3.2 萬題Math 切片存放在 data/Math/ 目錄按 JSONL 分片存儲(chǔ)每行一條題目文件樣本數(shù)Math_part-1-of-4.jsonl10,000Math_part-2-of-4.jsonl10,000Math_part-3-of-4.jsonl10,000Math_part-4-of-4.jsonl2,412合計(jì)32,412題目從哪里來Math 切片由 DAPO-Math-17k、DeepScaleR 和 DeepMath-103K 三個(gè)公開可驗(yàn)證數(shù)學(xué) RL 數(shù)據(jù)集取并集再統(tǒng)一改寫為簡(jiǎn)答題形式。選擇題、判斷題、證明題、多問題和依賴圖片的題目已在構(gòu)建流水線中全部剔除——留下來的都是算出一個(gè)答案的題。題面難度分布很廣從13 支鉛筆 3 塊橡皮 1 美元的小學(xué)生應(yīng)用題到代數(shù)數(shù)域的 Galois 擴(kuò)張、線性代數(shù)向量空間維數(shù)等競(jìng)賽與研究生水平題目。 樣本格式統(tǒng)一的五字段 JSONL 結(jié)構(gòu)每條樣本包含 5 個(gè)字段直接看一條真實(shí)樣例來自 data/Math/Math_part-1-of-4.jsonl 第一行{ uuid: Math_00001, query: Oscar buys 13 pencils and 3 erasers for $1.00. …\nPlease reason step by step, and put your final answer within \boxed{}., ground_truth: 10, source: UltraData-RL-2609, domain: Math }字段說明uuid全局唯一 ID格式為Math_序號(hào)query完整題面末尾統(tǒng)一追加把最終答案放入\boxed{}的指令ground_truth參考答案字符串source數(shù)據(jù)來源domain固定為Math 兩個(gè)值得注意的設(shè)計(jì)\boxed{}統(tǒng)一答案抽取約定所有題面都要求模型把最終答案放進(jìn)\boxed{}訓(xùn)練時(shí)只需正則抽取該表達(dá)式再與ground_truth比對(duì)即可得到 0/1 獎(jiǎng)勵(lì)無需 LLM 判分。答案形式已被標(biāo)準(zhǔn)化數(shù)值10、代數(shù)式4\sqrt{5}、分?jǐn)?shù)\dfrac{2}{5}、區(qū)間[0,1]、特值Yes/No等均可自動(dòng)匹配。?? 核心機(jī)制答案匹配如何判定獎(jiǎng)勵(lì)Math 切片的獎(jiǎng)勵(lì)可信來自構(gòu)建流水線詳見 README_ZH.md 的六階段流程中的三道關(guān)卡第 1 關(guān) · 可驗(yàn)證性過濾—— 只保留答案唯一、可自動(dòng)校驗(yàn)的題。答案不唯一或無法機(jī)器抽取的樣本直接出局。第 2 關(guān) · 多模型共識(shí)校驗(yàn)—— 由多個(gè)獨(dú)立模型重新求解每道題按共識(shí)確認(rèn)參考答案沒有共識(shí)的題直接丟棄絕不猜測(cè)。同時(shí) LLM Judge 會(huì)審核題目—答案的一致性剔除題答不符的臟數(shù)據(jù)。第 3 關(guān) · 難度校準(zhǔn)不碰標(biāo)簽—— 在 RL 初始化 checkpoint 上對(duì)每題多次 rollout估算經(jīng)驗(yàn)通過率然后按通過率分流通過率處理策略原因 1全對(duì)? 移除已完全掌握無梯度信號(hào)0 p 1可學(xué)習(xí)區(qū)間? 保留最有學(xué)習(xí)價(jià)值 0 且標(biāo)簽已確認(rèn)合法? 保留交給在線動(dòng)態(tài)采樣調(diào)控頻率?? 關(guān)鍵原則難度篩選只改采樣權(quán)重從不修改參考答案標(biāo)簽——保證了獎(jiǎng)勵(lì)信號(hào)可追溯。 新手快速開始3 行代碼加載 Math 數(shù)據(jù)使用 Hugging Facedatasets庫config 名固定為Mathfrom datasets import load_dataset ds load_dataset(openbmb/UltraData-RL-2609, Math, splittrain) print(ds[0][query][:300]) # 查看題面 print(ds[0][ground_truth]) # 查看參考答案加載后即可按uuid定位任意樣本、按\boxed{}抽取模型答案做匹配驗(yàn)證。若需本地克隆數(shù)據(jù)倉庫地址https://gitcode.com/OpenBMB/UltraData-RL-2609。 為什么 Math 切片值得用真實(shí)提升效果數(shù)學(xué)題是 RLVR 最干凈的獎(jiǎng)勵(lì)來源——對(duì)錯(cuò)判定不依賴主觀評(píng)分訓(xùn)練信號(hào)穩(wěn)定。實(shí)際效果上以 UltraData-RL-2609 為訓(xùn)練集的JustRL II實(shí)驗(yàn)中AIME 2025 得分在約 300 步 RL 內(nèi)從 61 提升到 81 最終基于該數(shù)據(jù)完成訓(xùn)練的 MiniCPM5-2B 在 AIME 2025 達(dá)到86?? 使用注意與許可許可項(xiàng)目按 Apache 2.0 發(fā)布但上游數(shù)據(jù)集的 MIT / CC BY / CC BY-SA 條款對(duì)派生內(nèi)容繼續(xù)適用禁止未經(jīng)書面授權(quán)的原樣轉(zhuǎn)載或商業(yè)化再打包。靜態(tài)標(biāo)簽構(gòu)建時(shí)的難度過濾與在線采樣權(quán)重不作為字段發(fā)布只保留最終入選樣本。去污范圍僅覆蓋構(gòu)建時(shí)已知的公開評(píng)測(cè)集引入新基準(zhǔn)前建議自行去污檢測(cè)??偨Y(jié)UltraData-RL-2609 的 Math 切片 3.2 萬道答案唯一的競(jìng)賽級(jí)數(shù)學(xué)題 \boxed{}統(tǒng)一抽取 多模型共識(shí)背書的標(biāo)簽 難度校準(zhǔn)。對(duì)想做數(shù)學(xué) RLVR 后訓(xùn)練的新手來說這是一份開箱即用、獎(jiǎng)勵(lì)機(jī)制透明的完整語料?!久赓M(fèi)下載鏈接】UltraData-RL-2609項(xiàng)目地址: https://ai.gitcode.com/OpenBMB/UltraData-RL-2609創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考