0
| 本文作者： Nemo | 2025-01-16 14:58 |
1月16日，阿里云通義開源全新的數(shù)學(xué)推理過程獎勵模型Qwen2.5-Math-PRM，72B及7B尺寸模型性能均大幅超越同類開源過程獎勵模型；在識別推理錯誤步驟能力上，Qwen2.5-Math-PRM以7B的小尺寸就超越了GPT-4o。同時，通義團隊還開源首個步驟級的評估標(biāo)準(zhǔn) ProcessBench，填補了大模型推理過程錯誤評估的空白。
在當(dāng)前大模型推理過程中，不時存在邏輯錯誤或編造看似合理的推理步驟，如何準(zhǔn)確識破過程謬誤并減少它，對增強大模型推理能力、提升推理可信度尤為關(guān)鍵。過程獎勵模型（Process Reward Model, PRM）為解決這一問題提供了一種極有前景的新方法：PRM對推理過程中的每一步行為都進行評估及反饋，幫助模型更好學(xué)習(xí)和優(yōu)化推理策略，最終提升大模型推理能力。
基于PRM的理念，通義團隊提出了一種簡單有效的過程獎勵數(shù)據(jù)構(gòu)造方法，將PRM模型常用的蒙特卡洛估計方法（MC estimation）與大模型判斷（LLM-as-a-judge）創(chuàng)新融合，提供更可靠的推理過程反饋。通義團隊基于Qwen2.5-Math-Instruct模型進行微調(diào)，從而得到72B及7B的Qwen2.5-Math-PRM模型，模型的數(shù)據(jù)利用率和評測性能表現(xiàn)均顯著提高。
在包含GSM8K、MATH、Minerva Math等7個數(shù)學(xué)基準(zhǔn)測試的 Best-of-N 評測中，Qwen2.5-Math-PRM-7B性能表現(xiàn)超越了同尺寸的開源PRMs；Qwen2.5-Math-PRM-72B的整體性能在評測中拔得頭籌，優(yōu)于同尺寸ORM（Outcome Reward Model ）結(jié)果獎勵模型Qwen2.5-Math-RM-72B。
同時，為更好衡量模型識別數(shù)學(xué)推理中錯誤步驟的能力，通義團隊提出了全新的評估標(biāo)準(zhǔn)ProcessBench。該基準(zhǔn)由3400個數(shù)學(xué)問題測試案例組成，其中還包含奧賽難度的題目，每個案例都有人類專家標(biāo)注的逐步推理過程，可綜合全面評估模型識別錯誤步驟能力。這一評估標(biāo)準(zhǔn)也已開源。
在ProcessBench上對錯誤步驟的識別能力的評估中，72B及7B尺寸的Qwen2.5-Math-PRM均顯示出顯著的優(yōu)勢，7B版本的PRM模型不但超越同尺寸開源PRM模型，甚至超越了閉源GPT-4o-0806。這印證了過程獎勵模型PRM可有效提升推理可靠性，對未來推理過程監(jiān)督技術(shù)的研發(fā)提供新思路。
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
