2025年2月24日——由360與北京大學聯合研發的中等量級推理模型Tiny-R1-32B-Preview正式亮相,僅以5%參數,逼近Deepseek-R1-671B的性能。
核心突破:小模型,大能量
? 數學領域:以78.1分(AIME 2024評測)逼近原版R1模型(79.8分),遠超Deepseek-R1-Distill-Llama-70B(70.0分);
? 綜合性能:在編程(LiveCodeBench 61.6分)、科學(GPQA-Diamond 65.0分)領域全面領先最佳開源70B模型Deepseek-R1-Distill-Llama-70B;
? 效率躍遷:僅需5%參數量,性能達原版R1的95%以上,推理成本大幅降低。
技術革新:領域專精+模型融合
研究團隊使用「分治-融合」策略:
? 基于DeepSeek-R1生成海量領域數據,分別訓練數學、編程、科學三大垂直模型;
? 通過Arcee團隊Mergekit工具智能融合,突破單一模型性能上限,實現多任務均衡優化。
開源承諾:推動技術普惠
? 模型倉庫:https://huggingface.co/qihoo360/TinyR1-32B-Preview
? 即將公開完整技術報告、訓練代碼及部分數據集;
? 踐行開源精神,助力AI社區共筑高效推理新生態。
研發團隊表示:「Tiny-R1-32B-Preview是蒸餾技術的里程碑,未來將持續探索更輕量、更強大的通用模型,推動AI技術普惠化進程。」
360 團隊: Lin Sun, Guangxiang Zhao, Xiaoqi Jian, Weihong Lin, Yongfu Zhu, Change Jia, Linglin Zhang, Jinzhu Wu, Sai-er Hu, Xiangzheng Zhang
北大團隊: Yuhan Wu, Zihan Jiang, Wenrui Liu, Junting Zhou, Bin Cui, Tong Yang
未經數字化報網授權,嚴禁轉載或鏡像,違者必究。
特別提醒:如內容、圖片、視頻出現侵權問題,請發送郵箱:[email protected]。
風險提示:數字化報網呈現的所有信息僅作為學習分享,不構成投資建議,一切投資操作信息不能作為投資依據。本網站所報道的文章資料、圖片、數據等信息來源于互聯網,僅供參考使用,相關侵權責任由信息來源第三方承擔。
數字化報(數字化商業報告)是國內數字經濟創新門戶網站,以數字技術創新發展為中心,融合數字經濟和實體經濟發展,聚焦制造業、服務業、農業等產業數字化轉型,致力為讀者提供最新、最權威、最全面的科技和數字領域資訊。數字化報并非新聞媒體,不提供新聞信息服務,提供商業信息服務;
Copyright ? 2013-2023 數字化報(數字化報商業報告)
數字化報并非新聞媒體,不提供新聞信息服務,提供商業信息服務
浙ICP備2023000407號數字化報網(杭州)信息科技有限公司 版權所有浙公網安備 33012702000464號