近日,重慶人工智能創新中心成功孵化首個大模型解決方案,云從科技“從容大模型訓推一體機”順利完成孵化和部署。華為作為國內最早布局大模型的云服務商之一,一方面,深耕算力,打造強有力的算力底座來支撐中國的人工智能事業發展;另一方面,從通用大模型到行業大模型,真正實現人工智能服務好千行百業、服務好科學研究。
在重慶人工智能創新中心技術團隊、昇騰研發專家、云從科技人工智能研究院的共同努力下,“從容大模型訓推一體機”在一個月內順利完成精度與性能對齊、產品集成與測試等工作,成為重慶人工智能創新中心孵化的首個大模型解決方案。
“從容大模型訓推一體機”基于昇騰AI基礎軟硬件平臺,包括昇騰AI服務器、異構計算架構CANN和全場景AI框架昇思MindSpore,同時兼容PyTorch,單機2.5 PFLOPS FP16算力,訓練性能超8000 tokens/s,支持多機組網部署及企業私有化部署,滿足數據不出廠的信息安全要求。
“從容大模型訓推一體機”內置云從科技自主研發的從容大模型生產平臺,助力企業打造專屬行業大模型,實現5倍效率提升。模型參數規格十億、百億、千億可選,結合云從傳統視覺優勢,提供語言、視覺和多模態三類基礎模型,利用企業私有的行業和場景化數據,進行SFT、RM和PPO等強化學習和模型精調,為基礎模型注入專家知識和專家技術,使之在企業關注的領域內變得足夠智能和精準,打造行業大模型,進而服務企業的業務場景,提升業務效率和產品競爭力。在參數和loss曲線收斂對齊的條件下,基于昇騰和昇思MindSpore的模型訓練性能是業界的1.6倍,且推理問答結果更為優質。
昇騰AI與產業界共同構建了從規劃、開發到產業化的大模型全流程使能體系,共筑中國大模型生態,已孵化和適配了30多個主流大模型。同時在遙感和多模態兩個領域成立的產業聯合體,已經吸引了80多家科研機構和企業加入,聯合孵化出100多個行業新應用。
展望未來,昇騰AI將努力做好基礎軟硬件平臺,攜手云從科技推進AI走深向實,在重慶探索一體機賦能城市特色產業,形成具有示范效應的應用案例,為各個行業提供更為全面的提升,幫助企業實現持續高質量發展。
未經數字化報網授權,嚴禁轉載或鏡像,違者必究。
特別提醒:如內容、圖片、視頻出現侵權問題,請發送郵箱:[email protected]。
風險提示:數字化報網呈現的所有信息僅作為學習分享,不構成投資建議,一切投資操作信息不能作為投資依據。本網站所報道的文章資料、圖片、數據等信息來源于互聯網,僅供參考使用,相關侵權責任由信息來源第三方承擔。
數字化報(數字化商業報告)是國內數字經濟創新門戶網站,以數字技術創新發展為中心,融合數字經濟和實體經濟發展,聚焦制造業、服務業、農業等產業數字化轉型,致力為讀者提供最新、最權威、最全面的科技和數字領域資訊。數字化報并非新聞媒體,不提供新聞信息服務,提供商業信息服務;
Copyright ? 2013-2023 數字化報(數字化報商業報告)
數字化報并非新聞媒體,不提供新聞信息服務,提供商業信息服務
浙ICP備2023000407號數字化報網(杭州)信息科技有限公司 版權所有浙公網安備 33012702000464號