近日,九章云極DataCanvas公司自主研發(fā)的DataCanvas Alaya NeW智算操作系統(tǒng)順利通過中國信息通信研究院(以下簡稱“中國信通院”)首批首家“大模型推理平臺技術(shù)要求”標(biāo)準(zhǔn)技術(shù)評估。這是繼今年1月首批首家通過中國信通院“大模型計算資源調(diào)度平臺”標(biāo)準(zhǔn)評測后,DataCanvas Alaya NeW智算操作系統(tǒng)榮獲的又一行業(yè)權(quán)威認(rèn)證。 精準(zhǔn)調(diào)度、普惠應(yīng)用,Alaya NeW樹立全新實踐范本 中國信通院人工智能研究所高度關(guān)注大模型推理平臺技術(shù)發(fā)展,依托人工智能關(guān)鍵技術(shù)和應(yīng)用評測工業(yè)和信息化部重點實驗室、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟AI Infra工作組,聯(lián)合七十余家單位共同編制了《大模型推理平臺技術(shù)要求》標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)旨在為大模型推理平臺的研發(fā)者提供技術(shù)參考,并為使用的企業(yè)方提供選型參考,進而推動大模型部署推理實現(xiàn)高質(zhì)量、規(guī);瘧(yīng)用落地。 具體來看,標(biāo)準(zhǔn)系統(tǒng)梳理了大模型推理平臺的功能、性能、穩(wěn)定性,關(guān)注部署、推理、服務(wù)與管理環(huán)節(jié),以實現(xiàn)低時延、高吞吐、可擴展、高易用、低成本目標(biāo)。該標(biāo)準(zhǔn)共81個能力項,其中基礎(chǔ)功能35項,高級功能46項,各能力域涉及模型部署、模型推理、平臺服務(wù)與管理等核心條目。 《大模型推理平臺技術(shù)要求》標(biāo)準(zhǔn)核心條目 圖片來源:中國信通院 在本次評估中,九章云極DataCanvas公司的專家團隊集中展示了DataCanvas Alaya NeW智算操作系統(tǒng)在模型部署、模型推理、平臺服務(wù)與管理等方面的能力現(xiàn)狀,結(jié)合測試用例逐一進行技術(shù)演示,并對當(dāng)前產(chǎn)品運營情況及未來規(guī)劃進行解讀。 此次評測的順利通過,不僅印證了Alaya NeW在算力技術(shù)領(lǐng)域的標(biāo)桿地位,更凸顯了其作為行業(yè)革新引擎的角色——通過構(gòu)建高效率、高可靠、可擴展的算力調(diào)度體系,實現(xiàn)算力資源利用效能最大化,以標(biāo)準(zhǔn)化技術(shù)架構(gòu)推動大模型推理平臺從技術(shù)探索邁向產(chǎn)業(yè)規(guī)范,為行業(yè)樹立“精準(zhǔn)調(diào)度、普惠應(yīng)用”的實踐范本。 DataCanvas Alaya NeW智算操作系統(tǒng) 算力即服務(wù),推動AI應(yīng)用從實驗室走向規(guī);涞 自2013年成立以來,九章云極DataCanvas公司持續(xù)扎根于人工智能基礎(chǔ)設(shè)施領(lǐng)域,以“算力+算法”雙核驅(qū)動模式重構(gòu)產(chǎn)業(yè)智能化路徑。通過深度融合國際前沿AI技術(shù)與本土化智算生態(tài),公司構(gòu)建了覆蓋“芯片-系統(tǒng)-平臺-應(yīng)用”的垂直技術(shù)棧,以標(biāo)準(zhǔn)化算力服務(wù)和全棧式AI工具鏈為錨點,推動智算產(chǎn)業(yè)從資源集約化向服務(wù)智能化躍遷。 作為Alaya NeW Cloud智算云服務(wù)的技術(shù)中樞,Alaya NeW以智能化的資源調(diào)度引擎和全棧式AI服務(wù)能力,重新定義了“以度計量、算力即服務(wù)”的行業(yè)范式。 Alaya NeW的核心價值主要體現(xiàn)為:通過異構(gòu)資源統(tǒng)一納管和動態(tài)公平調(diào)度算法,實現(xiàn)跨中心、跨集群的算力資源全局優(yōu)化,大幅提升GPU利用率;向上提供覆蓋模型全生命周期的即用型工具鏈,集成分布式訓(xùn)練加速、內(nèi)存優(yōu)化等技術(shù),使大模型訓(xùn)練效率提升、推理速度提高,讓開發(fā)者無需關(guān)注底層配置;基于Serverless彈性計算架構(gòu)與“算力包”計量模式,將算力資源細粒度切分,實現(xiàn)算力成本降低,推動AI應(yīng)用從實驗室走向規(guī)模化產(chǎn)業(yè)落地。 作為數(shù)字經(jīng)濟時代的核心戰(zhàn)略資產(chǎn),算力正從基礎(chǔ)資源進化為驅(qū)動千行百業(yè)智能躍遷的新質(zhì)生產(chǎn)力引擎。Alaya NeW智算操作系統(tǒng)先后首批首家通過“大模型計算資源調(diào)度平臺”、“大模型推理平臺技術(shù)要求”標(biāo)準(zhǔn)評估,充分印證了九章云極DataCanvas公司在算力領(lǐng)域的技術(shù)領(lǐng)先。未來,九章云極DataCanvas公司將以“AI創(chuàng)新土壤”培育者視角,通過軟硬協(xié)同創(chuàng)新與生態(tài)共建,構(gòu)建連接異構(gòu)算力供給與場景化AI落地的智能基座,讓每度算力都能精準(zhǔn)賦能企業(yè)創(chuàng)新,引領(lǐng)數(shù)字經(jīng)濟邁向“智算定義未來”的新紀(jì)元。 |