|
“據統計,GPU的平均利用率不超過30%,會產生巨大的算力資源浪費。我們用軟件定義的方式通常可以把用戶GPU的利用率提升3-8倍,甚至可以到10倍。” 這是算力池化軟件公司趨動科技援引行業報告數據并結合自身企業最佳實踐經驗給出的最新數據。通過自研的獵戶座OrionX AI算力資源池化軟件,趨動科技可以幫助客戶構建數據中心級 AI 算力資源池,客戶無需修改應用就能使用數據中心內任一臺服務器的 AI 算力,并通過大幅優化應用部署,提升用戶的資源利用率,為AI產業帶來全新的算力供給模式。 重新定義AI算力資源 在第二屆光合組織AI解決方案大賽上,趨動科技基于與海光硬件產品底座的適配和優化,打造的“信創全棧自主可控異構AI算力資源池”(以下簡稱“AI算力資源池”)方案,獲得了本屆大賽一等獎。 趨動科技生態運營總監文禹翔介紹,AI算力資源池方案主要針對當前異構算力使用方式粗放、跨廠商異構算力資源難以統一管理調度等問題。方案將物理異構算力資源進行池化管理,實現按需調度異構算力資源及跨廠商異構算力資源精細化管理。
方案架構圖 方案中的基礎設施層,依托于海光服務器的性能優勢,可以實現兩大躍升;在操作系統層,AI算力資源池基于銀河麒麟服務器操作系統,借助海光CPU、DCU平臺優勢,對內核安全、RAS特性、I/O性能、虛擬化和國產硬件、驅動支持等方面進一步優化增強;在虛擬化層,趨動科技OrionX將AI算力資源抽象為虛擬資源,最終實現AI算力資源的軟件定義。 “目前,應用部署中資源直連獨占,造成算力資源浪費和使用不靈活等問題,讓算力用戶的成本負擔持續加重,已經在一定程度上阻礙了AI技術的進一步大發展。我們希望過去看起來‘陽春白雪’的算力,能夠真正成為一種普惠大眾的資源,就像水電一樣按需隨用隨取、靈活便捷且便宜高效”文禹翔表示。 讓生態飛輪加速旋轉 最近由人民銀行主管的期刊《金融電子化》中,刊登了一篇華夏銀行CIO署名文章題為《人工智能GPU算力資源池化應用研究》的文章。該文章詳細論述了異構算力資源池化軟件在信創領域的應用價值,進一步驗證了趨動科技OrionX異構算力池化軟件方案的可行性,同時也對海光加速卡等國產硬件性能給予了肯定。 “信創領域的算力資源池建設需要鏈接國產軟硬件廠商共同推動,海光在國產芯片行業處于領先梯隊,為我們提供了很大的支撐。”文禹翔表示,通過與海光合作,趨動科技實現了池化軟件異構算力多元化,進一步滿足了信創市場的應用需求。 事實上,自加入光合組織以來,趨動科技與海光等產業鏈上下游伙伴開展了一系列生態合作。在趨動科技看來,用戶需要的是完整的解決方案,而單一廠商很難提供從底層架構到前端應用的一整套產品,在此背景下,生態力量的整合非常關鍵。 “光合組織為AI產業的生態對接提供了一個很好的平臺。”文禹翔指出,基于光合組織大賽,趨動科技不僅與伙伴深化了產品技術合作、展示了方案成果,同時也廣泛聯動更多產業力量,逐漸形成生態的“飛輪”,在市場賦能、項目引進等領域逐漸跑出了加速度。 “我相信,隨著飛輪的轉速不斷加快,未來,算力池化方案將觸達更多業務應用場景,AI算力會釋放出更大的價值。”文禹翔表示。 |
