前陣子，DeLL'ORO GROUP發布預測報告，回顧了23年數據中心基礎設施報告中的突出趨勢，及展望了2024年數據中心基礎設施的發展情況，以下是報告內容。

正如2022年支出大幅增長后所預測的那樣，2023年數據中心資本支出增長明顯放緩。美國四大云服務提供商（SP）總體上在2023年大幅放緩了資本支出，亞馬遜和Meta正在經歷消化周期，而微軟和谷歌有望增加加速計算部署和數據中心的greenfield（未開發地區）支出。盡管人工智能相關投資在2023年下半年出現好轉跡象，但由于宏觀經濟和監管不利因素導致云需求依然疲軟，中國云服務提供商市場依然低迷。企業服務器和存儲系統市場的表現差于預期，因為由于庫存調整以及經濟不確定性導致終端需求下降，大多數OEM預計2023年收入增長將出現兩位數下降。然而，網絡和物理基礎設施OEM在2023年表現更好，因為2023年上半年實現了強勁的積壓出貨量，從而提升了收入增長。

我們低估了加速計算投資對2023年人工智能應用的影響。在那一年，我們看到支出從通用計算轉向加速計算以及網絡和物理基礎設施的補充設備。AI訓練模型變得越來越大、越來越復雜，需要GPU和網絡連接等加速器的最新進展。部署的人工智能相關基礎設施的高成本有助于抵消通用計算市場的急劇下滑。然而，鑒于新超大規模的強勁需求，加速器的供應仍然緊張。

盡管英特爾和AMD推出了第四代處理器，對CPU進行了重大更新，但到2023年，通用計算已讓位于加速計算。這些新服務器平臺采用最新的服務器互連技術，例如PCIe 5、DDR5，以及更重要的CXL。CXL能夠聚合跨服務器的內存使用情況，從而提高整體利用率。然而，通用服務器需求一直疲軟，向第四代CPU平臺的過渡比預期慢（盡管AMD在2023年第三季度取得了重大進展）。此外，CXL的采用僅限于超大規模市場，用例有限。

服務器連接的發展速度比我們一年前的預期要快。特別是，加速計算的速度轉換周期至少比主流市場領先一代。目前，配備NVIDIA H100 GPU的加速服務器具有高達400Gbps的網絡適配器和112Gbps SerDes，一年后下一代GPU 的帶寬將增加一倍。此外，智能NIC的采用繼續得到普及，但主要局限于超大規模市場。根據我們的以太網適配器和智能網卡報告，智能網卡收入在2023年增長了50%以上。

邊緣計算市場的實現進展緩慢，我們在最近的電信服務器報告中降低了預測，因為需要開發生態系統和更具吸引力的用例，并且早期采用者之外的其他采用者受到限制。

根據我們的數據中心IT資本支出報告，隨著市場狀況正常化，我們預計數據中心資本支出將在2024年恢復兩位數增長。加速計算仍將處于超大規模和企業市場資本支出計劃的前沿，以支持人工智能相關和其他特定領域的工作負載。考慮到加速服務器的高成本及其專門的網絡和基礎設施要求，最終用戶將需要在資本支出優先事項上更具選擇性。雖然通用服務器的部署預計將在2024年反彈，但我們相信將更加重視提高服務器效率和利用率，同時限制成本增加。

下面，我們重點介紹了可以增強整體服務器占用空間優化并降低最終用戶總擁有成本的主要趨勢：

我們預計2023年服務器單位出貨量將加速增長11%，并預計五年復合增長率接近30%。加速服務器包含GPU、FPGA或自定義ASIC等加速器，在與特定領域的工作負載匹配時比通用服務器更高效。GPU可能仍然是訓練大型人工智能模型以及運行推理應用程序的主要選擇。雖然NVIDIA目前在GPU市場占據主導地位，但我們預計，隨著客戶尋求更大的供應商多樣性，AMD和英特爾等其他供應商將隨著時間的推移獲得一些份額。供應鏈中更多的選擇可以轉化為急需的供應可用性和成本降低，從而實現加速計算的可持續增長。

通用服務器的計算密度一直在增加，因為CPU的發展使服務器的每個CPU具有更多的處理器核心、內存和帶寬。AmpereComputingAltraMax、AMD的Bergamo每個處理器最多配備128個核心，而英特爾的GraniteRapids（今年晚些時候上市）每個處理器也將擁有相似數量的核心。不到七年前，英特爾的 Skylake CPU最多配備28個內核。最新一代的CPU還包含針對AI推理工作負載進行優化的板載加速器。

超大規模云SP延長了通用服務器的更換周期。隨著時間的推移，這一措施會降低通用服務器的更換成本，從而將更多的資本支出分配給加速系統。

近年來，計算和存儲已被分解，以提高服務器和存儲系統的利用率。我們相信，基于CXL的下一代機架規模架構將實現更大程度的分解，有利于計算核心、內存和存儲的利用。

原文轉自：Data Center Infrastructure—a Look into 2024, Baron Fung,  DeLL'ORO GROUP