服務器核心數量將迎來爆炸性增長
發布時間：
2024-06-20
本周，服務器市場迎來了來自Intel、AMD和NVIDIA的路線圖更新，以及Ampere最新發布的AmpereOne更新。與此同時，圍繞著產品規格公布、產品發布和產品上市日期，市場上出現了不少混淆。盡管如此，可以預見的是，12個月后，32-40核的服務器芯片將不再屬于中端產品，而會被視為低端產品。
服務器核心數量預計將在2025年第一季度迎來爆炸性增長。
讓我們快速梳理一下這些重要公告：
英特爾：
P核心：Emerald Rapids，目前最高可達64核心
P核心：Granite Rapids-AP，預計于2024年第三季度推出，最高可達128核心（可能在Intel Innovation 2024上發布？）
P核心：Granite Rapids-SP，預計于2025年第一季度推出，最高可達86核心
E核心：Sierra Forest-SP，目前最高可達144核心
E核心：Sierra Forest-AP，預計于2024年第四季度或2025年第一季度推出，最高可達288核心
AMD：
P核心：Genoa/Genoa-X，目前最高可達96核心
P核心：Bergamo，目前最高可達128核心
P核心：Siena，目前最高可達64核心，采用單路設計
P核心：Turin，已宣布將于2024年第四季度發布，最高可達128核心（可能在SC24上發布？）
P核心：Turin Dense，已宣布將于2024年第四季度發布，最高可達192核心
NVIDIA：
P核心：Grace，預計于2024年發布，配備72個Arm核心/雙芯片Grace超級模塊則配備144核心。在圖中，我們將采用144核心作為標注，但實際上它是72x2的模塊配置。更準確地說，它應被視為72核心。
P核心：Vera，預計于2026年發布。NVIDIA尚未透露核心數量或架構細節，但我們預計每個CPU的核心數量將超過72個，并采用Arm架構。
Ampere：
128核心Ampere Altra Max，已于2021年發布
192核心AmpereOne，預計于2024年發布，我們已在2023年見過這款芯片，但STH和Phoronix都未能獲得樣品，因此我們推測這些部件將在今年公開發布
256核心12通道DDR5 AmpereOne，預計于2025年發布
可以將Grace超級芯片視為 一種跨兩個模塊的144核心CPU。按此計算，目前市場上已有四家公開廠商的產品達到了或超過了每路128核心的標準。到目前為止，我們已經見過足夠多的Grace超級芯片，將其視為公開產品，而AmpereOne我們在一年前也親眼見過。
因此，當我們假設Turin Dense將在11月宣布，AmpereOne將在2025年達到256核心時，讓我們回顧一下從2010年到2025年的公告進度。請注意，NVIDIA和AMD尚未公布2025年的產品部件信息。
截至2024年第二季度公布的2010至2025年雙路服務器CPU核心數（按供應商和類型劃分）
值得關注的是，P核的領先地位可能會在2024年第三季度從AMD轉移到英特爾。我們推測英特爾創新大會將于9月舉行，但具體日期僅標注為第三季度。屆時，Granite Rapids-AP不僅將擁有全新的P核，還將帶來128個新核心，而此時AMD EPYC Genoa僅擁有96個核心。考慮到MCR DIMM支持、更高的TDP和更多的加速功能，我們預計它在性能上將超越128核的AMD EPYC Bergamo。
以下是我們按年度整理的時間線，展示了歷年雙路服務器的最大可用核心數。
我們預計在2024年第四季度（可能是在11月，因為那時正好是2024年超級計算大會）發布AMD的128核P核Turin芯片。同時，我們也期待獲得更多關于192核的Turin Dense的更多細節。不過，Turin Dense上市時間應該不會早于2024年第四季度。需要注意的是，類似于之前發布的AMD EPYC Genoa（在SC22大會之前發布）和Bergamo（去年夏天發布），AMD新品發布和實際供貨之間通常會存在一定的時間差。不過，與AMD的嵌入式產品線相比，服務器處理器的供貨延遲時間通常會短很多。
我們聽說英特爾計劃在2024年第四季度發布新芯片，但目前在Computex的幻燈片上顯示的日期是2025年第一季度。如果AMD在2024年11月發布Turin Dense，那么英特爾在同一季度發布288核的Sierra Forest-AP的可能性相當大。如果這種情況發生，兩款產品可能要到2025年而不是2024年才能實現批量出貨。芯片公司高管通常有基于關鍵指標（如年底前發布某些芯片）的獎金結構。一種常見的做法是，即使批量出貨在第二年開始，也會在11月末或12月“發布”。
截至2024年第二季度公布的2010至2025年雙路服務器CPU最大核心數（按供應商和類型分類，附帶AMD和英特爾P核趨勢線）
現在讓我們來看一看令人興奮的部分，并回顧一下歷史趨勢。核心數量正在大幅增長，即使只看英特爾的P核，我們原本預計2024年的P核數量會在80核左右，但實際上下一季度將達到128核。AMD的P核則似乎遵循著既定的發展路線。真正值得關注的是我們稱之為AMD Pc核的產品(Zen 4c、Zen 5c)。這些Pc核的數量遠遠超出AMD既有的趨勢線。同樣，英特爾也在E核方面下足了功夫，其E核數量的增長速度遠遠超過了P核的更新速度。
結語
鑒于以上情況，預計在2024年第四季度和2025年第一季度左右，我們將看到AMD推出128核和192核系統，英特爾則推出擁有86、128、144和288最大核心數的產品線。Ampere的最大核心數將達到192至256個，而NVIDIA則擁有72個核心（在144核Grace超級模塊中）。
隨著這些新產品的發布，擁有24、32甚至64核的系統在現代服務器架構中的核心數量將只有一半或更少。隨著我們邁向新架構，預計核心數量將進一步增加。
準備迎接未來一兩年內核心數量的爆炸性增長吧。
-----
Nils 2024年6月6日
我注意到的一個問題是，RAM速度似乎停滯不前。從DDR4到DDR5的過渡耗時較長。MCR DIMM和CXL內存或許能帶來一些幫助，但目前來看，越來越多的核心在共享相同的帶寬。
minosi 2024年6月6日
我認為這種趨勢在2025年之后不會持續太久，因為受到冷卻解決方案的物理限制，預計會達到一個平臺期。低功耗芯片在追求效率的細分市場中或許還能繼續存在，但也不會有太大的發展空間。
在這種情況下，我覺得將其與不斷上升的TDP（熱設計功耗）結合起來看很有意思。不久前，165W的22核Broadwell被認為是“高功耗”產品。
如今，我們有了400W甚至更高的“主流”SKU，有的功耗甚至超過500W。這已經接近1U機箱風冷散熱的極限，即使是2U機箱也頗具挑戰。
在我看來，除了超大規模計算和高性能計算的定制解決方案外，實際的冷卻問題幾乎可以確保每路的功耗極限在500W左右。出于同樣的原因，IBM Power在過去十年里也沒有超過500W的功耗。
David 2024年6月7日
這些變化表明，每機架20kW的新標準功率密度將使機架能夠完全填充單路系統。
這引發了一個問題：密度的理想平衡點在哪里？希望STH能在標準測試中加入性能效率這一指標，以支持這些決策。例如，在固定問題基準測試中消耗的總功率量。
Sid Hoffman 2024年6月7日
NVIDIA剛剛展示了一塊功率高達15000瓦的單板（HGX B200），因此AMD或英特爾那些“僅”消耗每路400瓦且每板僅運行2P的產品，顯然無法與NVIDIA的成就相抗衡。
NVIDIA的展示表明，只要有足夠的資金支持，極限是非常高的——遠高于目前任何人使用CPU核心所能達到的水平。
Eric Olson 2024年6月7日
在我看來，這些高核心數系統需要一種新的審查和分析策略，重點在于處理器的可擴展性。
我對內存帶寬如何隨CPU核心數量的增加而變化很感興趣。有些矛盾的是，總帶寬通常會隨著更多核心的內存負載而減少。RAM在開啟頁數上有其限制，當更多處理器嘗試讀寫時會開始翻頁。
我對標準的HPCG和HPL基準測試（尤其是HPCG）很感興趣，這些測試可以評估傳統數值任務上的多線程性能。同樣，在任務分配給不同數量的核心并讓其他核心空閑時進行的擴展性分析也會很有用。
我認為應該有一個與PCIe吞吐量相關的測試。或許可以安裝多個GPU，同時在主機和設備內存之間復制數據。對NVMe SSD池的吞吐量測試也會很有意思，特別是那些基于dmcrypt加密塊設備的。
Linux內核的構建速度也很有趣，但對于256核心的系統，可能需要測試整個構建農場。例如，在BSDs和各種Linux軟件包構建系統中常見的構建世界類型的活動。
某種虛擬機性能的測試也很重要。例如，將一臺機器分割成多個8核心的部分，然后在相應的虛擬機中運行相同的基準測試。當在一半虛擬機中運行內存帶寬測試時，這對另一半虛擬機中的HPCG性能有多大影響？對我來說，運行哪些基準測試并不如當在不同虛擬機中運行多個副本時它們如何相互影響那么重要。
執行每種任務時的能效也非常關鍵。
我懷疑ARM系統在核心增多變得繁忙時，性能下降較少，但這只是我的一個猜測。無論如何，我認為增加一些新的測試來展示多核心擴展能力，將為這個網站上的新聞和分析增添不少價值。
Jason 2024年6月7日
大量的核心固然很好，但當你不得不為Windows或VMware許可付費時，情況就不同了。
因此，對于這些用途，這些高核心數服務器在很多情況下都不是首選。
Zibi 2024年6月7日
我認為Genoa發布的延遲不會對Turin的發布產生太大影響。
Genoa的延遲主要有兩個原因：
需要時間來解決新平臺上的所有問題，特別是關于DDR5內存的。
由于需要等待Sapphire Rapids的發布，供應被人為限制，因為英特爾為新一代服務器平臺的市場營銷提供了贊助，這些資金在第一季度可用。
Turin是Genoa的直接替代品。它可能只需要固件更新就能正常工作。在最壞的情況下，也只需要更新主板。
Stephen Beets 2024年6月7日
哇，隨著服務器處理器核心數即將激增，我好奇16核移動處理器是否也會很快面世。這幾乎意味著筆記本電腦也將緊隨其后。誰能預測，再過十年，高端游戲筆記本電腦中是否會配備32個核心？真是令人驚嘆。
John 2024年6月9日
接下來，我們期待的是軟件能夠跟上這一步伐。多核處理器已經存在了幾十年，但幾乎所有軟件仍然主要支持單核處理，多核的使用場景仍主要集中在運行虛擬機和容器方面。
關于付費許可的評論，我使用的是免費的Linux版本，配合LXC（在測試模式下使用LXD）用于容器管理，以及libvirt用于虛擬機管理。這些系統在生產環境中已經穩定運行了幾年，非常可靠。現在，我幾乎完全轉向了容器，因為它們在資源占用方面更為輕量。虛擬機只有在需要硬件模擬時才對我有用，否則我發現容器更易于設置和管理，且資源效率更高。在一個擁有196個核心和256GB內存的系統上，能運行多少個容器取決于運行在其上的應用程序，但可能達到數百個。
JayN 2024年6月9日
Intel Tech進行了一次Supermicro的視頻采訪。他們展示了一臺配備雙Granite Rapids AP的Gaudi3服務器，并宣布將于9月發布。
-----
Source:Patrick Kennedy; Server Core Counts Going Supernova by Q1 2025; June 6, 2024
相關新聞
SAF Coolest v1.3.1.1 設置面板 JYOSD-ZUEU-XXZSE-SZV
無數據提示
Sorry，當前欄目正在更新中，敬請期待!
您可以查看其他欄目或返回 首頁