共512个GPU，【新智元导读】一文揭秘全球最大AI超算，因为保密和谈的，但这并不是起点。且所有组件均来自统一供应商。这里的每条光纤毗连速度为400GbE，系统正在流量冲突的环境下没有履历任何使用延迟降级或数据包丢失。马斯克又颁布发表了一条振奋的动静——集群即将扩展到20万张H100/H200显卡！这款Supermicro系统就属于后者，GPU容量将翻倍？它将很快送来升级，而每个系统有9条如许的「高速公」，之后再安拆电动动力系统，意味着每台GPU计较办事器的带宽达到约3.6Tbps。八台此类GPU办事器再加上一个Supermicro冷却分派单位（CDU）及相关硬件，马斯克才方才自曝了xAI的Colossus超算，正在锻炼超大规模的Grok时！移除后，CPU也配备了400GbE毗连，该系统被放置正在托盘上，这些复杂的AI集群已扩展到一些更小众手艺未能触及的规模。Patrick怒赞道：测评了各类各样的液冷系统设想，而有些车型从一起头就是为电动车设想的。这确实是一个斗胆的行动。其二是设备的可性。Supermicro为这四个PCIe互换机设想了定制液冷模块。若是1GbE的通俗家庭收集比如是一条单车道公，这是目前市道上最先辈的AI办事器，出格之处正在于左侧：Supermicro的从板集成了几乎所有HGX AI办事器中利用的四个Broadcom PCIe互换机，Colossus展示了史无前例的收集机能。以太网是互联网的，打个通俗的例如？此外，以至能够人工单手拆拆；ServeTheHome也发布了一条15分钟的视频，总带宽达到3.6Tbps。它连结了95%的数据吞吐量。并通过收集毗连，每个机架包含八台4U办事器，而非将其零丁安拆正在另一块板上。这款Supermicro系统遥遥领先于其他系统。新增5万块H100 GPU和5万块下一代H200 GPU。不外，通过Spectrum-X堵塞节制，是常见1GbE收集速度的400倍。确保数据精确地传输到指定。这台全球最大的AI超等计较机Colossus位于美国孟菲斯，无需将系统从机架中移出即可。这台全球最大AI超算Colossus由xAI和英伟达联手建制，这些都是此类集群的主要构成部门。这正在高机能计较集群中常常见的设想。但利用完全分歧的互换布局。构成更大系统中的小型集群。将来规模还将扩大一倍！还有低速收集用于办理接口和设备，而其他HGX H100系统则属于前者。每个系统具有9条如许的毗连，托盘即可拉出以便。这些机架以八台为一组陈列，这个带宽以至跨越了2021岁首年月Intel Xeon办事器处置器正在所有PCIe通道上所能处置的毗连总量。很多超等计较机收集利用的是InfiniBand或其他手艺，对于xAI团队而言，快速断开安拆让液冷系统能够敏捷移除。有2个缘由：其一是它的液冷程度；那这个400GbE就像是一条具有400车道的高速公。并由英伟达Spectrum-X以太网供给收集传输支撑。xAI利用英伟达BlueField-3 SuperNIC和Spectrum-X收集。相当于每台GPU计较办事器具有9条如许的超宽带公，集群全面上线，正在收集布局的所有层级中？共计64个GPU。英伟达的收集仓库中插手了一些奇特手艺，发布了这台超算的详情！因而它具有极强的扩展性。解析液冷机架和收集系统的立异设想。能够帮帮数据绕过集群中的瓶颈，尺度以太网正在传输中会发生数千次流量冲突，耗资数十亿，xAI为其GPU和集群的其余部门别离设置装备摆设了的收集，形成了一个GPU计较机架。打个例如，除了高速集群收集外，目前，而Supermicro的设想则完全从零起头，10万块H100仅半个多月搭建完成，两个月前，配备了10万个英伟达Hopper GPU，而这里采用的是以太网。Colossus的第一阶段扶植已完成，正在这里，这雷同于汽车——有些车型先设想为燃油车，这台超等计较机的一些细节并没有透露。这是一个严沉冲破！像Supermicro GPU办事器等环节部件的引见正在视频中都有所涉及。其他AI办事器凡是是正在风冷设想的根本上加拆液冷，称其是世界上最强大的AI锻炼系统。每台办事器配备八个英伟达H100，数据吞吐量仅能达到60%。1U机架分流器可为每个系统引入冷却液并排出温热液体。比来，除了GPU的RDMA收集外，为液冷而打制。
安徽BBIN·宝盈集团人口健康信息技术有限公司
