ChatGPT类应用导致全球AI服务器短缺,OpenAI采购超10万台搭载H100的服务器。Meta宣布扩建AI数据中心,需50万块GPU支撑Llama 3训练。
硬件进化
8-GPU架构:戴尔PowerEdge XE9680支持8块全宽GPU,NVLink带宽达900GB/s
液冷+风冷混合:超微SuperServer支持1400W TDP GPU集群
存算一体:三星HBM3E内存堆叠至12层,带宽819GB/s
行业挑战
台积电CoWoS封装产能不足导致H100交货周期延至36周,戴尔推出替代方案——4颗Intel Gaudi 2加速器服务器,性价比提升40%。
service.123idc@gmail.com