新聞資訊
ChatGPT日均消耗算力相当于3万台服务器，引发全球AI服务器荒。Meta为训练Llama 3采购10万片H100 GPU，导致交货周期延至36周。浪潮推出「融合架构」AI服务器NF5688G7，支持8颗H100+4颗鲲鹏CPU，大模型训练效率提升40%。
技术演进
NVLink 4.0：GPU间带宽达900GB/s，比PCIe 5.0快7倍
液冷GPU：H100液冷版功耗降至550W，同等算力节电30%
存算一体：三星HBM3E内存堆叠至12层，带宽819GB/s
产业变局
英特尔Gaudi 3加速器以40%性价比优势抢占市场，谷歌TPU v5实现芯片间直连，摆脱GPU依赖。2024年AI服务器市场规模将突破$760亿。
service.123idc@gmail.com