新聞資訊
ChatGPT類應用導致全球AI伺服器短缺，OpenAI採購超10萬臺搭載H100的伺服器。Meta宣佈擴建AI資料中心，需50萬塊GPU支撐Llama 3訓練。
硬體進化
8-GPU架構：戴爾PowerEdge XE9680支援8塊全寬GPU，NVLink頻寬達900GB/s
液冷+風冷混合：超微SuperServer支援1400W TDP GPU叢集
存算一體：三星HBM3E記憶體堆疊至12層，頻寬819GB/s
行業挑戰
台積電CoWoS封裝產能不足導致H100交貨週期延至36周，戴爾推出替代方案——4顆Intel Gaudi 2加速器伺服器，價效比提升40%。