IBM 取得光学技术突破,有望革新数据中心 AI 训练和运行效率。
IBM 推出先进的光电共封装 (CPO) 工艺,利用光学互连实现数据中心内部的高速数据传输,补充现有的短距离光缆系统。
研究人员展示了 CPO 技术如何重塑计算行业中芯片、电路板和服务器之间的高带宽数据传输,大幅减少 GPU 停机时间,显著提升 AI 工作速度。
该技术带来三大优势:
显著降低生成式 AI 应用的成本:与电气互连设备相比,CPO 技术能耗降低五倍以上,数据中心互连电缆长度从传统 1 米扩展至数百米,提高数据中心的灵活性。
大幅提升 AI 模型训练速度:使用 CPO 技术训练大型语言模型的速度几乎提升五倍,将原本需要三个月训练的标准模型缩短至三周,更大模型和更多 GPU 的性能提升更显着。
显著提高数据中心能效:估算表明,训练每个 AI 模型节省的电量相当于 5000 个美国家庭一年的总耗电量,彰显了 CPO 技术在节能减排方面的潜力。