站长之家 - 业界 2024-04-10 01:15

Intel发布Gaudi 3 AI加速器:4倍性能提升、无惧1800亿参数大模型

Intel于4月9日举办了面向客户和合作伙伴的Intel Vision 2024产业创新大会,发布了一系列重要公告,包括Gaudi 3人工智能加速器、至强6品牌,以及覆盖开放、可扩展系统、下一代产品和战略合作的全栈解决方案。

随着人工智能的持续发展,半导体市场预计将在2030年达到1万亿美元规模。然而,目前只有10%的企业能够成功将人工智能生成内容(AIGC)项目产品化。

Intel的解决方案旨在帮助企业应对人工智能项目推广中的挑战,加速AIGC的商业化落地。

Intel Gaudi 2于2022年5月发布,集成了24个Tensor张量核心、48MB SRAM缓存和96GB HBM2E高带宽内存,为深度学习任务提供了高性能和高效率。

新一代Gaudi 3采用台积电5nm工艺,算力提升显著。在FP8和BF16模式下,其AI算力分别提高了2倍和4倍。相比NVIDIA H100,Gaudi 3在LLM推理性能上领先50%,训练时间缩短40%。

Gaudi 3提供灵活的形态,包括OAM兼容夹层卡、通用基板和PCIe扩展卡。它基于社区开放软件和以太网网络,可以从单个节点扩展到大型集群,支持大规模推理、微调和训练。

Gaudi 3将于2024年第二季度面向戴尔、慧与、联想和超威等OEM厂商供货。

此外,Intel与Anyscale、Hugging Face、RedHat等合作伙伴合作,创建了一开放平台,旨在促进企业AI创新。该平台将利用Gaudi加速器和至强处理器,提供一流的AIGC系统部署便利性、性能和价值。

推荐关键词

24小时热搜

查看更多内容

大家正在看