英特尔推出了Gaudi 3 AI加速器芯片,与英伟达的H100系统相比,英特尔新芯片显示出显著的效能和效率改进。
英特尔声称Gaudi 3的4个亮点,包括能源效率提高一倍、执行AI任务的速度比NVIDIA H100 快1.5倍、大型语言模型的训练速度提高50%、以及推理任务的能源效率提高40%。
英特尔推出最新芯片,旨在挑战英伟达在训练和部署大型人工智能模型的半导体领域的主导市场地位。 英特尔预测,Gaudi 3加速器的推理吞吐量通常会比其测试的一些Llama和Falcon模型的H100芯片高出50%,并表示,其芯片的功耗低于英伟达芯片。
Gaudi 3 芯片已重新定位,以支持数据中心中用于产生人工智能的受内存限制的基于变压器的大型语言模型。 该芯片将于6月推出,适用于单节点到集群、超级集群和具有数千个节点的巨型集群,支持大规模推理、微调和训练。
路透报道称,英特尔采用台积电的5纳米制程来制造Gaudi 3 芯片。 该芯片将于第3季广泛应用于戴尔科技、HPE和美超微等公司。
上个月,英伟达发布旗舰B200 Blackwell芯片,该芯片执行某些任务的速度比H100快30倍。
英特尔执行长季辛格表示,创新正在以前所未有的速度前进,而这一切都是由芯片推动,每家公司都迅速成为一家人工智能公司。 英特尔正在将人工智能带到整个企业的各个角落,从个人电脑到数据中心再到边缘应用。