英特尔推出新一代AI芯片Gaudi 3,Q2开始供货
AVA 2024-04-10 14:29英特尔推出新一代AI芯片Gaudi 3,为企业生成式AI带来效能、开放性和选择,并揭露新的开放式可扩充系统、下一代产品和策略合作,以加速生成式AI的采用。
英特尔强调,第三代Gaudi 3 AI芯片通过乙太网络通用标准,连接数万个加速器,为AI系统提供支持。与前一代产品相比,Intel Gaudi 3将BF16的AI运算能力提高4倍,并将存储频宽提高1.5倍。Intel Gaudi 3 AI加速器将为寻求大规模布署生成式AI的全球企业,带来AI训练和推理方面的重大跃进。
英特尔的Gaudi强大之处,在于具有70亿和130亿参数的Llama2模型及1750亿参数的GPT-3模型上,Intel Gaudi 3的平均训练时间将比Nvidia H100缩短50%。此外,在Llama 70亿、700亿参数以及Falcon 1800亿参数模型中,Intel Gaudi 3加速器的推理处理量,将比H100平均高出50%,推理效能平均高出40%。
Intel Gaudi 3将于今年第2季开始提供给OEM厂商, 包括戴尔、慧与、联想和美超微等。