ITCOW牛新网 4月8日消息,AMD近日发布了一系列基准测试结果,宣称其锐龙移动版7040 Phoenix系列以及全新的8040系列处理器,在运行大型语言模型(LLMs)时,性能大幅领先于英特尔最新的Core Ultra Meteor Lake CPU,最高可超出79%。
此次测试中,AMD选用了锐龙7 8740U与英特尔的Core Ultra 7 155H处理器进行对比,这两款芯片都配备了硬件神经网络处理单元(NPU)。在多项大型语言模型测试中,如Mistral 7b、Llama v2和Mistral Instruct 7B,AMD处理器展现出显著优势。特别是在Llama v2对话测试中,AMD处理器在使用Q4位宽时的性能比Core Ultra 7高出14%。在另一项Mistral Instruct测试中,相同位宽条件下,AMD处理器的速度则快了17%。
值得注意的是,在Llama v2对话测试的“示例提示词生成首个Token”速度测试中,AMD处理器比Core Ultra 7快了惊人的79%,在Mistral Instruct测试中也要快41%。此外,AMD还提供了另一组关于Llama v2 7B对话测试的结果,涵盖了各种位宽、块大小和质量水平。整体来看,锐龙7 7840U的平均性能比英特尔竞品高出55%,在Q8位宽设置下性能提升甚至达到70%。
据ITCOW牛新网了解,AMD在实际应用中运行大型语言模型时,会根据任务需求选择合适的量化位数以达到最佳性能。尽管锐龙7040系列架构在理论性能(TOPS)上与Meteor Lake相当,但在AI负载方面,AMD的表现通常更优秀。这可能与软件优化有关,而非仅仅是硬件或驱动程序的优势。
然而,这种性能差距可能不会持续太长时间。随着神经网络处理单元的不断发展,如果更多的应用程序不采用OpenVINO框架,英特尔可能会调整策略,寻求更易被开发者采纳的优化方案。此外,英特尔已计划在今年晚些时候推出下一代Lunar Lake移动CPU架构,据称其AI性能将是Meteor Lake的三倍,同时CPU核心部分的IPC性能也将大幅提升。
综上所述,AMD目前在神经网络处理单元性能方面占据明显优势,尤其是新推出的锐龙8040系列处理器拥有更强的NPU性能。然而,随着英特尔Lunar Lake架构的即将发布及其人工智能优化计划的实施,未来的市场竞争格局可能会发生变化。