ITCOW牛新网 6月19日消息,江苏鲲鹏・昇腾生态创新中心首席运营官王陶在近日举办的2024世界半导体大会暨南京国际半导体博览会分论坛上表示,昇腾AI算力性能已超过英伟达A100,并成为中国大模型的首选技术路线。王陶提到,昇腾集群是国内唯一完成训练千亿参数大模型的技术路线,其性能已超越了英伟达A100。
![Atlas 900](https://www.itcow.cn/wp-content/uploads/2024/06/image-340.png)
王陶还透露,在中国的大模型中,近50%选择了昇腾技术路线,昇腾AI芯片在训练效率上最高可达英伟达的1.1倍。在训练Meta Llama、BloomGPT等模型时,昇腾AI的算力训练效率不仅“大大优于”英伟达A100,还“10倍领先”于其他国产友商。
昇腾AI芯片已被科大讯飞采用,与英伟达A100相比,能达到0.8至1.2倍的效率。尽管与英伟达A100存在一定差距,但在大模型训练方面,昇腾AI芯片已经没有明显差距,特别是在万卡算力集群,包括鲲鹏云脑、科大讯飞等,都已通过了市场检验。
去年9月,在华为全连接大会2023期间,华为发布了全新架构的昇腾AI计算集群——Atlas 900 SuperCluster,支持超万亿参数的大模型训练。新集群采用了华为星河AI智算交换机CloudEngine XH16800,通过其800GE端口能力,两层交换网络即可实现2250节点的超大规模无收敛集群组网。