9月5日消息,百度智能云在今日举办的2023百度云智大会上宣布,他们的千帆大模型平台 2.0 已经全面升级发布。这次升级带来了多项改进,旨在提升用户的开发效率和模型性能。
工具链方面的改进:
千帆大模型平台 2.0 在工具链方面进行了紧密结合的改进,包括大模型的开发、训练、部署和应用开发。据百度云官方介绍,这个全新的工具链能够无缝衔接模型生命周期的各个环节,大大提升了开发效率。以前,技术团队需要花费一个月的时间来调试和验证大模型的效果,而现在在千帆一站式工具链平台上,当天就可以实现同样的目标。
算力效能方面的改进:
千帆底层采用了异构算力集群、高速互联网络和高性能存储,能够支持规模达到万卡的大规模训练任务,从而将大模型训练和推理的成本降到最低。
数据方面的改进:
千帆不仅可以纳管大型模型,还可以增强这些模型的能力。这次升级中,特别加强了中文理解和生成的能力,例如增强了国外大模型 LIama2 在中文对话上的效果。同时,对训练和推理性能进行了全面提升,训练 LIama2 模型的总体吞吐量可以提升1/4,推理效果甚至能够提升3倍。
企业级安全方面的改进:
通过千帆的安全机制,企业可以构建四层安全防线,从而全面保障大模型的内容安全、数据安全和系统安全。对于合规要求较高的客户,千帆支持国内和国外主流芯片和操作系统,并且也支持私有化部署,以确保每个企业对自己的大模型都具备自主可控的能力。
这次升级发布的千帆大模型平台 2.0,为用户提供了更全面、高效和安全的大模型开发和应用环境,将为人工智能领域的发展带来新的推动力。