华为云昇腾AI云服务正式上线,支持“百模千态”高效创新

AI行业动态7个月前发布 ainavi
7,604 0

通信世界网消息(CWW)9月21日,在华为全联接大会2023现场,华为常务董事、华为云CEO张平安以“共建智能世界云底座,让AI重塑千行万业”为题发表主旨演讲。张平安宣布,华为云昇腾AI云服务正式上线,所有企业可即刻在华为云官网上购买和使用。

华为云昇腾AI云服务正式上线,支持“百模千态”高效创新

全智能时代,AI算力需求讲迎来爆发式增长。华为预计,到2030年通用计算能力将增长10倍,AI计算能力将增长500倍。然而,由于AI服务器的功率密度远超通用服务器,单机柜功耗是传统机柜的6至8倍,并需专用液冷系统散热,且大模型训练需要百卡、千卡甚至万卡,服务器之间的互联、时延、可靠性、运维极为复杂,自建AI数据中心面临诸多挑战。

为更好支持大模型的“百模千态”创新,华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心,为企业提供澎湃昇腾AI算力,让企业再也不需要高价抢购GPU,也不需要担心GPU未来潜在的供应连续性挑战。

同时,华为云昇腾AI云服务百模千态专区已正式上线,让企业和开发者可以快速创建自己的大模型应用,在大模型时代快人一步。

华为云昇腾AI云服务百模千态专区收录了业界主流开源大模型,如LLAMA,GLM等,并全面基于昇腾AI云服务进行适配和优化,精度和性能显著提升。同时,专区提供丰富的应用开发的工具链,开发工具已经全部实现了云化,免去繁琐的配置流程,实现一键接入,即开即用。

在云上,华为云提供了高效长稳的大模型训练环境和完备的工具链:实现千卡训练连续30天不中断,任务恢复时长小于30分钟;通过30多个可视化调优和部署工具,帮助企业更高效进行数据处理、模型微调、Prompt工程等,完成一个千亿参数的行业模型端到端开发,从过去需要5个月缩短到现在1个月,整体速度提升5倍。

华为云昇腾AI云服务正式上线,支持“百模千态”高效创新

(昇腾AI云服务百模千态专区)

此外,专区还提供了丰富的使用指导,企业和个人开发者只需要登录专区,自助申请体验。审核通过后,即可通过点击相应的开源大模型进入控制台进行部署,并发布成在线服务进行推理调用。

在大模型训练数据安全方面,华为云采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术,确保大模型训练数据的全生命周期安全。

© 版权声明

关注公众号,免费获取chatgpt账号
免费获取chatgpt

相关文章

暂无评论

暂无评论...