应用

技术

物联网世界 >> 物联网新闻 >> 物联网热点新闻
企业注册个人注册登录

华为推出业界首个大模型混合云

2023-11-30 16:56 IT之家
关键词:大模型混合云

导读:华为云推出业界首个大模型混合云,并发布《深度用云展望 2025》白皮书及深度用云行动计划

  据华为云官方消息,以“践行深度用云,加速智能升级”为主题的华为云行业高峰论坛2023在北京开幕。

  会上,华为云推出业界首个大模型混合云,并发布《深度用云展望 2025》白皮书及深度用云行动计划,希望通过创新技术、理论沉淀及行动举措,助力政企践行深度用云,加速智能升级。

image.png

  据介绍,未来,所有企业都会使用大模型。源于长期的行业积累,大型企业拥有丰富的私有数据资源,这些私有数据对大模型的训练至关重要。大型政企由于其业务特点,更倾向于将数据留在本地,确保“数据不出域”。因此,基于混合云的大模型将成为未来行业大模型的重要部署形态,既满足业务创新诉求,也缓解企业对数据安全和隐私的担忧。

04b35cb97de97e069467276f252c6b0.png

       华为云 Stack 8.3 在业界率先实现大模型能力基于混合云部署,提供算力平台、云服务、开发套件和专业服务等业界最完整的 AI 生产链,帮助政企客户一站式建立专属大模型能力。华为云 Stack 针对大模型场景做了四大优化:

  首先,基于原生混合云能力,用户可以将大模型从本地延伸到边缘和公有云,多云协同架构让行业大模型在公有云上训练,在混合云上结合企业本地数据微调,然后推送到边缘云进行推理,实现全场景跨云部署。

  其次,通过软硬协同实现算子融合与混合精度的优化,模型训练性能提升 45%。

  第三,华为云 Stack 提供 3 类工具套件,让企业能够高效地完成数据清洗、模型开发和应用开发,降低开发门槛。

  最后,大模型训练任务通常需要连续执行数天,华为云 Stack 通过无感断点续训的能力,让 AI 训练可以长稳运行 30 天以上。

  目前,华为云 Stack 已经联合 10 多个政企客户基于混合云探索行业大模型。

  华为云发布《深度用云展望 2025》白皮书,聚焦未来三年,展望将要在政企市场广泛落地的十大技术和模式,希望与产业界一起出发,帮助更多企业迈向深度用云。

  同时,华为云提出深度用云行动倡议,并联合 10 + 伙伴和行业组织,共同发起深度用云行动计划,计划未来三年投入 1 亿人民币,用于能力型伙伴建设、云原生应用开发、行业专家培养、行业标杆打造等领域。