|
沙盒测试
9月21日,在华为全联接大会2023现场, 华为云CTO张宇昕发表演讲表示,大模型重塑千行万业的背后,是众多复杂的技术挑战,需要核心技术的持续创新和突破。华为云以全局的系统性创新,不断攻坚克难,构建AI时代最佳云底座。
随着大模型能力涌现,多模态融合,MOE等趋势,模型参数将从现在的5400亿很快超过数万亿,对海量的稳定算力、大规模并行训练、以及整体的架构设计都提出了更高要求。同时,数据集规模的快速增长,数据高效存储、清洗和标注的难度,以及海量Token的训练等仍然具有挑战性。张宇昕指出,这些挑战相互影响、环环相扣,可以说,大模型及相关应用是迄今为止最复杂的软硬件系统工程。
为应对AI时代的挑战,华为云实现了软硬件结合的系统性创新:
在系统架构层,QingTian架构基于高速新型网络协议,打破算力、存储和网络的边界,实现多元算力的对等全互联,为客户提供最佳AI算力基础设施,实现超大规模的高性能AI算力。
基于QingTian架构,华为云昇腾AI云服务提供算力集群、计算引擎CANN、AI开发框架MindSpore和AI开发平台ModelArts,为大模型和AI应用的开发、运行提供最佳算力服务。
在数据处理层,华为云提供云上全流程一站式能力,包括数据存储、分析、共享、标注方案,让企业实现大模型数据“找得到”“存得下”“记得住”“用得了”。
在模型训练层,华为云通过盘古大模型的5+N+X的架构实现分层解耦,赋能千行万业,让每个行业、每个企业基于自己的场景都可以拥有自己的大模型。
在应用开发层,华为云整合了应用开发需要的开发生产线、低码/无M平台、AI应用框架及全新的AI应用工程套件,让客户轻松实现基于大模型的AI原生应用的零门槛构建。
同时,这些系统性创新的云服务能力,已经可以跨云、网、边、端等多平台,以及公有云,边缘云、混合云等多形态,实现灵活自由的部署和应用。对于建立自己专属AI平台和大模型的需求,企业可通过华为云Stack混合云平台,在企业的数据中心部署昇腾AI云服务和大模型的关键产品,帮助企业一站式建设专属大模型。会上,张宇昕正式发布华为云Stack 8.3,相关服务将于9月底全面上市商用。
张宇昕表示,华为云致力于系统性创新,构建AI时代最佳的云底座,用云的技术帮助行业攻坚克难。让云无处不在,让智能无所不及,共建智能世界云底座。
|
|