欧洲中期天气预报中心(ECMWF)是全球权威的国际性天气预报研究和业务机构,该中心于1979年6月首次做出了实时的中期天气预报,现在,华为盘古气象大模型,为世界展现了另一种可能。
盘古气象大模型研发团队核心成员对钛媒体App表示,之前大家不相信AI方法能够实现更高的精度和更好的效率,ECMWF也在探索用AI预测天气,但是规划的时间表以十年计算,他们认为,AI方法存在很多现阶段难以突破的问题。
例如分辨率不够,省级和区级的天气预报,数据量相差很大,如果要做到更高的分辨率,数据量要达到上千TB,这比其他AI应用数据量要大得多,大数据意味着消耗大算力,这部分问题能够通过堆硬件、工程化解决。
(资料图片仅供参考)
再如现有的 AI 预报方法精度大部分显著低于数值预报方法,这也是很多人都不相信AI能够超过数值预测方法的主要原因,现有的 AI 气象预报模型都是基于 2D 神经网络,无法很好地处理不均匀的 3D 气象数据,同时AI 方法缺少数学物理机理约束,因此在迭代过程中会不断积累迭代误差。
华为云提出了3D Earth-Specific Transformer方法,在每一个视觉transformer模块中新引入和纬度、高度相关的绝对位置编码,从而更好地处理复杂的3D气象数据,并且拆分各个不同的时间段模型分散训练,减少单个模型迭代的次数,从而减少迭代误差。
“我们不仅做出来一个精度超过欧洲气象中心数据预报的模型,而且我们迅速让这个模型落地,其中克服了很多问题,让气象专家实测验证模型结果,他们没有理由否认AI方法的先进性。”如上人士表示。
气象大模型的打造成为一个实证,华为云不仅能有意愿打造行业大模型,并且有将其付诸实践的工具和能力。对应华为盘古大模型,L0是科学计算基础大模型,L1是气象行业大模型,L2就是气象预测等应用。
大模型回答了“一个模型能否解决通用问题”以及“模型本身是否有价值”的关键问题,但是要想真正构建完整的业务链条,还需要从商业化层面跟进,为了加速和简化行业大模型从开发到落地,华为云提供了盘古大模型工程化平台,覆盖了数据处理、模型训练和应用开发三大环节。
在数据平台方面,相比传统标注平台(能提供的例如自动数据清洗等功能),华为云数据工程平台专门为SFT训练提供了基于模板的Prompt在线辅助撰写功能,为RLHF训练提供了多人Rank在线标注和任务分拨功能;对比离线进行这两种任务,实测效率可提升3倍。
有了高质量的数据如何产生高质量的模型,还需要确保模型开发的过程准确无误,在模型训练方面,大模型开发套件提供了自监督预训练,有监督SFT训练,强化学习训练3种工作流,覆盖了从数据集创建,超参配置到模型训练、评估、部署的全流程,凝结了大模型专家的实践经验,把复杂的大模型开发,流程化,标准化,简单化,帮助行业用户一键启动,一站式开发。
之后,开发好的盘古大模型要想在行业发挥作用,离不开下游应用,在模型开发方面,华为云提供盘古应用开发套件,将传统软件工程与大模型相结合,提供多种API和工具可调用,支撑企业分钟级构建大模型原生应用。
例如,基于盘古语言大模型和视觉大模型的基础能力,以及盘古大模型工程化平台,在学习了超过20万条政务数据,包括政策文件、政务百科等公开政务知识,以及12345热线场景等专有政务知识后,深圳市福田区政府打造了具备丰富法律法规、办事流程等行业知识的福田政务大模型。
据了解,参照GPT-3完成一个千亿行业模型端到端开发,基于盘古大模型工程化平台,开发大模型从过去需要5个月缩短到现在1个月,整体速度提升5倍。
AI世界的另一极
人工智能已经成为国家战略竞争焦点,AGI(通用人工智能)可能改变甚至颠覆世界运转的原有逻辑,国家层面强调:“人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的‘头雁’效应。”
人工智能与实体经济的结合,行业大模型扮演着重要作用,行业重塑、技术扎根、开放同飞,是华为云的差异化优势。
行业大模型以行业数据和know-how为重中之重,华为云AI的优势在于,在各行业已有数百个项目,基于对行业的深入理解,沉淀行业核心know-how,华为云盘古大模型能够更好地落地在行业客户的主业务场景。
盘古大模型已经学习10多个行业公开数据,涵盖金融、政务、气象、医疗、健康、互联网、教育、汽车、零售等。华为云和伙伴还联合打造了工业、供热、政务、煤矿、教育、电力、公路7大行业aPaaS,为盘古大模型了构建最深厚的行业积累。
墙高基下,虽得必失,人工智能产业需要从最底层夯实基础,张平安提到,其他人都可以依赖行业最成熟的AI算力和AI生态,但是华为只能依靠自己的AI根技术。
中国工程院院士郑纬民此前表示,大模型是新型关键基础设施的底座之一,大模型的竞争也是国家科技战略的竞争,中国一定要布局全栈自主创新的大模型产品,同时要构建国产化算力,也要解决算力能耗与国家“双碳”战略的平衡。
为此,华为构建了最深的AI堆栈根技术,在最底层构建了以鲲鹏和昇腾为基础的AI算力云平台,构建了昇腾的计算引擎CANN、AI框架MindSpore,以及AI开发平台ModelArts,为大模型开发和运行提供分布式并行加速,算子和编译优化,集群级通信优化等关键能力。
“现在基于华为的AI堆栈,我们的大模型训练效能不仅不落后,在大模型场景下我们的训练效能是业界主流GPU的1.1倍”,他说。
与此同时,华为云提供了易用可靠的大模型工具套件、汇聚海量多行业场景API的开天aPaaS,以及包含丰富优质课程和技术认证的大模型专属社区,帮助开发者一站式完成入门到专家。
华为也积累了高密度的大模型人才:盘古团队中大概50%以上是博士,还有很多名“天才少年”,上述气象大模型的核心成员便是之一,大模型在训练过程中,会遭遇各种各样的困难和挑战,一个技术过硬、敢于创新的团队,才是大模型能够练成的核心保障,也是华为对外输出大模型能力的依托。
在安全方面,华为云提供公有云、混合云、大模型专区三种模式,保障安全部署;建立长效机制,确保大模型安全合规:包括数据集来源和使用合规、数据全生命周期安全、构建完整的数据标注以及审核机制、构建模型合规使用政策、确保模型使用边界。
AI大模型时代,面临自下而上自主创新的宏大命题,华为正在打造世界AI另一极。
关键词:
华为盘古大模型全布局揭秘,AI for Industries的落地路径
恒指夜期开盘(7.7)︱恒指夜期(7月)报18400点 高水34点
2023中国牛奶产业现状调查 奶牛养殖行业现状怎么样
白蜡冬天怕冻吗,白蜡冬天一定要落叶吗
国家能源局关于修订印发输变电建设工程质量监督检查大纲的通知
基金二季报来了!中银旗下多只固收基金率先披露,基金公司、部分机构赎回债基
长沙图书馆总分馆暑期自主开展活动预告表
“山河大学”背后真正难以逾越的一道巨大鸿沟
耐克放大招,今年要重启科比品牌
消息称联想新平板搭载骁龙 8 + 满血芯片,预计为全新拯救者 Y700
南财基金通·股票型基金收益排行榜(7月6日)
勇士官方:球队与今年的57号秀特雷斯-杰克逊-戴维斯正式签约
迪嘉药业递交招股书 民生证券为保荐机构
湖南浏阳文化与体育融合 创新“全BA”篮球赛唤醒乡村活力
沪深股通|中集车辆7月6日获外资卖出1595.0股
28家港股公司回购 腾讯控股回购4.02亿港元
ap龙女天赋怎么点 ap龙女天赋
旭旭宝宝红眼装备截图(旭旭宝宝红眼装备详情)
6533游戏(653)
车玻璃膜有划痕怎样修复(汽车挡风玻璃膜有划痕怎么修复)
lol游戏名字空格现在还能用吗_lol名字空格
“手机中的战斗机”,李玟代言的波导手机今何在?
1Tb固态SSD仅售200多 下月开始涨价 快抄底!
工视评丨把清凉送给每一个高“炎”值的你!
抽滤瓶装置(抽滤瓶)
“中国网游教父”陈天桥再次出手 投10亿元研究AI+脑科学
省考招警招警面试备考的关键三招
要裁掉马尚?曝广东最心仪3大内线新援,“加强版萨林杰”成首选
中信银行客服电话 中信银行客服电话24小时人工服务)
东风Honda 20周年旗舰之作,全新英仕派“重定”电动化标准
全球聚焦:中级会计资格要审核几次?多久可以拿到证书?
教育部部长怀进鹏谈大学生就业:教育教学要与经济社会发展保证匹配度,又要适度超前
河北宁晋:“亿元村”收获“梨”想生活-当前报道
中汽协付炳锋:预计中国汽车内需消费顶峰在4000万辆左右|世界速看料
qq炫舞情侣名繁体字
小米造车,报价完毕
相关新闻