原标题:旷视开源深度学习框架天元!动静合一,训推一体,落地边缘设备
大数据文摘出品
作者:刘俊寰
疫情中的深度学习领域又有大动作。
3月25日下午,旷视科技举办线上发布会,宣布其自主研发、全员使用的AI生产力套件Brain++的核心深度学习框架——天元(MegEngine)开源。
回溯2017年,AlphaGo与柯洁的围棋大战让人叹为观止,也点燃了不少科研人员对AI的研发热情,其中,支撑AlphaGo运转的底层技术框架是谷歌的TensorFlow。但其实,早在2014年,旷视就已经着手开始研发其深度学习框架MegEngine,在过去5年内,这套深度学习框架被旷视全员使用,也支撑起了整个旷视的科研及产品化进程。
现在,这套深度学习框架终于开源啦!这也是本月继清华Jittor之后,又一个开源的国产深度学习框架。
作为旷视绝对招牌之一,MegEngine是什么,有何特点?在旷视的发展历程中,它做出了哪些贡献,文摘菌在这里为你一网打尽~
AI时代的三位一体生产力平台
开源发布会上,旷视联合创始人、首席技术官唐文斌用厨房来做比喻,解释旷视的三位一体生产力平台——Brain++。
唐文斌介绍道,AI系统存在两大基础设施,芯片平台和AI生产力平台,后者涉及到数据、算法、算力等多方面问题。
什么是AI生产力平台,它就像是一道美食,需要原材料、一口好锅和一灶猛火共同烹饪炒出,以Brain++为例,数据、算法、算力分别就代表了材料、锅和猛火,今天就是这口“锅”亮相的时候。
天元MegEngine深度学习框架官方网站:
https://megengine.org.cn/
简单回想一下人工智能发展初期,想要训练出一个AI模型,至少需要一两个月,而且开发者要通过手敲代码完成计算过程,深度学习社区基本上被TensorFlow和PyTorch垄断。因此为了快速进行算法实验,落地实际工业场景,我们需要的是一个具有高性能、可复用和能灵活迭代的AI算法平台,要打造这个平台,就必须从计算性能,平台易用性,满足真实业务场景需求等各个方面进行考量。
旷视Brain++就是这样的一个系统,天元就是其中核心模块,唐文斌说,“天元”取围棋盘上的中心点之意,就是要做到训练推理一体化、兼容并包、灵活高效。
自2014年研发,2015年正式投入使用,如今旷视所有产品都使用了天元框架,整个过程可谓是来之不易。
今天天元开源代码共35万行,包括78%C++,17%CUDA,5%Python。唐文斌大方地承认道,今天发布的是Alpha版本,6月份会发布Beta版本,9月份发布正式版本。
他也很诚恳地表示,“所有程序员都知道,一个代码自己用和拿出来和别人分享的差距有多大。”因此希望有更多人对这一发布版本给出批评建议,共建更好的产品。九月份推出正式版本,即日起向企业开发。
发布会上也公布了代码的托管地址,感兴趣的同学不妨一试。
GitHub地址:
https://github.com/MegEngine/MegEngine
训练和推理一体化,适配不同框架接口
据介绍,天元系统共分为五个层次:计算接口,图表示、优化与翻译、运行时管理、计算内核。
可以从图中看到,天元支持Python和C++接口,支持静态图和动态图表达,也支持自动求导器、图优化、图编译。
传统的训练框架和推理框架是分开进行的,也就是说,系统要先经过训练再接受新的格式,在推理框架上适配不同的场景,但是在两者转化过程中会遇到算子无法支持、手工无法优化、大量冗余算子等多种问题。
天元系统的训练和推理是一体的,因此无需进行模型转换,同时,系统内部内置有模型优化,可以有效降低手工优化的误差,精度和速度都能得到保证。
静态图和动态图之争也就是TensorFlow和PyTotch之争,但是两种框架真的不得兼得吗?天元给出的答案是,可以。动静合一就是天元的做法,从结果上看,使用静态图提速约5%-20%。
在学术界和工业界都会遇到框架接口不同引起的各种适配问题,天元在此也提出了解决方案,那就是兼容并包。天元采用了Pythonic风格API,可以很自然地被用户接受,函数的命名也尊重了以往的传统,可以直接导入PyTotch Module,方便模型复现和实验。
在生产环境上,天元也做到了“灵活高效”,不仅在许多算法上都取得了领先的性能,在与其他框架进行对比时速度也完全不输,同时,天元还关注到了显存和片上内存的节省,天元系统在保证不影响速度的前提下实现了20倍以上的内存减少。
三大特点:“训得好”、“训得快”、“训得动”
在发布会上,旷视首席科学家孙剑表示,“天元就像我们的孩子”,他也就其三大特点进行了介绍,包括框架与算法协同、高效训练系统、大规模能力,用大白话来说就是“训得好”、“训得快”、“训得动”。
孙剑表示,由于当前计算平台的特性差异比较大,无法用一种网络满足所有需求。
天元通过快速的算子算法开发,灵活高效的算子支持,Jit自动算子融合三方面,实现了端上的高性能,在自测和第三方测试中都取得了不错的成绩。目前也已经配备至国产智能手机中,加速手机的智能化。
在介绍第二个优点之前,孙剑提到,在计算机视觉挑战赛COCO中,旷视已经实现了三连冠,能取得这样的成绩,除了优秀的研究员、对比赛的理解,旷视天元系统功不可没。
旷视天元系统能够通过多机训练提速16倍,加速了创新周期,并且精度更高,而且也是第一次实现了从框架上支持超大mini-Batch训练,种种优点集中后,研究人员就可以在相同的比赛时间内测试更多的想法。
在Object365之后,孙剑表示,Object365 V2也在今天开放给大家,Object365 V2可以说是世界上最大的物体检测数据集,配备了365种常见物体,2百万张图像,2.8千万个人工标注,是COCO比赛数据集的16倍大。
面对如此庞大的数据集,孙剑表示,旷视天元完全“训得动”,高校加速比的多机训练、底显存消耗、亚线性显存节省技术、MegRay通讯框架、高效数据编码传输,这些特点都使得天元系统能够训练出一个精度更高速度更快的模型。
除了上述三个特点,孙剑让大家试想,1400多名研发人员共享高效计算资源是怎样的场景。
他说,共享时每个研发人员都有一份独有的交互式训练模式,能够让每个人随时停下来调试,不仅如此,系统还支持多人同时在线训练、数据自动预加载,自动闲置资源利用、计算配额管理,这些功能的实现,也都是要得益于旷视Brain++。
对于Brain++,用此前旷视联合创始人唐文斌的话说就是,Brain++的“目标是让研发人员获得从数据到算法产业化的综合技术能力,不用重复造轮子也可以推进AI快速落地。Brain++还引入了AutoML技术,可以让算法来训练算法,让AI来创造AI”。
发布会上,旷视云服务业务副总裁赵立威就旷视Brain++进行了更深层的介绍。
具体来说,Brain++的架构分为三部分,核心模块就是最新开源的深度学习算法开发框架天元(MegEngine),其次是提供算力调度支持的深度学习云计算平台MegCompute,以及用于提供数据服务和管理的数据管理平台MegData。
他说道,AI加速着各行各业的创新进程,但是在AI具体落地过程中马太效应还是比较明显的。其中,以企业为例,企业在应用AI时遇到了不少共性问题,比如对数据的利用、数据隐私、模型效果、难以保证使用方法在生产过程中的精度和性能需求等等。
旷视Brain++也正是基于解决这些问题提出,赵立威介绍道,在框架基础上,旷视研究院提出“三位一体”概念,融合数据和算力平台,构建出集“算法、数据和算力”于一体的AI生产力套件Brain++,自动化、规模化、集约化生产算法,在Brain++的驱动下一一成为现实。
要让AI真正助力到具体行业种,去赋能传统行业,达到商业创新的目标,赵立威在最后也向大家分享了三个通过使用旷视Brain++成功的案例,并表示,“你也可以拥有专属的Brain++平台”。
在这里,文摘菌也为大家简单总结一下,Brain++的核心模块MegEngine,也就是天元系统,是以C++为基础,和其他框架使用异构架构的框架不同,MegEngine使用了计算图方式,进行分布式计算更为便捷。同时,MegEngine引入了旷视独家AutoML技术,训练一次,就能得到整个模型空间的刻画,降低了人力成本,也大幅提高开发效率。
天元系统可实现训练、部署一体化,能够支撑大规模视觉方向的算法研发,具体又分为计算引擎、运行时管理、编译和优化以及编程和表示四个方面。
本次发布会上,众多AI界大咖也纷纷送上祝福,中国工程院院士高文表示,深度学习是目前AI能够掀起全球科研热潮的重要原因之一,而另一个则是采取了开源开放的措施,旷视这次的开源是“一件值得祝贺的事”,也是“一件重要的事”。
中国科学院院士姚期智也表示,AI现在的地位就和过去数学和物理的地位很像,如何发展AI,这需要从两个角度考虑,一个是人才培养,一个是研究创新,其中,前者呼吁具有丰富交叉学科背景的人才,清华也在重点培养,包括开设智班和姚班,以及编纂AI教材,后者则需要产学研的结合,旷视Brain++正是工程化的代表。
国产深度学习框架百花齐放!清华开源首个国内高校自研的深度学习框架Jittor
先于旷视,3月20日,清华大学开发了名为Jittor的深度学习框架,这是首个国内高校自研的深度学习框架,这一框架的开源有望为深度学习社区提供新方案,推动深度学习框架国产化。
根据官网介绍,Jittor是一个用元算子表达神经网络计算单元,并且完全基于动态编译的深度学习框架。根据官网的定义,“研究团队将神经网络所需的基本算子定义为元算子”,而Jittor的主要特性正是元算子和统一计算图。
元算子非常底层,通过相互融合可以完成复杂的深度学习计算,体现出了易于使用的特点。研发团队表示,采用元算子的Jittor目前已经超越了Numpy,可以完成更复杂高效的操作。
在统一计算图方面,Jittor融合了静态计算图和动态计算图的优点,在易于使用的同时,提供了高性能的优化。基于元算子开发的深度学习模型,可以被Jittor实时自动优化,并且运行在指定如CPU、GPU的硬件上。
Jittor官网:
https://cg.cs.tsinghua.edu.cn/jittor/
GitHub地址:
https://github.com/Jittor/jittor
在设计理念上,Jittor保持着易用、灵活和及时的特点:
具体来说,Jittor的7大新特点值得关注:
最近清华、旷视相继开源深度学习框架,再加上更早的开源百度PaddlePaddle,而据了解,华为也即将开源自己的深度学习框架,国产深度学习框架正在迎来发展高速期,希望借着这股东风,能够激发更多的人对AI领域的兴趣,参与到国产AI的建设中。游戏网
相关下载 |
汉家江湖中天元对决是一个全新的玩法,那么到底要怎么做比较好呢?希望下面这篇汉家江湖天元对决攻略大全能帮到大家。汉家江湖天元对决攻略大全 玩法简介:在实时对战的精详情>>
原标题:AI开发者人人可用的“厨房”?旷视开源深度学习框架天元 3月25日,通过线上发布会,国内人工智能公司旷视科技(下称“旷视”)正式对外宣布,开源其AI详情>>
原标题:旷视推出训推一体化深度学习框架 天元助力工业级算法研发 3月25日下午,中国人工智能领军企业旷视科技举办线上发布会,正式宣布开源新一代AI生详情>>
2019群雄逐鹿年度总决赛天元组总决赛由齐云楼的“冷风冷夜”战队VS牡丹亭的“魑魅魍魉”战队。 “冷风冷夜”战队指挥是成名已久的二狗,战队为齐云详情>>
2019年群雄逐鹿年度赛决赛有些让人意外,意外的是夺冠热门钓鱼岛、紫禁城、姑苏城、珍宝阁的提前退场,意外的也是本年度战绩不佳的齐云楼与牡丹亭的异军突起。 那虚详情>>
2019年群雄逐鹿年度赛决赛有些让人意外,意外的是夺冠热门钓鱼岛、紫禁城、姑苏城、珍宝阁的提前退场,意外的也是本年度战绩不佳的齐云楼与牡丹亭的异军突起。 那虚详情>>
《忍者必须死3》在11月14日将进行一次停服维护,本次维护结束后将开启新赛季的“天元赛”模式,此外还有各种相关的天元奖励以及3V3战场的部分改动。接下来让我们看一看详细信详情>>
在8090蓝月传奇的全新版本中,更新了阵法的内容,玩家可以通过升级阵法,获得相应的阵法技能,那么该如何提升阵法等级呢? 蓝月传奇官网:http://lycq.8090.com/ 此时我们详情>>
在8090蓝月传奇的全新版本中,更新了阵法的内容,玩家可以通过升级阵法,获得相应的阵法技能,那么该如何提升阵法等级呢? 蓝月传奇官网:http://lycq.8090.com/ 此时我们详情>>
天元赛是忍者必须死3中的顶级排位赛,只有当前段位不低于修罗5且曾经达到过修罗3的忍者才可以参加。那么拥有这么苛刻的条件,天元赛的奖励是什么样的呢?它又有什么特别的规则呢?详情>>
原标题:天启、元气双核心套路——狂野宇宙天元骑进阶攻略 前言 各位老哥大家好,我是米心。今天为大家带来的是狂野宇宙天元骑卡组攻略。这套卡组非详情>>
原标题:【简析】井山力守天元,成为日本头衔战历史第一人——第44期天元战第5局 山下敬吾 vs 井山裕太 这是日本五番棋(王座、天元、十段、碁圣、女流详情>>
点击收益。2.经验必须要徒弟有贡献给你才会有,如果他不去打怪的话, 你就没的贡献经验,如果他去的话,你就会有徒弟贡献经验,这样你才能用导详情>>
搜狐焦点合肥站 1小时前 金大地天元府建筑面积约75-139㎡云阶臻稀府宅,目前正在预约中,具体开盘时间待定。详情>>
天下3的元魂珠要怎么获得,获得元魂珠攻略。攻略对象天下3元魂珠的作用1人物可以幻化为该魂珠兽来战斗,得到高战斗力。2第二是可以增加人物的属性点,使角色战斗上升。3第三就是详情>>
Game234问答中心有网友提出了一个比较有代表性的问题【新寻仙洗满的凤麟灵装备分解能返还多少天元】,小编觉得可能对其他网友也有帮助,所以将此问答整理出来了,希望对您有帮助。小编为您搜罗的答案1还不如详情>>
Game234问答中心有网友提出了一个比较有代表性的问题【QQ三国天元晶魄怎么获得?】,小编觉得可能对其他网友也有帮助,所以将此问答整理出来了,希望对您有帮助。小编为您搜罗的答案1可以在每天星期六的千详情>>
楚留香手游目前开启了全新的电竞比赛,小伙伴们可以前往报名参加预赛对决,从而参加后期的战队活动比赛哦!有丰厚的奖励获得!下面是具体的攻略分享,感兴趣的快来看下吧! 楚留香手详情>>
中文名称:星际争霸2发布日期:2010-03-03更新日期:--文件大小:1.0M游戏语言:英文英文名称:StarCraftII游戏制作:暴雪游戏发行:暴雪上市时间:2010-0详情>>
游戏类型:奇幻文件大小:86.03MB游戏语言:简体中文运营:网龙应用平台:WindowsXP/Vista/7安全认证:《天元》最新完整更新包下载版本号:1508-1783其它链接:《天元》详情>>
游戏类型:奇幻文件大小:<10MB游戏语言:简体中文运营:网龙应用平台:WindowsXP/Vista/7安全认证:《天元》分次更新包下载版本号:更新至1777进行手动更新时,请根据您详情>>
2月23日,三界之星春季邀请赛第二个比赛日共进行了两个组别的八场比赛,分别是神威组第二轮,其中:胜者组小鸡送分战胜了招队友;朗哥粉丝战胜了为了520;败者组千万里战胜重新起航;扬帆起航战胜了送分小鸡。详情>>
随着天元心法二期即将开启,让我们来解构天元心法五大属性,看看《传奇世界》玩家修真路上五道神奇的“希望之光... 详情>>
由日本知名动画导演今石洋之担任导演的新作剧场版动画《Promare》在今天(1月23日)公开了最新的PV和各种详情,本作由中岛一基担任编剧,今石洋之×中岛一基的详情>>
·炉石传说维纶宇宙牧大型攻略[01-30] ·炉石新版教主来说 强弱明显反向[12-05...且在天梯和比赛实测出来的,本月4级开打70胜率打上传说的卡组,也打了三亚的... 详情>>
寻仙手游一品天元仙露有哪些获得方法呢?相信还有小伙伴不是很清楚吧。下面小编为大家带来了相关的正确解答,... 详情>>
寻仙手游一品天元仙露有哪些获得方法呢?相信还有小伙伴不是很清楚吧。下面小编为大家带来了相关的正确解答,一起来看看~ 寻仙手游一品天元仙露获得方法 详情>>
天元仙露是寻仙手游游戏中非常重要的升级材料,天元仙露的获取主要是交易所购买及侍宠的合成。接下来小编就为大家讲解寻仙手游天元仙露的获取方法。寻仙手游一品二品... 详情>>
被动回响加强了弈星的推进能力;噬神之书增加法术攻击和生命值,缩短技能冷却时间...利用爆炸伤害消耗敌方的血量,并控制兵线,由于技能施法较远,自己的走位可以稍靠... 详情>>
大话西游手游具有丰富的组队玩法,包括杀星玩法、封妖玩法、天元盛典(周末)等,其中天元盛典几乎是每个玩家必会参与的任务,那么天元盛典怎么玩?天元盛典思凡怎么组队?一起来看看吧!天元盛典思详情>>
这是一个悲伤的故事东西的价格一降再降,这位老哥的心也跟着一落千丈了,这也太惨了吧!再续前缘执念最深的一个人不知道大家有没有留意到这个人,你任何时候过来看都是这个ID在这详情>>
2017年的夏天,全球刮起一阵野蛮像素io风,吃蘑菇、砍人、丢你个锤子、吃我一斧头、尬斧一时成为广大野蛮人的聊天日常。 2018年的夏天,由BBQ工作室研发、天元... 详情>>
大话西游手游官网:大话西游手游天元盛典玩法是游戏中周末的活动,该活动一共有4个玩法分别是:【天元盛典 火眼金睛】、【天元盛典 为爱逆天】、【天元盛典 祈福】、... 详情>>
大话西游手游官网:大话西游手游天元盛典怎么玩?天元盛典是一个难度颇高的活动副本,尤其是第四个BOSS 特别的难,此次小编就为各位玩家带来天元盛典通关攻略,一起来... 详情>>
大话西游手游官网:大话西游手游天元盛典各大BOSS杀法详解,许多小伙伴是不是还在为天元盛典BOSS打不过而发愁呢... 详情>>
大话西游手游天元盛典为爱逆天是每周末都有的任务活动,不过天元盛典最后的两个BOSS——天日星君昂宿和李靖实... 详情>>