腾讯Angel是腾讯发布一款开源高性能分布式计算平台,可以更加高速精确的处理数据材料,其能力超过各类同行软件,如果你有兴趣,就来绿色资源网下载,学习源码吧!
腾讯Angel 1.0是腾讯数据平台部与香港科技大学合作、北京大学参与共同开发的分布式计算框架,它的主要设计目标是为了支持超大维度的机器学习模型运算。
【网络优化】
Angel的网络解决方案使用的是香港科技大学的Chukonu。借助Chukonu,Angel可以通过网络流量再分配的方式,解决半同步的运算协调机制SSP中可能出现的快节点等待慢节点的问题,减少了窗口空闲等待时间。
【整体架构】
Angel的整体架构参考了谷歌的DistBelief,这是一种最初为了深度学习而设计、使用了参数服务器来解决巨大模型在训练时更新问题的架构。参数服务器同样可用于机器学习中非深度学习的模型,如SGD、ADMM、LBFGS的优化算法在面临在每轮迭代上亿个参数更新的场景中,需要参数分布式缓存来拓展性能。
1.Angel的核心设计理念围绕模型。它将高维度的大模型切分到多个参数服务器节点,并通过高效的模型更新接口和运算函数,以及灵活的同步协议,实现机器学习算法的高效运行
2.Angel基于Java和Scala开发,能在社区的Yarn上直接调度运行,并基于PS Service,支持Spark on Angel,未来将会支持图计算和深度学习框架集成。
3.Angel采用的Parameter Sever架构相比其它类型的架构更适合解决巨大模型中的参数更新问题;实际运行中相比参数更新方面有单点瓶颈的Spark平台,Angel能够取得成倍的性能优势,而且模型越大优势越明显。
4.腾讯开源的Angel给头疼于大规模机器学习模型计算的业内人员提供了一个新选择。发展自己技术、扩大自己的平台的同时,腾讯也承诺未来的开源力度只会越来越大。
5.围绕Angel,腾讯还建立了一个小生态圈,可以支持Spark之上的MLLib,支持上亿的维度的训练;也支持更复杂的图计算模型。
去年Angel发布时,腾讯平台部总经理、首席数据专家蒋杰对腾讯计算平台的发展历程做过介绍。2009到2011年的第一代平台主要目标是规模化,形成了TDW(腾讯分布式数据仓库)这样的架构;2012到2014年第二代平台主要是实时化,把大规模计算搬到平台上,支持了实时性强、规模大的业务需求,但是基于Spark的数据训练就遇到了超大维度时出现瓶颈的问题。
这样,腾讯开始建设新的高性能计算框架,要能支持超大规模数据集,能完成十亿级别维度的训练。这就是腾讯的第三台计算平台Angel。围绕Angel,腾讯还建立了一个小生态圈,可以支持Spark之上的MLLib,支持上亿的维度的训练;也支持更复杂的图计算模型。
也就是依靠Angel,腾讯获得了2016年的Sort benchmark的排序的4项冠军,用98.8秒时间完成了100T数据的排序,刷新了四项世界纪录。2015年的这项排序时间还高达329秒。
加载全部内容
TGraphDisplay3D(图形编程软件)v1.0.59.202 官方版23.2M13人在玩TGraphDisplay3D是一个Delphi的组件,支持图形编程功能,使用纯Direct3D113D加速图形,支持音频样本显示,用户可以任意添加带有名称和自定义颜色的标记,有需要的用户不要错过了,欢迎下载使用!
下载Notepad2书签版(Notepad2 Bookmark Edition)v5.1 官方版322KB12人在玩Notepad2BookmarkEdition是一款非常好用的记事本替代文本编辑器,Notepad2是一个重量轻,自由和开放源码的记事本类似的语法突出显示的文本编辑器。
下载Mongood(MongoDB管理工具)v0.6.2 免费版9.2M9人在玩Mongood是一款功能强大的MongoDB管理工具,能够为用户提供强大的图形管理界面,能够在查询文件时自动生成索引,持完整的Mongo-shell数据类型和查询语法,能够提高你的数据库管理效率,有需要的用户欢迎下载使用!
下载PopSQLv1.0 官方版71.2M8人在玩PopSQL是一款非常好用的SQL编辑器,软件界面简洁,功能强大,支持多种语言输入,兼容多种SQL软件,如果你还在寻找sql编辑器,不妨试试PopSQL吧!
下载Sencha Architect 3注册版240.7M8人在玩SenchaArchitect3注册版是一款是HTML5可视化应用开发程序,开发团队可以在一个单一集成的环境中完成应用的设计、开发和部署,能够有效提高工作效率,有需要的用户不要错过了,欢迎下载使用!
下载Claris FileMaker Pro(低代码开发工具)v19.3.1.43 免费版289.9M6人在玩ClarisFileMakerPro低代码开发工具是一款非常好用的代码开发工具,它的页面简洁,功能强大,无需知道种种编程技术,开发者使用ClarisFileMakerPro也能提高工作效率,感兴趣的朋友快来下载体验吧。
下载SRPG Studio(RPG游戏制作引擎)v1.149 免费版191.5M5人在玩SRPGStudio是一款非常不错的RPG游戏制作工具,支持对事件、战斗、装备、地图等内容的自由度设置,能够为你的游戏添加各种BGM,将你喜欢的角色形象、剧本制作成游戏,感兴趣的用户欢迎下载使用!
下载sublime text3中文破解版(代码编辑器)45.6M4人在玩sublimetext3中文破解版是一款十分受用户推崇的代码编辑器,它的功能全面强大,拥有高效、没有干扰的界面以及非凡的代码编辑能力,支持语法高亮、代码补全、代码片段、代码折叠、行号显示、自定义皮肤、配色方案等强大功能,欢迎大家下载体验。
下载Database Comparev2018 官方版9.1M2人在玩DatabaseCompare是常用的比较两个数据库之间差异的工具,主要就帮助大家比较数据库中的对象,比如说存储过程啊、数据啊、表单什么的、数据库中的数据,表的结构。DatabaseCompare支持比较真实数据库和数据库快照、备份、版本控制器或文件夹中的构建脚本。
下载Greenfootv2018 中文版186M2人在玩Greenfoot是一个功能完整的开发环境,可以使用Java方便地编写游戏和进行模拟。它还可以被用来作为Java语言的教程,以及设计网络游戏,可以实用于所有年龄段的用户,而不仅仅是初学者。
下载