IBM旗下POWER服务器比谷歌云TensorFlow快46倍

  • 时间:
  • 浏览:0
  • 来源:极速快3_快3娱乐app_极速快3娱乐app

机器学习是人工智能的分支,主只是对能通过经验自动改进的计算机算法的研究。

据国外媒体报道,美国IBM公司近日宣称,其旗下的POWER服务器的机器学习不单单比谷歌云所用的TensorFlow快,有些是快了整整46倍。

今年2月,谷歌公司的软件工程师安德烈亚斯·斯特本兹(Andreas Sterbenz)撰文描述了如可利用谷歌云机器学习和TensorFlow为大规模广告和推荐场景进行点击预测。他训练了一三个小用来预测“Criteo Labs点击日志”(http://labs.criteo.com/)上广告点击次数的模型。该网站的内容超过1TB,所含了来自数百万条广告的形状值和点击反馈数据。

数据在经过100分钟的预处里后会进行实际学习,利用100台工作机器和29台参数机器进行训练。该模型的训练时间为70分钟,评估损失为0.1293。时要将有些数值视为结果准确性的粗略指标。

接下来,斯特本兹利用不同的建模技术来获得更好的结果并减少评估损失,没人做花了更多时间;最终模型利用了一三个小三期(three epochs,一三个小epoch指所有训练矢量更新权重的次数)深度神经网络,这又耗费了78个小时。

然而,IBM对此何必 感兴趣,亲戚亲戚朋友希望证明当时人的训练框架在POWER9服务器和GPU上运行时,在基本初始训练上的表现能超过谷歌云平台的89台机器。

在瑞士苏黎世的IBM研究中心,研究人员托马斯·帕雷尔(Thomas Parnell)和塞莱斯廷·邓纳(Celestine Dünner)利用了来自Criteo Terabyte点击日志的相同源数据,以及42亿个训练样本,100万个形状——相同的机器学习模型和逻辑回归,但机器学习库不同。亲戚亲戚朋友所用的是Snap机器学习库(Snap Machine Learning)。

帕雷尔和邓纳在4台Power System AC922服务器(所含8个POWER9 CPU和16个Nvidia Tesla V100 GPU)上用Snap机器学习库对模型进行训练,结果只用了91.5秒,比70分钟快了46倍。

亲戚亲戚朋友还做了一张表,对Snap机器学习库、谷歌TensorFlow和另外三个小学习库的结果进行了比较。

▲IBM研究人员做了一张表,对Snap机器学习库、谷歌TensorFlow和另外三个小学习库的结果进行了比较

比TensorFlow快46倍是不可小视的超越,其中的导致 着何在?两位研究者表示,Snap机器学习库具有多层次并行的特点,能在集群中不同节点之间分配工作负载,从而利用加速器单元,并发掘各个计算单元多核并行性的优势。有些过程时要总结如下。

1、首先,数据分布到集群中的各个工作节点上。

2、节点上的数据在主CPU和加速的GPU(CPU和GPU并行运行)之间进行分配。

3、数据被发往GPU的多个内核,而GPU的工作负载采用多多应用程序 形式。

Snap机器学习库对分层算法进行嵌套,从而利用这三个小层级上的并行性。两位IBM研究员并没人说TensorFlow没利用并行性,也没人在这方面对Snap机器学习库和TensorFlow进行比较,但亲戚亲戚朋友嘴笨 表示:“亲戚亲戚朋友采用了特殊的处里方案,目的是利用GPU的大规模并行架构,一同顾及数据在GPU内存中的局部性,以处里几滴 的数据传输开销。”

亲戚亲戚朋友的文章称,用NVLink 2.0接口的AC922服务器比用PCIe接口连接Tesla GPU的至强(Xeon)服务器(至强黄金版6100 CPU @ 2.70GHz)要快。文章写道:“对于基于PCIe的设置,亲戚亲戚朋友测到了11.8GB/秒的有效速率,而对于基于NVLink的设置,亲戚亲戚朋友测到的有效速率是68.1GB/秒。”

训练数据在被传送到GPU后会,就在那里进行处里。NVLink系统发送数据块的速率(55毫秒)远快于PCIe系统(318毫秒)。IBM团队还表示:“在运用于稀疏数据形状时,亲戚亲戚朋友对系统中用到的算法进行了有些新的优化。”

综上所述,Snap机器学习库能更充分地利用Nvidia GPU。在传输数据到GPU的过程中,通过NVLink要比通过x86服务器的PCIe链接加快速率。亲戚亲戚朋友并别问我POWER9服务器的CPU速率与至强服务器的CPU相比如可;就目前所知,IBM还未公开发布任何POWER9和Xeon SP直接比较的结果。

目前亲戚亲戚朋友只是能肯定Snap机器学习库比TensorFlow三个小,还能否 了在相同硬件配置上运行后会,亲戚亲戚朋友还能否 对二者进行比较。

无论如可,时间缩短46倍嘴笨 令人印象深刻。另一三个小的表现也让IBM有了更多空间来推动POWER9服务器,使其作为加插Nvidia GPU,运行Snap机器学习库即进行机器学习的场所。

猜你喜欢

小米6X 初音未来限量套装开启预售:2099元

IT之家6月28日消息 今天上午,小米官方正式发表声明了小米6X初音未来限量套装版手机,其与全球最具影响力的电子歌姬-初音未来相互相互合作定制,套装内包括全球唯一编号的小米6X

2020-01-22

小米6X初音未来限量套装今日开售:2099元

IT之家7月3日消息上月底小米官方敲定了小米6X初音未来限量套装版手机,号称“来自未来的礼物”,今天上午10点,该机将正式开售,售价2099元,比普通版贵100元。小米6X初音

2020-01-22

中兴通讯“5G+全息舞台”展示亮相,WiMi微美全息模块化拼接实现高仿真AI视觉

近日,2019年中国移动全球公司合作 者伙伴大会在广州琶洲保利世贸博览馆举行。中兴通讯与中国移动联合展示了5G+全息舞台,将远在场外的乐队主唱通过5G实时传输至馆内的舞台区域

2020-01-22

“传奇”类手游遭殃:盛大游戏再掀维权风暴

盛大游戏以运营、宣传涉嫌侵犯《热血传奇》知识产权的游戏公司、渠道及投放媒体为对象,群发80封侵权警告公函,涉及目前市场上多达80款“传奇类”手游。盛大游戏表示,《热血传奇》在中

2020-01-22

华为Mate 30 Pro对决三星Note10+!一张图读懂:谁是安卓年度机皇

随着华为Mate20系列的发布,消费者最为期待的2019年度旗舰手机之战已落下帷幕。三星与华为都呈现迄今最强的旗舰机,在绝对实力身前,有些平庸者变得黯淡无光。华为Mate400

2020-01-22